@tom_doerr: 视频引导的ML系统和LLM基础设施课程 https://github.com/HuaizhengZhang/AI-Infra-from-Zero-to-He…

X AI KOLs Timeline 工具
ml-systems llm-infrastructure curriculum awesome-list educational github

摘要

一个精选的视频引导课程和全面的资源列表，用于学习ML系统和LLM基础设施，包括论文、课程和教程。

视频引导的ML系统和LLM基础设施课程 https://github.com/HuaizhengZhang/AI-Infra-from-Zero-to-Hero…
查看原文
查看缓存全文

缓存时间: 2026/05/25 02:40

HuaizhengZhang/AI-Infra-from-Zero-to-Hero

来源：https://github.com/HuaizhengZhang/AI-Infra-from-Zero-to-Hero

维护 (https://github.com/HuaizhengZhang/Awesome-System-for-Machine-Learning/graphs/commit-activity) 提交活动 (https://github.com/HuaizhengZhang/Awesome-System-for-Machine-Learning/graphs/commit-activity) 最新提交 (https://github.com/HuaizhengZhang/Awesome-System-for-Machine-Learning/commits/master) 向我提问！(https://GitHub.com/Naereen/ama) 精彩 (https://awesome.re) GitHub 许可证 (https://github.com/HuaizhengZhang/Awesome-System-for-Machine-Learning/blob/master/LICENSE) GitHub 星标 (https://GitHub.com/HuaizhengZhang/Awesome-System-for-Machine-Learning/stargazers/)

AI 系统学院

💫💫💫 机器学习系统、LLM（大语言模型）、GenAI（生成式AI）

更新：

通往AI系统之路 [必读白皮书]

精心整理的机器学习系统研究列表。如果可用，也包含代码链接。现在我们有一个团队来维护这个项目。非常欢迎您使用我们的模板提交 pull request。

AI 系统

AI 系统（按类别排序）

ML/DL 基础设施

LLM 基础设施

特定领域基础设施

ML/LLM 系统会议

会议

  • OSDI
  • SOSP
  • SIGCOMM
  • NSDI
  • MLSys
  • ATC
  • Eurosys
  • Middleware
  • SoCC
  • TinyML

通用资源

综述

  • 面向高可用、智能的云和ML系统 [幻灯片]
  • 精心整理的分布式计算（又名大数据）系统设计文章、视频和资源列表 [GitHub]
  • awesome-production-machine-learning：精心整理的用于部署、监控、版本管理和扩展机器学习的开源库列表 [GitHub]
  • 生产环境中机器学习加速器的机遇与挑战 [论文]
    • Ananthanarayanan, Rajagopal, 等人.
    • 2019 {USENIX} 运营机器学习会议 (OpML 19). 2019.
  • 如何（以及如何不）写好一篇系统论文 [建议]
  • Facebook 的应用机器学习：数据中心基础设施视角 [论文]
    • Hazelwood, Kim, 等人. (HPCA 2018)
  • 可用机器学习的基础设施：斯坦福 DAWN 项目
    • Bailis, Peter, Kunle Olukotun, Christopher Ré, 和 Matei Zaharia. (预印本 2017)
  • 机器学习系统中隐藏的技术债务 [论文]
    • Sculley, David, 等人. (NIPS 2015)
  • 系统设计的端到端论证 [论文]
    • Saltzer, Jerome H., David P. Reed, 和 David D. Clark.
  • 大规模机器学习的系统设计 [学位论文]
  • Facebook 数据中心中的深度学习推理：特征、性能优化及硬件影响 [论文]
    • Park, Jongsoo, Maxim Naumov, Protonu Basu 等人. arXiv 2018
    • 摘要：本文对深度学习模型进行了特征分析，并展示了深度学习硬件的新设计原则。
  • AI 系统挑战的伯克利视角 [论文]

书籍

  • 计算机体系结构：量化方法 [必读]
  • 分布式机器学习模式 [网站]
  • 流式系统 [书籍]
  • Kubernetes 实战（开始阅读）[书籍]
  • 机器学习系统：可扩展的设计 [网站]
  • 机器学习中的信任 [网站]
  • 自动机器学习实战 [网站]
  • 机器学习系统：人工智能系统工程的原则与实践 [网站]

视频

  • ScalaDML2020：向机器学习社区最聪明的人学习 [视频]
  • Jeff Dean：“在大规模在线服务中实现快速响应时间”主题演讲 - Velocity 2014 [YouTube]
  • 从研究到生产：基于 PyTorch [视频]
  • 微服务、Docker 和 Kubernetes 简介 [YouTube]
  • ICML 主题演讲：帮助 200,000 名非 ML 专家使用 ML 的经验教训 [视频]
  • 自适应与多任务学习系统 [网站]
  • 系统思维。TED 演讲 [YouTube]
  • 灵活系统是机器学习的下一个前沿。Jeff Dean [YouTube]
  • 是时候用 Rust 重写操作系统了吗？[YouTube]
  • InfoQ：AI、ML 和数据工程 [YouTube]
    • 开始观看。
  • Netflix：以人为中心的机器学习基础设施 [InfoQ]
  • SysML 2019：[YouTube]
  • ScaledML 2019：David Patterson, Ion Stoica, Dawn Song 等 [YouTube]
  • ScaledML 2018：Jeff Dean, Ion Stoica, Yangqing Jia 等 [YouTube] [幻灯片]
  • 计算机体系结构的新黄金时代：历史、挑战与机遇。David Patterson [YouTube]
  • 如何拥有糟糕的职业生涯。David Patterson（我是他的忠实粉丝）[YouTube]
  • SysML 18：视角与挑战。Michael Jordan [YouTube]
  • SysML 18：系统与机器学习的共生。Jeff Dean [YouTube]
  • AutoML 基础：自动机器学习实战。Qingquan Song, Haifeng Jin, Xia Hu [YouTube]

课程

博客

  • 跨多个 CPU/GPU 并行化以加速边缘深度学习推理 [亚马逊博客]
  • 几分钟内构建稳健的生产级深度学习视觉模型 [博客]
  • 使用 Keras、FastAPI、Redis 和 Docker 部署机器学习模型 [博客]
  • 如何部署机器学习模型——使用 FastAPI + Uvicorn 创建生产级 API [博客] [GitHub]
  • 将机器学习模型部署为 REST API [博客]
  • 机器学习的持续交付 [博客]
  • Kubernetes A4 速查表 [GitHub]
  • Kubernetes 温和入门 [博客]
  • 训练和部署带有 Web 界面的机器学习模型——Docker, PyTorch & Flask [GitHub]
  • 学习 Kubernetes，中国道家方式 [GitHub]
  • 数据管道、Luigi、Airflow：你需要知道的一切 [博客]
  • 深度学习工具箱——概述 [博客]
  • CSE 599W：面向ML的系统总结 [中文博客]
  • 在 Kubernetes 中使用 Polyaxon、Argo 和 Seldon 进行模型训练、打包和部署 [博客]
  • 将机器学习 (ML) 模型投入生产的不同方法概述 [博客]
  • 成为一名数据科学家并不能让你成为软件工程师 [第一部分] 架构化机器学习管道 [第二部分]
  • PyTorch 中的模型服务 [博客]
  • Netflix 中的机器学习 [Medium]
  • SciPy 会议资料（幻灯片、仓库）[GitHub]
  • 继Spark之后,UC Berkeley 推出新一代AI计算引擎——Ray [博客]
  • 了解/从事机器学习/深度学习系统相关的研究需要什么样的知识结构? [知乎]
  • 在不到 3 小时的时间内学习 Kubernetes：编排容器的详细指南 [博客] [GitHub]
  • data-engineer-roadmap：学习硅谷多家公司的经验。Netflix, Facebook, Google, 初创公司 [GitHub]
  • TensorFlow Serving + Docker + Tornado 机器学习模型生产级快速部署 [博客]
  • 将机器学习模型部署为 REST API [博客]
  • Colossal-AI：面向大模型时代的统一深度学习系统 [博客] [GitHub]
  • 数据工程师路线图 [Scaler 博客]
  • 从零开始构建 ML 框架 [博客] [GitHub]

相似文章