rohitg00/ai-engineering-from-scratch
摘要
一个全面、免费、开源的人工智能工程课程,包含20个阶段的428节课程,涵盖从数学基础到使用Python、TypeScript、Rust和Julia实现的自主集群。
查看缓存全文
缓存时间: 2026/05/20 14:25
rohitg00/ai-engineering-from-scratch 来源:https://github.com/rohitg00/ai-engineering-from-scratch ``
░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒ ``
84% 的学生已在用 AI 工具。但只有 18% 觉得有准备在专业场景中使用它们。 这个课程体系正好填补这一差距。
428 节课,20 个阶段,约 320 小时。使用 Python、TypeScript、Rust、Julia 编程语言。每节课都会产出可复用的成果:一个提示词、一项技能、一个智能体、一个 MCP 服务器。免费、开源、MIT 协议。
你不仅仅是学习 AI。你是在亲手构建它。端到端地、从零开始。
这个课程是如何运作的
大多数 AI 学习材料都是零散的。这边一篇论文,那边一篇微调教程,再在别处看到一个炫酷的智能体演示。这些碎片很少能拼凑起来。你能部署一个聊天机器人,却解释不了它的损失曲线。你能给智能体挂上一个函数,却说不出调用它的模型内部的注意力机制到底在做什么。
这个课程就是一条主线。20 个阶段,428 节课,四种语言:Python、TypeScript、Rust、Julia。一头是线性代数,另一头是自主群体。每个算法都首先从原始数学构建。反向传播。分词器。注意力机制。智能体循环。等到 PyTorch 出现的时候,你已经知道它底层在做什么了。
每节课都遵循相同的循环:阅读问题、推导数学、编写代码、运行测试、保留成果。没有五分钟视频,没有复制粘贴部署,没有手把手指导。免费、开源,而且可以在你自己的笔记本电脑上运行。
░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒
课程体系的结构
二十个阶段层层叠加。数学是基础,智能体和生产环境是顶层。如果你已经掌握了底层,可以跳级,但不要跳过后又奇怪为什么顶层的东西会出错。
mermaid %%{init: {'theme':'base','themeVariables':{'primaryColor':'#fafaf5','primaryTextColor':'#1a1a1a','primaryBorderColor':'#3553ff','lineColor':'#3553ff','fontFamily':'JetBrains Mono','fontSize':'12px'}}}%% flowchart TB P0["阶段 0 — 环境搭建与工具链"] --> P1["阶段 1 — 数学基础"] P1 --> P2["阶段 2 — 机器学习基础"] P2 --> P3["阶段 3 — 深度学习核心"] P3 --> P4["阶段 4 — 视觉"] P3 --> P5["阶段 5 — 自然语言处理"] P3 --> P6["阶段 6 — 语音与音频"] P3 --> P9["阶段 9 — 强化学习"] P5 --> P7["阶段 7 — Transformer"] P7 --> P8["阶段 8 — 生成式 AI"] P7 --> P10["阶段 10 — 从零构建大语言模型"] P10 --> P11["阶段 11 — 大语言模型工程"] P10 --> P12["阶段 12 — 多模态"] P11 --> P13["阶段 13 — 工具与协议"] P13 --> P14["阶段 14 — 智能体工程"] P14 --> P15["阶段 15 — 自主系统"] P15 --> P16["阶段 16 — 多智能体与群体"] P14 --> P17["阶段 17 — 基础设施与生产环境"] P15 --> P18["阶段 18 — 伦理与对齐"] P16 --> P19["阶段 19 — 顶点项目"] P17 --> P19 P18 --> P19
░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒
每节课的结构
每节课都在自己的文件夹中,整个课程体系的结构保持一致:
阶段/阶段编号/课程编号/ ├── code/ 可运行的实现(Python、TypeScript、Rust、Julia) ├── docs/ │ └── en.md 课程叙述 └── outputs/ 本课程产出的提示词、技能、智能体或 MCP 服务器
每节课遵循六个节拍。构建它 / 使用它 的分割是主线——你首先从零实现算法,然后在生产库中运行同样的东西。你理解框架在做什么,因为你自己写了一个更小的版本。
mermaid %%{init: {'theme':'base','themeVariables':{'primaryColor':'#fafaf5','primaryTextColor':'#1a1a1a','primaryBorderColor':'#3553ff','lineColor':'#3553ff','fontFamily':'JetBrains Mono','fontSize':'13px'}}}%% flowchart LR M["格言行——核心思想一句话"] --> Pr["问题——具体痛点"] Pr --> C["概念——示意图与直觉"] C --> B["构建它——原始数学,无框架"] B --> U["使用它——在 PyTorch / sklearn 中实现相同功能"] U --> S["交付它——提示词 · 技能 · 智能体 · MCP"]
开始使用
三种方式。任选其一。
选项 A — 阅读。 在 aiengineeringfromscratch.com (https://aiengineeringfromscratch.com) 上打开任何已完成课程,或展开 目录 下的某个阶段。无需设置,无需克隆。
选项 B — 克隆并运行。
bash git clone https://github.com/rohitg00/ai-engineering-from-scratch.git cd ai-engineering-from-scratch python phases/01-math-foundations/01-linear-algebra-intuition/code/vectors.py
选项 C — 找到你的水平 (推荐)。 智能地跳级。在 Claude、Cursor、Codex、OpenClaw、Hermes 或任何安装了 SkillKit 的智能体中:
bash /find-your-level
十个问题。将你的知识映射到一个起始阶段,并生成一个带有小时估算的个性化路径。完成每个阶段后:
``bash /check-understanding 3 # 自我测试阶段3 ls phases/03-deep-learning-core/05-loss-functions/outputs/
├── prompt-loss-function-selector.md
└── prompt-loss-debugger.md
``
前提条件
- 你能编写代码(任何语言都行,Python 会更有帮助)。
- 你想了解 AI 实际是如何工作的,而不仅仅是调用 API。
内置智能体技能(SkillKit / Claude, Cursor, Codex, OpenClaw, Hermes)
| 技能 | 功能 |
|---|---|
/find-your-level | 十个问题的水平测试。将你的知识映射到一个起始阶段,并生成一个带有小时估算的个性化路径。 |
/check-understanding <阶段号> | 每个阶段的八题测验,包含反馈和需要复习的具体课程。 |
░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒
每节课都会交付成果
其他课程以 “恭喜你,你学会了 X” 结束。这里的每节课都以一个可复用的工具结束,你可以安装或粘贴到你的日常工作流程中。
FIG_001 · A提示词 FIG_001 · B技能 FIG_001 · C智能体 FIG_001 · DMCP 服务器
粘贴到任何 AI 助手中,即可在特定任务上获得专家级帮助。 放入 Claude、Cursor、Codex、OpenClaw、Hermes 或任何读取 SKILL.md 的智能体中。 部署为自主工作单元——你在第 14 阶段中亲手编写了这个循环。 接入任何兼容 MCP 的客户端。在第 13 阶段中端到端构建。
使用 SkillKit (https://github.com/rohitg00/skillkit) 一键安装全部成果。是真正的工具,不是家庭作业。 学完整个课程后,你将拥有一个由 428 个手工作品组成的作品集,因为你亲手构建了它们,所以你真正理解它们。
FIG_002 · 一个示例
第 14 阶段,第 1 课:智能体循环。约 120 行纯 Python,无任何依赖。
code/agent_loop.py 构建它
python def run(query, tools): history = [user(query)] for step in range(MAX_STEPS): msg = llm(history) if msg.tool_calls: for call in msg.tool_calls: result = tools[call.name](**call.args) history.append(tool_result(call.id, result)) continue return msg.content raise StepLimitExceeded
outputs/skill-agent-loop.md 交付它
``markdown
name: agent-loop description: ReAct 风格循环,适用于任何工具列表 phase: 14 lesson: 01
实现一个最小化的智能体循环,能够… ``
outputs/prompt-debug-agent.md
markdown 你是一个智能体调试器。给定一个智能体运行轨迹,识别智能体出错的步骤并解释原因...
░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒
目录
二十个阶段。点击任意阶段可展开其课程列表。
阶段 0:环境搭建与工具链 12 节课
为后续所有内容准备好你的开发环境。
| # | 课程 | 类型 | 语言 |
|---|---|---|---|
| 01 | 开发环境 | 构建 | Python, TypeScript, Rust |
| 02 | Git 与协作 | 学习 | — |
| 03 | GPU 设置与云服务 | 构建 | Python |
| 04 | API 与密钥 | 构建 | Python, TypeScript |
| 05 | Jupyter Notebook | 构建 | Python |
| 06 | Python 环境 | 构建 | Python |
| 07 | 面向 AI 的 Docker | 构建 | Python |
| 08 | 编辑器设置 | 构建 | — |
| 09 | 数据管理 | 构建 | Python |
| 10 | 终端与 Shell | 学习 | — |
| 11 | 面向 AI 的 Linux | 学习 | — |
| 12 | 调试与性能分析 | 构建 | Python |
阶段 1 — 数学基础 22 节课 通过代码理解每一个 AI 算法背后的直觉。
| # | 课程 | 类型 | 语言 |
|---|---|---|---|
| 01 | 线性代数直觉 | 学习 | Python, Julia |
| 02 | 向量、矩阵与运算 | 构建 | Python, Julia |
| 03 | 矩阵变换与特征值 | 构建 | Python, Julia |
| 04 | 机器学习中的微积分:导数与梯度 | 学习 | Python |
| 05 | 链式法则与自动微分 | 构建 | Python |
| 06 | 概率与分布 | 学习 | Python |
| 07 | 贝叶斯定理与统计思维 | 构建 | Python |
| 08 | 优化:梯度下降家族 | 构建 | Python |
| 09 | 信息论:熵、KL 散度 | 学习 | Python |
| 10 | 降维:PCA、t-SNE、UMAP | 构建 | Python |
| 11 | 奇异值分解 | 构建 | Python, Julia |
| 12 | 张量运算 | 构建 | Python |
| 13 | 数值稳定性 | 构建 | Python |
| 14 | 范数与距离 | 构建 | Python |
| 15 | 机器学习中的统计学 | 构建 | Python |
| 16 | 采样方法 | 构建 | Python |
| 17 | 线性系统 | 构建 | Python |
| 18 | 凸优化 | 构建 | Python |
| 19 | 面向 AI 的复数 | 学习 | Python |
| 20 | 傅里叶变换 | 构建 | Python |
| 21 | 面向机器学习的图论 | 构建 | Python |
| 22 | 随机过程 | 学习 | Python |
阶段 2 — 机器学习基础 18 节课 经典机器学习——仍然是大多数生产级 AI 的支柱。
| # | 课程 | 类型 | 语言 |
|---|---|---|---|
| 01 | 什么是机器学习 | 学习 | Python |
| 02 | 从零实现线性回归 | 构建 | Python |
| 03 | 逻辑回归与分类 | 构建 | Python |
| 04 | 决策树与随机森林 | 构建 | Python |
| 05 | 支持向量机 | 构建 | Python |
| 06 | KNN 与距离度量 | 构建 | Python |
| 07 | 无监督学习:K-Means、DBSCAN | 构建 | Python |
| 08 | 特征工程与选择 | 构建 | Python |
| 09 | 模型评估:指标、交叉验证 | 构建 | Python |
| 10 | 偏差、方差与学习曲线 | 学习 | Python |
| 11 | 集成方法:提升、装袋、堆叠 | 构建 | Python |
| 12 | 超参数调优 | 构建 | Python |
| 13 | 机器学习管道与实验跟踪 | 构建 | Python |
| 14 | 朴素贝叶斯 | 构建 | Python |
| 15 | 时间序列基础 | 构建 | Python |
| 16 | 异常检测 | 构建 | Python |
| 17 | 处理不平衡数据 | 构建 | Python |
| 18 | 特征选择 | 构建 | Python |
阶段 3 — 深度学习核心 13 节课 从第一性原理出发学习神经网络。在你亲手构建一个之前,不使用任何框架。
| # | 课程 | 类型 | 语言 |
|---|---|---|---|
| 01 | 感知机:一切从这里开始 | 构建 | Python |
| 02 | 多层网络与前向传播 | 构建 | Python |
| 03 | 从零实现反向传播 | 构建 | Python |
| 04 | 激活函数:ReLU、Sigmoid、GELU 及其原因 | 构建 | Python |
| 05 | 损失函数:MSE、交叉熵、对比损失 | 构建 | Python |
| 06 | 优化器:SGD、动量、Adam、AdamW | 构建 | Python |
| 07 | 正则化:Dropout、权重衰减、BatchNorm | 构建 | Python |
| 08 | 权重初始化与训练稳定性 | 构建 | Python |
| 09 | 学习率调度与预热 | 构建 | Python |
| 10 | 构建你自己的微型框架 | 构建 | Python |
| 11 | PyTorch 入门 | 构建 | Python |
| 12 | JAX 入门 | 构建 | Python |
| 13 | 调试神经网络 | 构建 | Python |
阶段 4 — 计算机视觉 28 节课 从像素到理解——图像、视频、3D、VLM 与世界模型。
| # | 课程 | 类型 | 语言 |
|---|---|---|---|
| 01 | 图像基础:像素、通道、色彩空间 | 学习 | Python |
| 02 | 从零实现卷积 | 构建 | Python |
| 03 | CNN:从 LeNet 到 ResNet | 构建 | Python |
| 04 | 图像分类 | 构建 | Python |
| 05 | 迁移学习与微调 | 构建 | Python |
| 06 | 目标检测——从零实现 YOLO | 构建 | Python |
| 07 | 语义分割——U-Net | 构建 | Python |
| 08 | [实例分割——Mask R-CNN](phases/04-computer-vis |
相似文章
从零开始学习AI工程
一个免费的开源课程,从基本原理教授AI工程,在使用框架之前从原始数学构建算法。课程包含20个阶段的435节课,支持Python、TypeScript、Rust和Julia。
@ghumare64: Harness Engineering 在最新章节中得到了很好的解释:
一个全面的开源AI工程课程,包含20个阶段和416节课,涵盖Python、TypeScript、Rust和Julia,从数学基础到自主集群的算法教学。
@wsl8297: 想系统学 AI Engineering,不想在论文、教程、代码仓库之间乱跳,可以看 rohitg00/ai-engineering-from-scratch。 这套课已经 1w+ star,435 节课,20 个阶段,从数学基础、神经网络…
推荐一个名为ai-engineering-from-scratch的开源GitHub仓库,包含435节课和20个阶段,系统覆盖AI工程从数学基础到Agent的完整学习路线。
@angeldot_: 这个仓库相当于一个免费的AI工程硕士学位——20个阶段。从线性代数到自主智能体集群。而且它……
一个免费开源的AI工程课程,涵盖从线性代数到自主智能体集群的20个阶段,包含Python、TypeScript、Rust和Julia的动手构建。所有材料均可重复使用,并可连接到Claude Code或Cursor。
@tom_doerr:17个阶段的AI工程课程,包含51个项目 https://github.com/PrinceSinghhub/Ultimate-AI-Engineer-Roadmap-2026…
一个全面的17阶段AI工程路线图,包含51个项目,覆盖从Python到多LLM编排、RAG和智能代理系统等主题,旨在让学习者从零起步,掌握生产级AI系统的技能。