掌握 AI 工程最省钱的方法：

• 不用 PyTorch，实现反向传播
• 从零构建分词器和注意力机制
• 训练一个微型 Transformer
• 实现带重排序的混合 RAG
• 构建具备工具和记忆的智能体
• 分析 LLM 推理性能：首 token 延迟（TTFT）、KV 缓存、批处理
• 评估检索、工具调用和失败模式

用一台笔记本电脑学好基础。把所有东西都亲手做一遍。

免费学习路线：

从零开始学 AI 工程 | 免费 AI 工程课程

来源：https://aiengineeringfromscratch.com/ FIG_000 · 课程大纲 v1.0 · 2026开源 · MIT

从零开始学 AI 工程

每一节已发布课程.每一个阶段. 每一种算法都先从基础数学开始构建，然后才导入任何框架.

由 Rohit Ghumare 和贡献者维护. 在你自己的电脑上运行.

让你的智能体成为导师：水平测试、个性化学习路径，以及在终端中进行的互动教学.

FIG_001 · 前向传播y = σ(Wx + b)xh1h2ŷ

以下机构的工程师和学生都在阅读

“对从零开始学 AI 工程这个仓库着迷了.”- Google 的一位 AI 工程师

学习方式

大多数 AI 学习资料都零散地讲授知识. 这里一篇论文，那里一篇微调文章，别处又是一个炫目的智能体演示. 这些碎片很少能衔接起来. 你上线了一个聊天机器人，却解释不了它的损失曲线. 你把一个函数接到智能体上，却说不清调用它的模型内部，注意力机制究竟在做什么.

这套课程就是贯穿全程的主干.每一个阶段，每一节已发布课程，四种语言：Python、TypeScript、Rust、Julia. 一端是线性代数，另一端是自主智能体集群. 每一种算法都先从基础数学开始构建. 反向传播. 分词器. 注意力机制. 智能体循环. 等到 PyTorch 登场时，你已经知道它底层在做什么.

每节课都遵循同一个循环：阅读问题、推导数学、编写代码、运行测试、保留成果. 没有五分钟视频，没有复制粘贴式部署，没有手把手包办. 免费、开源，而且专为在你自己的笔记本电脑上运行而构建.

FIG_AGT · 交互式模拟 ## AI 智能体内部 AI 智能体不只是一次 LLM 调用. 让一个请求通过一台运转中的机器，关闭检索、工具或验证器，观察哪里会出错. 拆解这台机器 → 一台等距视角的卡片处理机器，每个工位都有铭牌：请求、记忆、检索、模型、工具、验证器、输出、追踪和运行时循环。 (https://aiengineeringfromscratch.com/inside-an-ai-agent) FIG_DEC · 交互式模拟 ## 反编译器内部 反编译器会把字节转换为可读的代码. 让一个小函数依次通过九个工位，剥离符号或切换解码器，观察记录表如何区分观测事实与推断结果. 拆解这台机器 → 一张等距视角的工作台，一条导轨上装有滑架，设有九个工位，每个工位都有铭牌：文件头、节区、反汇编、控制流图（CFG）、中间表示提升、类型、结构化、伪代码和记录表。 (https://aiengineeringfromscratch.com/inside-a-decompiler) FIG_GPU · 交互式模拟 ## LLM 推理服务 GPU 内部 解码时，每生成一个 token 都要读取所有权重. 跟随一个请求经过 NVIDIA L4 或 GB10，填满 KV 缓存池，切换到 FP8，并结合 SGLang 101 运行数据，观察内存带宽如何决定速度. 拆解这台机器 → 主板上一张等距视角的 NVIDIA L4 显卡：主机 CPU、PCIe 转接板、带有 SM 和 L2 缓存带的 GPU 芯片、六个带彩色存储单元的 GDDR6 封装，以及透明散热器。 (https://aiengineeringfromscratch.com/inside-an-llm-serving-gpu) AI 工程4 个相互关联的领域AI 工程将 AI 应用构建与部署、软件工程基础、智能体辅助工程，以及产品判断与交付连接起来。AI 应用构建与部署 (https://aiengineeringfromscratch.com/learning-paths#building-and-deploying)软件工程基础 (https://aiengineeringfromscratch.com/learning-paths#software-fundamentals)智能体辅助工程 (https://aiengineeringfromscratch.com/learning-paths#coding-agents)产品判断与交付 (https://aiengineeringfromscratch.com/learning-paths#shaping-the-build)推荐起点AI 工程新手

搭建可用的工作环境，运行代码仓库，并在选择专门方向之前掌握课程的学习流程.

核心领域AI 应用构建与部署

从提示词、结构化输出、嵌入和检索入手，逐步学习评估、推理服务、可观测性和安全发布.

核心领域软件工程基础

建立 AI 系统所依赖的代码仓库、环境、接口、调试、验证、安全、发布和运维基础.

核心领域智能体辅助工程

界定任务，根据仓库中的证据制定计划，设计循环和执行框架，隔离委派任务，验证结果，并保留反馈.

核心领域产品判断与交付

将观察到的工作转化为成果、假设、可测试的工作切片、可执行规格、衡量计划、分阶段发布，以及有明确负责人的反馈.

专项路径模型上下文协议 (MCP)

从通信报文封装到发布关卡，构建、保护、验证和运维无状态 MCP 系统.

专项路径智能体技能

在真实的智能体宿主中构建、调用、路由、保护、评估、打包和验证可移植技能.

以成果为依据的实践认证备考

选择 Claude 或 MCPA 认证路线，完成实操实验，保留归学习者所有的成果，并使用原创测评.

当前进度

已完成课程0 / 0

阶段0 / 0

语言4

术语表条目···

课程大纲 ·20 个阶段·542 节课

点击一个阶段可展开其中的课程. 每节课都会在数学推导、代码和测试全部完成后发布.

已完成进行中已规划

图书版 · 共六卷

将课程汇编成书. EPUB 和 PDF 与课程使用相同内容生成，并附在每次 GitHub 发布中. 网站持续更新. 每一章都链接回这里，方便查看动画图示、测验和代码.

独立认证备考

通过构建真实系统来备考

Claude 和模型上下文协议助理级 (MCPA) 认证路径采用与课程相同的教学方式：循序渐进，配有交互式实验、实践成果，以及基于 GitHub 仓库开展教学的 AI 导师.

5条学习路线67节认证课程505道原创练习题

与 Anthropic、Agentic AI Foundation 或 Linux Foundation 无隶属关系，也未获得上述机构的认可、赞助或授权. 本课程不颁发认证证书，也不保证通过考试.

编后记

整套课程都在 GitHub 上. 克隆它、派生它，按自己的节奏学习. 无付费墙，无需注册. 每节课都根据概念的特点，提供使用 Python、TypeScript、Rust 或 Julia 编写的可运行代码.

git clone https://github\.com/rohitg00/ai\-engineering\-from\-scratch\.git