@ghumare64: 我很喜欢这个规范,因此重新设计了 https://aiengineeringfromscratch.com —— 确实非常精美。
摘要
一位用户分享了对“AI Engineering from Scratch”网站的重构设计,该网站是一本参考手册,通过原始数学实现来解释 Transformer 和反向传播等 AI 概念。
查看缓存全文
缓存时间: 2026/05/09 14:08
我喜欢这个规范,因此重新设计了 https://t.co/ijvIr4wMIv —— 确实非常精美。https://t.co/z2GmRrzB3a
从零开始构建 AI 工程
来源:https://aiengineeringfromscratch.com/
你是否曾好奇 Transformer 究竟是如何“关注”信息的?或者在损失曲线下降时,反向传播在底层究竟做了什么?又或者为什么分词器会把 “playing” 拆分成三个部分?
如果你有过这些疑问,那么这本书是为你准备的。这不是一本教程,而是一本参考手册,深入解释了你日常使用的技术——从梯度下降到检索增强生成(RAG),再到多智能体编排——究竟是如何工作的。
它不会让你明天就变成一名更优秀的机器学习工程师。这里没有任何可以直接粘贴到 Jupyter 单元格中的可操作代码。但是,当你调试一个在训练中途失去信号损失的模型,或者试图弄清楚为什么你的智能体不断产生幻觉并调用工具时,了解底层原理会非常有用。
你不需要是研究人员才能阅读此书。你只需要保持好奇心,并愿意亲手编写代码。这里的每一个算法都从原始数学原理开始实现,没有任何黑盒封装。你需要自己编写反向传播、分词器、注意力机制以及智能体循环。
相似文章
@trq212: 好吧,这有点火了,说实话我原来的文本有点乱,所以借助Cla…做了第二次润色。
一位用户分享了借助AI实现规格的优化方法,使用Claude维护一个implementation-notes.html文件,记录设计决策、偏差、权衡和未解决的问题。
@ghumare64: Harness Engineering 在最新章节中得到了很好的解释:
一个全面的开源AI工程课程,包含20个阶段和416节课,涵盖Python、TypeScript、Rust和Julia,从数学基础到自主集群的算法教学。
rohitg00/ai-engineering-from-scratch
一个全面、免费、开源的人工智能工程课程,包含20个阶段的428节课程,涵盖从数学基础到使用Python、TypeScript、Rust和Julia实现的自主集群。
@shubh6200: 周末花了些时间阅读这篇文章,老实说真希望它早几年就存在。我们看的每个AI教程都…
一条推文推荐了一篇arXiv论文,该论文为应用数学家讲解了Transformer的数学基础,涵盖分词、嵌入、多头注意力和KV缓存。
@himanshutwtxs: Garry Tan 的 GBrain 完整架构
Garry Tan 分享了 GBrain 的完整架构,这是一个 AI 模型。