@Michaelzsguo: Alisa Liu 在准备 OpenAI 面试时，提到过 斯坦福课程 CS336: Language Modeling from Scratch。 如果你现在想系统学 LLM，或者以后想找 AI research / MTS / ML e…

Alisa Liu 在准备 OpenAI 面试时，提到过 斯坦福课程 CS336: Language Modeling from Scratch。 如果你现在想系统学 LLM，或者以后想找 AI research / MTS / ML engineer 相关的工作，这门课很值得放进学习计划里。 CS336 的名字叫 Language Modeling from Scratch，重点也确实在 “from scratch”。它从 tokenizer 开始，一路讲到 transformer、optimizer、PyTorch、GPU、Triton、FlashAttention、parallelism、scaling laws、data pipeline、post-training 和 alignment。 它把一个语言模型从训练前的数据处理，到模型结构、训练效率、算力估算，再到后训练和对齐，串成了一条完整链路。 这对找 AI 工作的人很有帮助。 很多面试可能会： 让你手写 attention 让你解释训练为什么慢 让你判断显存和 FLOPs 怎么算 让你 debug 一个 training loop 让你讨论 data、model size、compute 之间怎么取舍 让你解释 pretraining、SFT、RLHF / RLVR 分别解决什么问题 如果只靠零散资料学，很容易知道很多名词，但不知道它们在一个真实训练流程里怎么连起来。 CS336 的好处是它一直贴着现在行业里真实用的东西讲。2026 版里已经结合最新的LLM模型譬如Minimax来讲这些内容。 更难得的是，Stanford 把课程网站、作业和 YouTube 录像都公开了。看看它的课堂作业， 几乎就是你在公司上班要做的工作。 你在学习CS336的过程中， 可能会需要补充一些基础。同样的， 哈佛和斯坦福都有公开课程帮助你学习这些基础：： Harvard CS50 AI：适合补 AI 基础和 Python 项目感 Stanford CS229：适合补传统 ML 和数学框架 Stanford CS224N：适合补 NLP / transformer 之前的语言模型脉络 Stanford CS231N：适合补 deep learning 和视觉模型 但如果目标是今天的 LLM / AI research / AI infra，CS336 是我会优先推荐的一门。