@RuiWu560670:CS336 的老粉丝了。我最喜欢的部分是从前沿实验室的技术报告中提炼实证发现。那些经验教训是用真实的算力换来的,往往比在狭隘假设下推导出来的理论更有用。CS312 在此基础上更进一步:它教你直接观察这些实证现象,再反向推导背后的科学。Stanford 在这方面真的走在前面。我会跟进 CS312 的。
摘要
一位 CS336 的老粉丝称赞了课程对实证研究的重视,并对 Stanford 新开设的 CS312《Deep Learning Alchemy》课程表示期待。该课程由 Tatsunori Hashimoto 推出,旨在教授前沿深度学习研究中那些混乱而依赖经验的一面。
查看缓存全文
缓存时间: 2026/10/17 00:48
CS336 的老粉丝来了。我最喜欢的部分是提炼前沿实验室技术报告中的经验性发现。这些经验教训是用真实算力换来的,往往比在狭隘假设下推导出的理论更有用。
CS312 在这个方向上更进一步:它教你直接观察这些经验现象,然后逆向推导其背后的科学原理。斯坦福确实走在前列。
我会跟着 CS312 一起学习。
Tatsunori Hashimoto (@tatsu_hashimoto): 深度学习通常被当作一组经过“消毒“的事实和数学来教授。但AI前沿的研究工作是混乱且高度依赖经验的。
我们的新课程 Deep Learning Alchemy,旨在以 Language Modeling From Scratch 那种动手实践的精神,教授深度学习的艺术与科学。
相似文章
@shao__meng:斯坦福大学 CS 312「Deep Learning Alchemy」秋季新课,由 @tatsu_hashimoto 和 @kothasuhas 主讲……
斯坦福大学新开设 CS 312「Deep Learning Alchemy」课程,由 Tatsunori Hashimoto 和 Suhas Kotha 主讲,聚焦深度学习中以经验为主的知识——超参数缩放、优化器不变性(μP、Muon)、损失景观与训练稳定性等,全部作业代码、测验和讲义公开,可视为 CS 336 的续作。
@MichaelRan15: Stanford CS312 Deep Learning Alchemy 值得关注。它不仅仅是又一个2022年的深度学习课程。讲师…
斯坦福大学宣布了一门新的深度学习课程CS312,其独特的评分系统强调测验和实践实验,而非作业。
@StanfordAILab: 绝佳机会宣传 @tatsu_hashimoto 和 @kothasuhas 的 CS 312: Deep Learning Alchemy。所有录像和课程材料……
斯坦福人工智能实验室宣布公开 CS 312: Deep Learning Alchemy 课程的录像和材料,包括关于深度学习概念(如Transformer组件)的作业和测验。
@srush_nlp:我一直对 DL Alchemy 课程(https://deep-learning-alchemy.github.io)非常着迷。决定将……
斯坦福大学的 CS 312“深度学习炼金术”课程将构建理论的重担交给学生(以及他们的 Claude 助手),让他们在一个用 6.14 亿个 token 训练的 8 层 Transformer 上开展消融实验,以实证方式探究 Transformer 的各个组件——这引发了一个反思:也许死记硬背的机器学习知识从来就没那么重要。
@stanfordnlp: CS336的“问题”不在于大约22小时的视频,而在于完成作业所需的大量时间。…
斯坦福大学的CS336课程宣布开课,从零开始教授语言建模,包含密集的实践作业,涵盖分词器、Transformer、数据和对齐。