标签
田柯宇（Tian Keyu）投毒记录网站再次更新，详细整理了 2024 年字节跳动前实习生篡改 T5 权重、PyTorch 源码并伪造 VAR 文生图模型成果的训练攻击事件时间线与证据。
Maxime Rivest 回复网友关于如何入门模型微调的提问，给出了从简单分类任务起步、逐步构建自定义任务、利用 coding agent 辅助实验的五步学习路径建议。
LoRA over GGUF 系列更新：Qwen3.8-Flash-Next（125B-A6B + 51B engram）现在可以在 40 GiB 显存中进行 LoRA 训练，无需 CPU 卸载，在 Strix Halo 上达到 200 token/s 的速度，transformers 5.18 已合并初步的 GGUF 支持，更多内核优化（GGTensile）也即将到来。
作者训练了一个小型语言模型来替代Gemini Flash进行摘要任务，达到了97%的准确率和0.06秒的延迟，适合在内部应用中部署。
GPT-6 Astra 通过模拟训练正在提升机械手的灵活性，实现了令人印象深刻的零样本精细操作能力，如转笔和解 Rubik's Cube，目标是将这些技能转移到现实世界。
一个逐步指导用户使用PyTorch从零构建和训练transformer模型的仓库，全面覆盖数据处理、训练及后训练技术如SFT和RLHF。
Liam Fedus 描述了在 Menlo Park 建立的高通量材料实验室，这些实验室在实验和 AI 模型之间创建了一个循环，利用 1,300 个 H200 GPU 和实验数据来中间训练模型，以做出下一步决策。
一篇详细的文章，介绍了从头开始在单个GPU上训练一个210M文本到图像扩散Transformer，分享了关于注意力汇聚、损失作为健康信号以及时间步偏移益处的关键测量结果。
OpenAI 发布 GPT-6 Astra，这是一个在 Texas Stargate 地点使用超过 100,000 个 GPU 训练的 AI 模型。
名为 OpenResearch 的新功能支持复现和基于论文进行实验，通过一键模板即可在 ToolRL 上训练 Vector Policy Optimization (VPO)，从而实现多样化的答案生成并改进测试时搜索。
Andrej Karpathy 开源了一个自主研究智能体，它能在单张 GPU 上通宵运行自己的机器学习实验，通过编辑代码自动迭代改进，并保留那些能降低验证损失的变化。