标签
文章指出，Cerebras芯片针对LLM推理和训练进行了优化，而非通用AI工作负载，并提醒不要过度炒作其能在所有AI领域挑战NVIDIA的能力。
Boston Dynamics 计划利用足球视频训练其人形机器人 Atlas，并在名为《School of Football》的在线系列中记录进展。
用户报告OpenAI的Codex GPT-5.5 high模型表现下降，出现懒惰、胡说八道和上下文丢失等问题，怀疑是OpenAI正在训练GPT-5.6所致，需开启xhigh模式才能恢复正常。
Elon Musk 宣布，Grok 基础模型 V9-Medium（1.5T 参数）已完成训练，评估表现强劲，将在微调和强化学习后于 2 到 3 周内公开发布。
Marin团队预先注册了一个129B参数MoE模型训练运行的预测损失为2.252，实际结果为2.234，展示了在训练前准确预测损失的能力。
Magma 是微软研究院推出的一个开源仓库，用于构建整合视觉、语言和行动的多模态 AI 智能体，提供模型链接、推理示例、训练说明和演示。
一篇帖子解释为什么理解内存中的数字格式对于学习LLM量化至关重要，涵盖梯度NaN调试、数值稳定性以及量化失真。
SupraLabs 发布了 Supra-50M，一个紧凑的 5000 万参数因果语言模型，包含基础版和指令版，基于 fineweb-edu 的 200 亿个 token 训练，在多项关键基准测试中达到了可与 GPT-2 和 SmolLM 等更大模型竞争的水平。
介绍CODA，一种GPU内核抽象，将Transformer操作表达为GEMM加尾声程序以减少数据移动，覆盖Transformer块中几乎所有非注意力计算。
本文提出高熵总和（HES），这是一种无需训练的度量方法，用于为LLM训练选择高质量推理数据，并在SFT、RFT和RL等范式中得到验证。
ACC将多轮智能体轨迹转化为长上下文问答对，用于训练LLMs在无需额外标注的情况下进行长程推理，在MRCR和GraphWalks基准测试上取得了显著提升，同时保持通用能力。
一条推文指出，按模型宽度缩放嵌入学习率可以替代µP（微参数化）的需求，并提到对隐藏层使用Muon优化器，其余部分使用Adam。
Modal宣布，AppliedCompute正在利用其平台为DoorDash、Mercor和Cognition等公司训练定制化智能体团队，强调从前沿模型向专用模型的转变。
斯坦福大学一门关于以人为中心的LLM的课程发布了一份60多页的报告，涵盖设计、数据来源、训练、评估和部署，用于开发人类能够有意义地与之协作的AI。
TideGS提出了一种外存训练框架，通过块虚拟化、异步流水线和差分流式传输技术，在SSD-CPU-GPU层级管理参数，使得在单个GPU上能够以超过十亿原语进行3D高斯泼溅训练。
本文提出φ-平衡，一种面向混合专家模型中负载平衡的理论框架，直接针对总体层面专家平衡，利用凸对偶和镜像下降，实现更稳定的专家利用率，并在推理和代码生成基准上超越先前方法。
一个个人项目最终产出了一篇ACL 2026论文，介绍了TIME方法，训练Qwen3模型进行短时、上下文触发的思考，而非过度推理。该工作使用了QLoRA和四阶段课程，所有数据和代码均已开源发布。
本文介绍了一种基于专家编写解决方案的token级统计的代理指标，用于预测LLM下游性能，在模型选择、预训练数据选择和训练时预测方面显著优于基于损失的方法。
研究人员提出了对称兼容优化器，这些优化器尊重神经网络参数的等变性结构，相比 Adam 等传统方法提高了训练稳定性和性能。该方法在多种语言模型架构上得到验证，包括 Qwen3-0.6B、Gemma 3 1B 和 OLMoE-1B-7B。
本文分析了AI的经济学，聚焦于GPU资源的争夺战，将人类推理的尖峰负载与智能体连续工作负载进行对比，并认为当前基础设施是为人类使用而优化的，而非要求更高的智能体推理。