标签
Luo Fuli关于MiMo-V2.6的回顾文章详细介绍了小米在扩展智能体强化学习方面的创新，重点关注了扩展的环境、集成的工具集和改进的评分系统，从而显著提升了智能体的能力。
这篇文章讨论了开源AI模型如Qwen在大约两个季度后匹配前沿能力的模式，以GPT-5和Qwen3.5-27B为例，并质疑这种趋势是否会持续，如Astra和Fable 5.1等模型。
本文研究了在来自Rydberg atom arrays的量子测量数据上训练的transformers是否表现出类似于大型语言模型的神经缩放定律，发现缩放行为取决于数据的统计结构，尤其是在临界点附近。
本研究探讨了语言模型训练中序列加权的缩放定律，发现模型随着规模增长表现出非单调行为：从学习通用模式转向学习数据特定模式，随后又回到通用模式。
Nucleus Genomics 宣布推出 Vitruvian，这是一套基于超过一百万人的数据训练的基因优化模型，旨在增强胚胎DNA以提高智力，推进了Nick Bostrom所提出的人类基因优化理念。
本文研究物理感知代理模型在交流最优功率流（ACOPF）中的缩放定律，证明了物理信息训练目标在规模上改善约束满足，并具有与标准损失函数不同的缩放率。
本文建立了一个理论框架，表明自回归预测中的数据和内存资源受单一预测能量频谱的支配，提供了一个联合缩放定律。
本文提出了神经网络中一次性幅度剪枝和计算自适应早退出的理论保证，通过渐近和深度网络模型分析了计算-准确性权衡并推导了缩放定律。
本文进行了一项大规模研究，比较蒸馏的字节模型和令牌模型，发现字节模型在更多计算资源下能达到更高的性能上限，并且比令牌模型更高效利用数据。
Adam Majmudar对AI能力快速发展的分析，重点介绍了新的扩展规律如何推动超越外部预期的飞跃。
本文通过缩放定律量化了神经网络中记忆到泛化的转变（Grokking），揭示了与模型容量相比，数据复杂度是转变时间的主要驱动因素。
本研究严格检验了扩展网络视频预训练能否提升机器人任务性能，发现更大模型和更多计算资源在真实工业任务中持续产出更优策略，且预训练质量与性能表现呈正相关。
Magic AI Labs 宣布一种新的预训练方案，使用减少了50倍的计算资源即可匹配 DeepSeek V4 Pro 的性能，展示了在扩展大型AI模型方面的显著算法效率提升。
OpenAI researchers reflect on the rapid scaling of reasoning models and warn that AI systems are likely to achieve recursive self-improvement within years, calling for extreme caution and broader interventions beyond technical solutions.
本文介绍了 Coupled Scaling，一个任务条件框架，用于解释神经缩放定律如何根据任务结构与架构优化系统可访问的几何表示之间的关系而变化。
本文研究了使用表格数据的精算费率制定模型中的缩放定律，发现TabM在没有额外归纳偏置的情况下，比标准Transformer和MLP架构表现出更强的数据缩放能力。
Open Athena 推出了一次 535B/A23B MoE 模型训练运行，进展如预期，突显了他们对开放发展的承诺以及在AI扩展方面的重大进展。
Isaac 0.5 是一个360亿参数的AI模型，通过利用100万小时视频和10万小时机器人交互数据，高效适应各种机器人实体，展示了一种缩放定律，其中增加视频数据显著降低远程操作需求。
SMELT是一种方法，它在Mixture-of-Experts Transformer中循环中间层，以在匹配计算、参数和缓存预算的同时，提高训练效率和下游性能，从而实现更快的损失减少和实际收益。