标签
Hugging Face 通过一个捕获代理,将 Claude Code、Codex、Hermes、Pi 和 OpenCode 等真实的编码智能体框架转化成强化学习训练环境,既无需修改框架,也无需改动训练代码,所有模型、任务、数据和代码均完全开源。
Ai2 发布 Olmo-core 3,一款面向大规模 MoE 训练的开源框架升级,采用基于 DDP 的路由设计与多种并行技术,可在保持约 3.2B 激活参数的情况下将总参数扩展至万亿级别,吞吐量较旧实现提升约 2.7 倍。
AllenAI 发布了 Olmo-core 3,这是一个为大规模混合专家(MoE)大语言模型重新设计的开放、可扩展训练框架。其基准测试显示,总参数规模超过一万亿,在专家池扩展时吞吐量损失极小。
MiMo-V2.6 引入了组间优势重分配,通过比较同级尝试和使用分级反馈来增强AI代理的强化学习,在多个任务领域显示稳定的性能提升。
这篇文章详细介绍了在百万小时规模上训练Dyna-2 AI模型的基础设施和挑战,重点关注数据生命周期和GPU集群优化。
KaichaoYou讨论了RL训练基础设施中扩展并发部署的挑战,重点介绍了与SemiAnalysis一起对Qwen3 235B进行的沙箱扩展压力测试,包括错误和修复的详细说明。
讨论了强化学习训练基础设施中沙盒启动延迟和扩展能力如何显著影响训练性能,引用了SemiAnalysis对匹配训练器和生成器吞吐量的详细分析。
该文章认为,初级工作作为培养判断力和技能的培训基础设施,AI的采用必须考虑到这种学徒功能,以避免削弱通往高级专长的路径。
该推文讨论了微软 AI 使用 Ray actors 训练 MAI-Thinking-1 模型,实现了对异构计算的更细粒度控制,并更好地利用了 GPU 集群中闲置的 CPU 资源。