@tianjun_zhang: 我们为MiMo系列在TPU上扩展强化学习 这对我们来说是一段旅程，使用Jax + TPU将强化学习规模化：最…

X AI KOLs Timeline 模型
reinforcement-learning tpu jax mimo scaling ai-training

摘要

Peano Labs 已在TPU上为MiMo模型家族扩展了强化学习，使用Jax实现了310B参数的全参数强化学习，其中扩展主要是配置更改。

我们为MiMo系列在TPU上扩展强化学习 🚀 这对我们来说是一段旅程，通过Jax + TPU将强化学习扩展到规模：对我来说最令人惊叹的部分是，扩展它主要是配置更改，而不是代码重写。这是任何研究人员的梦想 🫣 阅读我们的博客了解更多详情。感谢 @XiaomiMiMo、@berkeley_ai 和 @googlecloud 让这一切实现！我们很快会分享更多细节！
查看原文
查看缓存全文

缓存时间: 2026/09/22 16:04

我们成功在TPU集群上规模化训练MiMo系列强化学习模型🚀

将强化学习与JAX+TPU结合实现规模化扩展是一段激动人心的旅程：最让我惊叹的是，这种扩展主要只需调整配置参数，无需重写代码。这正是研究者的终极梦想🙈

详细技术解读请查看我们的博客。感谢@XiaomiMiMo、@berkeley_ai和@googlecloud的鼎力支持！更多技术细节即将公布！

Peano Labs (@peano_ai): 我们实现了TPU上的全参数强化学习：包含3100亿参数的MiMo-V2.6模型，以及在千级TPU集群上完成的超千步稳定训练运行。

得益于JAX框架，规模化扩展只需配置调整，无需代码重构。

我们通过优化vLLM推理引擎实现更快的rollout生成，并保持全精度一致性。

相似文章

@ying11231：在TPU上令人印象深刻的性能。

X AI KOLs Timeline

LMSYS Org 的一篇博客文章详细介绍了使用 SGLang-JAX 在 TPU v7x 上优化 Ling-2.6-1T（一个 1 万亿参数的混合 MoE 模型），通过单个 Pallas 内核将 MoE 数据移动隐藏在计算之后，从而实现高效的推理。