标签
Modal 的 Nan Jiang 宣布他们正在开发开源 RL 框架以支持前沿的开放权重模型，重点介绍了增量压缩以及在权重同步和跨集群训练方面依然存在的挑战。
Modal 正在通过增量压缩和其他技术增强开源强化学习框架，以训练前沿开放权重模型。slime 框架将无损增量同步引入分解式训练环境。
增量压缩权重同步技术已合并到 slime 中，实现 Megatron ↔ SGLang 分离式部署的无损增量同步，增强大规模强化学习。