disaggregation

Robert Nishihara 强调了一篇关于解耦RL工作负载的论文，表明使用计算优化的H800进行预填充，带宽优化的H20进行解码，可以分别将rollout时间减少21-51%和47%，强调没有单一硬件类型适合所有阶段。

RollArt 提出了一种用于大规模强化学习的解耦架构，展示了在效率和可扩展性方面的显著提升。

基于客户模式，讨论大规模LLM服务中预填充-解码分离的微妙现实，并在AMD + vLLM上进行了验证。

增量压缩权重同步技术已合并到 slime 中，实现 Megatron ↔ SGLang 分离式部署的无损增量同步，增强大规模强化学习。