ray-direct-transport

#ray-direct-transport

@vllm_project: 这个权重传输引擎是vLLM原生的。任何基于Ray的训练器都可以通过单个WeightSource迭代器来采用它。…

X AI KOLs Following ↗ · 2026-08-26 缓存

vLLM引入了一个原生的分片权重传输引擎，使用Ray Direct Transport (RDT)来在大规模在线强化学习环境中进行高效的权重同步，从而提升像Kimi K2这样的模型的性能。

0 人收藏 0 人点赞