rollout-optimization

EfficientRollout是一个系统感知的自推测解码框架，通过使草稿模型适应不断变化的策略并优化推测解码机制，加速LLM的强化学习推演，将延迟降低高达19.6%。