标签
论文提出 SAPD（Step-Aligned Privileged Distillation），一种无需 rollout 的自蒸馏方法，将固定示范转化为与推理步骤对齐的分布式监督，在数学推理基准上媲美在线强化学习，并实现约 2 倍训练加速。
ROSS 引入了对历史展开的选择性监督，以改进语言模型后训练，从而在数学、代码和软件工程任务中提升性能，无需额外的策略展开。