标签
提出中继在策略蒸馏（Relay-OPD），通过在检测到的交接触发点让教师短暂接管以纠正推理轨迹，解决了在策略蒸馏中的前缀失败问题。在数学推理基准上实现一致改进，并将训练轨迹长度减少超过50%。
Trajectory-Refined Distillation (TRD) 通过在蒸馏前在轨迹层面对学生模型的生成序列进行修正，解决了大语言模型（LLM）在同策略蒸馏中的前缀失败问题，在多项基准测试中持续优于先前基线方法。