标签
解释了前沿模型后训练流程中蒸馏的三种用途：将大模型压缩成小模型、合并强化学习专家、以及自我学习。还包括一篇详细说明每个方法对应哪些模型的文章。
介绍了Pedagogical RL，一种利用特权信息指导成功轨迹采样以增强LLM推理的方法，相比GRPO和在线策略蒸馏，实现了高达40%的相对增益。
介绍了教学RL，一种范式，其中训练特权自我教师以生成正确且易于遵循的轨迹，表明这是一个相对简单的RL问题。