标签
提出H^2SD，一种混合事后自我蒸馏框架，通过对成功和失败轨迹采用不同的教师模型使用方式，改善了RLVR，实现了更优的推理性能。
提出了BIRD，一种两阶段自推理蒸馏方法，该方法在策略训练之前自举简洁的推理轨迹，在MATH-500和AIME基准测试上实现了更强的精度-效率权衡。在Qwen3-8B上，准确率从86.2%提升至92.0%，同时平均响应长度从3,099个token降至1,115个token。
一篇研究论文，介绍了CANON，一种无标签自蒸馏方法，利用采样解之间的共识为训练大型语言模型在推理任务上提供密集的标记级监督，可将pass@1提升最多12个百分点，并以极少的计算量超越无标签强化学习。
本文识别了大型语言模型在On-Policy Self-Distillation中的'Thinking Collapse'现象，其特点是中间推理步骤的减少，并提出了AD-OPSD控制框架，通过将高风险抑制令牌锚定到参考先验来缓解这种崩溃。该方法在数学基准测试上实现了高达+4.1%的绝对平均准确率提升。
本文提出执行门控自蒸馏（Execution-Gated Self-Distillation）方法，利用确定性的、不可欺骗的启动检查作为迭代自蒸馏的过滤器，在14B模型上实现了从自然语言描述生成可运行Godot游戏的显著改进。
本研究引入了针对推理轨迹的章节感知压缩，训练模型舍弃填充性叙述，同时保留计算和验证片段，在比原始推理少用2-3倍词元的情况下，达到或超越原始准确率。
DeepSearch-Evolve 引入了一个用于 Web 代理的自我蒸馏框架，该框架使用可验证环境（DeepSearch-World）和 420K 多跳问答任务，无需从更强模型蒸馏即可实现有竞争力的性能。
本文介绍了GeoSD，一种几何自蒸馏目标，采用Hellinger损失和近端Fisher-Rao距离项来对抗在线策略自蒸馏中的漂移，在不同模型规模上将分布外推理准确率提升了5.7–8.6个百分点。
OPSD-V 通过使用真实长视频数据作为训练时的时间上下文，提供密集的轨迹级监督，从而增强视觉质量和运动动态，同时不改变推理机制，改进了少步自回归视频扩散模型。
This talk introduces self-distillation methods (SDPO and SDFT) that use model-generated rollouts and rich environment feedback (e.g., compiler errors) to create dense token-level learning signals, achieving 6× faster convergence than GRPO and 11× shorter reasoning traces, while also enabling sequential skill learning without forgetting.
本文介绍了 dOPSD，一种面向扩散语言模型的在线策略自蒸馏方法，该方法利用内部去噪轨迹来提升数学推理和代码生成能力。
本文研究了持续后训练中的在线策略自蒸馏，发现它能加速领域内特化，但无法防止遗忘，并且在分布外场景中可能崩溃，这表明仅靠在线策略数据不足以实现持续学习。
PHF提出了一种方法，在策略自适应自蒸馏过程中，将特权教师模型的隐藏状态轨迹蒸馏给学生模型，从而提升语言模型的推理性能。
OPID 是一个框架，它从完成的在线策略轨迹中提取密集的词元级监督信号，用于语言智能体的强化学习，通过分层技能（情节级和步骤级）来提高样本效率和鲁棒性。
PolicyAlign 提出了一种框架，通过合成指令生成和在线策略自蒸馏，直接将大型语言模型与自然语言安全策略对齐，在不依赖昂贵监督数据的情况下提升安全性。
OPID提出了一种同策略技能蒸馏框架，从完成的轨迹中提取密集后见监督，将基于结果的强化学习与词元级自蒸馏相结合，以提高语言智能体在多轮任务上的训练效率和性能。
本文提出Rubric-Conditioned Self-Distillation (RCSD)框架，该框架利用细粒度评分标准在自蒸馏过程中提供token级别的指导，相比GRPO和OPSD等标量奖励方法提升了推理性能。
介绍了 d-OPSD，这是首个面向扩散大语言模型的自策略知识蒸馏框架，采用后缀条件和步骤级别监督，在推理基准上优于 RLVR 和 SFT 基线。
本文提出了轨迹增强策略优化（TAPO），该方法利用模型自身正确和错误的展开构建微反思修正轨迹，以提高大型语言模型的推理能力，在数学基准测试上优于标准自蒸馏方法。
本文介绍了ViGOS，一种多模态在策略自蒸馏方法，通过让学生模型先产生视觉描述再进行推理来解耦感知与推理，减少对捷径的依赖并改善图像接地行为。