标签
该论文提出了一种逆向推理大语言模型，它以答案为条件生成推理轨迹，从而能够利用仅含答案的数据进行高效自蒸馏，作为介于监督微调（SFT）与强化学习（RL）之间的一种折中方案。在 Countdown 和 GSM8K 上使用 Qwen3-0.6B 时，单轮离线蒸馏使高难度提示的 pass@1 大致翻倍；该逆向模型还可兼作验证器，将 best-of-n 选择准确率从 0.753 提升至 0.969。
VASPO 将自蒸馏教师与 PPO 中的 critic 结合，通过 token 级优势与有界概率比率改进推理训练，在六个数学推理基准上相比 PPO 显著提升 Qwen3-4B 与 OLMo3-7B 的准确率。
该论文对智能体强化学习中的自蒸馏方法进行了系统性评测，对比十种代表性方法与GRPO在四个基准上的表现，发现没有方法能稳定超越GRPO，且强最终性能可能掩盖不稳定的训练过程。
该论文研究了策略内自蒸馏（OPSD）在大语言模型（LLM）自我改进过程中导致已有能力退化的问题，发现这种退化与隐藏表示几何结构恶化（簇内紧凑性和簇间分离度下降）相关，并提出表示几何正则化（RGR）方法，在不改变原有优化流程的情况下有效缓解能力退化。
论文提出VRSD（言语正则化自蒸馏），通过系统提示调节teacher对特权信息的使用，抑制on-policy自蒸馏中的捷径推理与熵坍缩，在11/12个模型-任务设置上平均提升Pass@1达3.9个百分点。
Lapras提出了一种针对时间序列语言模型(TSLM)的后训练框架，通过教师-学生自蒸馏实现连续隐空间推理，在五个时间序列问答基准上平均F1提升最高10.79%，同时生成token减少23.9倍。
该论文提出 agentic SElf-distilLation with environmental Feedback modeling (SELF) 框架，将环境反馈建模与后见自蒸馏联合优化，以在缺乏可验证奖励的交互环境中提升语言智能体的训练效果，在 τ-bench 和 AppWorld 基准上显著优于 SDPO 和 GRPO。
该论文提出Synthetic Self-Distillation (SynthSelf)，通过借助同家族稍大的对齐模型进行合成自蒸馏，实现小型模型的持续后训练，在保持原有分布的同时兼顾新能力获取与知识保留，并在多个基准上超越现有方法。
本文提出了 MIRROR，这是百度提出的一个自蒸馏框架，将大模型个性化从基于参考 token 的模仿转向通过在线分布对齐来内化用户偏好。其中的 MIRROR-F 聚焦式插件能够在多个基准和不同规模模型上提升内容质量，同时缓解灾难性遗忘问题。
这篇论文提出了SPECTRUM，一种用于循环自蒸馏（Looped Self-Distillation）的近端谱调制方法，通过从固定参考锚点重新估计敏感损失的键/值几何结构，在代码生成中保留正确解的多样性，实验表明其在MBPP上保留了89.9%的初始AST解丰富度，显著优于普通自蒸馏。
SpatialOPSD 提出了一种非策略自蒸馏框架，将空间编码智能体的已验证执行轨迹作为特权信息蒸馏进多模态大模型，通过重复感知蒸馏（重复掩码 + 不似然正则化）缓解信息泄漏，实现无工具的空间推理，并在空间及 OOD 基准上超越 SFT 和 GRPO。
This paper presents MIMESIS, a specialized user simulator (a 9B model) trained on real user conversations with explicit reasoning supervision, surpassing frontier models in behavioral fidelity. The study further freezes this simulator and uses it for multi-turn reinforcement learning to train agents, and proposes the **Coached On-Policy Self-Distillation (CSD)** method, achieving stronger generalization performance across nine unseen user simulators.
VisionWeave 引入了弹性视觉表征编织能力，作为多模态大语言模型（MLLM）的原生特性。该方法结合了门控空间池化器（Gated Spatial Pooler）与粒度路由器（Granularity Router），能够自适应地分配视觉 token。基于 Qwen3.8-27B 构建，VisionWeave 在保留 98.9% 性能的同时节省了 43.0% 的 token，并在 SGLang 推理服务中实现了 2.3 倍的吞吐量提升。
论文提出 Self-Retrospection Distillation (SRD)，通过让策略在行动前预测可能遇到的陷阱，并利用事后轨迹进行自蒸馏来对齐前瞻预测，解决了 GRPO 类方法中大量全同奖励组导致零梯度的问题；在 2B 模型 98% 全失败组的场景下，GRPO+SRD 将训练成功率从 0% 提升至 60.6%。
该论文提出了 **Intent-Eval** 基准，用于系统研究大语言模型在多轮对话中追踪用户意图变化的能力。研究发现，模型会把已经被拒绝或已被替换的提议误当作仍然有效的要求，作者将这一现象称为 **mentioned-as-in-effect 混淆**（即误把"仅被提及"的内容当作"正在生效"的要求）。为缓解这一问题，论文进一步提出 **Intent-OPSD**——一种基于决策的在策略自蒸馏（on-policy self-distillation）框架，以提升模型对活跃意图的遵循能力。
本文提出 ASCENT，一种在线智能体测试时训练方法，允许 LLM 智能体通过将已验证的执行轨迹自蒸馏为持久的 LoRA 更新，在跨任务过程中改进自身权重，并在 ALFWorld、WebShop 和 AppWorld 上进行评估。
本文提出激活条件化自蒸馏（Activation-Conditioned Self-Distillation, ACSD）方法：通过对比模型自身生成的正确与错误轨迹之间的激活差异提取导向向量（steering vector），构建冻结的自教师模型，在五个模型的数学基准测试上取得最优平均准确率，其中在 DeepSeek-R1-0528-Qwen3-8B 上达到 71.9%。
Pivot-SD（EMNLP 2026 Oral）提出一种面向掩码扩散语言模型的高效自蒸馏方法，通过信息增益识别关键的"pivot"去噪步骤并仅对这些步骤进行奖励/惩罚，仅用200个问题在数学与代码任务上以更少算力超越全序列SFT和在线RL基线。
本文分析了在线自蒸馏（OPSD）中对前向 KL 目标进行逐点裁剪为何会适得其反：论文通过理论证明与实证实验表明，被裁剪的目标可能会将 token 概率推离教师模型，从而导致推理输出中出现持续的 token 重复现象。
该论文提出了一种位置选择性自蒸馏方法，用于利用自然语言反馈训练 LLM 评判模型。该方法通过逐位置的熵变化来屏蔽容易记忆的词元，在主观任务上将分布外泛化能力提升了 2–9 个点，优于 GRPO 等结果监督强化学习方法。