标签
Poly-OPD 是一个框架，用于将异构文生图流模型的互补优势蒸馏到一个紧凑的流匹配学生模型中，通过像素桥和梯度兼容适配器实现。它在提升 GenEval 和 DrawBench 得分的同时，整合了多个教师模型的能力。
本文介绍了AMRD，一种自适应多教师关系蒸馏方法，用于将大型自监督语音情感识别模型压缩为面向边缘设备的轻量级学生模型。它解决了教师可靠性变化和关系结构丢失的问题，在IEMOCAP和CREMA-D数据集上展示了改进。
本文诊断并提出SoftClamp校准方法，可减少智能语言模型在多教师策略蒸馏中的工具调用边界漂移，在保持准确率的同时降低过度调用。
本文介绍了一种先竞争后协作的框架，多个前沿AI教师（Claude、Codex-GPT、Grok、Gemini）通过执行测试排名，然后协作构建可验证课程。研究发现，对教师解决方案进行模仿（SFT）会降低有能力的编程学生的表现，而使用相同课程进行带可验证奖励的强化学习（RLVR）则能提升表现，尤其是在竞赛问题上。
一篇关于2026年前沿AI模型如何利用蒸馏技术的文章，涵盖离策略、在策略和自蒸馏阶段，并以Gemma、DeepSeek、GLM、Nemotron和Qwen3为例。
CoRD是一个协作多教师解码框架，通过预测困惑度评分和束搜索合成推理轨迹，实现了大型推理模型的高效蒸馏，具有高质量输出和泛化性能。