标签
本文研究KL散度在大型语言模型在策略蒸馏中的必要性，表明仅保留更新方向即可，并提出共识多教师在策略蒸馏（C-MOPD）以增强多教师学习。
论文研究了正确性门控多教师蒸馏，发现决策偏移、标签功能丧失和不确定的依据审计，与硬过滤相比没有增量优势。
本文研究了大语言模型在策略内蒸馏中的泛化行为，表明它转移了推理行为，并且教师-学生来源对齐至关重要，多教师组合会导致能力权衡。