标签
本文提出 CIG-SFT，一个信息论框架，通过估计每个示范 token 的任务条件信息增益来加权监督信号，从而在数学推理与代码生成基准上提升 SFT 的泛化能力，且无需额外数据或在线采样。
本文提出SCALE（通过局部熵进行自适应的可控选择，Selective Control of Adaptation via Local Entropy），这是一种熵引导的方法，它冻结预训练模型与SFT增量，同时学习有界的token级和模块级门控，以便在监督微调过程中对已学习的特征进行抑制、反转或外推。该方法在Qwen2.5-Math和Qwen3-4B-Base模型上取得了优异的数学推理和代码生成结果，超越了现有的token重加权基线方法。
介绍FiRe-OPD，一种用于大语言模型在线策略蒸馏的方法，它过滤低质量轨迹并应用软重加权来强调信息丰富的令牌，在强到弱、单教师和多教师设置中实现了改进的性能。