标签
本文提出SCALE（通过局部熵进行自适应的可控选择，Selective Control of Adaptation via Local Entropy），这是一种熵引导的方法，它冻结预训练模型与SFT增量，同时学习有界的token级和模块级门控，以便在监督微调过程中对已学习的特征进行抑制、反转或外推。该方法在Qwen2.5-Math和Qwen3-4B-Base模型上取得了优异的数学推理和代码生成结果，超越了现有的token重加权基线方法。
本文提出了熵优势策略优化（EAPO），一种用于大语言模型强化学习的熵引导信用分配方法，该方法不对称地处理成功与失败，以增强探索并在推理任务上实现更优性能。
提出了一种无需训练的语义感知核熵（SAKE）引导方法，用于文本扩散模型，利用核格拉姆矩阵上的二阶Rényi熵在采样过程中平衡保真度与多样性。实验表明，在推理密集型任务上，该方法改善了Pareto前沿和多样本性能。
本文提出了EGRSD和CL-EGRSD，这是在策略自蒸馏方法，通过教师熵对令牌级监督进行加权，以改善大语言模型推理准确性-长度的权衡，并在Qwen3-4B和Qwen3-8B上进行了评估。