标签
本文提出了三种训练时干预方法（位置加权、首次错误焦点损失和链损失），用于在推测解码中将基于扩散的草稿模型与自回归验证对齐，使接受前缀长度提升21-76%，且不增加推理开销。
本文研究了在评估LLM个性化的三个阶段（属性提取、相关性匹配和响应生成）中，合成数据与人类数据之间的差距。结果表明，模型在真实人类数据上表现更差，作者引入了轻量级训练干预措施以改善对齐。
本文提出一个框架，通过控制信息流来评估和提升思维链推理的忠实性，使用基于熵、KL散度和梯度的诊断方法，并引入训练干预措施（注意力掩码、梯度掩码、对抗扰动），使推理更加透明，减少对捷径的依赖。