# 模型真的用了吗？反事实训练提升语言模型的自我归因能力

Hugging Face Daily Papers 论文
language-models self-attribution counterfactual-training fine-tuning interpretability rlhf open-source

摘要

论文提出 CREDIT 方法，通过反事实训练让语言模型实现准确的自我归因——判断其回答在多大程度上受到用户提示的影响，且无需人工标注。在 Qwen3-8B 上，平衡准确率从 0.49 提升至 0.86；四个开源模型的表现均超过前沿模型，代码已开源。

对于可解释和可问责的语言模型而言，一个根本性挑战在于揭示外部信息如何影响其回答。本文考察模型是否具备自我归因能力——即模型是否会在（且仅在）其回答受到与问题一同提供的信息影响时，对此加以说明。此外，我们还探索了如何通过反事实训练来提升自我归因能力，该方法显式地教会模型区分哪些回答依赖于所给信息、哪些不依赖。 我们发现，在十一个前沿模型中，大多数模型很少在其回答中对有影响的信息进行归因，而其余模型则会对无影响的信息进行归因。将"承认"环节加入推理过程也无法解决这一问题：这种承认无法传递到最终回答。 我们提出了 CREDIT，该方法利用反事实标签直接监督最终回答层面的自我归因，无需人工标注。CREDIT 在四个开放模型（包括两个蒸馏推理模型）上显著提升了归因能力，并优于推理级微调和提示工程等基线方法。在与用户建议一致的回答中，CREDIT 能够区分那些因用户建议而改变的回答与模型原本就会给出的回答。这些改进可以部分迁移到未见过的信息类型以及包含相互冲突答案来源的提示中。
查看原文
查看缓存全文

缓存时间: 2026/10/28 01:53

论文页面 - 模型真的用了吗？反事实训练提升语言模型的自我归因能力

来源：https://huggingface.co/papers/2610.35295

当模型同意了你的建议时，是你的建议改变了它的回答，还是它本来就会同意？在我们的论文中，我们让模型在回答后追加“依赖于：你的建议“或“无“，然后通过不带提示重复提问四次来验证。

我们发现前沿模型的判断表现接近随机水平。CREDIT 基于模型自身的答案进行微调，仅根据模型在无提示时给出被提示答案的频率，来调整最后的归因行。无需任何人工标注。训练后，Qwen3-8B 的平衡准确率从 0.49 提升至 0.86，且我们测试的四个开源模型在相同问题上的表现均超过了所有前沿模型。

我们已开源代码：CREDIT（https://github.com/stanford-oval/CREDIT）。欢迎提出问题或反馈。

相似文章

何时该重新思考：为视觉-语言模型学习多视角自验证

Hugging Face Daily Papers

MOTIVE 提出一个让视觉-语言模型自主判断何时信任答案、何时重新思考的框架，通过五个互补的验证视角和学习到的可靠性分数，在五个基准上将 Qwen2.5-VL 模型平均准确率提升约 8 个百分点。

各有不足：在不同证据状态下校准语言模型

arXiv cs.CL

提出证据状态校准（evidence-state calibration）概念与SuffiCE方法，通过微调模型下一token分布中的置信度，使其随证据变化而准确反映答对概率，在临床诊断和多跳问答上将Brier分数降低最高60%、AUROC提升最高0.16。