论文页面 - 大型语言模型对自己的回答过度自信

来源：https://huggingface.co/papers/2606.03437

摘要

指令微调会降低大型语言模型的校准能力，而聊天模板通过所有权偏差加剧了过度自信问题——将模型回答在置信度评估时重新表述为用户输入可缓解此现象。

先前研究表明，经过指令微调的大型语言模型（https://huggingface.co/papers?q=instruction-tuned%20large%20language%models）（LLMs）的校准性不如其基础预训练版本。然而，关于广泛使用的聊天模板（https://huggingface.co/papers?q=chat%20template）对对话型LLM校准（https://huggingface.co/papers?q=calibration）的影响知之甚少。在本工作中，我们通过解耦后训练算法与聊天格式的影响，探究导致这种校准偏差的机制。我们发现，尽管指令微调从根本上损害了校准能力，但聊天模板（https://huggingface.co/papers?q=chat%20template）通过一种“所有权偏差”（https://huggingface.co/papers?q=ownership%20bias）加剧了该问题——模型对自己答案的置信度显著高于用户提供的相同答案。在六个近期开源权重LLM、三个基准测试以及三种置信度激发（https://huggingface.co/papers?q=confidence%20elicitation）方法上的大量实验表明，模型对自己回答分配的置信度高出高达26%。利用这一发现，我们提出一种简单的推理阶段策略：在置信度激发（https://huggingface.co/papers?q=confidence%20elicitation）时将模型的回答视为用户输入。该方法显著降低了过度自信（https://huggingface.co/papers?q=overconfidence），并将校准能力提升最多26%，而无需重新训练（https://huggingface.co/papers?q=retraining），缩小了基础模型与指令微调模型之间的差距。

查看 arXiv 页面（https://arxiv.org/abs/2606.03437）查看 PDF（https://arxiv.org/pdf/2606.03437）添加到收藏（https://huggingface.co/login?next=%2Fpapers%2F2606.03437）

在你的代理中获取此论文：

hf papers read 2606\.03437

没有最新的 CLI？curl \-LsSf https://hf\.co/cli/install\.sh \| bash

引用此论文的模型0

没有模型链接此论文

请在一个模型的 README.md 中引用 arxiv.org/abs/2606.03437，以便从本页面链接。

引用此论文的数据集0

没有数据集链接此论文

请在一个数据集的 README.md 中引用 arxiv.org/abs/2606.03437，以便从本页面链接。

引用此论文的 Space0

没有 Space 链接此论文

请在一个 Space 的 README.md 中引用 arxiv.org/abs/2606.03437，以便从本页面链接。

包含此论文的合集0

没有包含此论文的合集

请将此论文添加到一个合集（https://huggingface.co/new-collection）中，以便从本页面链接。