论文页面 - 忠实度指标并非衡量忠实度：一项基于真实标签的元评估

来源：https://huggingface.co/papers/2605.25052

摘要

研究人员创建了一个包含 3,066 个标注思维链示例的基准测试，涵盖 13 个任务和 10 个模型，系统评估了忠实度指标，结果显示大多数指标表现接近随机，且在可靠性与效率方面存在显著局限。

思维链（Chains of thought, CoTs）已成为解释和审计大语言模型行为的核心工具。然而，越来越多的证据表明，这些推理轨迹往往无法忠实地反映模型预测背后的计算过程。已有多种忠实度指标被提出，但它们是否真的衡量了忠实度仍不得而知。回答这一问题需要真实标签，而由于内部计算不可直接观测，这类标签难以获取。因此，大多数提出指标的论文仅报告绝对分数或与先前指标的比较，而现有少数基准测试则依赖于可解释性或重要性等替代指标，这些属性与正交于忠实度，可能误导对 CoT 是否可信的判断。我们通过构建任务来应对这一挑战，这些任务的输出能够揭示哪些中间计算必然产生了它们，并开发了一条自动化标注流水线，在步骤级别和 CoT 级别生成忠实度的真实标签。基于这一方法论，我们提出了 BonaFide——一个包含 3,066 个标注 CoT 的基准测试，覆盖 13 个任务和 10 个模型，并利用它首次对主流忠实度指标进行了系统评估。我们的实验表明，大多数指标表现接近随机水平，存在强烈的预测偏差，且在较长 CoT 上性能下降。最佳指标在 CoT 级别仅达到 0.70 的 AUROC，而在步骤级别另一指标达到 0.59，且两者均无法跨设置迁移，同时计算成本高昂。我们的结果揭示了当前忠实度评估中的根本性缺陷，并呼吁开发更可靠、更高效的指标。

查看 arXiv 页面（https://arxiv.org/abs/2605.25052）查看 PDF（https://arxiv.org/pdf/2605.25052）项目页面（https://huggingface.co/collections/yoavgurarieh/bonafide）GitHub1（https://github.com/yoavgur/BonaFide）添加到收藏（https://huggingface.co/login?next=%2Fpapers%2F2605.25052）

在您的代理中获取此论文：

hf papers read 2605.25052

没有最新的 CLI？curl -LsSf https://hf.co/cli/install.sh | bash

引用此论文的模型0

暂无模型链接此论文

在模型 README.md 中引用 arxiv.org/abs/2605.25052 以从此页面链接。

引用此论文的数据集2

yoavgurarieh/BonaFide-Extended 查看器• 约2小时前更新 • 19.5k • 280 • 1 (https://huggingface.co/datasets/yoavgurarieh/BonaFide-Extended)

yoavgurarieh/BonaFide 查看器• 约2小时前更新 • 3.07k • 102 • 1 (https://huggingface.co/datasets/yoavgurarieh/BonaFide)

引用此论文的 Spaces1

包含此论文的合集1