提示框架扭曲了基于计数的LLM错误检测评估：来自数字锚定的证据

# 提示框架扭曲基于计数的LLM错误检测评估：来自数值锚定的证据
来源：https://arxiv.org/html/2607.01240
###### 摘要

基于计数的F1被广泛用作LLM错误检测质量的代理指标，但我们发现，它可以在跨度定位没有任何相应改进的情况下显著上升——我们将这种差距称为*F1膨胀*。我们提出ErrorBench作为提示诱导计数扭曲的受控压力测试协议。ErrorBench涵盖六个当代LLM、五个提示条件以及143个CoNLL-2014段落上的4,290条响应。在CoNLL-2014 M2风格评分（基于模型描述提取的假设编辑的重叠匹配）下，锚定提示导致高达0.790.79个F1膨胀点，在严格匹配下高达0.960.96。使用官方ERRANT 3.0.0流水线和多参考评分在100100个段落上进行的复现再现了这一模式：跨六个模型平均，Blind→→Anchored移动使Count-F1提升+0.21+0.21，而多参考ERRANTF0.5F_{0.5}仅提升+0.04+0.04。在模型家族层面，计数响应在高度服从指令的GPT/Claude系统中更大，在Gemini家族中较小，这是在压力测试协议下的一种描述性模式。这些发现表明，实际的LLM校对和文档审查系统应避免预填充的错误计数，并应在基于计数的指标之外报告跨度感知指标。因此，每当提示承载数值期望时，我们将纯计数评估视为不可靠，并将ErrorBench定位为提示诱导评估扭曲的压力测试协议，而非整体模型质量比较。

提示框架扭曲基于计数的LLM错误检测评估：来自数值锚定的证据

杨德坤 浙江大学[email protected]

## 1 引言

大语言模型（LLMs）越来越多地被部署为自动校对器、代码审查器和事实核查器，而它们在这些角色中的评估通常被简化为一个标量：模型报告的错误数量是否大致与参考标准中的数量匹配？当该数量匹配时，即使模型对*哪些*错误发生的描述很差，系统也容易被赋予接近1.01.0的F1值。本文探讨了这种捷径的一个具体后果，我们称之为F1膨胀：在同一输出上，计数层面的一致性与跨度层面的一致性之间的差距。我们表明，这种差距可能因提示中的单个句子而显著扩大，并且其幅度足以改变仅基于计数评估得出的表面结论。本文的预期结论并非某个模型家族优于另一个，而是暴露预期计数的协议会使基于计数的指标变得不可靠。

为了以受控方式揭示这种差距，我们需要一种能够改变计数而不改变底层文本的机制。数值锚定正好提供了这种机制。大量认知心理学研究表明，人类会从一个显著初始参考值出发进行调整，但调整不足(Tversky and Kahneman,1974 (https://arxiv.org/html/2607.01240#bib.bib16); Epley and Gilovich,2006 (https://arxiv.org/html/2607.01240#bib.bib21))，而最近的研究表明LLM在一般推理任务上表现出类似行为(Macmillan-Scott and Musolesi,2024 (https://arxiv.org/html/2607.01240#bib.bib22))。在现实部署中，锚定很少是任意的：AI文档审查系统可能会在其查询前加上“该合同已被标记为包含约55个错误”，这是一种与谄媚相似信号(Perezet al.,2022 (https://arxiv.org/html/2607.01240#bib.bib14); Sharmaet al.,2024 (https://arxiv.org/html/2607.01240#bib.bib15))，我们可以完全受控地注入。通过为每个段落配以提供真实计数、膨胀计数和缩减计数的提示，我们获得了一个用于评估可靠性清晰压力测试：任何移动Count-F1但保持Span-F1不变的因素都是F1膨胀的直接观察。

因此，我们的研究问题与其所促成的评估批判密不可分。锚定计数会膨胀Count-F1吗？这种膨胀在跨度感知重新评分后是否仍然存在？在该协议下，哪些模型家族行为最敏感？我们做出四项贡献。(1)我们在公共基准上正式定义并量化了F1膨胀，报告在4,290条响应中，M2重叠下差距高达0.790.79，严格M2下高达0.960.96。(2)我们验证了这种膨胀并非基于描述性编辑提取的假象：在涵盖*所有六个模型*的100100段落校正文本子集上，使用官方ERRANT 3.0.0流水线和多参考（标注者0++1）评分的完整复现再现了这一模式（平均Blind→→Anchored：Count-F1+0.21+0.21，多参考ERRANTF0.5F_{0.5}+0.04+0.04；配对bootstrap显示在95%95%置信区间下，5/65/6个模型的ΔCount−ΔERRANT>0ΔCount−ΔERRANT>0）。(3)我们将ErrorBench介绍为一种压力测试协议：包含143个段落的CoNLL-2014测试平台，配备五个标准化提示条件，以及用于提示诱导计数扭曲的Count Bias (CB)和锚定敏感性指数 (ASI)诊断指标。其作用类似于评估设计的鲁棒性审计，而非模型质量比较。(4)跨模型、跨世代的比较提供了模型家族的描述性证据，表明强大的指令遵循能力可能在本设置下与更大的锚定响应以及因此更大的F1膨胀同时出现。ErrorBench并非旨在通过整体质量比较当代模型；它旨在诊断评估协议是否容易受到提示诱导的计数扭曲影响。

## 2 相关工作

### 2.1 LLM评估与错误检测

越来越多的工作在结构化校对和事实核查任务上评估LLM。Fanget al.(2023 (https://arxiv.org/html/2607.01240#bib.bib8))发现ChatGPT在语法错误纠正基准上取得了有竞争力的表现，同时表现出过度纠正的系统性偏差。在BEA-2019(Bryantet al.,2019 (https://arxiv.org/html/2607.01240#bib.bib2))和CoNLL-2014(Nget al.,2014 (https://arxiv.org/html/2607.01240#bib.bib1))的基础上，最近的研究表明，LLM在低资源设置下可以匹敌或超过专门的GEC系统，但仍对提示措辞敏感(Bryantet al.,2023 (https://arxiv.org/html/2607.01240#bib.bib3))。在科学领域，LLM辅助审稿作为一种目标审查支持和同行评审协助机制引起了关注(Liu and Shah,2023 (https://arxiv.org/html/2607.01240#bib.bib7); Checcoet al.,2021 (https://arxiv.org/html/2607.01240#bib.bib9))。Liu和Shah (2023 (https://arxiv.org/html/2607.01240#bib.bib7))报告了对故意插入错误的短科学论文的初步实验，发现LLM在被要求全面审稿时表现更差，但在被明确指示查找错误时有所改善。作为补充，NLPeer等资源为同行评审和审稿协助的计算研究提供了更广泛的基础设施(Dyckeet al.,2023 (https://arxiv.org/html/2607.01240#bib.bib10))。

这一发现直接启发了我们的工作：如果二元的错误/无错误框架已经调节了行为，那么数值锚定——它编码了一个特定的预期计数——可能以尚未被研究的方式进一步扭曲模型输出。

### 2.2 提示敏感性与谄媚

LLM输出对提示措辞、指令顺序和示例选择的敏感性已得到充分证实(Zhaoet al.,2021 (https://arxiv.org/html/2607.01240#bib.bib11); Luet al.,2022 (https://arxiv.org/html/2607.01240#bib.bib12); Minet al.,2022 (https://arxiv.org/html/2607.01240#bib.bib13))。一个特别相关的现象是谄媚：LLM倾向于同意用户陈述的信念，即使这些信念在事实上是错误的(Perezet al.,2022 (https://arxiv.org/html/2607.01240#bib.bib14); Sharmaet al.,2024 (https://arxiv.org/html/2607.01240#bib.bib15))。Perezet al.(2022 (https://arxiv.org/html/2607.01240#bib.bib14))表明，模型经常在一系列知识领域中验证用户提供的虚假声明，表明提示中的陈述信息可以覆盖模型知识。类似地，对LLM-as-judge评估的研究揭示，位置偏差和社会偏见会系统地扭曲模型生成的评估(Yeet al.,2024 (https://arxiv.org/html/2607.01240#bib.bib23))，进一步激发了免锚定评估协议的需求。我们的工作不同之处在于，我们研究的是数值锚定而非事实锚定，并特别聚焦于错误检测任务中的计数估计。

### 2.3 LLM中的锚定效应

锚定效应——由Tversky和Kahneman (1974 (https://arxiv.org/html/2607.01240#bib.bib16))首次描述——是认知心理学中最稳健的发现之一。其底层机制，锚定与调整(Epley and Gilovich,2006 (https://arxiv.org/html/2607.01240#bib.bib21))，认为人们从一个显著的参考值出发，向真实估计调整，但通常过早停止调整。当人们做数值估计时，他们不成比例地受到这个初始参考值的影响。最近的工作开始研究LLM是否表现出类似现象。Macmillan-Scott和Musolesi (2024 (https://arxiv.org/html/2607.01240#bib.bib22))对LLM中的认知偏差进行了广泛调查，发现类似锚定的行为出现在各种推理任务中。Einstellung效应(Luchins,1942 (https://arxiv.org/html/2607.01240#bib.bib17))——即先前对某种解决策略的经验阻碍了对替代方案的考虑——在LLM推理中也有类似表现。据我们所知，之前没有工作直接研究错误检测任务中的数值锚定，其中锚定是提示中陈述的段落错误数量。

## 3 方法论

### 3.1 数据集构建

我们从CoNLL-2014共享任务数据集(Nget al.,2014 (https://arxiv.org/html/2607.01240#bib.bib1))构建ErrorBench，该数据集包含以M2格式标注语法错误的学习者英语作文。我们将连续的句子分组为每四个句子一段，注意不跨越文档边界，然后从M2标注中计算段落级别的错误计数。对于主要分析，段落计数和黄金编辑来自标注者0，因为段落构建需要跨所有四个句子窗口的单个一致参考。我们保留包含3-7个错误（含）的段落，以确保非平凡的检测任务同时保持可管理的复杂性，每个错误计数桶（3、4、5、6、7）采样30个段落，共143个段落（错误计数7桶产生了23个符合条件的段落，而非30个）。

每个段落存储原始文本、标注者0错误计数、M2错误类别以及每个错误的黄金标注（token跨度、源文本、修正和句子上下文），用于下游匹配。这些M2标签在完整基准上以描述性方式使用；一个100100段落子集在附录H (https://arxiv.org/html/2607.01240#A8)中额外使用官方ERRANT 3.0.0流水线和标注者0++标注者1多参考最大匹配评分进行重新评分。

### 3.2 提示条件

我们设计了五个提示条件作为主要自变量，如表1 (https://arxiv.org/html/2607.01240#S3.T1)所示。所有条件共享一个固定的系统提示，指示模型使用结构化格式响应（“ERROR N: [描述]”后跟“TOTAL ERRORS FOUND: N”），以方便自动解析。所有实验的温度固定为0以实现确定性。

表 1:ErrorBench中使用的五个提示条件，变化关于错误数量提供的先验信息。对于误导条件，我们设置M=N+2M=N+2（误导-过高）和M=max⁡(1,N−2)M=max(1,N−2)（误导-过低），其中NN是真实错误计数。这确保锚定在两个方向上恰好偏离真实值2，创建一个对称的实验设计。

### 3.3 模型

我们评估了六个当代LLM，涵盖三个组织和两个代际层级。此选择旨在提供模型家族和指令遵循机制的描述性覆盖，而非建立专有系统的整体排序：GPT-4o和GPT-5.4 (OpenAI,2024 (https://arxiv.org/html/2607.01240#bib.bib18),2026 (https://arxiv.org/html/2607.01240#bib.bib19))，Claude Haiku 4.5和Claude Sonnet 4.6 (Anthropic,2025 (https://arxiv.org/html/2607.01240#bib.bib5),2026 (https://arxiv.org/html/2607.01240#bib.bib6))（在表和图缩写为Claude H.4.5和Claude S.4.6），以及Gemini 2.5 Flash和Gemini 3.1 Pro Preview (Google DeepMind,2025 (https://arxiv.org/html/2607.01240#bib.bib20))。所有模型使用temperature=0=0和max_tokens=800=800。我们通过兼容OpenAI的API代理对每个样本-条件-模型组合执行单次推理，产生143×6×5=4,290143×6×5=4,290次总API调用（4,290次有效）。

### 3.4 评估指标

ErrorBench是一个受控压力测试协议，因此指标被解释为在受控提示扰动下提示诱导扭曲的诊断指标。我们报告四个指标。Count Bias (CB)是模型报告的错误计数与真实错误计数之间的带符号差值：CB=reported_N−true_NCB=reported_N−true_N。锚定敏感性指数 (ASI)是|CBcondition−CBBlind|/true_N|CBcondition−CBBlind|/true_N。基于计数的近似F1来源于无跨度匹配的计数重叠，使用TP=min⁡(n^,n)TP=min(n^,n)，FP=max⁡(0,n^−n)FP=max(0,n^−n)，FN=max⁡(0,n−n^)FN=max(0,n−n^)。

对于跨度感知评分，我们采用CoNLL-2014 M2评分器协议，并作一项调整：由于我们的提示引发的是自然语言错误描述，而非完全修正的句子，我们通过解析引用的"src"/"src"→→"corr"片段，并通过token级子串匹配在段落中定位它们，从每个描述中确定性提取假设编辑( sent_idx,start,end,corr)( sent_idx,start,end,corr)。无法定位的描述被计为假阳性。我们计算三个语料库级别的微平均F0.5F_{0.5}变体：严格匹配在( sent_idx,start,end,corr)( sent_idx,start,end,corr)上，检测匹配仅在( sent_idx,start,end)( sent_idx,start,end)上，以及重叠匹配在相同sent_idxsent_idx上且具有非空token重叠（GEC中边界差异的标准宽松处理）。重叠F0.5F_{0.5}是我们的主要跨度感知指标；严格和检测指标在附录F (https://arxiv.org/html/2607.01240#A6)中报告。为与早期草稿保持连续性，我们还保留了一个更简单的启发式文本匹配Span-F1作为诊断性次要代理指标。F1膨胀定义为ΔF=Count-F1−M2F0.5overlapΔF=Count-F1−M2F0.5overlap。

为便于复现，随附的源码包包含数据准备、实验和分析脚本，连同原始JSONL输出，位于errorbench/目录下。所有图均使用errorbench/scripts/make_figures.py脚本从errorbench/outputs/results.jsonl中的段落级记录生成。

## 4 实验与结果