评判LLM评判者：基于LLM的自动化文本生成评估中的评分标准伪影问题

# 关于基于LLM的自动化文本生成评估中的评分标准工件问题
来源：https://arxiv.org/html/2609.02942
作者：Sowmya S Sundaram，Gokul S Krishnan，Balaraman Ravindran  
所属机构：负责任人工智能中心（CeRAI），Wadhwani数据科学与人工智能学院（WSAI），印度理工学院马德拉斯分校，金奈，印度  
邮箱：[email protected]，{sowmya,gokul}@cerai.in，[email protected]

###### 摘要

LLM-as-a-Judge流程日益用于评估AI生成的文本，其基于一个假设：判断是基于候选回复，依据评分标准进行推理得出的。我们表明，这一假设值得进一步审视。仅使用评分标准文本（无需访问任何待评估回复）训练的分类器，在法官输出上实现了非平凡的预测性能。这表明，评分标准的表述编码了可恢复的评估信号，使得评分可以在一定程度上独立于模型输出进行预测。最后，反事实扰动实验揭示，当候选回复或评分标准本身被反转时，法官往往未能可靠地更新其判断。我们的发现引发了对基于评分标准的LLM评估可靠性的担忧，并强调需要对通过LLM进行自动化评估的方法论进行进一步研究。

## 1 引言

基于LLM的评估器现已被广泛用于基准测试和验证生成系统，尽管越来越多的证据表明存在系统性偏差，例如位置效应、冗长偏好以及对提示的敏感性（Shi等人，2025；Chen等人，2024；Li等人，2026；Gu等人，2026；Tan等人，2025）。这些问题引发了更广泛的担忧：当前的评估流程究竟是在可靠地衡量回复质量，还是仅仅反映了评估设置本身的工件？

在对LLM作为评判者的批评基础上，存在许多评估场景，包括直接评分、成对比较和基于参考的评分，它们在输入结构和提供的指导方面各不相同（Gu等人，2026）。其中，基于评分标准的评估被广泛采用，尤其是在高风险领域，因为它提供了明确的评判标准，旨在标准化判断并提高透明度（Croxford等人，2025）。这种依赖性基于一个假设：评分标准约束模型，而不会引入独立的评估信号。我们通过提出一项新颖的受控实验（图1）来检验这一假设，该实验探讨是否仅从评分标准本身（无需访问候选回复或其上下文）就能恢复出评估信号。这种表述隔离了评分标准的贡献，并消除了回复评估中出现的系统性偏差。

使用HealthBench（Arora等人，2025）和ResearchRubrics（Sharma等人，2026），我们发现仅凭评分标准文本就能预测法官输出，这表明评分标准表述与评估结果之间存在先前未充分审视的耦合。我们对嵌入几何结构的分析表明，评分标准文本传达了评估信号。这促使我们对基于LLM评估中的评分标准设计进行更密切的审视。

## 2 相关工作

先前关于LLM-as-a-Judge的研究表明，自动化评估对位置效应、评分偏差、提示框架及其他非语义因素敏感，引发了对基于模型判断可靠性的担忧（Zheng等人，2023；Shi等人，2025；Chen等人，2024；Li等人，2026；Tan等人，2025；Gu等人，2026）。在HealthBench（其中专家制定的评分标准定义了医疗回复的评估标准）和ResearchRubrics（使用特定实例的评分标准）等基准测试场景中，评分标准通常被视为评估指令，而非潜在的信号源（Arora等人，2025；Sharma等人，2026）。我们的工作不同之处在于，它探究评分标准文本本身是否编码了可恢复的评估先验，独立于候选回复。这与显示语言模型常利用表面词汇线索而非预期语义信号的捷径学习研究相关（Zhou等人，2024；Ong Ly等人，2024）。

## 3 LLM-as-a-Judge探针设计

基于评分标准评估的一个核心假设是，判断基于候选回复相对于评分标准的有根据推理而产生，评分标准被视为评估指令。我们转而研究评分标准表述是否编码了与评估标签相关的潜在先验，使得模型仅凭评分标准文本就能部分推断预期判断（图2）。

**形式化定义**：令 \( r \) 表示评分标准，\( z \) 表示输入上下文，\( x \) 表示候选回复，\( y \) 表示法官标签。LLM-as-a-Judge旨在建模 \( p(y \mid r, z, x) \)，其中评分标准规定了回复的评估方式。为了使评估有效，评分标准应指导判断，而非独立决定标签。特别地，\( y \) 不应仅从 \( r \) 预测，即 \( p(y \mid r) \approx 0.5 \)。我们通过实证检验 \( p(y \mid r) > 0.5 \)，这表明评分标准文本包含独立于回复 \( x \) 和上下文 \( z \) 的、关于 \( y \) 的独立预测信号。

**图1注释**：评分标准探针：仅给定一个评分标准，我们训练一个分类器来预测法官标签，以检验评分标准文本是否包含超越随机机会的可恢复评估信号。
除预测性能外，我们还通过泛化性研究和嵌入空间的几何结构分析了评分标准信号的结构。
**图2注释**：探针概述。分类器仅接收评分标准文本并预测LLM-as-a-Judge的输出，而被评估的答案、上下文元数据和基础信息均被排除。

## 4 LLM-as-a-Judge探针实验

我们首先描述实验的细节和设置，然后是探针结果。

### 4.1 实验细节

我们在两个互补的基准上评估我们的探针：HealthBench（包括其HealthBench-Eval和HealthBench-Hard变体），它为开放式医疗回复提供了特定对话的评分标准；以及ResearchRubrics，它使用特定实例的评分标准来评估研究查询是否得到充分回答。

**图3注释**：探针数据集的逐指标比较。PubMedBERT分类器使用评分标准文本预测LLM-as-a-Judge标签。左侧面板显示了Gemma、LLaMA、MedGemma和MedLLaMA在HealthBench上的结果，右侧显示了Gemma和LLaMA在ResearchRubrics上的结果。后者反映了该非医疗领域可用的候选模型评估。误差棒表示标准差。加权分类（WC）和平衡子采样（BS）队列在此呈现以解决类别不平衡问题。

**数据集来源**：我们分析两个使用特定实例评分标准的互补基准：HealthBench和ResearchRubrics。
HealthBench（Arora等人，2025）是一个全面的医疗数据集，包含复杂的医疗对话，每段对话都配有一组特定案例的评分标准。更重要的是，这些评分标准由临床医生提供，而非LLM生成。这些遵循基准测试最佳实践的特性，使HealthBench成为该分析的有力候选。在标准评估设置中，LLM生成回复，由LLM-as-a-Judge根据相应评分标准进行评估，产生二进制可满足性标签（0/1）。我们拥有5000个这样的对话，配有一个期望答案和特定案例的评分标准。
ResearchRubrics（Sharma等人，2026）提供了一个互补的非医疗场景，将研究查询与特定实例的评分标准配对，以评估查询是否得到充分回答。因此，尽管两个基准在领域和任务上有所不同，但两者都采用了逐实例的评分标准，使我们能够检验源自评分标准的评估信号是否在不同的评估场景中持续存在。

**探针数据集**：我们首先运行候选LLM并从各种模型获取回复。然后应用LLM-as-a-Judge模型并获得类别标签（0/1）。我们使用Qwen（Qwen2.5-7B-Instruct，Qwen等人，2025）作为LLM-as-a-Judge，评估来自LlaMA（meta-llama/Llama-3.1-8B-Instruct，Grattafiori等人，2024）、MedLlaMA（MMed-Llama-3-8B，Qiu等人，2024）、Gemma（google/gemma-7b-it，Gemma等人，2024）和MedGemma（google/medgemma-1.5-4b-it，Sellergren等人，2026）的LLM输出。然后，我们构建四个分类器数据集，使用评分标准作为输入，每个模型的LLM-as-a-Judge输出作为标签。HealthBench-Eval-Probe包含大约43k个评分标准，而HealthBench-Hard-Probe包含大约11k个评分标准。最终实验在这两个数据集上评估了八个队列。此外，ResearchRubrics-Probe包含大约2.5k个评分标准，用于评估超出医疗领域的泛化能力。每个分类器使用80/20的训练-测试分割进行训练。

**分类器设置**：我们主要实验使用基于PubMedBERT（Gu等人，2021）的分类器。对于泛化性，我们测试HealthBench-Eval-Probe和HealthBench-Hard-Probe之间的跨数据集迁移，并在ResearchRubrics-Probe上进行评估。[代码在此可用：Repository Link](https://anonymous.4open.science/r/JudgingLLM-as-a-Judge-CFA6/)

### 4.2 评分标准探针结果

在本研究中，我们评估了基于PubMedBERT的分类器在四个队列（Gemma，MedGemma，LlaMA，MedLLaMa）上的性能，使用标准指标，同时通过加权分类和平衡子采样策略明确考虑了类别不平衡（图3）。我们观察到分类器输出 > 0.5，在某些情况下甚至超过0.8，即使在考虑了数据集不平衡之后。在ResearchRubrics上观察到了类似的模式，表明评分标准文本携带的预测信号超越了医疗领域。综合来看，这些结果表明评分标准文本包含一种能超越随机机会预测法官标签的信号。关于这些分类器实验的额外分析包含在附录B中。

### 4.3 泛化性检查

我们进行了多项检查，以评估仅评分标准预测信号的鲁棒性和泛化性。首先，我们使用5折交叉验证和自助法置信区间评估基于PubMedBERT的探针，而不是依赖单一的训练-测试分割。这些评估的详细结果报告在附录C中。

我们还检查了观察到的性能是否对分类器架构的选择敏感。我们将PubMedBERT与BERT、RoBERTa和DeBERTa-v3进行比较，并在附录D中报告了相应的结果以及多数类基线。这些比较有助于区分观察到的信号与特定分类器或类别不平衡带来的性能。

最后，我们进行了额外的迁移和诊断分析，包括HealthBench-Eval-Probe和HealthBench-Hard-Probe之间的跨数据集评估，以及使用更简单分类器（如TF-IDF与逻辑回归）的实验。这些结果提供在附录C中。总的来说，这些分析为仅评分标准预测信号的鲁棒性提供了互补的检查。

## 5 反事实一致性分析

仅评分标准探针建立了评分标准文本与法官决策之间的关联，但这种关联原则上可能源于项目难度的差异，而非基于评分标准的评估。为了区分这些可能性，我们进行了两项配对反事实实验，直接测试法官是否对候选回复或评估标准中受控的变化做出反应。详细的实验设置和结果见附录E。

**图4注释**：输出扰动：对话和评分标准固定，候选回复被反转。一个具有反事实响应能力的法官应该总是翻转其判断。然而，预期的判断翻转仅在37.7%的配对中发生，表明法官经常未能跟踪答案级评分标准满足情况的变化。

### 5.1 输出扰动

我们首先测试法官是否对候选回复的变化做出反应，同时保持对话和评分标准固定。我们随机抽取500个HealthBench对话，每个对话选择一个评分标准。对于每一对，Mistral-7B生成设计为分别满足和违反该评分标准的回复，随后进行定性检查。然后Qwen2.5-7B-Instruct在相同的上下文和评分标准下评估这两个回复。

一个具有反事实响应能力的法官应在响应级证据反转时反转其判断。然而，在493个有效配对中，法官仅在37.7%的情况下产生了预期的判断翻转，导致不一致率为62.3%（图4）。由于在每对中上下文和评分标准是固定的，这些失败不能仅仅归因于项目间难度或评分标准措辞的差异。虽然评分标准的歧义性或回复构建错误可能有所贡献，但结果表明法官对受控的、答案级证据变化的响应性严重不足。

### 5.2 评分标准扰动

接下来我们测试法官是否跟踪评估标准的变化。我们随机抽取1,000个HealthBench对话（带有来自Gemma和LlaMA的候选回复），并使用Mistral-7B构建其预期标准被反转的反事实评分标准。对话和候选回复保持固定，因此只有评分标准的语义发生变化。我们再次对配对的评分标准进行人工定性检查。

一个对标准敏感的法官应在评分标准含义反转时反转其判断。然而，Gemma和LLaMA的期望翻转率分别仅为16.8%和32.2%，对应的不一致率分别为83.2%和67.8%（图5）。因此，尽管评分标准