自我判断混淆下正确性探测的诊断

# 自判断混杂下正确性探针的诊断  
来源：https://arxiv.org/html/2607.16799  

###### 摘要  

隐藏状态读取器可以预测语言模型输出是否正确，但客观正确性（OC）通常与模型自身的自我判断（SJ）一致，导致解码信号在语义上存在歧义。我们构造了OC和SJ预测相反读取排序的冲突案例。在高置信度的分歧中，传统的正确性标记对比往往将错误/自我认可的回答排在正确/自我拒绝的回答之上，遵循SJ而非OC。我们估计了与SJ和OC相关的析因方向，并评估了它们在数学推理和事实回忆中的极性。在四个参数高达14B的指令微调模型中，与SJ相关的方向在每个模型的跨领域两个方向上均以高于随机水平的概率传递，而与OC相关的方向在每个对应条件下预期OC排序的点估计均低于随机水平。这种传递不对称性在中间到后期层中发展，并在答案似然性、序列长度和空方向控制下持续存在，且无需目标领域方向拟合即可扩展到MMLU和二值TruthfulQA。在所研究的模型和诊断子集上，最可靠的可传递成分保留了SJ相关的极性。因此，仅凭可传递性并不能确立客观正确性语义。  

## 引言  

大语言模型（LLMs）可以生成流畅但事实错误的答案，这促使人们努力直接从其内部表示中读取事实可靠性（Linet al.2022b (https://arxiv.org/html/2607.16799#bib.bib1); Huanget al.2025 (https://arxiv.org/html/2607.16799#bib.bib23)）。早期研究表明，潜在知识和陈述真实性通常可从隐藏激活中解码（Burnset al.2023 (https://arxiv.org/html/2607.16799#bib.bib10); Azaria and Mitchell2023 (https://arxiv.org/html/2607.16799#bib.bib11); Liet al.2023 (https://arxiv.org/html/2607.16799#bib.bib12)），后续分析报告了跨数据集的事实真实性具有简单的线性几何结构（Marks and Tegmark2024 (https://arxiv.org/html/2607.16799#bib.bib13)）。其中一些读取器可以跨逻辑转换、问答任务和外部知识设置进行传递（Baoet al.2025 (https://arxiv.org/html/2607.16799#bib.bib38)），这表明与真理相关的信息可能以可重用的形式编码。然而，可重用性本身并不能确定读取器表示的是哪个变量。111代码和处理后的数据可在https://github.com/Yilong-Lu/Diagnosing_Correctness获取。因此，核心问题不仅在于与真相相关的方向是否传递，还在于哪个变量在传递中保持其极性。这些方向随层数、任务类型、任务复杂度和指令而变化（Azizianet al.2025 (https://arxiv.org/html/2607.16799#bib.bib34); Pouliset al.2026 (https://arxiv.org/html/2607.16799#bib.bib39)）；最近的证据将广泛共享的方向和特定领域的方向置于一个连续体中（Yinget al.2026 (https://arxiv.org/html/2607.16799#bib.bib37)）。可分离性在分布偏移下可能降低，并且一些事实错误与成功知识回忆共享内部几何结构（Halleret al.2025 (https://arxiv.org/html/2607.16799#bib.bib29); Cheanget al.2026 (https://arxiv.org/html/2607.16799#bib.bib32)）。这些发现使得可传递正确性读取器的语义解释仍悬而未决。  

参见图注  
图 1：基于冲突的正确性探针语义验证。(a) 客观正确性（OC）和自我判断（SJ）定义了四种回答类型。在B/C冲突中，OC预测B>C，而SJ预测C>B。(b) 隐藏状态在最终答案令牌处提取，位于用于定义SJ的单独判断提示之前。(c) 传统对比\(W_{\mathrm{mix}}=\mu_A-\mu_D\)分解为与SJ和OC相关的析因方向\(W_{\mathrm{meta}}\)和\(W_{\mathrm{truth}}\)。(d) 源域方向被冻结，并在另一个领域的B/C冲突上评估，包括零目标拟合传递到MMLU和二值TruthfulQA。成功的成分传递对应于\(\mathrm{AUC}(W_{\mathrm{meta}}\!\rightarrow\!\mathrm{SJ})>0.5\)和\(\mathrm{AUC}(W_{\mathrm{truth}}\!\rightarrow\!\mathrm{OC})>0.5\)。  

这种歧义的一个候选来源是模型自身的评价立场。最近的研究报告了一个共享的表示维度，涵盖主观评估和对事实主张的认同（Luet al.2025 (https://arxiv.org/html/2607.16799#bib.bib24)）。更广泛的文献通过行为置信度、失败预测和内部激活分析来研究响应评估（Kadavathet al.2022 (https://arxiv.org/html/2607.16799#bib.bib15); Wanget al.2025a (https://arxiv.org/html/2607.16799#bib.bib25); Liet al.2025 (https://arxiv.org/html/2607.16799#bib.bib31); Kumaranet al.2026a (https://arxiv.org/html/2607.16799#bib.bib28)）；聚合与自我评估相关的状态也可以改善不确定性校准（Xiaoet al.2026 (https://arxiv.org/html/2607.16799#bib.bib44)）。在特征层面上，正确性和输出不确定性可能依赖于部分不同的表示（Patelet al.2026 (https://arxiv.org/html/2607.16799#bib.bib36)）。这些发现为真相探针提出了一个更尖锐的诊断问题：当正确性标记的读取器传递时，它保留的是答案与外部真相之间的关系，还是模型对该答案自身的评估？为了使这一区分可操作，我们分离了两个响应级变量。客观正确性（OC）记录答案在外部是否被评分为正确。自我判断（SJ）记录模型随后是否判断该答案为正确；这种面向正确性的二阶评估作为我们元认知判断的操作性度量（Steyvers and Peters2026 (https://arxiv.org/html/2607.16799#bib.bib33)）。由于OC和SJ通常一致，传统的正确与错误对比可能混淆其激活相关性。当这两个变量不一致时，它们的竞争性解释变得可检验。  

实验设计将OC与SJ交叉以形成四种响应类型。关键比较是模型拒绝的客观正确答案（B）与模型认可的错误答案（C）。两个候选信号预测相反的排序：与OC相关的方向应将B排在C之上，而与SJ相关的方向应将C排在B之上。即使是不拟合SJ标签的仅OC质量均值控制，在所有八个跨领域比较中也遵循SJ。析因的OC和SJ相关方向随后评估哪个极性传递。在四个指令微调LLM中，与SJ相关的\(W_{\mathrm{meta}}\)方向在每次跨领域条件下（涵盖数学推理、事实回忆、MMLU和二值TruthfulQA）都具有预期极性，而与OC相关的\(W_{\mathrm{truth}}\)方向则不然。因此，自我判断是可传递正确性读取器中语义歧义的重要来源。  

## 相关工作  

#### 真相方向传递与语义验证。  
潜在知识和事实真实性通常可以使用无监督、线性或非线性读取器从LLM激活中解码（Burnset al.2023 (https://arxiv.org/html/2607.16799#bib.bib10); Azaria and Mitchell2023 (https://arxiv.org/html/2607.16799#bib.bib11); Liet al.2023 (https://arxiv.org/html/2607.16799#bib.bib12); Marks and Tegmark2024 (https://arxiv.org/html/2607.16799#bib.bib13)）。一些真相方向可以跨逻辑转换和问答设置泛化（Baoet al.2025 (https://arxiv.org/html/2607.16799#bib.bib38)）；其他则强烈依赖于层数、任务族、指令或真相类型（Azizianet al.2025 (https://arxiv.org/html/2607.16799#bib.bib34); Pouliset al.2026 (https://arxiv.org/html/2607.16799#bib.bib39); Yinget al.2026 (https://arxiv.org/html/2607.16799#bib.bib37); Schoutenet al.2025 (https://arxiv.org/html/2607.16799#bib.bib47)）。看似真实信号也可能反映表面任务特征或知识回忆（Halleret al.2025 (https://arxiv.org/html/2607.16799#bib.bib29); Cheanget al.2026 (https://arxiv.org/html/2607.16799#bib.bib32)）。它们对现实模型生成响应的泛化仍具有挑战性（Servedioet al.2025 (https://arxiv.org/html/2607.16799#bib.bib46)）。查询-探针不一致可能反映校准或异质误差（Liuet al.2023 (https://arxiv.org/html/2607.16799#bib.bib49)），而模型间不一致可能揭示领域特定的特权正确性信息（Ashuachet al.2026 (https://arxiv.org/html/2607.16799#bib.bib48)）。因此，预测解码性并不能识别读取器利用的变量（Hewitt and Liang2019 (https://arxiv.org/html/2607.16799#bib.bib19); Belinkov2022 (https://arxiv.org/html/2607.16799#bib.bib20)）；指令和交互可以进一步重定向与真相相关的表示（Longet al.2025 (https://arxiv.org/html/2607.16799#bib.bib42); Wanget al.2026 (https://arxiv.org/html/2607.16799#bib.bib43)）。OC–SJ冲突使语义极性可直接检验，因为两个变量规定了相反的排序。  

#### 自我评估、不确定性与内省。  
LLM自我评估已通过P(True)、言语置信度、不确定性激发、未知检测和失败预测进行研究（Kadavathet al.2022 (https://arxiv.org/html/2607.16799#bib.bib15); Linet al.2022a (https://arxiv.org/html/2607.16799#bib.bib16); Tianet al.2023 (https://arxiv.org/html/2607.16799#bib.bib17); Xionget al.2024 (https://arxiv.org/html/2607.16799#bib.bib18); Yinet al.2023 (https://arxiv.org/html/2607.16799#bib.bib26); Wanget al.2025a (https://arxiv.org/html/2607.16799#bib.bib25)）。隐藏状态轨迹也被用于预测响应正确性，无需明确的口头报告（Wanget al.2025b (https://arxiv.org/html/2607.16799#bib.bib45)）。在稀疏特征层面上，正确性和输出不确定性可以在功能上分离（Patelet al.2026 (https://arxiv.org/html/2607.16799#bib.bib36)），而答案完成周围的置信度相关信息可能超过令牌对数概率（Kumaranet al.2026a (https://arxiv.org/html/2607.16799#bib.bib28),b (https://arxiv.org/html/2607.16799#bib.bib27)）。关于特权自我访问的更强主张面临不同的检验：提示性报告可能无法恢复模型自身的语言知识，并且表面的内省表现可以通过表层线索再现（Songet al.2025 (https://arxiv.org/html/2607.16799#bib.bib40); Singhet al.2026 (https://arxiv.org/html/2607.16799#bib.bib41)）。现有研究分别解码了与正确性相关和与响应评估相关的信号；我们询问当它们冲突时，哪个相关变量保持其语义极性。SJ在这里作为一个面向正确性的行为标签，其答案令牌相关性在这些冲突案例上进行评估。  

## 方法  

#### 设置与标签。  
对于已回答的项目\(i\)在层\(\ell\)，设\(x_{i,\ell}\)为答案特定最终令牌处的隐藏状态。OC表示客观正确性，SJ表示模型对其自身答案是否正确的一值判断。判断轮询问：“你认为上述答案正确吗？仅用是或否回答。”下一个令牌的“是/否”分数定义了二值正确性概率\(p_{\mathrm{judge}}\)；此单独轮被排除在激活提取之外。以下析因对比量化了OC和SJ在所观察响应类型上的边际激活关联性。置信度仅用于排除弱判断：主要分析保留\(p_{\mathrm{judge}}\leq 0.3\)或\(p_{\mathrm{judge}}\geq 0.7\)，并由保留侧定义SJ。这定义了在(OC,SJ)上的\(A=(1,1)\), \(B=(1,0)\), \(C=(0,1)\), \(D=(0,0)\)；\(B\cup C\)是正确性与自我判断不一致的冲突集。  

#### 析因方向。  
设\(\mu_A,\mu_B,\mu_C,\mu_D\)为在源/仅训练中心化后的象限均值激活。我们比较一个对齐的混合对比与两个析因主效应：  

\[
\begin{array}{rcl}
W_{\mathrm{mix}} &=& \mu_A-\mu_D,\\
W_{\mathrm{meta}} &=& [(\mu_A-\mu_B)+(\mu_C-\mu_D)]/2,\\
W_{\mathrm{truth}} &=& [(\mu_A-\mu_C)+(\mu_B-\mu_D)]/2,
\end{array}
\]

其中\(W_{\mathrm{meta}}\)和\(W_{\mathrm{truth}}\)分别是与SJ相关和与OC相关的析因对比的操作性标签。解释基于一个最小关联表示模型，其中包含有符号标签\(o_i=2\mathrm{OC}_i-1\)和\(s_i=2\mathrm{SJ}_i-1\)：  

\[
x_i = \alpha_t o_i v_t^{\mathrm{OC}} + \beta_t s_i v_t^{\mathrm{SJ}} + \eta_t o_i s_i v_t^{\mathrm{INT}} + \epsilon_i.
\]

这里\(v_t^{\mathrm{OC}}\)和\(v_t^{\mathrm{SJ}}\)是与正确性和自我判断相关的任务特定潜在方向，\(v_t^{\mathrm{INT}}\)捕捉其交互，\(\alpha_t, \beta_t, \eta_t\)是任务相关的效应大小。在此模型下，代入四个单元均值得到\(W_{\mathrm{meta}}=2\beta_t v_t^{\mathrm{SJ}}\)，\(W_{\mathrm{truth}}=2\alpha_t v_t^{\mathrm{OC}}\)，及\(W_{\mathrm{mix}}=W_{\mathrm{truth}}+W_{\mathrm{meta}}\)；交互项在主效应中抵消。在B/C冲突上，OC预测\(B>C\)而SJ预测\(C>B\)。在混合方向下的相应均值分数差为：  

\[
\Delta_{\mathrm{mix}} = \mathrm{E}[\langle x,W_{\mathrm{mix}}\rangle|C] - \mathrm{E}[\langle x,W_{\mathrm{mix}}\rangle|B] = 4\beta_t^2\|v_t^{\mathrm{SJ}}\|^2 - 4\alpha_t^2\|v_t^{\mathrm{OC}}\|^2.
\]

因此，当这些响应由\(W_{\mathrm{mix}}\)评分时，AUC高于0.5表示将C排在B之上，表明SJ相关成分主导了冲突集排序。跨领域传递随后检验，源估计的SJ相关方向在目标领域中比相应的OC相关方向更能可靠地保持SJ极性。  

#### 严格配对。  
对于每个模型-领域组合，我们为每个问题采样八个随机的自由回答答案，并保留至少有一个正确和一个可使用错误回答的问题。我们随机各选一个，并让同一模型判断其回答是否正确。在严格阈值\(\tau=0.7\)下，仅当两个自我判断都满足对称的高置信度标准时，才保留该配对。因此，这些分析刻画了表现出响应可变性的问题的高置信度诊断子集；它们并不估计在无约束模型输出中B/C案例的普遍性。在模型-领域单元中，所得集合...（此处原文截断，但根据上下文保留）