不确定性下的人机互补稳健性

# 不确定性下的稳健人-AI互补性 来源：https://arxiv.org/html/2607.06656

###### 摘要
机器学习模型通常旨在增强而非取代人类决策者，通过提供与人类判断互补的信息。然而，在实践中，人类决策者常常无法实现这种互补增益，即使模型提供了有用的信号（Vaccaro等人，2024 (https://arxiv.org/html/2607.06656#bib.bib6)）。先前的研究假设，人们可能难以根据AI预测适当更新自己的信念（Agarwal等人，2023 (https://arxiv.org/html/2607.06656#bib.bib17)），或难以识别AI模型提供了哪些新信息（Guo等人，2025 (https://arxiv.org/html/2607.06656#bib.bib18)）。在此，我们记录了另一种限制，它使得即使理性的决策者也难以从互补信息中获益：对AI预测质量的不确定性。这种不确定性在许多场景中反复出现：模型不断变化，新用例不断涌现，而某些用例（例如科学发现）本质上要求模型在之前未见过的实例分布之外使用（Bommasani等人，2021 (https://arxiv.org/html/2607.06656#bib.bib31)）。人们往往难以可靠地了解其具体任务中模型输入与真实值的联合分布（Vafa等人，2024 (https://arxiv.org/html/2607.06656#bib.bib12)）。我们研究关于人类决策者与AI之间信息质量的不对称信息如何影响决策者从AI中提取互补价值的能力。我们首先引入一个基于统计决策理论的形式化模型，其中人类并不确切知道AI预测与真实值之间的联合分布。相反，他们拥有一个**不确定性集合**，形式化了对模型质量的信念，并寻求在该集合上保证稳健性能。例如，使用AI的决策者可能相信AI至少与真实值存在某种程度的相关性，即使完整的联合分布未知。我们问：决策者愿意对AI性能施加什么条件，才能确保从使用中获益？结果表明，不确定性的存在显著改变了答案。如果决策者知道真实的联合分布，那么只要AI的预测携带了超出决策者已观测信号的任何信号（基本是之前工作中检验的条件），他们就能从使用AI中获益。然而，在不确定性下，决策者更难以构建一个非平凡使用AI输入并保证相比完全忽略AI而受益的规则。一个关键因素似乎是AI预测误差与人类预测误差是否**负相关**。如果满足这一条件，决策者可以构建稳健策略，确保期望效用的提升。如果不满足，稳健互补性的窗口就窄得多：使用AI的决策实际上反映了人类能力的弱点。用程式化的术语来说，我们将其解释为走向自动化而非互补性的运动。然后，我们使用来自现实世界预测和社会科学基准的实证数据，比较人类与LLM的预测。我们比较了人类和LLM的预测误差，发现它们正相关，这使我们处于互补性的“困难”设置。替代性提示策略（例如，指示LLM关注其他人可能忽略的因素）能显著减少但不能始终消除误差的正相关。我们建议，未来应将明确优化提供互补信息的能力作为LLM训练和评估的原则，以确保人类能够稳健地利用它们改进自己的决策。

## 1 引言

许多人希望机器学习模型能够增强人类决策而非取代它，通过向决策者提供互补信息。例如，在科学环境中，LLM越来越多地被设想为预测有前景的实验或筛选假设的工具。然而，试图恰当地依赖机器学习输出可能很困难；人类决策者常常无法从AI预测中的互补信号中获益（Vaccaro等人，2024 (https://arxiv.org/html/2607.06656#bib.bib6)），即使这样的信号可用（Guo等人，2024 (https://arxiv.org/html/2607.06656#bib.bib19)）。先前的工作假设，人们可能难以根据AI预测适当更新自己的信念（Agarwal等人，2023 (https://arxiv.org/html/2607.06656#bib.bib17)），或难以识别AI模型提供了哪些新信息（Guo等人，2025 (https://arxiv.org/html/2607.06656#bib.bib18)）。在此，我们记录了另一种限制，它使得即使理性的决策者也难以从互补信息中获益：对AI预测质量的不确定性。这种不确定性在许多场景中反复出现：模型不断变化，新用例不断涌现，而某些用例（例如科学发现）本质上要求模型在之前未见过的实例分布之外使用（Bommasani等人，2021 (https://arxiv.org/html/2607.06656#bib.bib31)）。人们往往难以可靠地了解其具体任务中模型输入与真实值的联合分布（Vafa等人，2024 (https://arxiv.org/html/2607.06656#bib.bib12)）。我们研究关于人类决策者与AI之间信息质量的不对称信息如何影响决策者从AI中提取互补价值的能力。我们首先引入一个基于统计决策理论的形式化模型，其中人类并不确切知道AI预测与真实值之间的联合分布。相反，他们拥有一个**不确定性集合**，形式化了对模型质量的信念，并寻求在该集合上保证稳健性能。例如，使用AI的决策者可能相信AI至少与真实值存在某种程度的相关性，即使完整的联合分布未知。我们问：决策者愿意对AI性能施加什么条件，才能确保从使用中获益？结果表明，不确定性的存在显著改变了答案。如果决策者知道真实的联合分布，那么只要AI的预测携带了超出决策者已观测信号的任何信号（基本是之前工作中检验的条件），他们就能从使用AI中获益。然而，在不确定性下，决策者更难以构建一个非平凡使用AI输入并保证相比完全忽略AI而受益的规则。一个关键因素似乎是AI预测误差与人类预测误差是否**负相关**。如果满足这一条件，决策者可以构建稳健策略，确保期望效用的提升。如果不满足，稳健互补性的窗口就窄得多：使用AI的决策实际上反映了人类能力的弱点。用程式化的术语来说，我们将其解释为走向自动化而非互补性的运动。然后，我们使用来自现实世界预测和社会科学基准的实证数据，比较人类与LLM的预测。我们比较了人类和LLM的预测误差，发现它们正相关，这使我们处于互补性的“困难”设置。替代性提示策略（例如，指示LLM关注其他人可能忽略的因素）能显著减少但不能始终消除误差的正相关。我们建议，未来应将明确优化提供互补信息的能力作为LLM训练和评估的原则，以确保人类能够稳健地利用它们改进自己的决策。

## 2 相关工作

##### 人-AI 决策制定。
大量文献研究了人类与AI的联合决策制定，通常关注联合决策何时能优于任何单独一方（“互补性”）。或许与我们的工作最相关的是，Steyvers 等人 (2022 (https://arxiv.org/html/2607.06656#bib.bib1)) 提出了一个结合人类与AI置信度的生成模型，并表明该模型在理论上暗示了人-AI团队优于多人团队或多模型团队的条件。我们的工作不同之处在于，我们比较人-AI组合与单独的人类，但关注不确定性的作用（而 (Steyvers 等人，2022 (https://arxiv.org/html/2607.06656#bib.bib1)) 在其理论分析中假设模型参数已知）。同样相关的还有 Donahue 等人 (2022 (https://arxiv.org/html/2607.06656#bib.bib21))，他们分析了人类关于何时依赖AI的决策的理论模型，以识别互补性的条件，但没有关注不确定性的作用。更广泛地说，关于人-AI决策制定的结构，存在大量的算法文献，例如学习推迟 (Madras 等人，2018 (https://arxiv.org/html/2607.06656#bib.bib2); Mozannar and Sontag, 2020 (https://arxiv.org/html/2607.06656#bib.bib3))、分流决策 (Raghu 等人，2019 (https://arxiv.org/html/2607.06656#bib.bib4); Okati 等人，2021 (https://arxiv.org/html/2607.06656#bib.bib5))、学习补充人类决策者的模型 (Wilder 等人，2020 (https://arxiv.org/html/2607.06656#bib.bib20))，以及使用AI塑造人类选择集 (Straitouri 等人，2023 (https://arxiv.org/html/2607.06656#bib.bib11))。尽管如此，大量实证文献通常未能找到人类与AI之间存在互补性的证据（参见 Vaccaro 等人 (2024 (https://arxiv.org/html/2607.06656#bib.bib6)) 的综述）。我们的工作从理论上探索了一种可能使互补性在现实世界中更难实现的机制，并在人类-LLM预测的现实世界数据中探讨其影响。

##### 用于预测的LLM。
我们工作的一个关键动机是，人们越来越有兴趣使用LLM提供可能增强人类决策制定的预测。由于LLM可以零样本方式应用于新任务，人类常常面临对LLM在特定预测任务上表现如何的不确定性。现有工作已开始评估LLM预测未来事件的表现 (Karger 等人，2025 (https://arxiv.org/html/2607.06656#bib.bib8); Yang 等人，2025 (https://arxiv.org/html/2607.06656#bib.bib14); Ye 等人，2024 (https://arxiv.org/html/2607.06656#bib.bib13); Halawi 等人，2024 (https://arxiv.org/html/2607.06656#bib.bib10))，并表明它们与许多人类相比表现良好。在科学应用中，一些工作评估了使用LLM预测科学实验结果，例如在社会科学中 (Hewitt 等人，2024 (https://arxiv.org/html/2607.06656#bib.bib7); Park 等人，2024 (https://arxiv.org/html/2607.06656#bib.bib15)) 或神经科学中 (Luo 等人，2025 (https://arxiv.org/html/2607.06656#bib.bib16))。他们同样发现LLM与人类预测者相比具有竞争力。因此，人们有兴趣使用LLM的输出来“筛选”潜在实验，将LLM对效应的预测作为一种试研究，以决定进行哪些实验 (Anthis 等人，2025 (https://arxiv.org/html/2607.06656#bib.bib9))。这是下面我们“二元决策”设置的动机，我们在其中分析LLM改进人类在此类任务中决策制定的条件。我们还使用来自预测和科学背景的数据集，研究LLM与人类误差之间的相关性及其对互补性能的影响；现有工作主要关注比较LLM与人类的准确性，而较少关注两者误差的相对分布（尽管 Hewitt 等人 (2024 (https://arxiv.org/html/2607.06656#bib.bib7)) 确认人类和AI信息都包含可预测真实效应的独立信息）。

## 3 人-AI互补性模型

我们假设存在一个世界真实状态 $\theta$，决策者旨在推断该状态。决策者观察到对应于其先验信念的信号 $\phi_H$，以及由机器学习系统（例如LLM）生成的信号 $\phi_{AI}$。然后他们做出决策 $d \in \mathcal{D}$。其目标是最小化一个依赖于未知状态和决策的损失 $\ell(d, \theta)$。我们研究一个生成过程，其中信号是真实状态的有噪声测量。我们从一个形式化的线性-高斯模型版本开始，该模型对每个主体观测信号中的误差施加正态分布。事实证明，这个设置足以说明问题结构的大部分直觉，我们随后将展示其具有相当大的推广性。

形式上，我们从模型开始：
$$\theta \sim N(0, \sigma^2_\theta)$$
$$\phi_H = \lambda_H \theta + \epsilon_H$$
$$\phi_{AI} = \lambda_{AI} \theta + \epsilon_{AI}$$
$$\epsilon_H, \epsilon_{AI} \sim N(0, \Sigma_\epsilon)$$
其中 $\epsilon_H$ 和 $\epsilon_{AI}$ 是零均值高斯噪声。这意味着联合分布：
$$[\theta\ \phi_H\ \phi_{AI}] \sim N(0, \Sigma)$$
问题的核心蕴含在协方差矩阵 $\Sigma$ 中。我们从这一形式化开始，并在决策者对 $\theta$ 进行预测（$d \in \mathbb{R}$）并通过均方误差 $\ell(d, \theta) = (d - \theta)^2$ 进行评估时，提供几乎完整的刻画。然后我们展示定性结论在两方面推广：高斯设置中更复杂的决策任务，以及非高斯生成模型中的预测。注意，主要分析主要在**误差**上假设高斯性：人类或AI可能对其观测到的任何信息做出复杂、非线性的反应，我们只是简单地将预测与真实值之间的偏差建模为正态分布。

在由 $\Sigma$ 参数化的特定分布下的期望损失为：
$$L_\Sigma(d) = \mathbb{E}_{\theta, \phi_H, \phi_{AI} \sim N(0, \Sigma)}[\ell(d(\phi_H, \phi_{AI}), \theta)].$$
如果决策者知道（或拥有来自）完整的联合分布，他们可以直接在 $d$ 上最小化期望损失。这是许多先前关于最优人-AI决策制定工作中讨论的设置。我们形式化模型的关键特征是引入关于AI信号质量的不确定性。具体来说，我们的决策者将规定 $\Sigma$ 属于一个不确定性集合 $\mathcal{U}$，该集合固定了联合分布的所有特征，**除了** AI信号与 $\theta$ 的相关性。

###### 假设 3.1。每个 $\Sigma \in \mathcal{U}$ 在所有条目上一致，除了 $\text{Cov}(\phi_{AI}, \theta)$。
正如我们将看到的，关于 $\text{Cov}(\phi_{AI}, \theta)$ 的不确定性是导致最优策略产生实质性差异的核心机制。此外，在许多设置中，将 $\Sigma$ 的其他条目视为已知可能是合理的，因为生成 $\phi_{AI}$ 的样本是廉价的，决策者可以将其与自己的信念进行比较；而获取真实状态 $\theta$ 的观测才是昂贵的。例如，科学家可以轻松询问语言模型其对许多可能实验结果的预测 $\phi_{AI}$，但瓶颈在于实际进行实验来观测 $\theta$ 并了解 $\phi_{AI}$ 的准确程度。我们预期，如果模型包含 $\Sigma$ 其他方面的不确定性，我们的许多结论（例如关于实现稳健互补性的困难）将会加强。

我们的不确定性集合公式与更丰富的不确定性模型相容。例如，如果决策者对可能的AI信号质量、模型参数或数据生成过程有先验，则这种不确定性可以被积分掉。从下游决策问题的角度来看，相关的对象是在给定观测到的人类和AI信号后关于状态的后验预测分布。因此，对中间量的不确定性仅通过其诱导的后验分布影响分析。当这个诱导的后验分布满足我们分析中假设的结构条件——例如第3节 (https://arxiv.org/html/2607.06656#S3) 中的高斯协方差限制，或第3.2节 (https://arxiv.org/html/2607.06656#S3.SS2) 中的有限矩和负依赖条件——相应的结果无需修改即可适用。同样的观察适用于人类信号或人类与AI信号联合分布中的估计误差。如果状态的实现成本高昂，决策者可能对这些量放置先验，并在观测到真实状态的样本后进行更新。更新后，决策相关的对象再次是更新后的预测后验。因此，我们的框架可以看作是在可能的预测后验上放置一个置信集，并询问在该集合上互补性是否一致得到保证。

为了限制到更有趣的情况，我们还将施加假设：没有主体观测到 $\theta$ 的无噪声测量：

###### 假设 3.2。$\text{Var}(\phi_H | \theta)$ 和 $\text{Var}(\phi_{AI} | \theta)$ 都严格大于0。

最后，我们将不失一般性地施加 $\phi_H$ 被缩放为 $\lambda_H = \frac{\text{Cov}(\theta, \phi_H)}{\text{Var}(\phi_H)} = 1$，即 $\theta$ 对 $\phi_H$ 的线性回归系数为1。这只是一个标准化。