多智能体人机交互中互补性的树结构形式化框架

# 人类-AI交互中多智能体互补性的树形式化方法
来源：https://arxiv.org/html/2606.04779

Andrea Ferrariohttps://orcid.org/0000-0001-9968-9474邮箱：aferrario@ethz\.ch\.瑞士苏黎世大学生物医学伦理与医学史研究所，苏黎世，瑞士SUPSI，Dalle Molle人工智能研究所（IDSIA），卢加诺，瑞士ETH苏黎世，苏黎世，瑞士

###### 摘要

互补性是指人类-AI交互（HAI）在预测性能上超越其成员中最佳单独预测基准的情形。尽管这一概念在人类-AI交互研究中处于核心地位，但关于互补性的形式化研究仍十分有限。现有的形式化框架无法对智能体预测如何在工作流敏感的多智能体协议中组合进行建模。我们通过引入多智能体HAI中互补性的树形式化方法来填补这一空白。HAI协议由一个有序智能体角色配置与一棵以预测向量装饰叶节点的有根平面二叉树共同表示。局部二元组合规则沿树递归求值，相对于逐点最小值（pointwise-min）预言机基准，生成树相对互补性泛函。我们证明了四个结果。第一，基于选择器的HAI（包括自我依赖或AI依赖）无论任务、损失函数或预测质量如何，均无法实现互补性。第二，在平方损失下的回归问题中，互补性等价于最小化HAI协议输出与真实值向量之间的欧几里得距离；当$N\!=\!2$时，最优线性池化权重具有闭合形式，并可解释为残差修正。第三，在以线性局部组合为前提的任意损失函数回归中，每棵协议树都在叶权重单纯形上定义了一个重心坐标图；协议树的Tamari覆盖重参数化保持互补性，且当$N\!=\!4$时，Tamari覆盖重参数化满足五边形恒等式。第四，在二元分类中，对于端点单调损失函数（包括标准Bregman损失和许多有限Bernoulli $f$-散度损失），在逐点最小值预言机基准下，没有任何内部局部组合能实现互补性；对于交叉熵下的坐标内部多类聚合，类似的障碍同样成立。总结而言，我们的框架表明：互补性在多智能体回归中是可实现的，但在自然条件下的分类问题中受到阻碍。如果逐点最小值预言机基准至少在高风险HAI场景中是适当的，则这应促使我们重新审视互补性的实证研究方式。

关键词：人工智能、人类-AI交互、互补性、平面二叉树、关联面体

## 1 引言

1998年，荷兰欧洲电子舞曲项目Alice Deejay凭借一个颇具深意的问题走红："你认为独自一人会更好吗？"¹¹即其歌曲"Better off alone"，详见该歌曲。近三十年后，人类-AI交互（HAI）领域给出了否定的回答。原因在于，在某些条件下，人类-AI团队的表现可以优于其成员中最佳的单独预测者。这种现象称为*互补性*。

尽管互补性在HAI领域引起了广泛关注\(Bansal et al., 2021b (https://arxiv.org/html/2606.04779#bib.bib3), a (https://arxiv.org/html/2606.04779#bib.bib4); Hemmer et al., 2021 (https://arxiv.org/html/2606.04779#bib.bib18), 2025 (https://arxiv.org/html/2606.04779#bib.bib7); Donahue et al., 2022 (https://arxiv.org/html/2606.04779#bib.bib5); Vaccaro et al., 2024 (https://arxiv.org/html/2606.04779#bib.bib6)\)，关于互补性的形式化研究仍然十分有限。现有的形式化方法集中于双智能体设置：一个人类与一个AI系统对同一预测任务进行交互。在此设置下，互补性将人类-AI团队的经验损失与人类和AI各自的较优经验损失进行比较\(Hemmer et al., 2025 (https://arxiv.org/html/2606.04779#bib.bib7); Donahue et al., 2022 (https://arxiv.org/html/2606.04779#bib.bib5)\)。例如，Donahue et al.\(2022 (https://arxiv.org/html/2606.04779#bib.bib5)\)在双智能体设置中从二元分类损失"区域"层面分析互补性，而Rastogi et al.\(2023 (https://arxiv.org/html/2606.04779#bib.bib61)\)则开发了一套人类与机器学习能力的分类体系，以及人类与机器学习策略凸组合的优化框架。

尽管互补性是HAI中的核心概念，但标准的双智能体设置抽象掉了交互本身的结构。许多现实世界的工作流涉及不止一个人类和一个AI系统：专家和助手可能与AI工具在顺序决策过程中协作；多个人类-AI对可能提供相互竞争或互补的预测；多个AI系统可能在工作流的不同阶段聚合、过滤或修订预测。因此，一旦涉及两个以上的智能体，互补性就需要明确：智能体如何排序、如何在预测向量层面执行局部交互，以及中间输出如何组合成最终的HAI协议输出。

我们通过**开发多智能体HAI中互补性的树形式化方法**来填补这一空白。我们研究一种所有智能体作用于同一标注数据集并预测同一目标的场景。多智能体HAI协议由一个有序智能体角色配置与一棵以智能体预测向量装饰叶节点的有根平面二叉树共同表示。有序配置捕捉协议敏感的角色顺序；树捕捉HAI协议的二元组合；局部二元规则决定如何在每个内部节点组合两个预测向量。沿树递归求值该规则，得到树相对HAI协议输出。

我们的贡献如下。

第一，我们证明了依赖关系的任务无关不可能性定理。如果局部规则按坐标选择其两个输入之一——例如自我依赖或AI依赖\(Schemmer et al., 2023 (https://arxiv.org/html/2606.04779#bib.bib21)\)——则无论准确依赖实例的比例如何，没有任何交互协议能相对于逐点最小值预言机基准实现互补性。因此，*实现互补性需要产生不从智能体预测集合中选取的交互输出*。

第二，我们研究平方损失下的回归问题。在此设置下，我们证明互补性泛函具有几何形式：最大化互补性等价于最小化HAI协议输出与真实值向量之间的欧几里得距离。当$N\!=\!2$且采用线性聚合时，可得到闭合形式的最优解。此时，*互补性取决于人类-AI分歧方向是否修正了AI相对于真实值的残差，以及修正量是否足以将最优点置于可行池化线段内*。对于$N \geq 3$，我们研究互补性不变性与树拓扑及交互重参数化的关系。

第三，在以线性池化为局部组合且采用*任意*损失函数的回归问题中，我们证明每棵树都在叶权重单纯形上定义了一个重心坐标图。利用这一坐标表示，我们证明了互补性在协议树的Tamari覆盖\(Tamari, 1962 (https://arxiv.org/html/2606.04779#bib.bib64)\)下的不变性。因此，*由Tamari移动相关联的两棵不同HAI协议树，在适当转移局部参数并保持相同重心坐标的情况下，可以达到相同的互补性水平*。此外，对于$N\!=\!4$，我们证明了一个相干性结果：Tamari覆盖重参数化满足五边形恒等式\(Yanofsky, 2024 (https://arxiv.org/html/2606.04779#bib.bib80)\)。

第四，我们证明在*二元分类中，对于端点单调损失函数，没有任何内部局部规则能实现互补性*。内部规则是指其按坐标输出保持在相应输入概率之间的规则；端点单调性捕捉了将更多概率赋予真实类别不应增加损失这一基本要求。这一不可能性结果适用于广泛的Bregman损失族和许多标准有限Bernoulli $f$-散度损失\(Bregman, 1967 (https://arxiv.org/html/2606.04779#bib.bib72); Ali and Silvey, 1966 (https://arxiv.org/html/2606.04779#bib.bib79)\)，包括二元交叉熵。该障碍延伸至交叉熵下使用内部局部规则的多类问题。我们证明，使用非内部规则（例如放大二元对数/logit池化\(Neyman and Roughgarden, 2023b (https://arxiv.org/html/2606.04779#bib.bib68)\)）可以绕过这一不可能性区间。

总结而言，我们的框架表明：互补性在多智能体回归中是可实现的，但在自然条件下的分类问题中受到阻碍。如果逐点最小值预言机基准至少在高风险HAI场景中是适当的，则这应促使我们重新审视互补性的实证研究方式。

## 2 互补性相关研究

在人类-AI交互研究中，互补性是指*人类-AI团队*的表现优于任一单独组件\(Bansal et al., 2021b (https://arxiv.org/html/2606.04779#bib.bib3), a (https://arxiv.org/html/2606.04779#bib.bib4); Hemmer et al., 2021 (https://arxiv.org/html/2606.04779#bib.bib18), 2025 (https://arxiv.org/html/2606.04779#bib.bib7)\)。这一视角将注意力从单独评估AI系统转移到交互的联合性能，尤其是在基于建议的决策支持场景中，人类对最终决策负有责任\(Bansal et al., 2021b (https://arxiv.org/html/2606.04779#bib.bib3); Miller, 2023 (https://arxiv.org/html/2606.04779#bib.bib24)\)。

一个核心形式化是*互补性团队性能*（CTP），它将互补性视为预测任务人类-AI交互的二元属性：当团队的经验损失严格低于人类和AI各自经验损失的最小值时，即实现互补性\(Hemmer et al., 2021 (https://arxiv.org/html/2606.04779#bib.bib18), 2025 (https://arxiv.org/html/2606.04779#bib.bib7)\)。从这个意义上说，互补性扩展了依赖关系特有的选择器逻辑（其中输出被约束为与人类或AI预测之一一致），允许交互输出不必等于任一输入\(Schemmer et al., 2023 (https://arxiv.org/html/2606.04779#bib.bib21); Zhang et al., 2020 (https://arxiv.org/html/2606.04779#bib.bib20); Bansal et al., 2021b (https://arxiv.org/html/2606.04779#bib.bib3)\)。

现有形式化工作聚焦于双智能体人类-AI设置。Donahue et al.\(2022 (https://arxiv.org/html/2606.04779#bib.bib5)\)直接在损失空间中研究双组件人类-算法系统的互补性。他们的框架针对二元分类开发，将输入空间划分为损失同质的*区域*。一个区域不是单个样本上的预测，而是一类或一片案例，其中人类、算法和组合系统的性能可以用损失率来概括。在区域$i$中，未辅助的人类损失为$h_i$，算法损失为$a_i$，组合系统损失为$c(a_i, h_i)$，假设位于两个单独损失之间，$\min\{a_i, h_i\} \leq c(a_i, h_i) \leq \max\{a_i, h_i\}$。互补性相对于较优的聚合单独损失来定义，即*跨区域平均后*人类和算法损失中较好的一个——参见\(Donahue et al., 2022 (https://arxiv.org/html/2606.04779#bib.bib5)\)中的定义(1)。他们的不可能性结果表明，在此区域级损失框架中，如果人类和算法的损失率在各区域保持不变，或者一个智能体的损失始终弱优于另一个，则无法实现互补性——参见\(Donahue et al., 2022 (https://arxiv.org/html/2606.04779#bib.bib5)\)中的引理2和3。

Rastogi et al.\(2023 (https://arxiv.org/html/2606.04779#bib.bib61)\)围绕任务定义、输入、内部处理和输出，开发了一套决策中人类与机器学习能力优劣的分类体系。他们强调，不应仅因为将人类与机器学习模型结合就假定会产生互补性；相反，应识别潜在互补性的具体来源，例如获取不同信息、不同目标、不同世界模型或不同输出能力。为将这一思想付诸实践，Rastogi et al.\(2023 (https://arxiv.org/html/2606.04779#bib.bib61)\)引入了一个优化框架，通过在实例层面凸组合人类策略和机器学习策略来获得*联合策略*。他们相应的跨实例和实例内互补性指标量化了最优联合策略在两个智能体之间的贡献分配。

此外，一条相关研究线开始研究多人类专家之间的互补性、延迟和协作。Hemmer et al.\(2022 (https://arxiv.org/html/2606.04779#bib.bib75)\)训练了一个分类器以及一个分配系统，将每个实例路由到模型或多个人类专家之一。Verma et al.\(2023 (https://arxiv.org/html/2606.04779#bib.bib76)\)研究了多专家的学习延迟，聚焦于代理损失、校准以及专家选择的一致性保证。Paat and Shen \(2025 (https://arxiv.org/html/2606.04779#bib.bib77)\)使用共形预测集为实例级分类选择相关人类专家子集。最后，Peng et al.\(2025 (https://arxiv.org/html/2606.04779#bib.bib78)\)证明了二元分类中两个或多个校准概率智能体之间协作的无免费午餐定理。

综合而言，这些工作表明互补性取决于分配、延迟、专家选择以及专业知识在智能体间的分布。然而，它们并未提供将互补性作为多智能体交互协议优化的理论。其核心设计问题通常是查询哪位专家、模型或专家子集，以及是否应延迟某个案例。相比之下，它们未对条件于现实世界工作流拓扑的递归预测向量组合进行建模。

这一局限至关重要，因为许多现实世界的HAI场景并非自然的双智能体交互，而工作流结构可能影响最终预测。例如，在医疗领域，诊断和预后决策可能涉及全科医生、专科医生、放射科医生、护士、患者或护理者，以及一个或多个基于AI的决策支持工具。在教育、社会服务或公共管理领域，领域专家、案例工作者、普通用户和AI系统可能都会以不同形式的信息为最终判断作出贡献。在此类场景中，互补性取决于哪些智能体参与、人类和人工智能体如何排序、哪些局部交互先发生，以及中间输出如何聚合。

综合以上考量，为我们接下来介绍的互补性数学框架提供了动机。

## 3 多智能体互补性的树形式化方法

我们为多智能体预测任务HAI中的经验互补性引入树形式化方法。我们的方法……