基于符号图建模的冲突鲁棒多智能体推理

# 基于有符号图建模的冲突鲁棒多智能体推理

**来源**: https://arxiv.org/html/2605.19418

何龙刚¹\* 何龙柱²\* 何道静¹† 李朝卓²†  
¹哈尔滨工业大学（深圳）  
²北京邮电大学  
[email protected] [email protected]  

\* 同等贡献  
† 通讯作者  

###### 摘要  

基于大语言模型（LLM）的多智能体系统在推理和决策方面展现出强大的能力，持续超越单个LLM智能体的表现。然而，其性能常常受到朴素聚合机制的制约，这些机制假设智能体之间均匀地合作。通过深入观察，我们发现现有的基于图的多智能体系统框架存在两个问题：1）当冲突信号出现时，它们会不加控制地传播错误；2）缺乏对智能体间冲突关系的显式建模以及结构意识，无法识别可靠的交互模式。为弥补这一不足，我们提出了 SIGMA，一个新颖的**有符号图**驱动的**多智能体**推理框架，通过有符号关系图显式捕获智能体之间的**信任**、**冲突**和**中立**关系。具体来说，给定一个查询，SIGMA 首先选择一组相关且多样化的智能体，然后构建一个带有置信度加权边的结构化有符号交互图。推理过程通过冲突感知的有符号消息传递进行，增强来自可信智能体的信息，同时抑制冲突信号，最后通过一个结构感知且冲突感知的加权聚合过程，生成全局一致且冲突鲁棒的预测。在六个基准数据集、多个LLM骨干网络和多种多智能体配置上的大量实验表明，SIGMA 持续优于最先进的基线方法，在准确性和冲突鲁棒性方面均取得了显著提升。

## 1 引言  

随着大语言模型持续重塑人工智能的格局，LLM驱动的智能体在推理、规划和决策方面展现了卓越的能力，并在代码生成、数据分析和具身智能等广泛应用中展现出越来越高的自主性和适应性。在单智能体系统成功的基础上，近期研究表明，基于LLM的多智能体系统可以通过利用协作智能进一步提升性能。通过编排具有不同专业知识的多个智能体，MAS能够实现更强大、可扩展的问题求解，从孤立推理转向协作智能。

现有的MAS方法根据智能体间的交互拓扑大致可分为三类：链式、树式和图式，如图1（左）所示。链式MAS顺序组织智能体，形成简单的推理流水线；树式MAS采用层次化协调来聚合多个分支的输出；图式MAS将智能体表示为节点，交互表示为边，显式建模智能体间的依赖关系，实现灵活的信息流。在这三类中，图式MAS因其能够捕获复杂交互并支持更自适应的多智能体推理而受到广泛关注。

然而，现有图式多智能体系统方法仍存在明显的局限性。首先，它们无法显式建模智能体之间的冲突关系。大多数方法仅依赖通用的相似性或通信链路来构建图，导致隐式冲突信号在多个推理步骤中不受控制地传播，从而放大错误。其次，它们缺乏逻辑一致性和结构意识，难以识别和利用智能体交互中的潜在模式，进而削弱了系统在复杂任务中的鲁棒性和可靠性。这些局限性共同导致现有图式MAS方法在面对存在噪声或对抗性智能体的场景时尤为脆弱。

![图1](https://arxiv.org/html/2605.19418#S1.F1)  
**图1**：(左) 先前的MAS将所有智能体视为同等可靠，包括链式、树式和图式结构。(右) SIGMA通过有符号图建模信任、冲突和中立关系，使系统能够识别哪些智能体值得信任或需要质疑，从而实现冲突鲁棒的推理。

为解决这一问题，我们提出了一个基于有符号图的多智能体推理框架，称为SIGMA。如图1（右）所示，与先前基于图的MAS方法不同，SIGMA通过有符号图建模不仅捕获交互的存在，还捕获其极性。边不仅编码交互的存在，还编码其极性（如信任或冲突），从而允许SIGMA通过三种互补的关系类型来描述多面的智能体间关系：1）信任：捕获支持性交互；2）冲突：建模矛盾性交互；3）中立：表示弱或不确定的交互。通过显式建模交互极性，SIGMA识别出可信智能体以及需要质疑的智能体，从而实现鲁棒且一致的多智能体推理。

尽管该方法前景广阔，但引入有符号图建模并非易事，涉及三个关键建模挑战。1）更复杂的交互：智能体交互高度动态且多面，会产生支持性、冲突性或中性的信号，并在多个推理步骤中传播。如果处理不当，这些交互可能放大错误或抑制有价值的不同意见。2）更易受噪声或冲突影响：低置信度或冲突的智能体输出会增加误导性信号影响最终共识的可能性。若不仔细管理，噪声会通过网络传播，降低整体可靠性。3）更具挑战性的信息聚合：跨多跳邻域聚合正负信号十分困难。处理不当可能导致信息崩溃、冲突被忽视或全局表示不一致，最终损害多智能体推理。

为应对这些挑战，SIGMA首先执行查询引导的智能体选择，确保所选智能体在语义上相关且多样化。然后，它构建一个有符号异构关系图，估计成对的一致信号，并将每种关系标注为信任、冲突或中立，并附上相应的置信度权重。推理通过冲突感知的有符号消息传递机制进行，该机制增强来自可信智能体的信息，同时抑制冲突信号，从而减轻不可靠智能体的影响。最后，一个结构感知且冲突感知的加权聚合过程整合所有智能体的输出，最大化一致性，最小化不一致性，生成全局一致的高质量预测。通过显式建模信任、冲突和中立关系，SIGMA将智能体间的交互从均匀合作转变为结构化推理动态，从而实现更可靠、更鲁棒的多智能体LLM推理。

**贡献**。我们总结主要贡献如下：
1. 我们指出了现有多智能体系统的一个关键局限性：假设均匀合作交互而不建模信任或冲突，这在面对矛盾或噪声输出时降低了鲁棒性。
2. 我们提出了SIGMA，一个基于有符号图的 MAS 框架，建模信任、冲突和中立关系，实现冲突鲁棒的多智能体推理。
3. 大量实验表明，SIGMA持续优于基线方法，即使在存在冲突或低质量智能体的情况下也能实现鲁棒的预测。

**组织**。本文其余部分组织如下。在第2节中，我们介绍符号和预备知识。第3节详细介绍了我们提出的SIGMA方法。第4节展示了全面的实验结果。在第5节中，我们讨论相关工作。最后，第6节总结全文。

## 2 预备知识  

在本节中，我们形式化基于LLM的多智能体系统，并通过有符号图表示扩展交互建模，以显式建模可信和冲突交互。

**基于LLM的多智能体系统形式化**。考虑一个由LLM驱动的智能体组成的多智能体系统，建模为一个有向交互图 \(\mathcal{G}=(\mathcal{V},\mathcal{E})\)，其中 \(|\mathcal{V}|=N\) 表示智能体数量，\(\mathcal{E}\subseteq\mathcal{V}\times\mathcal{V}\) 表示通信链路。令 \(\boldsymbol{A}\in\mathbb{R}^{N\times N}\) 表示交互矩阵，其中 \(\boldsymbol{A}_{ij}\) 量化了从智能体 \(v_j\) 到智能体 \(v_i\) 的影响强度。每个智能体 \(v_i\in\mathcal{V}\) 由一个具有不同角色、提示或推理策略的LLM实例化。我们将每个智能体抽象为一个计算单元，捕获其推理和交互过程：

\[
v_i = (\mathcal{M}_i, \mathcal{R}_i, \mathcal{P}_i),
\tag{1}
\]

其中 \(\mathcal{M}_i\) 表示底层LLM，\(\mathcal{R}_i\) 指定角色配置，\(\mathcal{P}_i\) 定义提示策略。给定查询 \(Q\)，系统经过 \(T\) 轮交互演化。在每一轮 \(t\)，每个智能体维护一个潜在推理状态 \(\boldsymbol{h}_i^{(t)}\in\mathbb{R}^d\)，捕获其中间推理输出。这些状态通过邻居交互进行更新。更新规则定义为：

\[
\boldsymbol{h}_i^{(t)} = f_i\left(Q, \boldsymbol{h}_i^{(t-1)}, \sum\nolimits_{j\in\mathcal{N}(i)}\boldsymbol{A}_{ij}\boldsymbol{h}_j^{(t-1)}\right),
\tag{2}
\]

其中 \(f_i(\cdot)\) 表示由LLM参数化的推理函数，\(\mathcal{N}(i)\) 表示智能体 \(v_i\) 的邻域。令 \(\boldsymbol{H}^{(t)}=[\boldsymbol{h}_1^{(t)},\dots,\boldsymbol{h}_N^{(t)}]^\top\in\mathbb{R}^{N\times d}\) 表示全局矩阵。整个系统的动力学可以紧凑地表示为在交互轮次上所有智能体的矩阵形式：\(\boldsymbol{H}^{(t)} = \mathcal{F}\left(Q, \boldsymbol{H}^{(t-1)}, \boldsymbol{A}\right)\)，其中 \(\mathcal{F}(\cdot)\) 在统一的迭代消息传递过程中聚合智能体级别的更新。经过 \(T\) 轮后，一个全局聚合算子 \(\mathcal{A}(\cdot)\) 产生最终预测：\(y=\mathcal{A}(\boldsymbol{H}^{(T)})\)。

大多数现有方法假设交互矩阵非负（\(\boldsymbol{A}_{ij}\geq 0\)），隐式假定所有交互都是合作的。这种假设忽略了智能体间存在冲突或不可靠信号的可能性，可能导致无界误差累积、推理鲁棒性下降以及在复杂推理场景中共识形成不稳定。

![图2](https://arxiv.org/html/2605.19418#S2.F2)  
**图2**：平衡三元组类型可视化。前两个是平衡的，后两个是不平衡的。

**有符号图表示**。受平衡理论启发，有符号图通过极性和幅度表示关系。具体来说，每个交互表示为 \(\boldsymbol{A}_{ij} = \boldsymbol{s}_{ij} \cdot \boldsymbol{w}_{ij}\)，其中 \(\boldsymbol{s}_{ij}\in\{-1,0,+1\}\) 表示极性，\(\boldsymbol{w}_{ij}\geq 0\) 表示幅度，如定义1所示。

###### 定义1（平衡理论）。三元组 \(v_i, v_j, v_k\) 是平衡的，如果其边符号的乘积 \(\prod_{(p,q)\in\{(i,j),(j,k),(k,i)\}} \boldsymbol{s}_{pq} = +1\) 为正；否则是不平衡的。平衡三元组反映了一致的配置。例如，如果 \(v_i\) 与 \(v_j\) 有正关系，而与 \(v_k\) 有负关系，则该三元组是不平衡的。