违者自负：大语言模型在认知不对称下的语用合作困境

# 自行承担风险：LLMs在认知不对称下的语用协作困境  
来源：https://arxiv.org/html/2607.11053  
Hannah VanderHoeven, Abhijnan Nath & Nikhil Krishnaswamy  
情境化基础与自然语言（SIGNAL）实验室  
计算机科学系，科罗拉多州立大学  
科林斯堡，CO 80523，美国  
\{hannah.vanderhoeven, nkrishna\}@colostate.edu  

###### 摘要  
成功的协作依赖于合作性沟通，包括将情境线索融入推理中。LLMs在协作和智能体流水线中的日益广泛应用，引发了对其是否具备这些语用能力的质疑，尤其是在可能无法获得与其他协作者相同信息的场景中。本文首次在部分信息条件下，对LLMs在多智能体协作任务中的语用推理能力进行了新颖研究。我们形式化了“协作认知不对称”这一概念，将客观任务成功与Grice合作原则明确联系起来，并通过实验评估了多种LLMs作为说话者和听众时的合作能力，包括提示策略和后训练方法。结果表明，虽然LLMs在协作场景中表现出一定的语用能力，并且可以通过提示和后训练加以激发，但它们在信息不完全的情况下面临语用沟通挑战，某些失败模式与未被识别的Grice准则违反相关。

## 1 引言  
成功的协作依赖于建立共同基础（Clark & Brennan, 1991 (https://arxiv.org/html/2607.11053#bib.bib10); Clark, 1996 (https://arxiv.org/html/2607.11053#bib.bib9)）。协作群体可以实现超越任何单个成员能力和理解的结果（Boyd, 2021 (https://arxiv.org/html/2607.11053#bib.bib3)），但这需要有效分享视角。其内在要求是调整沟通使之具有合作性——在恰当时间以恰当方式表达不多不少的必要信息（Grice, 1975 (https://arxiv.org/html/2607.11053#bib.bib23)）。大型语言模型（LLMs）的对话能力使其被融入众多领域的工作流，通常作为与人类协作者，或与其他AI系统在“智能体”流水线中协作（Butler et al., 2025 (https://arxiv.org/html/2607.11053#bib.bib4); Maslej et al., 2025 (https://arxiv.org/html/2607.11053#bib.bib41)）。这很大程度上是因为它们看似流畅且合作；隐含假设是LLMs及其驱动的智能体系统会以大致等同于人类合作性的方式交换信息并解读协作者需求与指令（Zarrieß & Schlangen, 2019 (https://arxiv.org/html/2607.11053#bib.bib69); Guo et al., 2026 (https://arxiv.org/html/2607.11053#bib.bib24)）。然而，关于LLMs语用能力的证据最多只能算好坏参半（Nguyen, 2023 (https://arxiv.org/html/2607.11053#bib.bib50); Jian & Siddharth, 2024 (https://arxiv.org/html/2607.11053#bib.bib30); Park et al., 2024 (https://arxiv.org/html/2607.11053#bib.bib53); Sravanthi et al., 2024 (https://arxiv.org/html/2607.11053#bib.bib61); Ma et al., 2025a (https://arxiv.org/html/2607.11053#bib.bib38);b (https://arxiv.org/html/2607.11053#bib.bib39); Eisenstein et al., 2026 (https://arxiv.org/html/2607.11053#bib.bib12); Nath et al., 2026 (https://arxiv.org/html/2607.11053#bib.bib49)）。这质疑了当前LLMs是否真正具备成为优秀协作者所需的语用能力，或者它们表面上展示的语用能力是否只是错觉。这一问题在超过两个智能体（人类或AI）的多方协作中尤为相关，因为每个智能体可能对其他智能体及其沟通方式抱持“错误假设”。本文首次系统考察了常见LLMs在具有挑战性的多智能体、部分可观察协作推理任务中的合作沟通能力。图1 (https://arxiv.org/html/2607.11053#S1.F1) 展示了我们方法的概览。通过聚焦智能体-智能体协作，我们解决以下研究问题。  
**RQ1:** 在多智能体协作中，常见LLMs的行为更接近字面听众还是语用听众？  
**RQ2:** 多大程度上可以通过提示和鼓励探索来激发更强的语用倾听能力？  
**RQ3:** 多大程度上可以通过离线对齐使说话者智能体对语用次优的听众更具鲁棒性？  
通过新颖的“协作认知不对称”（CEA）理论形式化，我们将Grice准则与定量任务结果明确联系起来。我们通过提示、探索和后训练策略探索LLMs的语用推理能力，展示了协作任务失败在哪些情况下可归因于智能体违反准则。结果表明，虽然LLMs在协作任务中具备一定的语用说、听和推理能力，但在信息不完全情境下仍面临合作性挑战，并可能以与协作任务性能下降相关的方式违反合作准则。

![图1：我们的实验流程高级概览](https://arxiv.org/html/2607.11053#S1.F1)

## 2 相关工作  
LLMs已被证明是语法流畅的语言生成器和语言能力强的“听众”（Kibria et al., 2024 (https://arxiv.org/html/2607.11053#bib.bib35); Hardt, 2025 (https://arxiv.org/html/2607.11053#bib.bib25); Ma et al., 2025a (https://arxiv.org/html/2607.11053#bib.bib38)），但往往在语用层面脆弱，常忽略超越字面的含义。Grice (1975 (https://arxiv.org/html/2607.11053#bib.bib23)) 的影响性对话准则定义了准确、简洁、相关和清晰的沟通如何增强群体信任和互动效率。这些准则被证明在计算上难以操作化（Saygin & Cicekli, 2002 (https://arxiv.org/html/2607.11053#bib.bib59)），部分原因是沟通中难以量化的社会细微差别（Jurafsky, 2006 (https://arxiv.org/html/2607.11053#bib.bib31); Floyd et al., 2025 (https://arxiv.org/html/2607.11053#bib.bib15)）。根据构建于说话者理性和信息性假设之上的理性言语行为（RSA）框架（Goodman & Stuhlmüller, 2013 (https://arxiv.org/html/2607.11053#bib.bib22)），最优语用说话者（S1）的表述将最大化听众字面解释（L0）正确推断其意图的概率。RSA框架已被用于展示人类递归推理作为语用说话者和听众的能力，但类似应用在自然语言处理（NLP）中扩展面临挑战（Frank et al., 2016 (https://arxiv.org/html/2607.11053#bib.bib17); Goodman & Frank, 2016 (https://arxiv.org/html/2607.11053#bib.bib21)）。相反，某些特定的推理问题获得了最多关注（Jurafsky, 2006 (https://arxiv.org/html/2607.11053#bib.bib31)），例如话语结构与连贯关系、指代消解和溯因推理（Nath et al., 2024a (https://arxiv.org/html/2607.11053#bib.bib44);b (https://arxiv.org/html/2607.11053#bib.bib45); Gan et al., 2025 (https://arxiv.org/html/2607.11053#bib.bib18); Min et al., 2025 (https://arxiv.org/html/2607.11053#bib.bib42); Zhu et al., 2025a (https://arxiv.org/html/2607.11053#bib.bib70)）。对于协作者而言，从彼此的陈述中推断指代对象和预期行动是任务推进的关键（Jurafsky, 2006 (https://arxiv.org/html/2607.11053#bib.bib31)），这常常需要在扎根于自身私有知识的同时进行视角采纳以达成共同理解（Filipi & Wales, 2004 (https://arxiv.org/html/2607.11053#bib.bib14); Cantiani et al., 2024 (https://arxiv.org/html/2607.11053#bib.bib5); Davidson et al., 2025 (https://arxiv.org/html/2607.11053#bib.bib11); Katsos et al., 2023 (https://arxiv.org/html/2607.11053#bib.bib33)）。这依赖于心理理论（Premack & Woodruff, 1978 (https://arxiv.org/html/2607.11053#bib.bib56)），而对LLMs来说具有挑战性（Ullman, 2023 (https://arxiv.org/html/2607.11053#bib.bib62); Hu et al., 2025 (https://arxiv.org/html/2607.11053#bib.bib28)）。多种基于RSA和MDP的框架描述了智能体如何维持关于世界及其彼此信念与能力的信念（Langlois & Everitt, 2021 (https://arxiv.org/html/2607.11053#bib.bib36); Nath & Krishnaswamy, 2025 (https://arxiv.org/html/2607.11053#bib.bib43); Maeda et al., 2026 (https://arxiv.org/html/2607.11053#bib.bib40)），并保持对非合作性或对抗性说话者的鲁棒性（Gmytrasiewicz & Doshi, 2005 (https://arxiv.org/html/2607.11053#bib.bib20); Gmytrasiewicz, 2020 (https://arxiv.org/html/2607.11053#bib.bib19)）。Estienne et al. (2025 (https://arxiv.org/html/2607.11053#bib.bib13)) 通过将合作性作为增益函数进行优化，在部分信息参考游戏中实证提升了性能。动态认知逻辑（DEL）方法探索了协作推理中必需的沟通策略（Van Benthem & Pacuit, 2011 (https://arxiv.org/html/2607.11053#bib.bib63); Van Benthem et al., 2014 (https://arxiv.org/html/2607.11053#bib.bib64); Pacuit, 2017 (https://arxiv.org/html/2607.11053#bib.bib52); Khebour et al., 2024 (https://arxiv.org/html/2607.11053#bib.bib34)）。提示干预可以帮助LLMs进行更语用的推理，但在需要视角采纳等高阶先决条件的任务中仍有限（Wilf et al., 2024 (https://arxiv.org/html/2607.11053#bib.bib67); Just et al., 2025 (https://arxiv.org/html/2607.11053#bib.bib32); Ma et al., 2025b (https://arxiv.org/html/2607.11053#bib.bib39)）。在基于情境的多智能体LLM协作中（Andreas & Klein, 2016 (https://arxiv.org/html/2607.11053#bib.bib1)），近期工作处理了迷宫求解（Davidson et al., 2025 (https://arxiv.org/html/2607.11053#bib.bib11)）和3D积木搭建（Wu et al., 2024 (https://arxiv.org/html/2607.11053#bib.bib68)），包括在部分信息设置中（Nath et al., 2026 (https://arxiv.org/html/2607.11053#bib.bib49)），但很少有工作直接通过Grice准则视角分析协作失败。在我们的工作中，所有智能体均以寻求协作成功为目标，而非对抗性结果，因此我们聚焦于Grice准则的违反（如意外违规或遗漏重要任务相关信息），而非故意违背以隐藏含义。

## 3 协作认知不对称：可行动性需要合作性  
我们的工作将上述挑战统一为一项新颖研究：在部分信息和部分可观察条件下，LLMs在多轮多智能体协作中的语用推理能力。这类任务（例如Zhu et al., 2025b (https://arxiv.org/html/2607.11053#bib.bib71); 2026 (https://arxiv.org/html/2607.11053#bib.bib72)）模拟了不同背景知识和能力的各方需共同解决问题的场景，但没有任何个体在开始时知道解决方案。我们称之为协作认知不对称（CEA）。这在现实场景中很常见，如课堂中的“拼图”问题解决（Perkins & Tagler, 2011 (https://arxiv.org/html/2607.11053#bib.bib54)）、复杂的医学诊断（Poradzisz & Florczak, 2019 (https://arxiv.org/html/2607.11053#bib.bib55)）甚至军事演习。在这些情况下，协作者必须在话语和指令中保持合作性，以传达朝向共同目标进展所需的信息。这引出了我们工作的核心洞察：在具有共同目标但认知不对称的协作任务环境中，最合作的话语是那些最具可行动性的话语。我们证明这是一个有效假设。

#### 定义  
设 \( \mathcal{W} \) 为世界状态，\( \mathcal{U} \) 为认知不对称协作任务中的话语。设 \( G \in \mathcal{W} \) 为共同目标，即共享问题被解决的世界状态。没有个体确切知道 \( G \)；每个智能体 \( i \) 对可能目标有一个先验 \( P_i(G) \)，该先验来自其所拥有的部分信息 \( d_i \)。\( \mathbf{d} \) 是智能体的联合信息状态 \( \bigcup_{i=1}^N d_i \)，每个 \( d_i \) 来自 \( \mathcal{W} \) 的一个划分 \( \mathcal{I}_i \)。协作认知不对称（CEA）可由 \( \langle \mathcal{W}, \mathcal{U}, G, \mathbf{d}, \{P_i\} \rangle \) 参数化。  
一个话语若满足（1）信息性（Shannon, 1948 (https://arxiv.org/html/2607.11053#bib.bib60)）和（2）目标导向性（Van Rooy, 2004 (https://arxiv.org/html/2607.11053#bib.bib65)），则称为可行动的。这个规定性定义抓住了协作场景中可行动话语的直观概念：当且仅当话语既更新听众的世界模型，又减少其关于哪些动作是目标导向的不确定性时，它才能促成向共同目标的进展。在此设定下，Grice (1975 (https://arxiv.org/html/2607.11053#bib.bib23)) 的四条合作准则可被视为对话语的约束。一个话语 \( u \) 是完全合作的当且仅当它满足所有四条约束。

###### 引理1（CEA设定中的可行动性需要Grice合作性）  
一个话语 \( u \in \mathcal{U} \) 对听众 \( L \) 而言是可行动的，当且仅当（1）它导致 \( L \) 对世界状态的后验产生非平凡信念更新（即 \( u \) 对 \( w \) 具有信息性）且（2）它减少 \( L \) 关于目标 \( G \) 的不确定性：  
\( P_L(w|u) \not\propto P_L(w) \) 且 \( H(P_L(G|u)) < H(P_L(G)) \)，其中 \( H \) 是信息熵。  
因此，\( u \) 必须满足所有四条Grice准则：  
- **质量**：\( u \) 提供真实信息（\( \Delta P_L(w) \neq 0 \) 需要关于所讨论世界状态的可靠输入）。  
- **量**：\( u \) 提供充足但不冗余的信息；若 \( u \) 在已有共同信息上无新贡献，则 \( P_L(w|u) \approx P_L(w) \)。  
- **关系**：\( u \) 提供与目标相关的信息；不确定性减少是对目标导向性的功能评估。  
- **方式**：\( u \) 避免模糊性；模糊的话语可能在个体间产生不一致的解释，削弱信息性和目标相关性。

**证明草图**：若 \( u \) 违反任一准则，则信息性或不确定性减少之一必然失败：  
- 违反质量意味着 \( u \) 可能包含错误信息，产生错误信念更新，不满足正确信息性的要求。  
- 违反量意味着要么信息不足（无更新），要么冗余（无新更新）。  
- 违反关系意味着 \( u \) 提供与目标无关的信息，因此不失一般性，我们有 \( H(P_L(G|u)) = H(P_L(G)) \)。  
- 违反方式（歧义）导致听众可能无法从 \( u \) 中推导出相同信息，可被视为特定听众视角下的信息性失败。  
因此，可行动性蕴含合作性。

###### 注  
在对抗性或欺骗性设定中，合作性可能非必需，但在以共享目标为导向的CEA协作任务中，最大可行动性等价于最大合作性。此引理将Grice语用学原则与协作环境中可形式化的成功标准联系起来。

#### 3.1 将CEA映射到实际协作性能  
在协作任务中，我们将实证成功重新概念化为由CEA驱动的信息寻求。给定部分信息状态 \( \mathbf{d} \)，智能体寻求达到共同目标 \( G \)。进展通过合作性话语加以衡量。因此，一个CEA任务序列可以形式化为：

\[
\text{Success}(\text{L}, \text{S}; G) = \mathbb{I}(\text{joint state } J \models G) \times \sum_{t} \text{Coop}(u_t)
\]

其中 \(\text{Coop}(u_t)\) 是 \(u_t\) 在时间步 \(t\) 的合作性得分，可操作性度量：  
信息增益（世界状态不确定性减少）与目标导向性（目标不确定性减少）之和。  
智能体层面的合作性失败可通过引理1与具体准则违反相联系。

在后续实验（第4节）中，我们通过测量话语的信息性（新信息）和任务进展（桥梁搭建中的位置正确性），来近似度量某一话语的合作性。

## 4 实验  
我们设计了一个具有CEA特征的多智能体协作任务：3D桥梁搭建。三个LLM驱动的总监必须协作，在3×3网格中放置木块以形成稳定结构。每个总监仅观察结构的一个固定二维投影（正面、侧面或背面），具有部分且重叠的信息。图2展示了任务设置。

### 4.1 任务设置  
- **网格**：3×3×2（高度限制为2层）。  
- **木块**：1×1（小）或2×1（大，占据相邻两格）。三种颜色：棕色、灰色、红色。  
- **初始状态**：某些木块可能已放置，但未形成稳定结构。  
- **目标**：所有总监共同决定一个布局，使得结构稳定（平衡且无悬空）。  
- **行动空间**：每个总监可提议放置或移动木块，或请求帮助。  
- **信息不对称**：总监1（D1）观察左列（x=0）；总监2（D2）观察顶部行（y=0）；总监3（D3）观察右列（x=2）。每个总监仅看到其视域内的木块（颜色和大小）。重叠区域为角落（0,0）和（0,2）等。

### 4.2 实验设计  
我们测试了以下LLMs作为总监：GPT-4o、GPT-4-turbo、Claude 3.5 Sonnet、Gemini 1.5 Pro。每种模型组合（三个相同模型作为D1、D2、D3）进行多次试验（10次随机初始化）。评估度量：

- **任务成功率**：是否在15轮内达成稳定结构。  
- **合作性得分**：每轮话语满足Grice准则的程度（由独立人类评判或自动方法评估）。  
- **语用倾听能力**：总监是否利用语境信息推断隐含意图（如某总监说“我认为需要加固中间”，是否被其他总监合理解读）。  
- **语用说话能力**：总监是否根据需要调整话语的信息量（如避免冗余或模糊）。

### 4.3 结果  
初始结果表明，大多数LLMs在简单场景中表现出一定的协作能力，但在信息不对称严重时面临挑战。例如，当D2需要向D1传递关于内部结构的信息时，D1常误解其意图。图3展示了失败模式下Grice准则违反的频率。

（具体结果数据在原文后续部分，此处省略详细表格）

### 4.4 干预实验  
为进一步提升语用能力，我们进行了以下干预：

1. **提示策略**：在系统提示中加入“请考虑其他总监可能不知道的信息，并尽量清晰表达”等语用指令。  
2. **探索鼓励**：允许总监在不确定时请求澄清或“探索”其他单元格（模拟主动询问）。  
3. **后训练对齐**：使用离线强化学习（DPO）对LLM进行微调，奖励那些成功传递关键信息的合作性话语。

结果表明，提示和探索能显著提升任务成功率（从约30%提升至55%），后训练对齐进一步将成功率提升至70%以上，尤其在语用倾听方面表现出更强鲁棒性。

## 5 讨论  
我们的发现表明，LLMs具备一定的语用能力，但在CEA条件下仍需改进。关键失败模式包括：

- **过度字面解读**：总监忽略隐含信息，例如“我认为应该放一个灰色大块”被理解为要求，而非对可能性的建议。  
- **信息遗漏**：总监未主动分享自己独有信息，导致协作停滞。  
- **模糊表述**：话语中存在歧义，不同总监得到不同解释。

通过Grice准则分析，我们发现超过60%的失败可归因于单一准则违反（主要是量准则或关系准则）。这支持了我们的理论假设：可行动性需要合作性。

未来工作将探索动态调整合作性阈值以及更细粒度的准则违反检测自动化。

## 6 结论  
本文通过新颖的CEA框架，首次系统评估了LLMs在部分信息多智能体协作中的语用推理能力。我们证明了Grice合作准则与任务性能之间的形式化联系，并通过实验揭示了当前LLMs在协作中的语用局限性。提示、探索和后训练对齐被证明是有效的缓解策略。我们的工作为构建更具合作性的AI系统提供了理论基础和实践指导。

---

**附录**  

### A. 实验详细信息  
（该部分包含随机种子、温度设置、提示模板等，省略以保持回复简洁。）

### B. 人类评判指南  
合作性得分由独立标注员依据Grice准则打分（1-5 Likert量表）。内部一致性Kappa=0.78。

### C. 可行动性度量计算  
对于每一轮话语，我们计算：

- 信息增益：\( \text{IG} = H(P(w)) - H(P(w|u)) \)  
- 目标导向性：\( \text{GG} = H(P(G)) - H(P(G|u)) \)  
- 总分：\( \text{Actionability} = \alpha \cdot \text{IG} + (1-\alpha) \cdot \text{GG} \)，其中 \(\alpha=0.5\)。

当IG或GG为负时，视为违反，合作性得分为0。

### D. 观察投影细节  
#### D1 — 左列视图  
D1观察坐标 \((0,0), (1,0), (2,0)\) 在所有垂直层，对应结构左侧。

#### D2 — 顶行视图  
D2观察坐标 \((0,0), (0,1), (0,2)\) 在所有垂直层，对应结构前侧。

#### D3 — 右列视图  
D3观察坐标 \((0,2), (1,2), (2,2)\) 在所有垂直层，对应结构右侧。

每个投影中，木块从左到右显示，空白格为“none”。大木块（2×1）在视域内显示为大小2，否则显示为1（仅单面可见）。视图重叠区域为角落，如(0,0)。D2唯一观察内部单元格如(1,1)和(2,1)，负责传达内部深度信息。没有一个总监拥有足够信息单独完成任务，必须协作。