AI智能体重塑人类群体中的共识形成

# AI智能体重塑人类群体的共识形成  
来源：https://arxiv.org/html/2609.02122  

林陈  
所属机构：美国马萨诸塞州波士顿东北大学网络科学研究所  
所属机构：中国北京清华大学电子工程系  
刘子怡  
所属机构：中国北京清华大学电子工程系  
所属机构：中国北京清华大学信息科学与技术国家研究中心 (BNRist)  
李勇  
所属机构：中国北京清华大学电子工程系  
所属机构：中国北京清华大学信息科学与技术国家研究中心 (BNRist)  
通讯作者： [email protected], [email protected]  
所属机构：中国上海上海人工智能实验室  

###### 摘要  
随着大型语言模型（LLM）智能体从工具转变为人类群体的参与者，一个关于集体行为的根本性问题是：它们日益增长的存在如何重塑共识形成？本文在一个协作描述游戏中研究了人机混合群体，其中共享的惯例通过多轮随机配对交流而涌现。通过改变LLM智能体的比例，我们识别出三种不同的共识形成模式：低比例智能体促进人类主导的共识；中等比例破坏收敛性；高比例则恢复强共识，同时将其转向智能体主导的惯例。关键的是，这些模式不仅在收敛强度上不同，还在所形成共识的语义基础和交流形式上存在差异：人类主导的共识更具体、整体，并基于共享的现实世界类比；而智能体主导的共识则更抽象、信息密度较低，并更具几何分割性。在机制上，智能体的影响源于一个共享的语言先验，这使得智能体在表达空间中彼此接近，加上其表达选择在各轮中相对稳定；人类最初抵制采纳被视为AI伙伴的表达，但逐渐屈从于从众压力。这些发现提供了证据，表明AI构成可以塑造群体规范的涌现、内容和感知合法性，使得智能体比例和透明度成为人机系统的重要设计变量。

## 引言  
大型语言模型（LLM）智能体正越来越多地融入人类社会环境，包括工作场所、在线社区和协作平台\[1,2,3\]。随着其整合交互历史并生成适应性响应的能力迅速发展\[4,5,6\]，智能体不仅成为个体用户的工具，也成为群体互动中的社交对话者\[7,8\]。此类互动的一个核心过程是共识形成，群体通过此过程逐渐在沟通和行动方式上趋同\[9\]。LLM智能体进入这一过程，给行为科学提出了一个根本性问题：当人工智能智能体参与人类群体时，它们只是放大了现有人类驱动的动态，还是重塑了群体所产生的共识\[10\]？先前的研究表明，共识可以在同质群体中自发产生，既存在于纯人类群体\[9\]，最近也存在于完全由LLM智能体组成的群体中\[11\]。然而，现实世界的部署通常介于这两个极端之间，涉及混合群体，其中人类和LLM智能体（可能具有不同的行为倾向和适应策略）反复互动并共同塑造群体结果。此类人机混合群体能否形成共享惯例——以及最终结果是否类似于纯人类或纯智能体共识——在很大程度上仍是未知的。

现有研究提供了证据，表明AI可以影响人类的判断\[12\]、说服\[13\]、合作\[14\]和团队绩效\[1\]，但主要研究的是AI对预先定义的外部任务结果的影响，而非对群体内部涌现规范的影响。理解这些动态不仅对于设计既能利用AI能力又能保留人类能动性的人机系统至关重要，而且对于发展机器如何调解社会和文化过程的理论也至关重要\[15,16\]。混合人机群体中的共识不仅可能在强度上与纯人类群体不同，还可能在谁的表达塑造了涌现的惯例以及该惯例承载何种意义上有所不同。此外，这些维度不必同步变化：一个群体可能收敛性很强，但形成的惯例可能由某部分参与者不成比例地塑造，或者承载着质上不同的意义\[17,11\]。在现实环境中，机构角色、先前关系和沟通历史常常混杂在一起，这种多维度的转变很难被分离出来\[18,12\]。因此，我们采用了一个基于指称交流范式的协作描述游戏\[19,9,11\]，参与者随机配对，必须通过没有外部强加词汇的书面交流，为一个单一的模糊视觉指称对象协调出一个共享的描述。群体层面的惯例因此不是通过集中指导产生，而是通过许多此类配对中重复的局部调整的积累而涌现。这个范式为共识如何从分布式交互中涌现提供了一个可操作的模型：匿名随机配对允许参与者在不了解对方身份的情况下互动，消除了固定社会角色和先前关系的干扰；缺乏强加的词汇表允许语义内容从参与者自己的表达而非预定义选项中产生。

利用这个范式，我们在重复的人机描述游戏中实验性地改变LLM智能体的比例。我们发现，人机混合群体并不随着智能体比例的增加而单调变化。相反，它们经历了三个不同的模式。在低比例下，智能体通过适应类人惯例来促进和催化人类共识；在中等比例下，收敛变得不稳定，因为任何一方都无法完全适应对方；在高比例下，智能体恢复了强共识，同时将其重定向至智能体主导的规范。此外，随着智能体比例增加，智能体不仅越来越影响词汇形式，还影响所形成共识的概念结构。这种重塑在内容本身中可见：人类群体产生具体、信息密集的描述，基于现实世界的类比、整体形式和动态叙述；而智能体主导的共识则产生更抽象、更稀疏的描述，围绕几何部分和静态枚举组织。机制分析指向两个耦合过程：在智能体方面，一个共享的语言先验从一开始就将智能体置于表达空间中彼此接近的位置，而其各轮中相对稳定的表达维持了这种集中性，形成一个语义吸引子，将群体收敛引向智能体主导的惯例。在人类方面，人类最初抵制采纳被视为AI生成的表达，但随着智能体的表达趋近群体规范，从众压力逐渐压倒了这种抵制。这些发现共同表明，人机混合群体是一个独特的社会系统类别，其中增加的AI参与不仅重组了共识的强度，还重组了其所有权和意义。

## 结果  
### 改变智能体比例揭示了三种共识形成模式  
为了研究LLM智能体如何影响人类共识形成，我们使用了一个协作描述游戏（图1a；我们的实验平台界面见补充图1）。每一轮，参与者随机配对，独立描述同一个抽象形状（七巧板）。提交后，两位玩家都会收到伙伴的描述以及一个相似度分数，为他们的一致性提供反馈。遵循先前的研究\[9\]，此过程重复40轮，使参与者能够迭代地发展出描述该形状的共享惯例。我们在五种条件下系统地改变群体中LLM智能体的比例：0%（纯人类基线）、12.5%、33.3%、50%和75%。共识强度量化为参与者最终轮描述之间的平均语义相似度（见方法M1）。智能体比例与共识强度之间的关系是非单调的，揭示了三种不同的模式（图1b）。与纯人类基线组（平均共识强度 = 0.695）相比，低智能体比例（12.5%）下的共识强度平均增加了8.0%（z=3.282，p=0.001）。然而，在中等比例（33.3%，50%）下，共识形成显著受损，分别下降了23.1%（z=−12.326，p<0.001）和14.5%（z=−6.156，p<0.001）。引人注目的是，在高智能体比例（75%）下，共识强度反弹至0.725，与12.5%条件下观察到的水平相当。这种非单调模式——低比例下的催化作用，中等比例下的损害，以及高比例下的重建——表明智能体的影响在这些模式下可能以不同方式运作。在本文剩余部分，我们将这些分别称为H1（低比例，12.5%）、H2（中等比例，33.3%和50%）和H3（高比例，75%）。

我们进一步分析了人类和智能体向对方语言空间的方向性移动（图1c）。我们通过衡量每个个体在实验结束时向对方群体初始语言位置靠近的程度来量化这一点（见方法M1）。在12.5%时，智能体倾向于更多地向人类语言空间移动，而人类向智能体空间移动较少（智能体的平均移动0.822，人类0.575，Mann–Whitney U=18，p=0.135），尽管由于该条件下智能体数量少（n=3），这并未达到显著性。然而，从33.3%开始，这种不对称性发生逆转：人类向智能体移动的程度显著高于智能体向人类移动（33.3%：U=104，p=0.007；50%：U=129，p<0.001；75%：U=103，p<0.001），表明随着智能体比例增加，智能体主导的同化成为语言收敛的主要模式。

这种收敛方向性的系统性逆转解释了共识形成的三模式模式。在低比例下，智能体通过适应来促进现有语言空间内的收敛，从而催化人类主导的共识。在中等比例下，双方都无法完全适应对方的竞争方向性力量产生干扰，破坏了共识形成。在高比例下，收敛方向已完全逆转，人类现在向智能体的语言空间适应以建立新的共识。因此，尽管低和高智能体比例的群体达到了相似的共识强度，前者代表了智能体促进的人类共识，而后者代表了智能体主导的共识——这种机制上的区别引发了这样的问题：这些不同的途径是否也产生了不同的共识内容，我们将在下一节中探讨。

### 智能体参与转变了共识的语义内容  
前面的分析揭示，12.5%和75%的智能体条件通过相反的机制达到了相似的共识强度：智能体促进的人类共识与智能体主导的共识。这就提出了一个问题：这些不同的途径是否也产生了不同的共识内容。为了回答这个问题，我们比较了这两种条件下形成的最终共识，重点关注智能体在词汇和概念层面的影响，以及所形成表达的语义属性。

我们首先检查智能体在两个互补层面的影响：词汇贡献量化了智能体对最终稳定词汇的贡献程度；概念贡献则衡量了智能体对语义簇的贡献程度（见方法M2）。跨智能体比例，这两个指标表现出不同的轨迹（图2a；补充图2-3）。在词汇层面，智能体的贡献大大超过其在群体中的比例，并且贡献单调上升。具体来说，33.3%的智能体已经贡献了60.7%的最终词汇。相比之下，在概念层面，智能体的贡献呈现阈值动态，在早期上升缓慢，然后在高比例时迅速占据主导地位，在75%比例时达到100%的贡献，表明完全主导了语义空间。这种分离表明，智能体首先塑造了表层词汇，然后才影响共识的概念组织。

为了量化从词汇到概念影响的转变，我们引入了概念-词汇比（CLR）指标，定义为概念层面与词汇层面智能体贡献的比率（图2b；见方法M2）。CLR>1表示智能体对概念内容的影响大于其词汇足迹本身所能表明的，符合一种概念领导的形式，即智能体塑造共识的语义内容而不仅仅是其措辞。CLR<1则相反：智能体主要作为“语言锚点”，标准化表达但并未相应地重定向语义内容。在较低比例（12.5%和33.3%）下，CLR保持低于1，证实智能体主要提供词汇标准化。从50%开始，CLR超过1（在50%时达到1.24，在75%时达到1.27），表明智能体从主要的词汇影响转向对共识更强的概念影响。这种排序的出现是因为词汇贡献只需要智能体引入可重用的单词到共享词汇中，这个过程即使在低比例下也能出现，因为共享语言先验的