立场：AI推理代理的串通风险为市场决策的认证要求提供依据

# AI推理智能体间的串通风险决定了其进行市场决策时须通过行为认证  
来源：https://arxiv.org/html/2608.18078  
Tommaso Tosato、Amin Memarian、Maximilian Puelma Touzel、Glen Berseth、Irina Rish、Guillaume Dumas  

###### 摘要  
本文观点认为，具备思维链推理能力的AI智能体易于产生串通行为，因此在做出影响经济市场的决策前应获得行为认证。这是因为将这些智能体引入社会，可能消除独立企业之间竞争与串通在法律证据上的区分，同时又不减轻其造成的经济危害。通过在伯特兰寡头定价领域对DeepSeek-R1智能体的实验发现，即使人类提示智能体不要串通，其仍表现出隐性串通倾向。我们进一步证明，这些智能体的思维链推理可被引导至极端串通或高度竞争的行为模式，且这种引导无法被分析推理轨迹的其他大语言模型通过语义检测识别。因此，部署推理智能体进行市场决策会导致串通经济结果，却不会留下任何共谋或意图的证据。基于代表性情境下观察行为的认证机制对防止串通至关重要。我们提供了初步证据表明，此类智能体可通过通用化引导实现有效竞争均衡。然而，在确保稳定性和效率的前提下将这类模型部署于真实市场前，必须建立全面的行为认证体系。111  
我们提供了复现实验的代码：https://github.com/mattriemer/LLMCartel  
机器学习，ICML  

## 1 引言  
经济市场中的串通行为  
随着智能AI的兴起，全球重要决策任务中AI的应用日益广泛。在市场经济中，竞争对提升市场效率、增强市场稳定性及最大化社会福利（O'Sullivan & Sheffrin, 2003 (https://arxiv.org/html/2608.18078#bib.bib63)）至关重要。因此，全球主要经济体均设有重要反垄断或反托拉斯立法以维护企业间竞争。然而，这些立法及市场组织的一个基本假设是：不同企业将独立做出最大化自身利益的决策。部署AI智能体进行关键经济决策（如商品定价和产量决策）有望完善现实市场，但也存在导致市场崩溃、完全消除竞争的风险。  

串通的类型  
AI的引入可通过多种方式损害企业决策的独立性。例如，AI软件可能非法利用非公开数据改善企业间协调——此类行为已受到美国司法部（U.S. Department of Justice, Antitrust Division, 2024 (https://arxiv.org/html/2608.18078#bib.bib106); Kanter, 2025 (https://arxiv.org/html/2608.18078#bib.bib39)）等机构的严格审查。这属于现行反垄断法可轻易追诉的违规行为，因为数据共享提供了共谋的直接证据。同样，若代表不同企业的两个AI聊天机器人通过电子邮件直接沟通并达成提价协议，也可适用此情形。但若协议性质是隐性而非显性约定，追究串通企业的责任则困难得多。事实上，虽然全球主要经济体的法律惩罚显性串通，隐性串通在很大程度上合法，尽管其造成的危害可能同样严重。其主要理由在于：人类进行市场决策时，独立企业极难实施隐性串通（Harrington, 2018 (https://arxiv.org/html/2608.18078#bib.bib32); Calvano et al., 2020 (https://arxiv.org/html/2608.18078#bib.bib10)）。有观点认为，缺乏沟通的串通本质上不可持续（Kühn & Tadelis, 2017 (https://arxiv.org/html/2608.18078#bib.bib49); Schrepel, 2017 (https://arxiv.org/html/2608.18078#bib.bib83); Schwalbe, 2018 (https://arxiv.org/html/2608.18078#bib.bib84)）。尽管人类思维过程与AI类似无法直接检查，但人类对自身行为的解释要可靠得多（Bubeck et al., 2023 (https://arxiv.org/html/2608.18078#bib.bib6)）。此外，决策者常被要求在会议、邮件或短信中说明决策理由，这些都可能成为共谋证据。因此，赋予市场决策自主权的AI智能体之间潜在的隐性串通，且无需透明度，对现行反垄断法的有效性构成独特威胁。  

AI隐性串通的证据  
如果企业将决策委托给相同AI代理或使用相似数据训练的独立但相似的AI代理，其决策还能保持独立性吗？近期证据令人担忧：先进模型极易表现出高度串通性——即使被独立提示以最大化竞争企业利润为目标。例如，Calvano等人（2020 (https://arxiv.org/html/2608.18078#bib.bib10)）和Bertrand等人（2025 (https://arxiv.org/html/2608.18078#bib.bib5)）观察到经共同训练的Q-Learning强化学习智能体在定价决策中存在显著隐性串通。尽管此结果在理论上令人担忧，但因智能体初始随机性能可能阻碍企业实施此类策略，尚未具备实践意义。然而，大语言模型（LLMs）可通过先验知识直接解决此问题，实现强劲初始表现。我们的工作受Fish等人（2024 (https://arxiv.org/html/2608.18078#bib.bib23)）令人忧虑的结果启发：配备草稿纸记忆的GPT-4模型可实现与竞争企业的价格隐性串通。Lin等人（2024 (https://arxiv.org/html/2608.18078#bib.bib53)）进一步证明该现象可延伸至产量决策与市场划分。这些案例中，智能体仅被提示最大化利润（不涉及串通认知）。我们的结果显示，隐性串通现象甚至出现在明确提示智能体不要串通的情况下。先前研究还发现弱于GPT-4的模型难以实现隐性串通，且GPT-4仅在使用草稿纸记忆增强时才能达成（Fish et al., 2024 (https://arxiv.org/html/2608.18078#bib.bib23)）。我们的结果表明，思维链推理模型无需特殊增强——其推理能力可替代草稿纸记忆功能，且即使是易于获取的小型开源模型也能实现隐性串通。  

AI的执法问题  
Harrington（2018 (https://arxiv.org/html/2608.18078#bib.bib32)）率先分析了反垄断法如何应对具备隐性串通能力的AI智能体。他将潜在执法机制分为两类：1) 算法可解释性，2) 行为模拟。本文认为，思维链推理智能体无法提供可作为串通证据的可靠算法可解释性。因此，在部署场景中展示推理智能体表现的行为模拟成为建立市场信心、维护竞争的唯一途径。结果显示，修改DeepSeek-R1推理智能体以防止串通需付出巨大努力。故我们建议：此类智能体默认存在串通倾向，应建立认证机制保障现实市场安全。  

法律动向  
尽管模型认证提案在许多司法管辖区看似政治不可行，但相关立法势头正在增强。例如，加利福尼亚州近期立法保护在无直接明确共谋证据情况下指控串通的原告（California State Assembly, 2025 (https://arxiv.org/html/2608.18078#bib.bib9)）。美国联邦贸易委员会（FTC）近期调查了亚马逊（Federal Trade Commission, 2024 (https://arxiv.org/html/2608.18078#bib.bib21)）等公司部署的定价算法，这些算法试图消除竞争或诱导竞争对手协同提价。然而，这些仅为解决方案的初步尝试，因现行法律依赖明显串通意图证明而未能充分解决问题。值得注意的是，美国最高法院已承认人类间存在隐性串通（U.S. Supreme Court, 1993 (https://arxiv.org/html/2608.18078#bib.bib107)）。反垄断法的经典案例“加油站问题”中，一家加油站默默模仿街对面竞争对手的定价（Stucke & Ezrachi, 2018 (https://arxiv.org/html/2608.18078#bib.bib91)）。此问题多年未受监管，但当涉及不再是偏远小镇的两家加油站，而是整个互联网的AI智能体社会时，填补这一漏洞对全球经济效率和稳定性变得至关重要。大规模采用认证算法似乎是这一古老法律困境的自然解决方案。  

具体而言，我们的立场是：具备思维链推理能力的AI智能体倾向于与其他表面独立的企业实施隐性串通，因此建立行为认证要求对确保现实市场的效率和稳定性至关重要。这是因为所展示的串通不满足确立共谋或串通意图的证据标准。因此，规范此类智能体的唯一途径是：假定其使用意味着串通意图，并要求使用企业通过行为证据证明其未破坏竞争市场。第4节（https://arxiv.org/html/2608.18078#S4）展示了这些模型如何通过企业无串通意图甚至明确反对串通的提示下仍提供隐性串通证据来掩盖部署企业的意图。第5节（https://arxiv.org/html/2608.18078#S5）则证明这些模型可通过基于智能体思维链内容无法语义解释的方式提供隐性串通证据，从而掩盖智能体自身的意图。最后，第6节（https://arxiv.org/html/2608.18078#S6）初步研究如何引导这些模型促进竞争，第7节（https://arxiv.org/html/2608.18078#S7）讨论创建认证机制。  

## 2 替代观点  
尽管越来越多证据表明AI推理智能体可能促成隐性串通，但仍有几种替代解释挑战了威胁的严重性及本文的政策结论。这些观点通常分为四类：（i）对实验证据外部有效性的怀疑，（ii）认为AI的隐性串通与合法人类行为无本质区别，（iii）主张现有法律框架已足够，（iv）相信技术缓解措施或市场力量将自动修正不良结果。  

实验伪影与外部有效性  
一种主要批评认为，观察到的AI智能体间串通是程式化实验环境的产物，而非对部署市场行为的真实预测。实验室定价博弈、重复伯特兰竞争及简化生产环境抽象了现实经济中的诸多摩擦，包括需求不确定性、异质成本、监管、声誉考量及组织约束。从这一视角看，AI智能体间的隐性串通演示可能夸大了其在现实部署中的可能性或持久性，尤其在企业众多或条件快速变化的市场中（Harrington, 2018 (https://arxiv.org/html/2608.18078#bib.bib32)）。本文虽进行额外实验以捕捉部分现实条件，但完全分析所有因素并不现实。亦有观点认为，提示智能体在封闭小环境中重复优化利润，实质上诱导了重复博弈推理，而这无法推广至智能体面临新竞争者、体制变迁或不完全可观察的情境。据此观点，AI智能体可能仅是在利用基准任务固有的均衡结构，而非真正表现出串通倾向。  

我们理解此观点，但需指出，此类批评适用于所有模拟研究结果，并质疑在模拟中进行受控实验的根本意义。现实中，由于需求函数未知，实际上无法通过经验衡量超竞争利润层面的串通程度。因此，若持续应用此观点，将因简化假设的必然性而主张完全放弃市场分析或监管。此外，简化环境可能使结果偏向于不利于串通而非助长串通。现实市场为协调提供了额外稳定因素，如可预测的季节性、重复互动、稳定的竞争者集合及持续的需求模式——这些在人类情境中已知有利于串通。如果AI智能体能在状态有限且无显式沟通的最小环境中可靠收敛至超竞争均衡，那么在更丰富、结构更复杂的领域其能力也未必减弱。  

隐性串通作为合法竞争行为  
第二种论点认为，AI智能体的隐性串通与反垄断法容忍的合法人类行为无本质区别。企业常进行平行定价、追随价格领导者或策略性响应竞争对手行动而无显式沟通，此类行为在无协议或意图证明时通常视为合法。从这一视角看，独立学习弱化竞争的AI智能体可能仅是在复制理性经济行为，而非破坏竞争政策的法律基础（Calvano et al., 2020 (https://arxiv.org/html/2608.18078#bib.bib10)）。