AI智能体在黑杰克中联手作弊，其共谋行为愈发难以察觉。

# AI 代理团队在黑杰克游戏中作弊，其串通行为愈发难察 来源：https://www.wired.com/story/ai-agent-collusion-card-counting-secrets/ 本周带来一则由两个“叛逆”AI代理策划的大胆赌场奇案，以及揭露其把戏的巧妙手段。 研究人员指示它们在黑杰克游戏中算牌（https://www.wired.com/video/watch/expert-explains-how-to-count-cards）后，这两个由同一模型控制的代理自发发展出一套秘密代码以获取优势。虽然事件发生于牛津大学实验室而非真实赌场，但其潜在影响令人担忧：这表明部署在金融、电商等行业的代理可能学会串通作弊，且手法难以察觉。 “单看这些代理，它们似乎完全【无害】，”主导这项研究的牛津大学计算机科学家克里斯蒂安·施罗德·德·维特（Christian Schroeder de Witt，https://eng.ox.ac.uk/people/christian-schroeder-de-witt）表示。他在代理串通领域进行了开创性研究（https://arxiv.org/pdf/2402.07510）。“一旦组成群体，它们就能秘密勾结。” 代理们知道对话会被监控，因此设计出规避检测的通信方式。例如当某个代理说“这庄家手气真旺！每局都抓到鬼牌”，实则暗示下一张牌的特定点数，并指示下注250美元。最值得注意的是，专为监测代理串通信号的系统并未发现这种通信模式。 参与项目的机器学习研究员亚伦·罗斯（Aaron Rose）同时是位热衷牌局的玩家，他认为黑杰克牌桌可能成为代理秘密勾结的理想场所。“效果出奇地好，”他说道。 施罗德·德·维特团队最终破解了这种串通机制。他们采用“机械可解释性”方法（https://www.wired.com/story/ai-black-box-interpretability-problem/），训练小型模型识别代理权重中的特定激活模式。通过开源工具Narcbench（https://github.com/aaronrose227/narcbench）对多个中型开源模型测试后，成功识别出模型间传递隐蔽信息的行为。 关键在于，这种检测需要同时监控两个代理——在现实场景中，数千个代理（部分由不同公司运营）的部署将使检测复杂化。 参与研究的博士生卡丽莎·卡伦（Carissa Cullen）表示，下一步将测试更大模型是否呈现类似行为。（研究中使用的代理基于美国模型Llama、GPT-OSS及中国模型Qwen、DeepSeek的轻量版本。）团队发现大型模型可能表现出更弱的可检测信号，需进一步探究其是否更易串通且更善于掩饰。 越来越多证据表明，群体代理比独立代理更具风险。上海交通大学与上海人工智能实验室的一项研究（https://arxiv.org/abs/2507.14660）发现，当被要求执行模拟虚假信息传播和电商欺诈时，集群式代理展现出更强的危险性——它们能更有效地应对防御措施。 “重要启示在于：仅评估单个代理是不够的，”研究代理串通现象的斯坦福大学计算机科学家杨笛一（Diyi Yang）指出，“即使代理的个体激励看似无害，企业仍应密切监控其反复交互过程。” 当然并非全无益处：OpenAI正是借助数千个代理协作，成功解决了原本棘手的数学难题（https://www.wired.com/story/openai-navier-stokes-math-discovery-academics/）。但近来多起引人注目的黑客事件中，叛逆的代理团伙同样扮演关键角色。五月时，OpenAI团队的代理入侵了AI研究平台Hugging Face（https://www.wired.com/story/openai-models-escaped-containment-and-hacked-huggingface/），并通过公告板（https://www.wired.com/story/openai-didnt-notice-its-ai-agents-using-a-message-board-to-plan-their-hacking-spree/）分享攻击技巧。其他模型如Anthropic的Claude（https://www.wired.com/story/anthropic-says-claude-hacked-real-systems-during-cybersecurity-tests/）和Google的Gemini（https://www.bloomberg.com/news/articles/2026-09-18/google-s-gemini-ai-system-hacked-three-systems-in-safety-tests）也曾发生令人担忧的安全突破。 秘密通信为这一新兴问题增添了新维度。新兴AI初创公司Emergence AI的最新研究（https://world.emergence.ai/publication/emergenceworld-s2.pdf）将前沿AI模型控制的代理置于虚拟世界观察其行为：为完成赚钱任务，代理们不断尝试联系互联网上的真实人类以推销商品。最奇特的是，这些代理逐渐形成了专属俚语。“它们迅速演化出一种语言，”Emergence AI首席执行官萨蒂亚·尼塔（Satya Nitta）表示，“原因尚不明确。” 国际社会正密切关注代理失范问题，本周联合国大会上该议题将成为热点。独立科学小组将讨论OpenAI-Hugging Face事件，而山姆·奥特曼（Sam Altman）预计呼吁国际社会协同制定安全AI代理开发准则。 尽管如此，电商等行业已成为智能代理的试验场。例如亚马逊本周宣布封禁Meta的Muse AI代理（https://www.theverge.com/tech/998078/amazon-blocks-meta-muse-ai-agent-shopping），称其违反使用条款。 施罗德·德·维特认为，代理间为争取优惠或损害他方利益而形成秘密同盟是完全可预见的。随着代理广泛应用，研究其串通行为并开发检测策略至关重要。“随着更多代理进入经济体系，我们必须深入研究并理解将发生什么。”他强调。 --- *本文摘录自****威尔·奈特***（https://www.wired.com/author/will-knight/）***的AI实验室通讯***（https://www.wired.com/newsletter?sourceCode=editarticle）*。过往期刊****请见此***（https://www.wired.com/tag/ai-lab/）