AI 闯祸后留下的烂摊子，AI 公司却不愿买单

# AI 搞出的烂摊子，AI 公司却不用买单 来源：https://www.wired.com/story/ai-hacks-leave-a-mess-that-ai-companies-arent-cleaning-up/ 上周，费城警方就 Anthropic 一起关于未结谋杀案提交虚假线索一事提出批评时，我曾以为这可能成为首批 AI 公司因自家智能体（agent）的不当行为而承担法律责任的案件之一（https://www.wired.com/story/rogue-ai-is-just-misunderstood/）。 事件发生在 7 月 18 日。据 Anthropic 称，当时公司正在测试 Claude Haiku 4.5 模型"在随机选取的网页上执行示例任务"的能力（https://www.anthropic.com/research/investigating-unintended-model-actions）。模型被明确告知不得"提交任何具有破坏性的内容"，然而 Claude 却向警方提交了一条线索，声称提供关于一起正在调查中的谋杀案的信息。Claude 在提交内容中写道："我记得在那段时间里在该地区看到过一个与描述相符的人……"这条提交未附姓名和联系方式，最终被归入了垃圾邮件文件夹，警方并未查看——直到 9 月 28 日 Anthropic 自己发现了这一乌龙，于 10 月 7 日通知了警方。 在宾夕法尼亚州，故意向警方提供关于犯罪事件的虚假信息属于轻罪（misdemeanor），但截至目前，当局尚未对 Anthropic 提起诉讼，也不确定是否会这样做。费城地检办公室发言人所罗门·利奇（Solomon Leach）表示，该办公室"不会就某事是否正在被积极调查发表评论"。 Anthropic 未立即回应置评请求。 尽管围绕 OpenAI 入侵 Hugging Face 事件（https://www.wired.com/story/openais-hugging-face-hack-debrief-raises-more-questions-than-it-answers/）以及近几个月来曝光的众多 AI 智能体不当行为受到了广泛关注，但目前只有一起重大诉讼旨在追究模型开发商的责任。该诉讼由一个倡导团体提起（https://www.wired.com/story/openai-sued-over-the-hugging-face-hack/），而非直接的受害方。 AI 智能体已经干扰了业余爱好者论坛、政府网站以及各种软件工具的正常运行。受害者承担了部分成本，包括服务器因额外负担而增加的开销，以及他们投入修补潜在安全漏洞的时间。 据报道，包括欧盟、美国联邦贸易委员会（FTC）以及部分美国州政府在内的监管机构仍在就相关事件对 OpenAI 和 Anthropic 进行调查。然而，跨大西洋两岸对促进创新的倾向（https://www.wired.com/story/whatever-ai-safety-looks-like-its-not-this/）可能使这些公司得以逃避任何即时处罚（https://www.wired.com/story/trumps-ai-safety-accord-is-a-fancy-pinky-swear/）。 居住在德国的软件工程师里克·埃尔罗德（Rick Elrod）最近发现他参与维护的一个 URL 短链接服务行为异常，于是打电话给两位熟识的安全研究人员，请他们帮忙诊断问题。埃尔罗德说，研究人员发现 Anthropic 及其他供应商的智能体在利用这项名为 da.gd（http://da.gd/）的服务来绕过 AI 实验室为管控其行为而设置的规则。（例如，Anthropic 表示公司限制 Claude 可访问的网址长度，以防止其通过在 URL 末尾附加数据来执行恶意操作。） 提供无偿援助的安全研究人员之一乔·尼德尔曼（Joe Needleman）说，da.gd 对此事的调查以及为防止工具被进一步滥用所做的持续努力"花费了相当多的时间"。但他和其他支持 da.gd 的人认为，这是一次宝贵的学习机会。 尼德尔曼说："这令人大开眼界。"他补充说，da.gd（http://da.gd/）"没有手段也没有计划"就清理工作向 Anthropic 索要赔偿，因为"我们看到许多智能体在做类似的事情，并非所有行为都能归因于自主智能体"，而且"并非全部来自 Anthropic 一家"。 网络安全工具厂商急于将责任推给受害方。在本周由漏洞挖掘软件开发商 Snyk 举办的一场活动上，来自该公司、其投资方、OpenAI 和 Google 的嘉宾纷纷鼓励各机构使用 AI 智能体来加强防御——对抗的正是其他 AI 智能体。Boldstart Ventures 普通合伙人埃德·西姆（Ed Sim）说："我们必须重新发明一切，用机器规模来匹配机器规模。"他和其他人对监管 AI 实验室几乎毫无兴趣。 Snyk 首席技术与创新官马诺杰·奈尔（Manoj Nair）表示，由于人力资源有限，大型企业平均每发现八个漏洞只能修补一个。但他认为，必须将部分漏洞挖掘、修复和监控工作交给 AI 智能体。"你必须达到能修复一切的程度，因为在智能体黑客的时代，"那十件事转眼就会变成一百件。"他后来又说，如果把 AI 转化为优势，"它就不是威胁"。 一些公司正在响应武装自己的号召。美国银行（Bank of America）本周宣布已雇用 1,000 名合同工来修复 AI 发现的漏洞。奈尔说，仅上周他就接到一些大企业的咨询，这些企业愿意临时关闭系统以优先修补安全漏洞。 Anthropic 和 OpenAI 曾表示，他们预计将继续报告自身测试中发现的值得关注的事件。但随着后果始终难以落实，无论来自攻击方还是防御方，这些公司的营收仍在持续飙升（https://www.reuters.com/business/finance/anthropics-q3-revenue-surges-45-nearly-17-billion-2026-10-14/）。 --- *本文摘自 **Model Behavior 通讯**（https://www.wired.com/newsletter?sourceCode=editarticle）。**点击此处阅读往期通讯**（https://www.wired.com/tag/model-behavior/）。*