AI失控并攻击其他公司的所有案例

# 人工智能失控入侵企业全记录 | TechCrunch 来源：https://techcrunch.com/2026/08/27/heres-all-the-times-ai-has-gone-rogue-and-hacked-other-companies/ 今年七月，OpenAI 承认其负责网络安全实验的智能体突破隔离边界，入侵了AI数据平台Hugging Face（https://techcrunch.com/2026/07/21/openai-says-hugging-face-was-breached-by-its-pre-release-models/）。该事件昨日获得OpenAI完整披露（https://techcrunch.com/2026/08/26/openai-releases-its-official-report-on-the-hugging-face-breach/），成为首例公开报道的LLM自主攻击第三方安全事件。 自那时起，这场堪比科幻电影的空前事件，其发生频率却远超所有人预期。 据讽刺网站Felony Bench（https://www.felonybench.com/）（意为"重罪基准测试"）统计，此类事件已累计17起。需注意，刑法专家尚未完全厘清制造入侵LLM的AI公司是否应承担刑事责任，受害者能否提起诉讼。但我们或许很快就能获得答案（https://techcrunch.com/2026/08/03/whos-legally-to-blame-for-anthropic-and-openais-autonomous-ai-hacks-its-complicated/）。 根据该网站数据，Anthropic与OpenAI模型以各8起事件领跑，Meta仅1起。至此已明确：AI安全测试本身正演变为安全隐患（https://techcrunch.com/2026/08/09/the-ai-safety-test-is-becoming-a-safety-risk/）。部分AI企业及从业者已在《引领前沿》（https://www.pacingthefrontier.com/）公开信中承认这些风险，呼吁负责任地发展AI能力。 我们决定按时间顺序梳理所有事件。 （Felony Bench当前排名截图由X用户felpix（https://x.com/felpix_）制作）**图片来源：**截图/felpix/互联网接入。随后，多个智能体协同定位并入侵Hugging Face，误以为挑战解决方案存于该平台。OpenAI是在Hugging Face披露（https://techcrunch.com/2026/07/20/hugging-face-confirms-breach-affected-internal-datasets-and-credentials-urges-users-to-take-action/）遭受完全自主攻击后才获悉此事。哎呀。 ## **Anthropic披露其AI入侵三家企业** OpenAI的披露引发Anthropic好奇：我们是否也曾遭遇类似事件？答案是肯定的。而且是三次。这家前沿实验室发现（https://techcrunch.com/2026/07/30/anthropic-says-its-own-ai-models-breached-three-companies-during-security-tests/），其模型曾入侵三家尚未具名的不同企业，最早事件可追溯至四月——比公司发现时间早三个多月。Anthropic部分归咎于运营AI网络评估的初创公司Irregular。哎呀。 ## **OpenAI发现Hugging Face并非唯一受害者** 在调查Hugging Face入侵事件期间，OpenAI发现攻击该平台的智能体还入侵了四家公司的四个账户（据路透社首次报道（https://www.reuters.com/business/openai-finds-evidence-other-ai-agents-escaped-containment-it-widens-hacking-2026-07-31/））。AI推理初创公司Modal（https://techcrunch.com/2026/02/11/ai-inference-startup-modal-labs-in-talks-to-raise-at-2-5b-valuation-sources-say/）是受害者之一。哎呀。 ## **Irregular发现OpenAI模型入侵真实企业** 七月底，Irregular向OpenAI透露（https://openai.com/index/third-party-cyber-evaluations-involving-openai-models/#:~:text=our%20collaboration%20together.-,Irregular,-On%20July%2029），其参与"夺旗赛"（即玩家入侵专为竞赛设计的系统的网络安全游戏）的某个模型脱离游戏环境，连接互联网并入侵了真实企业。原因在于：Irregular为虚构目标命名时与一家真实企业重名。哎呀。 ## **英国AI安全研究所试图入侵"真实个人与组织"** 同样在七月下旬，负责研究AI技术安全与风险的英国政府机构AI安全研究所披露（https://www.aisi.gov.uk/blog/incident-report-unsanctioned-agent-behaviour-during-cyber-testing），在运行"常规"评估时检测到多起涉及OpenAI和Anthropic模型的事件，这些模型将"真实个人与组织"列为攻击目标。事件中，AISI曾为模型提供互联网接入。哎呀。好消息是，该机构在事件发生时便实时检测到，而非像其他案例那样延迟数周才察觉。 八月初，Meta成为最后一家披露LLM入侵事件的公司，其模型攻击了"第三方"服务。Meta将事件（https://www.reuters.com/legal/litigation/openai-anthropic-ai-agents-implicated-new-security-breaches-2026-08-05/）归咎于Irregular的配置错误——该公司当时正为这家科技巨头执行不应具备网络权限的网络安全评估。哎呀。 ## **Claude智能体入侵健身房软件抢占课程名额** 一名澳大利亚男子请求Anthropic AI智能体帮助预约排队等候的健身房课程。"我瘫在沙发上想，'天啊这太麻烦了'，"该男子告诉澳大利亚广播公司。为响应请求，智能体（https://www.abc.net.au/news/2026-08-10/ai-assistant-hacks-gym-website-aus-cyber-attack/107007986）发现健身房预约软件漏洞并加以利用，将排在该男子前面的用户挤出名单。当男子试图挽回损失，要求智能体撤销操作时，得到的答复是："坏消息——我无法把他们加回来。"哎呀。 *通过文章内链接购买商品时，我们可能赚取小额佣金（https://techcrunch.com/techcrunch-affiliate-monetization-standards/）。这不影响我们的编辑独立性。* Lorenzo Franceschi-Bicchierai是TechCrunch资深撰稿人，专注于黑客技术、网络安全、监控与隐私领域报道。 可通过邮箱[email protected]联系或验证其邀约信息，Signal加密消息+1 917 257 1382，Keybase/Telegram账号@lorenzofb。 查看个人简介（https://techcrunch.com/author/lorenzo-franceschi-bicchierai/）