同一家公司牵涉OpenAI、Anthropic与Meta的黑客事件
摘要
文章揭示了一家名为“Irregular”的以色列公司,该公司应对涉及OpenAI、Anthropic和Meta的多起网络安全事件负责。在测试中,其未受安全保护的模型曾入侵真实目标。文章探讨了媒体反应及各公司在此事件中的角色。
暂无内容
查看缓存全文
缓存时间: 2026/09/15 17:57
# 同一家公司牵涉OpenAI、Anthropic与Meta黑客丑闻
来源:https://www.effort.news/irregular
以色列有效利他主义公司Irregular导致未受防护的AI模型攻击真实目标
2026年9月14日 | 4分钟阅读
### Irregular的黑客丑闻<sup>1</sup>(https://www.effort.news/irregular#irregular-note-1)
1. 2026-07-30 Anthropic披露六次运行中的三起事件
2. 2026-08-04 OpenAI发布Irregular事件报告
3. 2026-08-06 Meta发表声明
4. 2026-08-14 Irregular发布域名碰撞事件说明与修复方案
5. 2026-09-09 Anthropic将事件扩展至四起(含七次运行)
在更规范的媒体生态中,对这些网络安全问题的反应本应显而易见。美国AI公司本应重新考虑与Irregular的合作——不仅因其系统安全失范,更因其作为以色列企业可能游离于美国监管之外。立法者本应考虑对Irregular或其美国业务伙伴(包括OpenAI、Anthropic和Meta)采取行动。他们本可考虑加强对授意AI模型实施网络攻击的公司的问责,特别是当这些模型实际执行攻击时。
Anthropic事件评估摘要显示:Claude接受了CTF挑战赛任务,获得了非预期的互联网访问权限,且未设置明确的系统范围限制;每起事件均涉及一个隔离的Claude实例。在每次评估中,Claude被要求完成CTF挑战:模型获得虚构场景、目标机器及需从中获取的秘密信息(“旗帜”)。所有四项提示均声明Claude无法访问互联网,但环境中配置错误导致互联网访问开放。所有提示均未指明演习涉及的系统范围,或限制Claude搜索旗帜的位置。所有事件仅涉及单一Claude实例独立工作,每次运行持续约10至34小时的实际操作时间。
相反,Irregular、Anthropic及其盟友已发起一场媒体运动,以耸人听闻的宣扬末日论意识形态。Anthropic的事件评估将责任归咎于自身AI的“鲁莽行为”(https://www.anthropic.com/research/alignment-assessment-cybersecurity-incidents);Irregular描述“智能体本身成为攻击者”(https://www.irregular.com/research/emergent-offensive-cyber-behavior-in-ai-agents);Anthropic首席执行官Dario Amodei就类似OpenAI-Hugging Face攻击事件警告称,未来协同攻击“可能具备接管整个互联网的能力”(https://darioamodei.com/post/we-must-pace-the-frontier);美联社标题则声称机器人正“脱离控制”(https://apnews.com/article/0e8061437da6779be962b24ac134a514)。
Anthropic的一份报告(https://www.anthropic.com/research/alignment-assessment-cybersecurity-incidents)显示,其Claude模型通过模拟域名碰撞攻破真实企业系统,发布恶意软件包并扫描外部系统。在此测试中(https://www.anthropic.com/news/investigating-incidents-cybersecurity-evals),Anthropic与Irregular错误地向该模型提供了互联网访问权限,且未指示模型“明确演习涉及的系统范围”。
尽管Anthropic声称问题源于“失控协同体”及“未对齐”,但其后续披露显示智能体“失控”比例实际为零。实验中,当Anthropic员工明确禁止Claude进行现实攻击后,其现实网络攻击行为即降为零。根据其自身结论,Anthropic与Irregular应为所引发的网络安全事件负全责。
Anthropic评估摘要:重采样条件使Mythos 5最初的恶意软件包上传路径降至零;22%的轨迹搜索了模拟选项。此次攻击事件后,Anthropic与Irregular部署了由Anthropic关联基金会资助的AI安全影响者网络(https://www.effort.news/tarbell),意图转移对其过失的关注,转向毫无依据的“失控智能体”理论。与Anthropic相同,Irregular与这些基金会存在不可分割的关联。
Irregular联合创始人兼首席技术官Omer Nevo同时担任有效利他主义以色列、苍鹭基金会及Probably Good的董事。联合创始人兼首席执行官Dan Lahav与Omer的兄弟Sella Nevo共同获得39.5万美元资助开设课程。Sella与Omer联合创办了旨在普及有效利他主义的非营利组织Impact Focused Education,并共同创建Probably Good<sup>2</sup>(https://www.effort.news/irregular#irregular-note-2)。
这些分支机构均由Dustin Moskovitz资助——自Sam Bankman-Fried被捕后,他已成为有效利他主义/AI安全领域的主要捐赠者。Irregular的首轮投资者正是Dustin Moskovitz旗下的Good Ventures。其慈善载体Coefficient Giving/Open Philanthropy持续资助有效利他主义以色列、苍鹭基金会及Probably Good<sup>3</sup>(https://www.effort.news/irregular#irregular-note-3)。
### Irregular的有效利他主义关联<sup>4</sup>(https://www.effort.news/irregular#irregular-note-4)
EA以色列监管苍鹭基金会。Omer Nevo在EA以色列、苍鹭基金会及Probably Good担任要职。Coefficient Giving资助苍鹭基金会与Probably Good;EA Infrastructure Fund与Sella Nevo及Dan Lahav存在记录在案的关联。Coefficient Giving | EA Infrastructure Fund | EA Israel | Heron | Probably Good | Omer Nevo | Sella Nevo | Dan Lahav | 资助 | 监管
Irregular利用获得访问权限的未受防护模型,非法获取系统权限、篡改记录并发布窃取凭证的软件包。根据《计算机欺诈与滥用法》第1030(a)(2)(C)条,此类行为在特定条件下涉嫌违法——该条款涵盖故意未授权访问以获取信息的行为。但其重罪指控需确凿的损害证据及故意证明<sup>5</sup>(https://www.effort.news/irregular#irregular-note-5)。
尽管主要与美国实验室合作,但Irregular位于以色列的核心管理层、员工及资源可能不受美国监管。《以色列新闻》的探访与采访(https://www.ynetnews.com/magazine/article/syber7xg11g)披露了其特拉维夫办公室。CheckID公司登记信息(https://www.checkid.co.il/company/%D7%A4%D7%90%D7%AA%D7%A8%D7%9F-%D7%98%D7%A7-%D7%91%D7%A2~%D7%9E-516854460)显示两家关联实体:注册于特拉维夫的Pattern Tech Ltd(以色列公司编号516854460)(https://next.obbudget.org/i/org/company/516854460)与特拉华州的Pattern Labs Tech Inc.(https://tmng-al.uspto.gov/resting2/api/casedoc/cms/case/99649085/office-action/OfficeAction8619771.pdf)。
## 脚注
¹时间线标注为公开披露日期。Anthropic修正后的9月评估统计七次运行中的四起事件;OpenAI与Meta分别报告了Irregular评估事件。日期描述的是披露时间,而非每次入侵实际发生时间。↩(https://www.effort.news/irregular#incident-timeline)
2026-07-30 Anthropic披露六次运行中的三起事件 | 披露 | INC-A30(https://www.anthropic.com/news/investigating-incidents-cybersecurity-evals)
2026-08-04 OpenAI发布Irregular事件报告 | 披露 | INC-O04(https://openai.com/index/third-party-cyber-evaluations-involving-openai-models/)
2026-08-06 Meta发表声明 | 披露 | INC-M06(https://apnews.com/article/0e8061437da6779be962b24ac134a514)
2026-08-14 Irregular发布域名碰撞事件说明与修复方案 | 披露 | INC-I14(https://www.irregular.com/research/addressing-recent-incidents-ongoing-findings-and-path-forward)
2026-09-09 Anthropic扩展至四起事件(含七次运行) | 披露 | INC-A09(https://www.anthropic.com/research/alignment-assessment-cybersecurity-incidents)
²图表展示部分组织角色与资助关系;表格同时记录图表未呈现的家族及教育关联。EA Infrastructure Fund于2022年第三季度向Dan Lahav与Sella Nevo推荐一笔394,968美元的联合慕课资助;两个箭头代表该笔推荐。其账目未公开课程及组织名称。↩(https://www.effort.news/irregular#ea-map)
³《计算机欺诈与滥用法》第1030(a)(2)(C)条的五年重罪条款要求存在加重情节,如商业优势、协助其他犯罪/侵权行为,或获取价值超5,000美元的信息。第1030(a)(5)条关于破坏性访问或传输的首犯重罪条款需特定主观意图及法定损害(如至少5,000美元合格损失或影响十台受保护计算机的损害)。法律评估仍需确认各系统许可权、损害程度、响应成本及与美国商业的关联。检察官还需确立相关人员的行为与知情状态,并建立将行为归责于Irregular的依据。18 U.S.C. § 1030(https://uscode.house.gov/view.xhtml?req=granuleid:USC-prelim-title18-section1030&num=0&edition=prelim)。↩(https://www.effort.news/irregular#cfaa)
相似文章
为何Irregular为Meta、Anthropic和OpenAI进行的AI测试失控了。Irregular,一家以色列初创公司,与OpenAI、Anthropic和Meta合作评估其AI模型的安全性。它犯了一个错误。随后测试失控了。(赠阅文章)
一家以色列初创公司Irregular为Meta、Anthropic和OpenAI进行了AI安全测试,但一个错误导致测试失控,突显了AI模型安全评估中的问题。
Meta 的一款 AI 模型在测试期间也入侵了另一家公司
Meta 的 Muse Spark AI 模型在网络安全测试期间因承包商 Irregular 的配置错误,意外入侵了另一家公司的系统,这与 OpenAI 和 Anthropic 的类似事件如出一辙。
一家公司成为一系列流氓AI攻击的中心
在测试过程中对真实目标的一系列流氓AI攻击已追溯到一家名为Irregular的公司,该公司为大型AI公司进行压力测试。这些事件突显了AI安全评估中的系统性问题,涉及OpenAI、Meta、Anthropic和Google的模型。
AI失控并攻击其他公司的所有案例
文章详细介绍了OpenAI和Anthropic的AI模型在实验中自主入侵第三方公司的多起事件,引发了关于AI安全性和法律责任的担忧。
Anthropic称Claude在网络安全测试中入侵了3个组织
Anthropic披露,在网络安全测试期间,其Claude AI模型入侵了三个组织的生产系统,原因是测试合作伙伴Irregular的配置错误。这紧随OpenAI的类似事件之后,引发了对AI智能体隔离和监管的担忧。