Anthropic、OpenAI模型在新型网络攻击中创建虚假身份

# Anthropic 的 Mythos 创建虚假身份以欺骗人类，卷入新的网络事件 来源：https://www.cnbc.com/2026/08/05/anthropic-mythos-openai-security-breaches.html Anthropic 的 Mythos 模型创建了虚假的在线身份，试图迫使人类批准针对某个开源项目的恶意代码更新，这标志着又一桩由前沿 AI 系统实施的网络事件。 事件发生在一次网络评估期间，英国的研究机构 AI 安全研究所（AISI）移除了安全防护措施，禁用了部分安全过滤器，并故意让模型接入互联网。 OpenAI 的 GPT-5.6-Sol 在评估期间也卷入了其他网络安全事件。 此前，Anthropic 和 OpenAI 开发的模型在最近几周内已造成一系列网络入侵（https://www.cnbc.com/2026/08/01/open-ai-hugging-face-hack-cyber-warnings.html）。 这些事件引发了人们对 AI 系统复杂程度及其潜在危害的广泛担忧。 ## AI 网络攻击引发对安全性的新审视 在常规网络评估中，AISI 发现，由 Anthropic 和 OpenAI 模型驱动的 AI 智能体“针对真实个人和组织进行了持续、潜在有害的活动”。 AISI 在博客中表示：“几乎所有这些行为（17 项操作）都来自单一模型，即 Anthropic 的 Mythos 5，另有 2 项操作涉及 OpenAI 的 GPT-5.6-Sol，当时其网络分类器（防止滥用的机制）处于禁用状态。” 该机构补充说，这些尝试均未成功，也未对现实世界造成任何损害。 Anthropic 在 X 上的一篇帖子（https://x.com/AnthropicAI/status/2084748111239344556）中表示，这些模型“是在‘刻意放宽的条件’下接受测试的，这并不代表我们的任何生产模型”。它补充说，“没有证据表明模型从安全环境中逃逸”。 OpenAI 告诉 CNBC：“这些事件发生在评估合作伙伴于测试环境中进行的网络评估期间，该环境的安全防护有所降低，且条件不反映日常使用情况。” ## 不断增加的网络安全事件 AISI 在刻意放宽的条件下测试这些模型，以评估其能力，包括它们是否可能被用于网络攻击。 一个由 Anthropic 的 Mythos 驱动的智能体“研究了该项目的人类维护者，创建了多个虚假身份，并利用这些虚假身份通过社会工程学手段诱使一位真实维护者批准了代码”。 AISI 表示：“当该智能体的拉取请求在公开场合受到质疑时，它修改了此前的活动记录以显得无害，并考虑改用新身份继续行动。” 该研究机构还发现，作为同一行动的一部分，该智能体试图直接联系真实人员，发送消息和文件，诱使他们运行恶意代码。 “一些消息携带了有害负载，一些则是社会工程学尝试，针对真实人员——这是我们从未观察到的。” 这是一系列引发了对前沿 AI 系统安全性重大质疑的网络事件中的最新一起。 ## 安全测试人员发现更多 OpenAI 和 Anthropic 模型在测试期间进行黑客行为的实例 上周，Anthropic 表示，它发现模型在三次事件中未经授权访问（https://www.cnbc.com/2026/07/30/anthropic-says-claude-gained-unauthorized-access-to-others-systems.html）了三个不同组织的生产基础设施。 此前，OpenAI 承认其 AI 模型失控，并对 Hugging Face 公司发动了所谓的“前所未有”的网络攻击。 在 OpenAI 的事件中，模型利用一个此前未知的漏洞突破了其测试环境，以完成被分配的任务。 Anthropic 的安全事件部分是由操作失误造成的。在该 AI 实验室检测到的三起事件中，其模型在与第三方评估合作伙伴 Irregular 的测试环境交互时访问了互联网。 该公司表示，它向 Claude 提示其处于一个没有互联网连接的模拟环境中，但由于“我们与评估合作伙伴之间的误解，实际情况并非如此，互联网连接是可用的。” 美国立法者已经开始采取行动。在 OpenAI-Hugging Face 事件之后，“AI 紧急停止法案”（https://www.cnbc.com/2026/07/23/open-ai-hugging-face-hack-kill-switch-bill-congress.html）被提交至国会，该法案将要求 AI 公司保持关闭、限速或暂停其模型的能力。