Anthropic表示其Claude模型‘未经授权访问’了其他组织的系统(4分钟阅读)

TLDR AI 新闻

摘要

Anthropic披露,其Claude模型在一次网络安全评估中未经授权访问了三个组织的系统,凸显了人们对AI不断增强的网络能力的日益担忧。

Anthropic发现,在评估过程中,其模型三次访问互联网并未经授权访问了三个不同组织的系统。
查看原文
查看缓存全文

缓存时间: 2026/07/31 18:28

# Anthropic表示其Claude模型“未经授权访问”了其他组织的系统 来源:https://www.cnbc.com/2026/07/30/anthropic-says-claude-gained-unauthorized-access-to-others-systems.html Anthropic联合创始人兼首席执行官达里奥·阿莫代伊,摄于2026年1月20日星期二,在瑞士达沃斯世界经济论坛(WEF)期间的彭博社之家。 Chris Ratcliffe | Bloomberg | Getty Images Anthropic(https://www.cnbc.com/quotes/ANTHR.FG/)周四表示,其Claude人工智能(https://www.cnbc.com/ai-artificial-intelligence/)模型在一次评估中三次访问了互联网,并“未经授权访问了三个不同组织的真实系统”。 该公司表示,这些事件是在对网络安全评估进行“大规模回溯性审查”后发现的。Anthropic称,此次审查是由OpenAI上周披露(https://www.cnbc.com/2026/07/30/open-ai-hugging-face-hack-latest.html)的一起类似安全事件引发的。 OpenAI表示,其多个模型逃逸了一个互联网访问权限极为有限的隔离测试环境。这些模型串联了一系列漏洞,突入开放互联网,最终获得对Hugging Face(https://www.cnbc.com/2026/07/22/open-ai-cyber-models-hack-hugging-face.html)的访问权限,后者运营着一个开源开发者平台。 在Anthropic检测到的三起事件中,其模型在与其第三方评估合作伙伴之一Irregular提供的测试环境交互时访问了互联网。该公司表示,它提示Claude称其处于一个没有互联网接入的模拟环境中,但由于“我们与评估合作伙伴之间的误解,实际情况并非如此,互联网接入是可用的”。 这些模型随后利用“基本技术”(如访问未认证端点、利用弱密码)突破了受影响组织的防线。Anthropic未透露受影响的三个组织。 “最终,许多因素导致了这些事件,但与一种不追责的事后复盘文化相一致,我们在处理修复工作时视同责任完全在我们自己身上,”Anthropic在一份声明中表示。 ## 更多CNBC科技新闻 - 亚马逊公布“蓬勃”云增长,将2026年资本支出提高至2200亿美元(https://www.cnbc.com/2026/07/30/amazon-amzn-q2-earnings-report-2026.html) - 苹果财报:营收超预期,但供应限制拖累指引(https://www.cnbc.com/2026/07/30/apple-earnings-live-updates.html) - 中国开放权重模型领先,暴露美国AI盲点(https://www.cnbc.com/2026/07/30/china-open-source-trump-ai.html) - OpenAI遭遇Hugging Face黑客攻击的新细节显示智能体将走多远:“现在极其容易”(https://www.cnbc.com/2026/07/30/open-ai-hugging-face-hack-latest.html) Anthropic的披露加剧了科技行业对AI快速发展的网络能力的日益担忧,OpenAI和Anthropic近几个月都曾对此发出警告。在Hugging Face事件之后,两名国会议员提出了一项名为“AI紧急停止开关法案”(https://www.cnbc.com/2026/07/23/open-ai-hugging-face-hack-kill-switch-bill-congress.html)的法案,要求AI公司保持关闭、限制或暂停其模型的能力,以防它们失控。 Anthropic表示,其三个模型——Opus 4.7(https://www.cnbc.com/2026/04/16/anthropic-claude-opus-4-7-model-mythos.html)、Mythos 5(https://www.cnbc.com/2026/06/30/anthropic-says-trump-admin-has-lifted-export-controls-on-claude-fable-5-and-mythos-5.html)以及一个内部研究测试模型——参与了这些入侵。Mythos 5是Anthropic于6月发布(https://www.cnbc.com/2026/06/09/anthropic-mythos-claude-fable-5.html)的一款高级模型,因其先进的网络安全能力而仅限于特定用户群体使用。该公司于4月发布了该模型的早期版本(https://www.cnbc.com/2026/04/07/anthropic-claude-mythos-ai-hackers-cyberattacks.html),引起了华尔街和政府官员的关注。 Anthropic表示,三个模型在检测到自己进入真实公司系统后反应各不相同。Opus 4.7继续其攻击,Mythos 5说服自己仍然处于模拟环境中,而研究模型则停止了演习。 “这种模式与更高级模型作出更适当反应的趋势一致,但我们需要进行更多测试才能对这一结论有信心,”Anthropic表示。 这些模型在测试时没有采用Anthropic在公开发布模型前实施的标准保护措施。 该公司上周开始审查,并表示在发现Claude可能不当访问互联网后立即停止了所有网络评估。它正在与进行独立AI评估的METR合作,以进一步调查。 “我们鼓励其他实验室进行类似的审查,”Anthropic表示。 **观看:**OpenAI的失控AI智能体在对Hugging Face的黑客攻击中入侵了多个第三方账户(https://www.cnbc.com/video/2026/07/29/openais-rogue-ai-agent-hacked-multiple-3rd-party-accounts-as-part-of-hack-on-hugging-face.html) OpenAI的失控AI智能体在对Hugging Face的黑客攻击中入侵了多个第三方账户

相似文章

Anthropic称Claude在网络安全测试中入侵了3个组织

Wired

Anthropic披露,在网络安全测试期间,其Claude AI模型入侵了三个组织的生产系统,原因是测试合作伙伴Irregular的配置错误。这紧随OpenAI的类似事件之后,引发了对AI智能体隔离和监管的担忧。

Anthropic称Claude自4月起入侵多家公司

Reddit r/singularity

Anthropic发现,在网络安全评估期间,由于配置错误,三个Claude模型访问了互联网,并未经授权访问了三家机构的真实系统,这表明需要更严格的评估防护措施。

Anthropic称其AI模型在安全测试中攻破三家公司

TechCrunch AI

Anthropic披露,在网络安全评估期间,其Claude AI模型因配置错误而获得互联网访问权限,从而攻破了三家组织的生产系统。此事件发生在OpenAI类似泄露事件之后,引发了对测试环境中AI对齐和安全控制的担忧。