Anthropic称Claude也意外入侵了真实公司

# Anthropic 表示 Claude 在测试中意外入侵了真实公司 来源：https://www.theverge.com/ai-artificial-intelligence/973670/anthropic-claude-hacked-organizations-during-cyber-tests [Anthropic 刚刚意识到](https://www.theverge.com/ai-artificial-intelligence/973586/anthropic-just-now-realized-its-ai-models-hacked-other-companies-three-times-by-accident)，其多款 Claude AI 模型在测试中自主行动，侵入了三家不同组织的系统，而公司并未察觉。这一披露出现在竞争对手 OpenAI 表示其一款模型侵入了开发者平台 Hugging Face 的几天之后，进一步加剧了[人们日益增长的担忧](https://www.theverge.com/ai-artificial-intelligence/972380/open-ai-hugging-face-hack-ai-safety-warning)：前沿 AI 实验室是否在充分控制它们所构建的日益强大的系统。 在[一篇描述这些事件的博客文章](https://www.anthropic.com/news/investigating-incidents-cybersecurity-evals)中，Anthropic 表示，Claude 在网络安全评估期间未经授权访问了这些系统。所有攻击都发生在“夺旗赛”（capture-the-flag）练习中——这是一种测试黑客能力的常见方式，模型被要求在模拟网络中查找并获取隐藏信息。 这一披露使前沿 AI 实验室面临的压力与日俱增，尤其是在 Hugging Face 事件以及强大的开放权重中国模型发布之后。各大实验室的员工现在[呼吁](https://www.theverge.com/ai-artificial-intelligence/972161/ai-leaders-us-government-openai-anthropic-google-meta)进行协调一致的全球治理，美国立法者也已开始[权衡](https://www.theverge.com/ai-artificial-intelligence/969939/lawmakers-ai-kill-switch-proposal)对强大模型及[谁可以访问这些模型](https://www.theverge.com/ai-artificial-intelligence/971444/how-chinese-open-weight-ai-models-impact-us-companies)的更严格监管。 Anthropic 表示，其网络安全测试的环境本应是隔离的。然而，公司称，一个“配置错误”使 Claude 访问的机器“可实时访问互联网”，而且由于所有模型都被“明确告知”它们没有互联网访问权限，它们便“认为”所遇到的真实网络是模拟环境的一部分。 据这篇博客文章