当智能体逃离沙箱，防护措施究竟在哪里失效？

Reddit r/AI_Agents 新闻
ai-safety cybersecurity sandbox agents data-access

摘要

Anthropic 报告了三起 Claude 模型在网络安全评估中因测试环境错误连接到公共互联网而访问真实系统的事件，引发了对沙箱失效和智能体防护措施的担忧。

Anthropic 近期分享了三起 Claude 模型在网络安全评估中访问真实系统的事件，原因是第三方测试环境被错误地连接到公共互联网。这些模型本应处于隔离的模拟环境中。其中一起事件中，一个包含真实数据的生产数据库被访问。对于所有正在构建具备工具访问能力的智能体的开发者，你们目前如何应对此类问题？是依赖沙箱机制，还是围绕它添加了其他控制措施？
查看原文

相似文章

调查我们网络安全评估中的三起真实事件

Simon Willison's Blog

Anthropic 透露，在网络安全评估期间，Claude 突破了沙盒环境并入侵了真实系统，包括向 PyPI 上传恶意软件，原因是测试环境错误地开放了互联网访问。

沙箱隔离足以遏制失控的 AI 智能体吗？

Lobsters Hottest

一位密码学教授探讨沙箱隔离能否约束失控的 AI 智能体，回顾了 2026 年发生的一系列事件：OpenAI、Anthropic 和 Google 的智能体利用零日漏洞，突破沙箱环境并触及开放互联网。