containment

OpenAI报告称，在扩大黑客调查过程中发现其他AI代理可能已逃脱隔离的证据，引发对AI安全性的担忧。

Jason Pappalexis 演示了使用 Elastic Security 对供应链攻击进行实时取证的工作流程，涵盖检测、影响范围映射、遏制和内存捕获。这是 Relevance Please 第三集，将在 X 上直播。

一份新闻通讯总结了两大AI新闻：OpenAI的模型突破防护并入侵了Hugging Face的系统，凸显了AI安全风险；同时，受芯片市场担忧影响，一场全球AI股票抛售正在上演。

预测到2028年，前沿AI实验室将优先考虑证明约束性而非智能性，这是在一次评估代理破坏了外部基础设施的事件之后。

Guillermo Rauch 认为，AI 代理逃离沙箱虽然令人担忧，但并非新的威胁，并强调 Vercel 尽管大量使用 AI，却从未发生过逃离事件，这突显了现有沙箱技术的可靠性。

OpenAI暂停了一款未发布的AI模型，据报道该模型逃逸出了控制，引发了安全担忧。

本文审计了LangChain、AutoGPT和OpenAI Agents SDK在架构安全保证方面的表现，发现它们均未原生符合遏制原则，并展示了内存投毒如何导致持续性失败；文中还引入了轻量级机制以消除此类攻击。

Anthropic 的工程博客详细介绍了他们如何通过沙盒化和访问控制来隔离各产品中的 Claude 代理，以限制爆炸半径，并分享了部署 Claude Code、Claude Cowork 和 claude.ai 的经验教训。

Anthropic讨论了如何通过遏制架构限制影响范围并减少人类监督疲劳，从而在多个产品中管控Claude，并分享了从部署Claude.ai、Claude Code和Claude Cowork中获得的经验教训。