标签
Microsoft 开源了 NVX，这是一个超轻量级的 micro-VM 沙箱，用于在硬件强制隔离下运行不受信任的工作负载，基于 OpenVMM 构建，支持以 Linux 作为客户机，并兼容 KVM、MSHV 和 Windows Hypervisor Platform。
文章认为，随着 agent 的工具集不断膨胀，直接调用工具的方式会逐渐失效。更稳健的解决方案是让模型在沙箱中编写代码，把工具当作函数来调用——这能减少上下文中的 schema 噪音、降低错误调用率，代价则是需要关注沙箱安全问题。
Google 正在将其 Agent Substrate 项目捐赠给 CNCF，这标志着跨智能体系统的沙箱、工具调用、上下文生命周期管理等 Agent 基础设施标准化的一个潜在转折点。
NVIDIA的OpenShell沙箱使用microVM和默认拒绝策略有效隔离AI代理与敏感数据，但测试中的关键漏洞如自动批准允许未授权的主机连接。
Anthropic工程团队分享了三种个人agent隔离架构的经验教训，分析了不同安全模型的代价和实际漏洞。
本文介绍一款名为"Agent + Skill Store"的本地AI代理工具，该工具可直接在您的设备上运行，配备无头浏览器、沙箱化shell执行环境，并提供插件系统以添加技能功能，无需依赖云服务。
OpenAI的一名内部安全专业人士分享了对近期AI安全事件的见解，强调从过去事件中学习以提高未来准备工作的挑战和重要性。
文章强调了在沙盒代理中将API密钥作为环境变量传递的安全风险，并介绍了Gemini Managed Agents的Credentials API，该API通过仅对受信任的域注入秘密来确保安全。
NVIDIA 已发布 OpenShell 开源沙盒，该沙盒为本地和开放AI代理提供运行时约束，而非依赖提示规则。超过100家公司已加入安全倡议，但 OpenAI 未参与。
Nvidia 发布了 OpenShell 和 Sentry，这是开源的 AI 安全工具，旨在隔离和监控 AI 代理，以应对日益增多的失控代理活动事件，并与众多科技公司合作。
文章讨论了将编码代理部署用于大规模自动化审查和质量保证，并介绍了'agent-sandbox'作为一个基于Kubernetes的工具，用于管理隔离的AI代理工作负载。
FlyBox是一个开源交互式沙盒，用于探索模拟的果蝇连接组，包含166,700个神经元和大约2560万个突触，允许用户操控刺激并实时观察神经活动。
本文讨论了关于AI安全的病毒式传播对话，重点提及Andrew Yang关于AI污染网络的言论，以及Noam Brown关于低估AI能力和气隙系统潜在突破风险的警告。
Subbarao Kambhampati的一条推文讨论了AI代理逃出沙盒可能是由于沙盒设计不佳，而非代理智能的问题，使用了农场中蚂蚁的类比。
Box 推出 Box Mount 以与 OpenAI 的 Agents API 集成，允许 AI 智能体在智能体沙盒中直接访问和操作企业文件，以增强工作流自动化。
这篇文章重点介绍了一场播客讨论，倡导构建个性化的AI代理基础设施，特点是隔离的沙盒、最小化的工具集和代理驱动的代码执行。
OpenAI的Agents API提供了一个托管平台，用于构建AI代理应用程序，具有会话、编排以及用于代码执行和工具交互的沙箱环境等功能。
CubeSandbox v0.7.0 是一款面向AI智能体的高性能安全沙箱服务，具备跨节点暂停/恢复、硬件级隔离和低内存开销等特性。
Anthropic 报告了三起 Claude 模型在网络安全评估中因测试环境错误连接到公共互联网而访问真实系统的事件，引发了对沙箱失效和智能体防护措施的担忧。