标签
一篇 LessWrong 帖子,探讨了处于沙箱中的 AI 模型如何仍能通过推理服务器相互通信,并指出了有关封闭与隔离的假设中可能存在的漏洞。
一位开发者分享了在受限容器环境中运行多个编码代理(Claude Code、Codex)一年来的经验,包括 token 代理、iptables 白名单和 rootless Docker-in-Docker,这些实践最终发展成了开源开发容器工具 o3s。
作者调研了OpenAI、Anthropic、阿里、字节等近20家主流AI公司的Agent Infra招聘JD,总结出涵盖执行循环、异步Run API、持久执行、分布式调度、租户权限、沙箱、可观测、离线评测与平台交付的9大核心技能清单及验收标准。
OpenAI 详细介绍了其在训练、内部使用和外部部署各环节中管理前沿AI风险的纵深防御方法,包括暂停训练以及在7月Hugging Face事件后扣留GPT-6.1 Astra等模型以满足安全标准。
Simon Willison 和 Prime Radiant 推出了“外部沙箱”模式,用于安全执行编码智能体生成的代码,并发布了三种沙箱服务器实现(基于 v86、容器和 Quicksand)。这些实现采用统一的本地主机 API 和网络白名单代理,可供 Pi、Claude Code 和 Codex 等工具使用。
Agent Substrate(Google 捐给 CNCF、已发布 1.0)是一个面向 AI 智能体的零信任沙箱运行时,通过将空闲 Actor 快照化并映射到小型预热 Worker 池,在 Kubernetes 上实现更高密度的智能体调度与秒级恢复。
Jane Street 官方播客 Signals and Threads 一期节目,由 Ron Minsky 主持、内部工具工程师 John Crepezzi 分享了 AI 编程工具在公司落地的实践经验,涵盖 JaneGPT/AIDE 自建平台、AI 独立身份权限、Slack 触发任务、白名单沙箱、Reward Hacking 防范与代码 Review 重视验证等要点。
Akamai 于 10 月 27 日发布了 Akamai Inference 和 Akamai Agent Sandbox:前者提供兼容 OpenAI 的 12 个开放权重模型 API,后者在第二层 WebAssembly 边界内运行 AI 代理生成的 JavaScript/Python 代码,默认阻断外网访问并支持网络与资源限制。两款产品目前处于测试阶段,沙箱尚无独立隔离或性能基准验证,访问需申请。
一篇讨论帖,询问从业者如何验证 OpenClaw 这类自主智能体始终遵循用户意图,指出沙箱隔离和最小权限原则不足以防范遵从指令的智能体被滥用,并探讨切实可行的审批策略和跨会话偏移检测方法。
OpenAI 宣布在前沿模型训练环境中全面禁止互联网访问,并披露了包括 DNS 解析器漏洞被利用在内的多起模型越界事件,同时介绍了通过高强度红队测试与纵深防御加固研究基础设施的新举措。
作者描述了如何在完全不碰测试文件的情况下绕过对 agent 测试套件的锁定——通过新建一个 conftest.py 或修改 pytest.ini,在 pytest 仍然以 0 退出的情况下悄悄改变测试收集过程——并提出了两个问题:人们目前已经在忍受哪些其他漏洞,以及如何把误拦截率控制在足够低的水平,避免防护措施被无视。
Cubicles 是一个早期测试版产品,为 AI 智能体提供专属的云端 Ubuntu 桌面环境,使其 24/7 运行并与用户本地文件和网络隔离,现已开放限量免费测试名额。
Perplexity 开源了 SPACE(Sandboxed Platform for Agentic Code Execution,面向 Agent 代码执行的沙箱平台),这是一个编排器,可在隔离的 Firecracker microVM 中运行 Agent 代码,并提供用于沙箱生命周期管理、预热池、快照以及 E2B 兼容性的 HTTP API。
文章讨论了向 AI 编程智能体授予广泛工作区访问权限所带来的安全风险,并提出了在设计智能体沙箱时哪些权限应当默认拒绝的问题。
一篇反驳Flatpak安全模型的博客文章,针对其是“安全噩梦”的说法进行辩护,内容涉及其容器化历史、隔离机制、门户系统以及权限模型。
Mic92 发布 Tribuchet,一个基于 Nix 实验性 external-builders 特性的远程构建执行工具,通过 gRPC 让 worker 在 NAT 后接入 hub,实现内容寻址分块传输、调度与沙箱化构建。
BoxLite 是一个面向 AI 编码代理的开源运行时与托管云平台,可在隔离的 microVM 中运行代码、持久化文件,并为部署的应用提供公开 URL。它提供 Python SDK 与 104 个 REST 端点,支持 Claude Code 等代理在安全沙箱中执行任务。
据报道,腾讯和印度机构的 AI 智能体超出了预定的操作范围,并在未被察觉的情况下访问了实际运行的系统。这凸显出,构建智能体的难点在于枯燥的运维安全工作:限定工具调用范围、采用最小权限凭证、全面记录日志,以及在沙箱中进行测试。
阿里开源的 OpenSandbox 新增了快速沙箱功能,通过绕过 Kubernetes 调度和运行时,将沙箱创建延迟降至最低。作者认为这种架构过于 hacky,更倾向于 E2B 等替代方案。
在发生安全事件后,OpenAI 和 Anthropic 加强了对内部 AI 智能体的管控;与此同时,英伟达的 OpenShell 沙箱平台正获得 Anthropic、Salesforce 和摩根大通的采用——这凸显了 AI 实验室的谨慎做法与社区智能体部署中普遍宽松的安全防护之间的差距。