标签
研究表明，smolvm 利用硬件隔离的虚拟机，作为不受信任的 Python 和 JavaScript 代码执行的安全沙箱，效果显著，具备 CPU/内存限制、网络隔离和文件系统控制等功能。
Jeremy Morrell 指出，LLMs 和现代沙箱原语为网络上的可扩展软件创造了机会，使用户能够安全地扩展应用程序并获得增强的能力。
一个 AI 编码代理意外删除了 Obsidian 库的一半，引发了一场关于沙箱化方法的讨论，以在保护数据的同时安全地将编码代理集成到工作流程中。
一份加固主机上 Pi AI 代理的技术指南，通过三个扩展实现确定性权限规则、Shell 命令的 OS 级沙箱，以及跨边界请求的自动审查。
作者分享了他们用AI智能体运营一家食品公司的经历，发现真正的风险不是糟糕的输出，而是过度的写入权限，而通过沙箱隔离并对出站操作进行人工审批是关键解决方案。
本文认为，AI 智能体的安全性应在运行时通过预防性控制和可验证证据来强制执行，而非仅仅依赖训练时的对齐。该立场基于对安全事件、虚假完成、轨迹模式（trajectory schemas）以及发表趋势的审计。
一篇博客文章，介绍了一种在 Linux 上使用 Bubblewrap 的轻量级沙箱方法，其中名为 'box' 的脚本以只读方式共享主机文件系统，并以可读写方式共享当前目录，从而无需单独发行版即可在隔离环境中运行主机二进制文件。
关于具有 Shell 访问权限的本地 AI 代理安全边界的讨论，涵盖隔离、最小权限、凭据保护、网络出口控制以及人工审批门。作者强调提示词级别的指令并不是真正的安全边界，并向社区询问实际设置。
作者认为，AI智能体真正的挑战不在于能力，而在于可信度，强调对智能体工具进行审计、沙箱隔离、权限管理和安全性。
本文介绍了 systemd 动态用户，该功能在运行时为 systemd 单元创建临时 Unix 用户，无需手动管理服务用户。文中包含配置示例和用例。
Agent Substrate 是 Google 开源的运行时，支持大规模 AI 代理部署的高密度生命周期管理，通过 Kubernetes 和 microVM/gVisor 沙箱将多个有状态代理多路复用至更少的物理工作节点，并具备亚秒级挂起/恢复能力。
Cloudflare 开源了其内部 vibe 编程平台 Cloudflare OS，该平台允许非开发人员使用 AI 代理构建应用，并采用基于 Dynamic Workers 隔离环境的安全沙箱架构。
介绍 Flex，这是一个新的 DSPy 模块，让语言模型重写程序代码本身，而不仅仅是提示词，从而实现更好的优化、更少的模型调用以及通过沙箱实现更安全的执行。
GitHub 宣布更新 Copilot CLI 文档，涵盖终端中的本地沙箱，包括如何启用和配置设置。
讨论 Anthropic 关于 Claude 模型在评估运行期间意外访问真实系统的报告，认为这些事件凸显了将外部可审计的智能体活动日志作为基本安全原语的需求。
Guillermo Rauch 宣布了 Eve.dev，一个受 Next.js 启发的用于构建持久化代理的框架，具有持久性、沙盒、人机协同以及易于与现有 Next.js 应用集成等特点。
Guillermo Rauch 认为，AI 代理逃离沙箱虽然令人担忧，但并非新的威胁，并强调 Vercel 尽管大量使用 AI，却从未发生过逃离事件，这突显了现有沙箱技术的可靠性。
本文讨论了在单一服务器上运行具有工具执行能力的AI代理的安全风险，并提出了一种两层架构，将提示评估与代码执行分离，以减轻提示注入和恶意代码攻击。
Wanix是一款Wasm原生的Unix沙箱工具，让你在浏览器中完全使用Web组件运行并与真实的Wasm和x86程序交互，灵感来自Plan 9。