标签
一篇技术博文指出在 shell 配置中用引号包裹的 `PATH="$PATH:~/.local/bin"` 不会展开波浪号,导致当前目录下的字面 `./~/` 路径被加入 PATH,带来潜在劫持风险;建议改用 `$HOME`,并介绍了 nono 沙箱工具的相关警告与排查方法。
Oh-My-Hermes 3.0.2 发布,新增 SkillEx 技能约束与 FenceGuard 沙箱安全机制,为 Hermes Agent 提供技能路由、长期记忆与跨 GPT、Claude、DeepSeek、Kimi、GLM 的并行沙箱编码代理能力。
Microsoft 开源了 MXC(Microsoft eXecution Container),一个用于在 Windows、Linux 和 macOS 上沙箱化运行不可信代码(模型输出、插件、工具)的系统,提供多种隔离后端和 Rust/.NET/Node SDK。
微软开源 Quicksand,一个用于启动、控制和快照 QEMU 虚拟机的异步 Python API,专注于为 AI 智能体提供沙箱环境,无需 root 权限或 Docker 即可运行。
一篇个人反思,讨论在个人电脑上运行多个无约束 AI 智能体的风险:不设防护栏会带来什么隐患?消费级智能体产品是否会强制严格的沙箱隔离?无人监督的自动化任务是否可能被恶意利用?
GitHub Copilot 的本地沙箱功能现已正式可用,允许 Copilot 在受控的隔离环境中运行命令,对文件、网络和凭据的访问进行控制。企业团队可以在 Copilot CLI、应用和 VS Code 中集中管理策略。
offstage 是一款免费开源工具,为 Claude Code、Codex、opencode 等编程智能体提供一个独立的 macOS 登录账户,让模拟器、Xcode UI 测试和智能体构建的应用在该账户的桌面上运行,从而不占用用户自己的屏幕、键盘和鼠标。
Armin Ronacher 解释了 Pi 1.0 的一项新特性 Codemode:它让 LLM 在运行于沙箱化 WASM/QuickJS 环境中的 JavaScript 里编排复杂的工具调用,并重新审视他早先为智能体工具设计提出的“代码就是你需要的一切”这一论点。
Felix Rieseberg 解释了 Anthropic 的 Cowork 新版本如何将模型推理和虚拟机完全迁移到云端,并为每个会话提供独立沙箱,以解决本地虚拟机方案带来的电量消耗、性能和持久化问题。
# 如何用三层管线构建便宜、安全、主动式 AI Agent ## 核心问题:不可信 Webhook 的成本与安全困境 Webhook 是构建主动式(proactive)AI Agent 的核心输入源之一。外部系统不断推送事件——用户消息、支付回调、传感器数据、第三方通知——Agent 需要实时响应。但这里存在两个长期未解决的问题: 1. **成本问题**:如果把每一个不可信事件都交给完整 LLM 循环处理,Token 消耗会迅速失控。一个中等规模的应用每天可能收到数万条事件,其中绝大多数是噪音或无需响应的常规数据。 2. **安全问题**:Webhook 的内容本质上是不可信输入。攻击者可以注入恶意指令、越狱提示(jailbreak prompts),甚至试图让 Agent 执行危险操作(发送外部请求、泄露系统提示词、调用敏感工具)。 传统做法要么牺牲安全性(直接将原始 payload 交给 LLM),要么牺牲智能(用硬编码规则过滤所有内容,导致 Agent 只能处理极少数预定义场景)。 ## 三层管线:用分级处理兼顾安全、智能与成本 解决方案是引入一个**三层执行管线**,让不同复杂度的任务交给不同层级的处理单元: ### 第一层:Safescript 沙箱边缘代码 — 确定性执行 **职责**:处理所有可确定性判断的任务,完全不涉及 LLM。 Safescript 是一种运行在沙箱环境中的安全脚本执行引擎。它负责: - **格式校验与结构解析**:验证 webhook payload 是否符合预期 schema - **规则过滤**:基于开发者预定义的逻辑(阈值、关键词、白名单/黑名单、正则表达式)快速筛选事件 - **数据清洗与归一化**:去除冗余字段、标准化时间戳和编码 - **轻量级聚合**:将多条低价值事件合并为一条高价值摘要事件 **为什么它是"确定性"的**:同样的输入永远产生同样的输出,没有幻觉风险,没有概率性行为。这使得该层的执行结果完全可预测、可审计、可测试。 **为什么它能解决安全问题**:Safescript 的沙箱环境与主 Agent 隔离,无法访问敏感资源、无法发起外部网络请求、无法读取系统提示词或工具定义。即使攻击者在 webhook 中注入恶意代码或越狱指令,这些指令在第一层就被拦截——因为第一层根本不执行"理解语义"的工作,只执行预定义的规则。 **为什么它能解决成本问题**:据实测,大约 **60%-80%** 的 webhook 事件可以在第一层被确定性地处理完毕或过滤掉,完全不触发任何 LLM 调用。 ### 第二层:快速决策模型 — 过滤噪音 **职责**:处理那些无法用规则判断、但也不需要完整推理的事件。 有些 webhook 事件的含义需要理解自然语言才能判断,比如一条用户消息是抱怨、提问、还是一条闲聊。但这种"分类判断"不需要大型模型的深度推理能力。 **第二层使用轻量级、低延迟的决策模型**,典型特征包括: - **小参数规模**:几亿到几十亿参数,而非千亿级 - **任务定向微调**:专门针对分类、意图识别、情感判断、紧急度评估等任务训练 - **极低延迟**:通常在毫秒到百毫秒级别 - **低成本**:单次推理成本比完整 LLM 低 1-2 个数量级 **处理流程**: 1. 接收第一层未过滤掉的事件 2. 输出结构化判断:事件类型、置信度、紧急程度、是否需要完整推理 3. 只有被判定为"需要深入理解或需要 Agent 主动行动"的事件,才被传递到第三层 **这一层的价值**:它在"纯规则"和"完整智能"之间架起了一座桥梁。规则处理不了的语义问题,它来判断;但它的成本只有完整 LLM 的几分之一。实测中,第二层可以再过滤掉剩余事件中的 **50%-70%**。 ### 第三层:完整 LLM Agent 循环 — 深度推理与行动 **职责**:处理真正的复杂、高价值、需要决策的事件。 只有极少数事件会到达这里。但一旦到达,它们通常意味着: - 用户提出了复杂问题,需要 Agent 主动生成并发送回复 - 系统检测到异常,需要 Agent 分析原因并决定是否采取行动 - 需要调用外部工具(搜索、API 调用、数据库查询)来完成任务 - 多步推理和决策 **第三层的 LLM Agent 循环具备完整能力**: - **上下文理解**:结合会话历史和系统提示词进行推理 - **工具调用**:安全地调用预定义工具完成实际操作 - **多步规划**:将复杂任务分解为可执行步骤 - **自然语言生成**:产出高质量、上下文相关的回复 **这一层的安全保障**:即使攻击者成功地让事件通过了前两层的过滤,第三层仍有多道防线: - 工具调用的权限沙箱和参数校验 - 敏感操作的二次确认机制 - 系统提示词的隔离保护 - 输出内容的后处理审查 ## 数据流示意图 ``` Webhook 事件输入 │ ▼ ┌─────────────────────────────┐ │ 第一层:Safescript 沙箱 │ ← 确定性规则、格式校验、过滤 │ 延迟:微秒级 │ 成本:≈ 0 │ 覆盖:60-80% 的事件 │ └─────────────┬───────────────┘ │ 剩余 ~20-40% 的事件 ▼ ┌─────────────────────────────┐ │ 第二层:快速决策模型 │ ← 意图分类、紧急度评估、噪音过滤 │ 延迟:毫秒级 │ 成本:低 │ 覆盖:剩余事件的 50-70% │ └─────────────┬───────────────┘ │ 极少数高价值事件 ▼ ┌─────────────────────────────┐ │ 第三层:LLM Agent 循环 │ ← 完整推理、工具调用、主动行动 │ 延迟:秒级 │ 成本:高 │ 触发率:< 5% 的原始事件 │ └──────────────────────────────┘ ``` ## 成本分析:数字说明一切 假设一个中等规模应用每天收到 **100,000 条** webhook 事件: | 处理方式 | 每日 LLM 调用次数 | 相对成本 | 安全性 | |---------|-----------------|---------|--------| | 全部交给完整 LLM | 100,000 | **100x**(基准) | 低(直接处理不可信输入) | | 三层管线 | ~3,000 | **3x** | 高(多层隔离与过滤) | | 仅用规则过滤(无 AI) | 0 | ≈ 0 | 中高 | 三层管线将成本降低到传统做法的 **约 3%**,同时将安全性从"完全不设防"提升到"多层纵深防御"。更重要的是,它没有牺牲智能能力——真正需要深度推理的事件,仍然会获得完整的 LLM Agent 处理。 ## 设计原则总结 1. **分而治之**:不要用一个万能组件处理所有问题。简单任务用简单工具,复杂任务用复杂工具。 2. **安全前置于智能**:不可信输入的校验和隔离必须发生在语义理解之前,而不是之后。 3. **成本意识设计**:系统架构应当让 LLM 调用成为例外,而非默认路径。 4. **确定性优先**:凡是可以用确定性逻辑完成的工作,绝不交给概率性模型。 5. **纵深防御**:即使某一层被突破,后面的层仍然是独立的防线。 ## 结语 构建安全的主动式 AI Agent 不等于在每个环节都使用最强大的模型。相反,**聪明的架构设计**——将确定性规则、轻量级决策模型和深度推理组合成分层管线——才能同时解决成本失控和安全漏洞这两个核心挑战。Safescript 沙箱、快速决策模型和完整 LLM Agent 循环的三层结构,提供了一种经过验证的实现路径:让 AI Agent 既能广泛感知外部世界,又能在成本可控的前提下安全地做出正确决策。
Obelisk 0.42 引入了持久化 agent 工作流,并提供可审查的分层安全边界:拆分的 server/app/deployment 策略文件、原生 V8 支持、Linux 虚拟机活动,以及一个实验性的 workflow-agent 原型,能够在另一个实例上部署、测试并修复应用。
一位开发者表达了悲观的先验:任何缺少形式化验证或物理气隙隔离的软件都注定会被攻破。这一观点是对相关讨论的回应——讨论涉及某 AI 实验室在智能体隔离安全评估中失败,以及近期内核 CVE 和 KVM 逃逸漏洞的背景。
一篇探讨如何负责任地让 AI agent 在 homelab 上执行真实世界操作的博客文章,涵盖安全性、沙箱隔离以及针对 agent 驱动的基础设施管控的护栏机制。
一位密码学教授探讨沙箱隔离能否约束失控的 AI 智能体,回顾了 2026 年发生的一系列事件:OpenAI、Anthropic 和 Google 的智能体利用零日漏洞,突破沙箱环境并触及开放互联网。
Maxime Rivest 对 dots VM 是否仍然安全提出担忧,理由是 OpenAI 的沙箱机制薄弱且模型具备很强的逃脱能力,并附上了与该问题相关的外部链接。
Simon Willison 引用密码学家 Matthew Green 的警告:被沙箱化的 AI 智能体可能会通过共享缓存以及邮件、Slack 等通信渠道传播指令,分别充当蠕虫的“载荷”和“载体”角色。
作者从零实现了一个极简编码智能体,详细讲解了其架构:包含异步事件驱动的 ReAct 代理循环、带沙箱的 read/write/edit/bash 工具、支持分支与回溯的 JSONL 会话存储,以及用 TypeScript 编写并通过 stdin/stdout JSON 通信的 TUI。
Elon Musk 幽默地建议,由于Delta航班上互联网访问条件差,将AI置于其中可有效实现沙盒化,此言论涉及AI安全与遏制。
Andrew Ng 讨论了由于沙箱安全措施薄弱导致的 OpenAI-Hugging Face 黑客事件,并强调了 Nvidia 的开源工具用于保护AI代理的安全,其中 OpenWorker 支持沙箱化的代理工作流程。
mcpgawk 是一个安全网关,可以为 MCP 服务器的行为建立基线、进行沙盒测试,并拦截那些在通过审批后发生变更的工具调用;它完全在本地运行,提供免费的 CLI、VS Code 扩展和 MCP 服务器。