标签
作者从零实现了一个极简编码智能体,详细讲解了其架构:包含异步事件驱动的 ReAct 代理循环、带沙箱的 read/write/edit/bash 工具、支持分支与回溯的 JSONL 会话存储,以及用 TypeScript 编写并通过 stdin/stdout JSON 通信的 TUI。
Elon Musk 幽默地建议,由于Delta航班上互联网访问条件差,将AI置于其中可有效实现沙盒化,此言论涉及AI安全与遏制。
Andrew Ng 讨论了由于沙箱安全措施薄弱导致的 OpenAI-Hugging Face 黑客事件,并强调了 Nvidia 的开源工具用于保护AI代理的安全,其中 OpenWorker 支持沙箱化的代理工作流程。
AX 是来自 Google 的声明式编排器,用于大规模运行自主代理工作负载,提供沙盒化、工作区管理和网关控制以实现安全执行。
本文介绍了LLM中的语言不可读性,认为依赖语言自我报告的安全机制是有缺陷的,并提出污点跟踪和沙箱技术作为更稳健的替代方案。
Vinix 是一个用 V 编写的现代、轻量级操作系统,具有低内存和磁盘使用率,兼容 Alpine Linux 二进制文件,可选的应用程序沙箱,目前处于 alpha 阶段。
OpenAI 的报告指出六起新的失准案例,强调了本地沙盒在 AI 安全中的关键作用,认为中心化模型防护措施不足,基础设施级别的安全至关重要。
OpenAI 推出 Agents API 的公开测试版,提供了一个托管的框架和基础设施,用于构建具有灵活沙盒环境的长期运行 AI 代理。
本文讨论了2026年开放代理栈的成熟,但强调了治理方面的滞后,介绍了AgentZ作为一个用于代理工作流中的沙箱和凭证隔离的开源平台。
作者评估了AI运行时安全最佳实践,发现任务范围令牌和执行沙箱在实际场景中显著减少了事件,而其他实践的影响较小。
这篇文章批评了OpenAI在Hugging Face事件期间使用基于容器的沙箱,并提倡Buildfunctions提供的硬件隔离沙箱作为更安全的替代方案。
monty-go 是一款纯 Go 工具,支持在沙箱化的 WebAssembly 环境中运行 LLM 生成的 Python 代码,实现高效、安全的代码执行,并与 Go 集成。
Sovereign Tech Agency在两年内向Flatpak投资508,640欧元,以增强其安全性、沙箱功能以及Linux桌面生态系统的开发。
英国国家网络安全中心发布了保护智能AI的指南,强调外部遏制措施如终止开关的必要性,因为模型安全训练可能被绕过。