标签
本文提出将隔离作为LLM-Agent系统安全的首要原则,并给出一种以边界为中心的故障与防御分析分类法。该分类法系统性地对五大边界上的安全问题进行了划分,并概述了未来研究方向。
一篇评论文章指出,出于安全和隐私考虑,AI代理应在一次性、隔离的机器上运行,而不是被授予对用户个人笔记本电脑的完全访问权限。
code-airlock 是一个开源工具,可在一次性微型虚拟机中运行 AI 编码代理,以避免授予它们对主机文件系统的直接访问权限。它将仓库克隆到沙箱中,让代理可以自由工作,完成后,用户审查并仅拉取所需更改。
smol cloud 现已上线测试版,提供虚拟计算机,动态分配 CPU/MEM,上限为 4cpu/8gb,可与 smol CLI 集成以运行代理实例,活跃使用每月有 5 美元信用额度。
一份技术指南,介绍如何使用非特权 LXC 容器隔离 X11 应用程序(如网页浏览器),通过将容器 UID/GID 映射到未使用的主机范围来增强安全性。
在 Docker 沙箱内安全运行 Pi AI 智能体,同时在主机上运行 llama-server 以进行本地 GPU 推理的指南。
LangChain推出LangSmith Sandboxes,为每个AI代理提供独立的隔离计算环境以安全执行代码,解决了在容器或本地运行不可信代码的安全风险。
Sécurix 是一个基于 NixOS 的安全操作系统,由法国数字部门 (DINUM) 开发,用于强化环境,具有强隔离性、可重现性和策略驱动配置,目前处于 alpha 阶段。
一位开发者构建了 Terrarium,这是一个开源沙箱解决方案,用于安全运行多个AI代理,提供隔离世界、反向代理管理和状态回滚功能。
本文介绍了 prompt2bot 中针对非隔离 AI 代理的一次性管理员审批机制,通过要求管理员确认执行敏感工具(如创建虚拟机或执行代码)来防止 prompt 注入攻击。
OpenAI正在通过为Codex实施自定义沙箱来改进Windows上的代理支持,应对操作系统级别的隔离挑战,确保安全高效的运行。