我们花了很多年时间教人们不要信任输入，而现在我们却把整个工作区的访问权限交给了 AI 智能体。
摘要
文章讨论了向 AI 编程智能体授予广泛工作区访问权限所带来的安全风险，并提出了在设计智能体沙箱时哪些权限应当默认拒绝的问题。
一个编程智能体可能会读取代码仓库、检查环境变量、执行 shell 命令、安装依赖项、访问外部服务——有时这一切都在同一个工作流程中完成。有趣的安全问题不仅在于模型是否可以被操纵，更在于一个被入侵或出现混乱的智能体实际上被允许造成多大的破坏。如果你要从零开始设计一个智能体沙箱，哪些权限是你默认拒绝授予的？
相似文章
AI编码智能体遭遇严峻安全挑战
本文探讨了AI编码智能体的新兴安全问题，重点关注权限管理以及赋予其完全访问开发环境的风险。
感觉人们给AI智能体赋予生产环境访问权限过于随意了。
一条推文表达了担忧：开发者在不充分理解安全性的情况下，赋予AI智能体对生产环境、内部工具和API的过度宽松访问权限，并指出随着这些系统变得更加自主，风险正在增大。
我认为大多数AI代理的安全性远低于其开发者的预期
文章认为，AI代理安全常被过度强调，尤其是对提示注入的关注，而忽视了更广泛的风险，如未授权工具使用、数据访问和金融交易。它呼吁更多地关注代理在生产环境中实际可能被操控执行的任务。
我让AI智能体运行我食品公司的日常运营。真正的风险不是糟糕的输出，而是写入权限。
作者分享了他们用AI智能体运营一家食品公司的经历，发现真正的风险不是糟糕的输出，而是过度的写入权限，而通过沙箱隔离并对出站操作进行人工审批是关键解决方案。
对于使用工具的智能体，安全边界应划在哪里？
讨论AI智能体使用工具的安全风险，重点关注提示注入这一实际威胁——不受信任的文本可能改变智能体行为，以及在授予权限前需要进行可重复测试。