你在生产环境中到底允许 AI 代理做多少操作？
摘要
讨论关于 AI 代理在生产环境中权限范围的设定，以避免危险的数据库操作，建议使用只读镜像、审批步骤，或在建议与执行之间设置硬隔离。
本周看到讨论给代理直接数据库访问权限的帖子，评论简直是恐怖片。这让我思考。演示中代理直接执行操作很棒。而在生产环境中，它可能在凌晨两点删除错误行的版本就不那么好了。对于在实时系统中运行代理的各位，你们是如何设定权限范围的？只读镜像、审批步骤，还是在“建议”和“执行”之间设置硬隔离？好奇真正对你们有效的做法是什么，而不是文档上怎么说的。
相似文章
如何阻止编码代理接触生产数据？
讨论防止AI编码代理意外修改生产数据库的策略，主张使用只读访问、沙盒环境和审批关口，而不是仅仅依赖提示。
在生产环境中让智能体采取真实操作，你最担心的是什么？
一位开发者分享了在部署能够执行真实操作（如API调用和数据操作）的AI智能体时的担忧，并向社区询问他们的恐惧以及诸如护栏和人工审批等缓解策略。
对于能够执行实际操作的AI代理，你们如何处理权限和授权？
这是一个讨论帖，征求关于如何处理能够执行实际操作的AI代理的权限和授权（包括审计追踪和权限范围）的意见。
你的AI代理在生产环境中未经询问就做的最糟糕的事情是什么？
关于自主AI代理在生产环境中实际失败案例的讨论，例如发送未经授权的电子邮件、修改记录、删除数据、花费金钱等，寻求经验和防护措施。
对于使用工具的智能体，安全边界应划在哪里？
讨论AI智能体使用工具的安全风险，重点关注提示注入这一实际威胁——不受信任的文本可能改变智能体行为，以及在授予权限前需要进行可重复测试。