你在生产环境中到底允许 AI 代理做多少操作？
摘要
讨论关于 AI 代理在生产环境中权限范围的设定，以避免危险的数据库操作，建议使用只读镜像、审批步骤，或在建议与执行之间设置硬隔离。
本周看到讨论给代理直接数据库访问权限的帖子，评论简直是恐怖片。这让我思考。演示中代理直接执行操作很棒。而在生产环境中，它可能在凌晨两点删除错误行的版本就不那么好了。对于在实时系统中运行代理的各位，你们是如何设定权限范围的？只读镜像、审批步骤，还是在“建议”和“执行”之间设置硬隔离？好奇真正对你们有效的做法是什么，而不是文档上怎么说的。
相似文章
如何让AI代理接触生产数据库而不令人胆战心惊？
一位开发者向社区提问，如何安全地让AI代理与生产数据库交互，重点表达了对SQL注入、数据泄露和缺乏审计追踪的担忧。
如何防止AI代理在生产环境中采取意外或有害行动
一位开发者探讨了在不造成意外损害的情况下将AI代理部署到生产环境的挑战，并寻求关于最小权限、影子模式、速率限制和审批工作流程等控制机制的建议。
在生成环境中运行AI代理：如何控制它们实际允许执行的操作？
一位开发者寻求关于如何在生产环境中控制和约束AI代理行为的建议，特别是当它们与真实系统（如数据库和客户数据）交互时，询问当前实践情况以及这是否是一个已知的难题。
如何阻止编码代理接触生产数据？
讨论防止AI编码代理意外修改生产数据库的策略，主张使用只读访问、沙盒环境和审批关口，而不是仅仅依赖提示。
你们当中那些在生产环境中运行AI代理的人——实际上是如何管理它们的权限的？
本文探讨了工程师如何管理生产环境中AI代理的权限，强调了普遍存在的权限过大和缺乏审计追踪的问题。