你们当中那些在生产环境中运行AI代理的人——实际上是如何管理它们的权限的?
摘要
本文探讨了工程师如何管理生产环境中AI代理的权限,强调了普遍存在的权限过大和缺乏审计追踪的问题。
这基本上就是我最近看到的每一个配置。工程师给代理分配了广泛的权限,“只是暂时的”,然后它上线了,之后没人能说清楚它被允许访问什么,或者它实际做了什么。真心好奇其他人是怎么处理的:每个代理是否有自己的身份,还是使用共享密钥?最小权限原则,还是因为方便就直接给管理员权限?对于高风险操作是否有审批步骤?是否有审计追踪?我在试图弄清楚是我多虑了,还是所有人都默默面临同样的问题。
相似文章
为管理生产环境 AI 智能体的工程师而写
一篇工程领域的讨论,探讨如何在 AI 智能体已经部署到生产环境后修改它的权限和授权范围,对比了配置部署、IAM/RBAC、Cedar 和 OPA 等策略引擎,以及网关/代理层等不同方案。
在生成环境中运行AI代理:如何控制它们实际允许执行的操作?
一位开发者寻求关于如何在生产环境中控制和约束AI代理行为的建议,特别是当它们与真实系统(如数据库和客户数据)交互时,询问当前实践情况以及这是否是一个已知的难题。
对于能够执行实际操作的AI代理,你们如何处理权限和授权?
这是一个讨论帖,征求关于如何处理能够执行实际操作的AI代理的权限和授权(包括审计追踪和权限范围)的意见。
你们在生产环境中如何处理AI代理工具调用的授权?
本文讨论了在生产环境中处理AI代理工具调用授权所面临的挑战,包括上下文漂移和多轮不一致等问题,并请求社区对有效的架构模式提供反馈。
在生产环境中,你们如何跟踪AI智能体的实际行为?
本文重点介绍了团队在监控生产环境中AI智能体时面临的挑战,尤其涉及合规性和健康状况,并邀请探讨当前实践与不足之处。