你们在生产环境中如何处理AI代理工具调用的授权？
摘要
本文讨论了在生产环境中处理AI代理工具调用授权所面临的挑战，包括上下文漂移和多轮不一致等问题，并请求社区对有效的架构模式提供反馈。
我们一直在构建invisibleact.com - 这些代理调用外部工具（API、数据库、支付系统），并不断遇到相同的问题：模式验证通过，身份检查通过，权限有效。但操作仍然错误——因为上下文发生了变化，或代理推断了不该推断的内容。好奇其他人是如何解决这个问题的：· 你们是在工具级别验证，还是在之前验证？· 如何处理代理逐渐偏离任务的多轮漂移问题？· 是否有模式可以在不泄露根凭据的情况下将权限委托给子代理？不寻求工具推荐——更感兴趣的是人们实际使用的架构模式。
相似文章
如果一个AI代理可以调用20个工具，那么授权应该实际放在哪里？
探讨了当一个AI代理可以调用多个工具时，应该在何处实施授权的问题，讨论了安全访问控制的架构考虑。
你们当中那些在生产环境中运行AI代理的人——实际上是如何管理它们的权限的？
本文探讨了工程师如何管理生产环境中AI代理的权限，强调了普遍存在的权限过大和缺乏审计追踪的问题。
团队如何处理生产环境中代理的身份认证与访问管理？
关于团队如何处理生产环境中AI代理的身份认证与身份管理的讨论，涵盖服务账户、凭证存储、审批工作流和审计。
你如何设计AI代理对工具、API和敏感数据的访问控制？
本文讨论了为AI代理设计访问控制的挑战和方法，重点是基于任务的权限和自动化治理。
监控和审计自主AI代理运行时行为的最佳工具：生产环境中哪些真正有效？
一位从业者分享了在生产环境中监控自主AI代理的挑战和工具，涵盖了运行时提示注入检测、带推理轨迹的工具调用审计、行为漂移检测以及多代理授权，同时测试了Arize Phoenix、Protect AI Guardian、Metoro、Alice、Asqav和Microsoft Agent Governance Toolkit等工具。