当AI代理开始相互委托任务时，权限应该如何运作？
摘要
本文讨论了自主工作流中AI代理的权限模型，质疑委托任务是否应该继承或拥有比委托代理更受限的权限。
我一直在思考一个问题：随着AI工作流变得更加自主，这个问题似乎变得越来越复杂。很多关于代理安全的讨论都集中在提示注入以及代理是否会被操纵去做不该做的事情上。但即使我们抛开这些，还有一个问题我觉得很有趣：一个代理首先应该拥有多少访问权限？代理可能能够与文件交互、浏览网站、调用工具，或将工作传递给另一个代理。但拥有访问权限是否意味着它应该在工作流的每一步都能使用它？委托部分对我来说尤其有趣。如果代理A要求代理B处理一个任务，代理B是否应该自动获得与代理A相同的权限？还是委托任务应该带有更窄的权限集？我开始认为，代理权限可能需要比传统用户权限更加细粒化，特别是当工作流涉及多个代理时。对于那些正在构建或实验代理工作流的人，你们是如何考虑权限和委托的？你们更倾向于带有安全措施的广泛权限、严格的最小权限访问，还是介于两者之间的某种方式？
相似文章
AI代理是否应该拥有不同的权限级别？
文章认为，AI代理应根据风险拥有不同的权限级别，低风险任务拥有更多自主权，涉及金钱、客户或声誉的行动则需批准。文章质疑用户是否会因基于风险的自主权而更加信任代理。
AI代理应被允许自行决定哪些权限？
本文讨论了AI代理不应自行授权行动的原则，并探讨了在允许模型独立决策时如何划定界限，强调了审批系统和策略等外部控制手段。
子代理不应自动继承父代理的权限
本文主张AI子代理不应自动继承其父代理的全部权限，而是提倡采用明确范围、工具限制和审计跟踪的弱化委托方式，以增强多代理系统的安全性。
你们当中那些在生产环境中运行AI代理的人——实际上是如何管理它们的权限的？
本文探讨了工程师如何管理生产环境中AI代理的权限，强调了普遍存在的权限过大和缺乏审计追踪的问题。
当AI代理跨越多个系统时，谁真正拥有权限？
本文讨论了跨越多个系统的AI代理工作流中权限和治理的挑战，质疑权限和策略如何在交易链中交互。