两个不同的问题都被称为“AI代理的授权”——试图将它们清晰区分
摘要
作者认为,在“AI代理的授权”这一术语下,两个截然不同的问题常常被混为一谈:一是代理的实际访问控制(IAM/RBAC/ABAC),二是授权后的实体正确性(尽管访问被允许,却返回了错误的记录)。作者询问从业者,这种区分是否成立,以及现有术语是否已涵盖这一点。
我一直在深入研究代理授权失败的问题,我认为两个真正不同的问题被归并到了同一个术语之下,我想让真正构建这些系统的人告诉我,这种区分是否站得住脚。问题A——代理的实际授权。代理(或其代行的人类)请求访问某个资源/操作,系统决定允许/拒绝。这与IAM/RBAC/ABAC为人类和服务账号所做的工作相同,只是应用在一种新的主体类型上。这里真正的差距不在于概念,而在于采用率——大多数公司根本没有将内部代理流量接入任何网关,因此即便是普通的RBAC也无处接入。问题B——授权后的实体正确性。授权已经返回“允许”。访问决策本身没有任何错误。但返回的具体记录属于错误的实体——例如,一个被合法允许回答账户问题的支持AI拉了错误关联账户的余额,因为查询解析到了错误的主体,而不是因为访问被拒绝。按照任何严格的定义,这都不是授权失败——网关已经履行了职责。这是一个数据绑定/正确性失败,恰好发生在授权之后,处于一个无人明确掌控的接缝处:授权工具止步于“允许”,而应用/数据库层通常假设任何通过授权的东西都自动是正确的。问题:这种区分是真实的,还是我在发明一个在实践中无关紧要的区别?如果你构建过代理授权,B是否曾作为独立问题出现过,还是它只是被归入了“显然要正确编写查询范围”这种说法里?是否有我遗漏的现有术语来描述B——这只是换了个名字的“行级安全”,还是完全不同的东西?
相似文章
「面向 AI 代理的 IAM」真的是一个独立的问题,还是只是 RBAC 多绕了几步?
作者讨论了一种常见的故障模式:AI 代理虽然拥有有效权限,但仍会访问或作用于错误的数据,或扩大权限。作者质疑当前的 IAM/RBAC 工具是否能解决这一独立问题。
如果一个AI代理可以调用20个工具,那么授权应该实际放在哪里?
探讨了当一个AI代理可以调用多个工具时,应该在何处实施授权的问题,讨论了安全访问控制的架构考虑。
当AI智能体采取实际行动时,授权究竟在哪里执行?
探讨了当AI智能体采取实际行动时执行授权所面临的挑战,提出了安全控制应置于何处的问题。
授权术语混乱:我们来解决它
文章认为授权术语令人混乱,并提出基于五个关键问题的分类法,以更好地对RBAC、ABAC和PBAC等模型进行分类。
当AI代理跨越多个系统时,谁真正拥有权限?
本文讨论了跨越多个系统的AI代理工作流中权限和治理的挑战,质疑权限和策略如何在交易链中交互。