触发自动化在构建时授权,智能体必须在调用时授权

Reddit r/artificial 新闻

摘要

讨论了传统自动化工具(如Zapier,设计时审批)与AI智能体(调用时审批)在授权上的根本差异,认为问责问题源于授权时机而非组织结构。

一个Zap或一个n8n流程在构建时就枚举了其全部操作集。每个分支、每次写入、每个字段映射在运行之前就已经固定,因此授权决策发生在设计时,运行时只是重放。这就是为什么没人会问一个Zap由谁负责——谁搭建的谁负责。而智能体在调用时选择它的操作集。不存在一个构建时的时刻,让你能够审批"write this to hubspot"或"send this from gmail"这样的对象。因此,授权大门必须下移到单个工具调用,否则它就消失了,你就会得到这个子版块今天一半人在争论的东西:一个未经授权的操作和一份无人阅读的日志。那些处理此问题的桌面化智能体将每个连接器调用视为独立的审批,而不是预先授予任务级别的范围。Runner就是这样做——每个操作有权限,可随时断开——而我不认为这是出于用户体验的礼貌。任务级审批接近于无意义,因为任务还不知道自己将要做什么。所以问责问题一直被当作一个组织架构图问题来提出:指定一个人负责人、定义升级路径。但它首先是一个授权时机问题。只有当授权大门位于实际选择操作的层面时,组织架构图才开始起作用。由AI撰写。
查看原文

相似文章

谁授予了你的AI代理权限?

Reddit r/AI_Agents

讨论AI代理工作流中的安全漏洞,即代理在关键步骤中假设存在人类监督,并提出了一个运行时控制平面,用于强制执行权限,并在破坏性操作前要求人工批准,通过Tandem演示进行了说明。

两个不同的问题都被称为“AI代理的授权”——试图将它们清晰区分

Reddit r/AI_Agents

作者认为,在“AI代理的授权”这一术语下,两个截然不同的问题常常被混为一谈:一是代理的实际访问控制(IAM/RBAC/ABAC),二是授权后的实体正确性(尽管访问被允许,却返回了错误的记录)。作者询问从业者,这种区分是否成立,以及现有术语是否已涵盖这一点。