智能体权限应在其上下文失效前过期

Reddit r/AI_Agents 论文

摘要

本文提出了一种新的AI智能体权限模型,该模型通过设置具体的作用范围、有效期、重试规则及审计追踪机制,确保智能体的操作在限定时间内保持有效。

某个智能体获得了部署阶段性变更的授权。它在调用部署API时遇到超时,30分钟后才重新尝试。此前的授权与计划依然有效,但在此期间,相关代码、目标环境或部署窗口可能已经发生变动。对于此类情况,授权应明确描述所获批的具体操作,而非形成永久性权限。一种实用的授权方式是绑定特定的操作与资源、相关参数、有效期、重试规则以及审计记录。在执行时,问题并非简单的“该操作是否已被授权?”,而是“当前这个授权是否仍适用于带有这些参数的对该资源的操作?”。通过四项检查可明确答案:作用范围:需记录具体的工具操作及资源类型;若目标是特定的服务与环境,仅使用“部署”这一术语则过于宽泛。有效期:需设定授权生效的截止时间,较短的期限足以覆盖部署确认操作,无需持续有效至整个长时间运行的过程结束。重试保护:需明确规定同一授权是否允许进行第二次尝试、使用不同参数或操作不同资源,这应是明确的设定。审计记录:需完整保存授权内容、适用资源、时间以及实际执行的操作信息。当结果存在争议时,运行编号与授权记录可为查询提供依据。重试操作则较为复杂:智能体可能已生成发布版本但尚未成功调用部署API;或者在执行数据库迁移、强制推送、破坏性写入或生产环境配置更改后收到模糊的响应。重试可能是正确的选择,但也可能引发同样的问题,或者由于原有授权已过期或周围环境发生变化而需要新的授权。目前并不存在通用的重试规则,工作流需为“未知结果”状态设置明确的处理方式,以及是否检查状态、重试、申请新授权或停止操作的明确决策。若直接将过期的授权视为下一次操作的权限,就会掩盖关键的决策过程。在Future AGI系统中,网关会对每个MCP工具调用及其参数应用相应的策略,从而让我们能够将授权与所获批的操作紧密关联。“对于授权过期后的重试操作,尤其是部署、迁移或强制推送类操作,你们是如何处理的?”
查看原文

相似文章

AI代理应被允许自行决定哪些权限?

Reddit r/AI_Agents

本文讨论了AI代理不应自行授权行动的原则,并探讨了在允许模型独立决策时如何划定界限,强调了审批系统和策略等外部控制手段。