并非每个 Agent 操作都需要同样的审批
摘要
作者探讨 AI Agent 审批流程的设计问题,主张审批应基于风险等级而非组织架构——读操作放行、常规更新记录放行、高风险操作才需指定人工审批,并指出真正的业务规则往往存在于未文档化的实践者经验中,而不是 API 权限模型里。
我一直在思考我们目前对 AI Agent 的审批方式,说实话,整套流程感觉完全是本末倒置的。并不是每个操作都值得走同样的审批。一次只读查询没有任何风险。一次常规更新风险很小。而一次影响重大的操作风险很高。但大多数审批流程根本看不到这种区别。它们跟着组织架构图走,而不是跟着风险走。于是所有事情都在等同一个经理审批。所有事情都要耗时同样的两天。低风险的工作莫名其妙地被卡住,而高风险的工作也和其他所有事情一样,只是被草率地盖了个章。而真正让我在意的是这一点:那些真正的规则从来不是平台团队的人写下来的。它们是由一线实战中的从业者总结出来的,而且没有任何一条存在于任何 API 合同里。用户评价上线之前需要人工审核。联系客户两次之后才能升级处理。订单已付款且此前从未退款的情况下,五十美元以下的退款可以直接通过。这些时间线规则,没有任何地方写下来过。它们不是边缘情况。它们就是审批流程本身。风险存在于那些未成文的规则里,而不是存在于接口里。一个看不到规则的 Agent 无论如何都不可能遵守它,不管纸面上的权限模型看起来多么干净漂亮。所以,应该围绕风险来设计审批。让只读操作直接通过。让常规更新记录日志后直接通过。让影响重大的操作等待一个指定的人来审批,并附上操作理由。我真心想知道:你的 Agent 今天能执行的、无需向任何人请示的最高风险操作是什么?
相似文章
对 AI 智能体的人工批准并不等于授权:将批准与具体载荷绑定
分析了人类对 AI 代理的审批为何可能实际授权了与人类所见不同的操作,并提出在执行时对关键字段重新计算摘要进行比对、以单次条件更新消费授权的解决方案。
若人类无法审查操作,批准不等于审查
本文认为,对于AI智能体操作的批准,若无法详细审查操作的上下文、变更、可逆性及所有权,则这种批准是不充分的,尤其在高风险任务中。
你究竟是如何决定哪些AI代理操作需要经过人类批准才能执行的?
本文探讨了如何判定哪些AI代理操作需要人类审批,引用了2026年1月一起未经授权的2700万美元转账事件,并提出了基于可逆性和影响程度的评估框架。
当审批所描述的动作发生变化时,审批应立即失效
提出一个针对文件发送型 AI agent 的合成验收测试:审批应绑定到具体收件人、内容修订与动作并带过期时间,字段任一变化都需重新授权,且应记录拒绝后的实际状态证据。
人工审批对于生产级智能体来说过于模糊
文章认为,智能体系统中的人机协同应从模糊的审批转向明确的、可审计的、每步签署的决策记录,包含详细证据、数据载荷、幂等键、回滚路径和职责归属。文章强调了批准黑箱故事而非具体操作的危险性。