智能体操作的人工审批:你的审批中有多少只是走过场?
摘要
作者向从业者提问:针对智能体操作设置的人工审批环节究竟有多有效——其中多少比例的审批是真正的拦截,多少只是机械盖章;信任感和疲劳感如何随时间变化;审批队列是否展示了支撑证据。文章指出,没有人真正阅读的审批环节可能只是徒增延迟,而非提升安全性。
这是一个向所有设置了智能体操作人工审批环节的人提出的真诚问题。标准建议是:让智能体起草内容,由人类审批任何有风险的操作。听起来很安全。但我很好奇这在实际中是否真的有效。当你诚实地审视自己的审批队列时:有多少比例的审批是真正的拦截,又有多少只是习惯性点击?随着审批者逐渐学会信任智能体,拦截率会随时间变化吗?这种信任是 earned 的,还是仅仅是疲劳所致?你的队列向审批者展示了什么——只有操作本身,还是其背后的证据?有没有人尝试过对这些进行衡量,哪怕只是粗略的?我之所以问这个问题,是因为一个没有人真正阅读的审批环节只是徒增延迟的额外步骤,但我很少看到有人讨论闭环中审批这一侧的问题。
相似文章
你实际上是如何为AI代理构建审批门的?我确信大多数都只是形同虚设
作者认为,许多针对AI代理的人工审批门效果不佳,如同虚设;并提出了一个框架,用于设计能够真正捕捉错误的有意义的审查机制。
审批队列并不是给你的智能体增加的负担。它是唯一能让它们变得更聪明的环节。
作者认为,AI 智能体的人工审批队列并非额外负担,而是关键的训练信号:记录驳回原因并允许操作自动升级为免审批的团队,其审批队列会不断缩短;而停用审批队列的团队则会发现智能体运行失败。文中引用了 Gravitee 的 2026 年报告,指出只有 14% 的团队在获得安全和 IT 部门的全面批准后才部署智能体。
人工审批对于生产级智能体来说过于模糊
文章认为,智能体系统中的人机协同应从模糊的审批转向明确的、可审计的、每步签署的决策记录,包含详细证据、数据载荷、幂等键、回滚路径和职责归属。文章强调了批准黑箱故事而非具体操作的危险性。
人工审批并非 AI 智能体的弱点
本文主张,人工审批是建立信任和制定策略的关键机制,而非需要消除的弱点。文章建议利用审批模式来安全地迭代扩展智能体的自主权。
审批疲劳是让智能体在你离开时继续工作的一大难题。Claude Duet 公布的停止规则揭示了什么
Anthropic 的 Claude Duet 研究预览重点介绍了其旨在缓解审批疲劳的停止规则:付款和删除等操作始终需要批准,并由模型之外的自动化检查机制防范提示注入。文章认为,评判智能体应看其停止规则,而非功能清单。