“人类已批准”背后，可能隐藏着一个更艰难的治理问题

我不断看到“人类在环（human-in-the-loop）”被当作 AI 系统已被有效治理的标志。但我开始觉得，真正有趣的问题恰恰始于把人类加入之后。假设一个 AI 决策被上报，某个人点击了“批准”。我们能够证明有人类参与其中。但我们究竟证明了什么？ 他/她具备审核这类决策的资格吗？ 他/她真的被指派处理这个案例吗？ 他/她有权批准这项具体行动吗？ 他/她与所审核的决策之间是否保持了足够的独立性？ 当这个批准产生实际效力时，上述条件是否依然成立？ 这些似乎都是彼此不同的主张。证明了其中一项，并不必然意味着后续各项也得到了证明。 当“人类批准”被当作最终的信任锚点时，问题会变得尤其棘手。如果系统能够证明 Alice 点击了“批准”，却无法证明 Alice 为什么被允许在这个特定时刻做出这一特定决策，那么从治理的角度来看，加入人类这一环节到底增加了什么？ 也许更难的问题不是：“环里有个人类吗？” 更难的问题可能是：“是什么让这个人类的决定具有权威性？” 很好奇，那些正在构建自主（agentic）系统或高风险系统的从业者们，是如何思考这一区别的。