一个重新做一遍工作的验证器，不过是第二个智能体——检查行动，而不是推理。

让智能体检查自己的工作，就像让同一个人给自己的作业打分。它已经认定这个计划不错，再问它一次，通常也不会改变答案。我会采用另一种模式：设置一个职责刻意收窄的验证器。它从不生成计划，只检查智能体即将执行的操作。它接收三样东西：拟执行的操作、原始请求和约束条件。它返回允许或阻止，并附上理由。它绝不提出替代方案，因为一旦开始改写计划，它就变成了另一个智能体，带来第二套意见和第二笔费用。它检查的内容很少，也很具体：接收方是否符合请求，金额或范围是否在限定之内，操作是否只做了要求的事，没有额外动作。正是这种狭窄的职责范围，让每次都运行它的成本足够低——小模型甚至规则都能胜任，因为它不是在推理如何完成任务，而是在核对操作是否符合请求。设计时需要考虑两种失效情况。验证器过于严格，会阻碍正当工作，所以每次阻止操作都要记录原因，再根据这些日志进行调优。而只会照单放行的验证器比没有验证器更糟，因此它绝不能看到智能体为操作提供的辩解，只能看到操作本身。辩解本来就是为了说服别人，检查时必须将其排除在外。验证器也要有自己独立的小额预算，与智能体的预算分开，这样失控的智能体就无法耗尽检查器的额度，然后声称操作已经通过验证。你会允许验证器在不先征求人类意见的情况下否决哪些操作？