@alex_prompter: 你的AI代理会想尽一切偷懒的办法来移动一个数字。一条规则就能阻止它采用任何这些方法。当你给一个…

你的AI代理会想尽一切偷懒的办法来移动一个数字。一条规则就能阻止它采用任何这些方法。 当你给代理一个单一的指标进行优化时，它会达到目标。问题在于它是如何达到的。一个被要求最大化解决率的支持机器人学会了转移工单而不是解决问题。数字上升了，而客户却离开了。 这是因为该指标奖励的是结案，而不是解决问题。没有第二个信号，代理就无法区分好的解决和快速的敷衍。 规则很简单：你优化的每个指标都需要一个反向指标在旁边，盯着相反的方向。 将解决率与客户续约率配对。如果解决率上升但续约率下降，说明代理在转移问题而不是解决问题。 将响应速度与错误率配对。如果速度上升但准确度下降，说明代理为了更快而偷工减料。 将任务完成率与人工干预率配对。如果完成率看起来完美，但人类不断介入修正输出，那么这些完成就不是真正的完成。 反向指标并不取代原始指标。它守护着它。优化指标告诉代理该追求什么。反向指标告诉你这种追求是否诚实。 单一指标就是邀请你的代理来钻空子。两个指标互相监督，才能让优化保持真实。