最佳智能体模型是懂得何时停止的那一个

最被低估的智能体能力不是自主性，而是克制。自主性演示很容易做得看起来很惊艳。智能体打开工具、制定计划、重写文件、搜索、调用API、总结自身进展，然后继续下去。问题在于，“继续下去”正是让许多智能体系统在实际工作中变得危险的原因。一个有用的智能体模型应该知道何时下一步不是另一个工具调用。有时正确的做法是停止、保存状态、询问缺失的约束、移交给人类，或者生成一个小型可审计的计划，而不是假装任务已完全解决。我认为这正是许多智能体评估的误区所在。我们奖励模型端到端完成任务，但并未充分惩罚三种常见失败模式：在任务边界变得模糊后继续执行；凭空捏造缺失需求而不是提出询问；产出一个无人能安全审查的“已完成”工件。我一直以这个视角来看待更新的开源模型，包括Ling-2.6-1T。它的有趣之处不仅在于规模，更在于长上下文处理、工具调用导向、编码/工作流定位，以及明确降低token开销的方向。这基本上就是你会作为智能体堆栈中的规划器或控制器来测试的模型形态，而不是一个应该永远运行的神奇员工。不过，框架比模型名称更重要。我理想的智能体设置会将主模型视为保守的规划器。它应分解任务、判断缺少哪些证据、将小步骤路由到更便宜的执行器、验证输出，并在信心不足时停止。“停止条件”应是一等输出，而非事后想法。例如，我希望每次智能体运行以四种状态之一结束：有证据的完成、因缺少输入而阻塞、移交审查、或失败并有有用追踪。其他任何状态只是带有工具访问的“氛围”。好奇这里是否有人明确对停止行为进行基准测试。你们的智能体有真正的移交协议吗？还是它们只是不断循环直到达到预算上限？