一次成功的代理运行并不等同于验证。我们的一项相同模型消融研究完成了60/60个任务,但正确率为0/60。
摘要
本文基于一项消融研究,指出AI代理中成功完成任务并不保证正确性的一种失败模式,并介绍了AdaptOrch作为在代理工作流中实现外部验证和可靠性的工具。
如果你正在构建修改代码、调用工具或执行工作流的代理,我认为我们低估了一种失败模式:代理可以成功完成其工作流,却未产生可信的结果。我们在运行基准评估时深有体会:
• 执行完成:60/60
• 拓扑正确激活:60/60
• 产物得出正确答案:0/60
这是一个以数学为重点的消融研究,而非生产编码基准,我并非声称该结果可推广到每个工作流。但架构上的启示不容忽视:执行成功 != 正确性自评 != 独立验证
与其让同一模型自行决定其补丁或输出是否有效,我们正转向更严格的职责分离:
• 生成:代理产生候选结果、补丁或操作。
• 执行:结果在受控环境中运行。
• 验证:外部检查审查构建、测试、静态检查和其他配置的证据。
• 失败分类:当证据支持时,候选失败与运行器或环境失败保持分离。
• 证据收据:系统记录运行了什么、执行上下文、通过了什么、失败了什么以及仍待验证的内容。
模型拓扑并非信任边界。在一项针对302个单元的独立提供商受限配对评估中,采用门控设置在HotpotQA、MATH 500 / AIME和MMLU上显示了积极的测量增量。但我们也看到了负面的相同模型案例,这让我对未经外部验证的无条件辩论或集成循环越来越怀疑。我们正在转向的架构更像这样:
单一代理 → 外部验证 → 仅在证据不足时升级
而非:代理 → 自我反思 → 询问自己是否通过 → 信任结果
我们将此可靠性和验证层打包为AdaptOrch(披露:我是开发者)。对于在真实仓库或暂存环境中运行代理工作流的人:你今天的实际信任边界是什么?在代理操作被接受前,你是否依赖基于提示的自我批评、LLM判断、隔离执行、确定性检查、人工审查,或这些的某种组合?
相似文章
让我损失最惨重的智能体故障全都声称成功
作者分析了155个AI智能体任务,发现大多数故障源于基础设施问题,如超时和虚假成功信号,而非模型错误,从而提出了基于效果断言和使用多条验证路径等实践方法。
AI代理能完成任务但仍然算失败吗?
本文引入“验证税”(Verifier Tax)概念,将AI代理的结果分类为安全成功、不安全成功或失败,并为使用工具的LLM代理提出了一种双层验证架构。
我的代理循环中的一个验证步骤连续数周运行零测试并返回退出码0
作者描述了AI代理循环的验证步骤静默失败运行测试并导致误报的场景,并给出了改进开发工具以防止类似问题的指导。
真正让你头疼的AI代理故障不是崩溃,而是那些顺利完成却做错事的运行。
本文讨论了AI代理如何常常通过错误地完成任务而不崩溃,悄无声息地失败,导致未被检测到的错误。它强调了常见的失败模式,并探索了潜在的检测策略。
你的智能体完美完成任务,但它能再次做到吗?
本文探讨了AI智能体的一致性问题,即在重复尝试中任务可能失败,并介绍了ALTK-Evolve的Consistency Analyzer,用于诊断和提高可靠性,在不降低平均准确率的情况下,将一致性差距从24.4个百分点缩小到12.0个百分点。