SearchAuditor:长时程搜索智能体故障的审计与归因
摘要
本文介绍了SearchAuditBench,这是一个包含1,243条带有专家标注的失败长时程搜索智能体轨迹的基准测试,以及SearchAuditor,一个从多视角进行审计的框架,用于定位、归因并修复智能体故障。实验表明,SearchAuditor优于基线方法,在使用GPT-5.5等前沿模型时,端到端通过率达到32.3%。
查看缓存全文
缓存时间: 2026/08/07 07:45
# 长程搜索智能体中的失败审计与归因 来源:https://arxiv.org/html/2608.05212 Zhixiang Liang\equalcontrib1,2, Yifei Liu\equalcontrib2, Yidan Huang2, Haozhe Zhao1, Beichen Huang1, Jiaqi Wang2, Nan Duan2, Qiong Cao2\corresponding ###### 摘要 深度搜索智能体通过长程网络交互来解答具有挑战性的问题,这一过程既复杂又脆弱:微小的推理错误可能会沿着冗长而嘈杂的轨迹传播,最终形成流畅但错误的答案。
相似文章
科学检索智能体在何处失败:暴露与查阅尝试的决策检查点审计
本文提出决策检查点审计——一种轨迹层面的测量方法,将科学检索智能体的失败划分为目标暴露、查阅以及答案正确性三个阶段。研究发现,在AutoResearchBench Deep基准上,关键词检索策略与先读后答策略虽失败分布不同,却达到了完全相同的24.6%准确率。
AgentForesight:多智能体系统中用于早期故障预测的在线审计
本文介绍了 AgentForesight,这是一个用于基于大语言模型(LLM)的多智能体系统的在线审计和早期故障预测框架。文章提出了一个新数据集 AFTraj-22K,以及一个专用模型 AgentForesight-7B,该模型在检测轨迹执行过程中的决定性错误方面优于领先的专有模型。
AgentAudit:一个用于 AI 代理全生命周期信任评估的开放、可扩展框架
AgentAudit 是一个开放且可扩展的框架,用于评估 AI 代理在能力、基础、安全和行为维度的全生命周期,实现精确的故障归因并突出不同语言模型之间的可信度差异。
深度研究Agent在何处出错?Agent轨迹中的跨度级错误定位
本文介绍了一个以声明为中心的审计框架,用于识别深度研究Agent轨迹中的错误跨度,并提出了新基准TELBench,改进了过程级可靠性评估。
根因归因是一个搜索问题:针对长期代理失败的持续搜索
本文介绍了持续搜索(Continual Search),这是一个迭代框架,通过在长期执行痕迹中搜索诊断证据来增强AI代理失败的根因归因,并在包括MegaRCA-Mix在内的基准测试中进行评估,显示出显著的性能提升。