LongRCA Bench: 诊断长时程智能体失败中的责任角色和根本原因

Hugging Face Daily Papers 论文

摘要

LongRCA Bench 引入了一个用于诊断长时程智能体轨迹失败的基准,RCTA方法改进了责任角色和根本原因步骤的归因。

当长时程智能体执行失败时,结果层面的评估显示了不成功的结果,但未揭示决定性错误何时进入轨迹。开发者随后必须检查完整执行以识别责任角色并定位最早的决定性根本原因步骤。现有的故障归因基准主要关注较短的轨迹,导致对跨越数百个记录步骤的诊断研究不足。我们引入了LongRCA Bench,包含五个领域中1,140个无注入错误的失败轨迹。它提供了独立评分的人工标签,用于责任角色和最早的根本原因步骤。中位数轨迹包含145个步骤,最强基线仅达到13.2%的精确根因步骤准确率。我们进一步提出了Root-Cause Trajectory Attribution (RCTA),这是一种免训练方法,通过从分段摘要中检索候选错误步骤,并将其追溯到可用的早期交接指令。使用相同的骨干架构、基准实例和评分协议,RCTA达到了51.1%的责任角色准确率和24.1%的精确根因步骤准确率。这些结果突显了在长轨迹故障诊断中,将责任角色归因和精确根因步骤定位作为单独目标进行评估的必要性。
查看原文
查看缓存全文

缓存时间: 2026/08/26 03:17

论文页面 - LongRCA Bench:长周期智能体故障中的责任角色与根本原因诊断

来源:https://huggingface.co/papers/2608.15242 作者:

,

,

,

,

,

,

,

,

,

,

,

,

,

,

,

摘要

LongRCA Bench 评估了在长智能体执行轨迹中的故障诊断能力,其无需训练的 RCTA 方法显著提升了对责任角色与根本原因步骤的归因准确性。

当长周期智能体执行出现失败时,结果层面的评估仅能揭示失败结果,却无法定位决定性错误在轨迹中的切入点。开发者必须随后检查完整的执行过程,以识别责任角色(https://huggingface.co/papers?q=responsible%20role)并定位最早的决定性根本原因步骤(https://huggingface.co/papers?q=root-cause%20step)。现有的故障归因(https://huggingface.co/papers?q=failure-attribution)基准测试主要关注较短的轨迹,使得对数百个记录步骤的诊断能力尚待探索。我们推出了 LongRCA Bench(https://huggingface.co/papers?q=LongRCA%20Bench),包含来自五个领域的 1,140 条未注入错误的失败轨迹。它为责任角色(https://huggingface.co/papers?q=responsible%20role)和最早的决定性根本原因步骤(https://huggingface.co/papers?q=root-cause%20step)提供了经独立评分的人工标签。轨迹中位步数为 145 步,而最强基线方法的精确根本原因步骤准确率仅为 13.2%。我们进一步提出了根本原因轨迹归因(https://huggingface.co/papers?q=Root-Cause%20Trajectory%20Attribution)(RCTA(https://huggingface.co/papers?q=RCTA)),这是一种无需训练的方法,它从分段摘要(https://huggingface.co/papers?q=segment%20summaries)中检索候选错误步骤,并将其追溯至可用的早期交接指令(https://huggingface.co/papers?q=handoff%20instructions)。使用相同的核心模型、基准实例和评分协议,RCTA(https://huggingface.co/papers?q=RCTA)达到了 51.1% 的责任角色准确率和 24.1% 的精确根本步骤准确率。这些结果凸显了在长轨迹故障诊断中,将责任角色归因与精确根本步骤定位作为独立评估目标的必要性。

查看 arXiv 页面 (https://arxiv.org/abs/2608.15242) 查看 PDF (https://arxiv.org/pdf/2608.15242) 添加到收藏夹 (https://huggingface.co/login?next=%2Fpapers%2F2608.15242)

在您的智能体中获取此论文:

hf papers read 2608\.15242

没有最新的 CLI?curl \-LsSf https://hf\.co/cli/install\.sh \| bash

引用本文的模型

0

尚无模型链接此论文

在模型的 README.md 中引用 arxiv.org/abs/2608.15242,即可从此页面链接至该模型。

引用本文的数据集

1

CLoud5-real/longrca-bench 查看器• 更新于 1 天前 • 1.14k • 55 • 2 (https://huggingface.co/datasets/CLoud5-real/longrca-bench)

引用本文的 Spaces

0

尚无 Space 链接此论文

在 Space 的 README.md 中引用 arxiv.org/abs/2608.15242,即可从此页面链接至该 Space。

包含本文的集合

0

尚无包含此论文的集合

将本文添加到收藏夹 (https://huggingface.co/new-collection) 即可从此页面链接至该收藏夹。

相似文章

根因分析在真实遥测数据上能走多远?

arXiv cs.AI

本文利用OpenRCA基准研究了真实遥测数据上的根因分析,表明现有的经典方法和基于LLM的方法均失败,并提出了一种结构化多智能体RCA流水线,其性能大幅优于现有方法。进一步通过逆向推理揭示,主要瓶颈在于推理能力而非数据访问,并引入了自动化规则挖掘以减少对人工领域知识的依赖。

StableRCA: 稳健的图无关机制级根因分析

arXiv cs.LG

StableRCA是一种新颖的根因分析框架,通过估计局部马尔可夫边界并检测条件分布偏移来识别干预目标,避免了全局因果图的发现,在合成和真实数据集上展示了鲁棒性。

长期智能体轨迹归因:统一基准与细粒度标注框架

arXiv cs.AI

本文介绍了面向长期智能体轨迹归因的统一基准与细粒度标注框架,支持在不同场景下评估主要归因定位和归因链恢复。它提供了来自现有智能体基准的超过1,300条标注轨迹,并发布了一个可复用的标注技能,用于规范未来的轨迹。

LongDS-Bench:论长时域智能体数据分析的失败

arXiv cs.LG

介绍LongDS,一个用于评估LLM智能体在长时域、多轮数据分析任务上的基准。评估表明,即使最佳模型也仅达到48.45%的准确率,性能随轮次急剧下降,凸显出维护分析状态是关键瓶颈。