StepFinder：一种用于多智能体系统故障归因的时间语义框架

# StepFinder：多智能体系统中故障归因的时间语义框架 来源：https://arxiv.org/html/2606.03467 \(2026\) ###### 摘要\. 基于LLM的多智能体系统在复杂多步骤任务中展现出显著的协作能力。然而，这类系统对单步执行错误高度敏感，错误可能通过智能体交互传播并导致级联故障。为了理解故障原因并提高系统可靠性，故障归因被引入为一个任务，旨在自动识别导致故障的根因步骤。现有的故障归因方法主要依赖LLM对原始执行轨迹进行推理，这不仅带来高昂的推理成本和延迟，还会因冗余和嘈杂的执行日志造成干扰，导致LLM难以准确识别真正的根因步骤。为解决这一问题，我们提出了 StepFinder，一个轻量级的故障归因框架。我们仅在特征构建阶段使用LLM，将执行日志编码为时间语义序列。随后，采用结合时间建模和注意力模块的参数高效组合，捕获轨迹的序列演化及跨步骤依赖关系。最后，通过多尺度差异和位置偏差精炼步骤级错误分数，实现精确的根因识别。在 Who&When 基准上的实验结果表明，StepFinder 在步骤级故障归因上优于基于LLM的方法，同时推理效率大幅提升，与最快的基于LLM的方法相比，推理时间减少了79%，且没有文本生成开销。我们的代码可在 https://github.com/taiyu-zhu/StepFinder 获取。多智能体系统；故障归因；执行轨迹挖掘；时间语义建模 ††journalyear:2026††copyright:cc††conference:Proceedings of the 32nd ACM SIGKDD Conference on Knowledge Discovery and Data Mining V.2; August 09–13, 2026; Jeju Island, Republic of Korea††booktitle:Proceedings of the 32nd ACM SIGKDD Conference on Knowledge Discovery and Data Mining V.2 \(KDD ’26\), August 09–13, 2026, Jeju Island, Republic of Korea††doi:10.1145/3770855.3817991††isbn:979-8-4007-2259-2/2026/08††ccs:Computing methodologies Multi-agent systems††ccs:Computing methodologies Neural networks††ccs:Computing methodologies Multi-task learning††ccs:Information systems Information systems applications## 1. 引言插图说明 图1. MAS故障归因概览与方法论比较。该图展示了MAS中的诊断工作流程，并对现有方法与我们的模型进行了多维比较。引言。随着大型语言模型（LLM）在文本理解、推理和多步骤规划方面的快速发展，它们已演变为能够在复杂交互环境中进行决策和行动执行的自主智能体（Brown等人，2020 (https://arxiv.org/html/2606.03467#bib.bib1)；Wei等人，2022 (https://arxiv.org/html/2606.03467#bib.bib2)；Lu等人，2024 (https://arxiv.org/html/2606.03467#bib.bib3)；Yao等人，2023 (https://arxiv.org/html/2606.03467#bib.bib4)）。虽然单个基于LLM的智能体可以独立执行文档分析、问答和工具调用等任务（Wang等人，2023 (https://arxiv.org/html/2606.03467#bib.bib5)；Erdogan等人，2025 (https://arxiv.org/html/2606.03467#bib.bib6)；Yang等人，2024 (https://arxiv.org/html/2606.03467#bib.bib7)；Schick等人，2023 (https://arxiv.org/html/2606.03467#bib.bib8)），但它们在异构信息整合、长时推理和多目标协调方面存在困难（Valmeekam等人，2023 (https://arxiv.org/html/2606.03467#bib.bib9)；Liu等人，2024 (https://arxiv.org/html/2606.03467#bib.bib10)）。为了解决这些局限，多智能体系统（MAS）作为一种更优的范式出现，通过角色专业化和自适应通信架构实现任务分解（Wu等人，2024 (https://arxiv.org/html/2606.03467#bib.bib15)；Du等人，2024 (https://arxiv.org/html/2606.03467#bib.bib16)；Zhang等人，2025b (https://arxiv.org/html/2606.03467#bib.bib17), 2023 (https://arxiv.org/html/2606.03467#bib.bib18)；Hou等人，2025 (https://arxiv.org/html/2606.03467#bib.bib19)；Liu等人，2023 (https://arxiv.org/html/2606.03467#bib.bib20)）。通过在专门智能体之间解耦规划、推理和执行，MAS在长时协作任务中比单智能体系统具有更强的稳定性和可扩展性（Qiu等人，2024 (https://arxiv.org/html/2606.03467#bib.bib21)；Zhang等人，2025e (https://arxiv.org/html/2606.03467#bib.bib22)）。因此，在程序合成和科学发现等复杂场景中，MAS始终优于单智能体系统（Ghafarollahi和Buehler，2025 (https://arxiv.org/html/2606.03467#bib.bib11)；Schmidgall等人，2025 (https://arxiv.org/html/2606.03467#bib.bib12)；Li等人，2023 (https://arxiv.org/html/2606.03467#bib.bib13)；Qian等人，2024 (https://arxiv.org/html/2606.03467#bib.bib14)）。尽管在复杂任务上表现强劲，MAS仍存在显著的内部脆弱性。经验研究报告显示，在具有代表性的基准上，故障率高达41%–86.7%，主要源于系统设计、任务分解和智能体间协调的限制（Cemri等人，2025 (https://arxiv.org/html/2606.03467#bib.bib23)）。此外，MAS对微小的智能体级偏差非常敏感，这些偏差可能通过智能体间交互被放大，并传播为级联的系统级故障或严重的任务漂移（Zhang等人，2025a (https://arxiv.org/html/2606.03467#bib.bib24)）。鉴于MAS的高故障风险，准确的故障归因对于系统稳定性至关重要。传统工作主要集中于开发细粒度基准以辅助人工诊断流程（Zhuge等人，2024 (https://arxiv.org/html/2606.03467#bib.bib50)；Jimenez等人，2023 (https://arxiv.org/html/2606.03467#bib.bib51)），然而根因定位仍是一项需要大量领域专业知识的劳动密集型任务。虽然近期研究探索了基于LLM的自动诊断，并在智能体级别取得了有希望的结果（Zhang等人，2025d (https://arxiv.org/html/2606.03467#bib.bib25), c (https://arxiv.org/html/2606.03467#bib.bib26)；Zhu等人，2025a (https://arxiv.org/html/2606.03467#bib.bib42)；West等人，2025 (https://arxiv.org/html/2606.03467#bib.bib43)；Banerjee等人，2025 (https://arxiv.org/html/2606.03467#bib.bib44)；Kong等人，2025 (https://arxiv.org/html/2606.03467#bib.bib45)），但这些方法通常带来高昂的计算成本，且缺乏足够的步骤级定位精度。如图1 (https://arxiv.org/html/2606.03467#S1.F1) 所示，现有方法在诊断深度和运行效率之间存在根本性的权衡，限制了其在复杂环境中的有效性。为解决这些局限，我们提出了 StepFinder，一个用于MAS中步骤级故障归因的高效框架。我们的方法将故障归因构建为三个集成阶段的系统化过程。首先，通过将每一步的智能体身份和动作内容编码为密集嵌入，我们将执行轨迹转换为时间语义序列。随后，我们采用结合时间建模与智能体感知交互的混合架构，以捕获智能体之间的长程依赖和因果关系。为每一步分配一个经过多尺度差异和位置偏差精炼的错误分数，以定位根因。最后，通过监督分类损失结合自监督辅助损失（用于未来步骤预测）来优化模型，共同增强轨迹表示和训练稳定性。为评估 StepFinder，我们在 Who&When 基准（Zhang等人，2025d (https://arxiv.org/html/2606.03467#bib.bib25)）上进行了广泛实验，与三类方法（随机方法、基于LLM的方法和序列模型）进行比较。结果表明，StepFinder 在归因精度和排序质量上始终优于所有基线。具体来说，与最强基线相比，我们的模型在算法生成子集上准确率提升了4.76%，在人工设计子集上提升了10.35%。StepFinder 还表现出卓越的效率，通过将最快基线的推理时间从每条轨迹2.92秒降低到0.61秒，在算法生成子集上实现了近5倍的加速。总结而言，我们做出了以下贡献：- • 我们将MAS故障归因重新定义为结构化的时间建模问题。这一视角使我们能够将繁重的推理负担从LLM转移到专门的深度学习架构上。- • 我们提出了StepFinder，一个轻量级的时间语义框架，通过为每一步分配显式错误分数来识别根因步骤。- • 实验表明，与现有基线相比，StepFinder 实现了优越的归因精度和排序质量，同时显著降低了推理延迟和运行成本。## 2. 相关工作### 2.1. 基于LLM的MAS在复杂多步骤任务中，单智能体系统在某些场景下可以表现良好（Wei等人，2022 (https://arxiv.org/html/2606.03467#bib.bib2)；Wang等人，2022 (https://arxiv.org/html/2606.03467#bib.bib27)；Yao等人，2022 (https://arxiv.org/html/2606.03467#bib.bib28)；Zheng等人，2023 (https://arxiv.org/html/2606.03467#bib.bib29)）。然而，当任务需要协作和分工时，它们表现出固有的局限。为解决这一问题，近期研究提出了基于LLM的MAS，其中为智能体分配不同的角色，建立结构化的通信机制，并整合工具使用、记忆管理和规划等能力，以实现高效的任务分解和协调（Qian等人，2024 (https://arxiv.org/html/2606.03467#bib.bib14)；Hong等人，2023 (https://arxiv.org/html/2606.03467#bib.bib30)；Park等人，2023 (https://arxiv.org/html/2606.03467#bib.bib31)）。早期的MAS主要依赖人工设计的角色、提示和通信拓扑（Li等人，2023 (https://arxiv.org/html/2606.03467#bib.bib13)；Wu等人，2024 (https://arxiv.org/html/2606.03467#bib.bib15)；Zhou等人，2025 (https://arxiv.org/html/2606.03467#bib.bib32)），限制了系统的可扩展性和适应性。近期的工作探索了自动角色分配和动态交互拓扑，使智能体能够在执行过程中自适应协作，从而提高了任务完成效率和通用性（Li等人，2025 (https://arxiv.org/html/2606.03467#bib.bib33)；Leong等人，2025 (https://arxiv.org/html/2606.03467#bib.bib34)；Yang等人，2025 (https://arxiv.org/html/2606.03467#bib.bib35)）。这些发展表明，LLM驱动的MAS通过多智能体的分工与协作有效克服了单智能体系统的不足，为复杂场景下的智能决策和多步骤推理提供了可扩展的解决方案。### 2.2. MAS的脆弱性与错误模式尽管基于LLM的MAS表现出强大的能力，但其高错误率和系统脆弱性仍然限制了实际应用（Cemri等人，2025 (https://arxiv.org/html/2606.03467#bib.bib23)；Huang等人，2024 (https://arxiv.org/html/2606.03467#bib.bib36)；Owotogbe，2025 (https://arxiv.org/html/2606.03467#bib.bib37)）。在多智能体协作过程中，一个步骤或个体的错误可能迅速通过通信、工具使用和协作依赖关系传播，导致级联故障，威胁下游任务的可靠性（Zhang等人，2025a (https://arxiv.org/html/2606.03467#bib.bib24)；Gao等人，2025 (https://arxiv.org/html/2606.03467#bib.bib38)；Shen等人，2025 (https://arxiv.org/html/2606.03467#bib.bib39)）。研究表明，MAS的错误多样且结构化，包括认知和推理错误、交互和协作冲突、规划和执行偏差，以及系统和验证失败。这些错误往往相互影响，增加了调试和系统保护的复杂性（Cemri等人，2025 (https://arxiv.org/html/2606.03467#bib.bib23)；Deshpande等人，2025 (https://arxiv.org/html/2606.03467#bib.bib40)；Zhu等人，2025b (https://arxiv.org/html/2606.03467#bib.bib41)）。因此，深入理解MAS的错误机制和模式，并在系统设计中融入鲁棒性约束，对于提高MAS的可靠性至关重要。### 2.3. MAS的故障归因传统的MAS故障分析主要依赖人工或半自动标注，通常专注于开发供人类参考的细粒度指标（Zhuge等人，2024 (https://arxiv.org/html/2606.03467#bib.bib50)；Jimenez等人，2023 (https://arxiv.org/html/2606.03467#bib.bib51)）。然而，这些过程本质上是耗时、主观的，并且难以扩展到长执行轨迹。因此，近期研究转向自动故障归因，以识别关键错误步骤并实现系统化诊断。Who&When 基准（Zhang等人，2025d (https://arxiv.org/html/2606.03467#bib.bib25)）在该领域处于开创性地位，正式引入了基于LLM的MAS自动故障归因任务。通过利用“决定性错误”的概念，它将归因目标形式化为自动识别责任智能体和最早错误步骤，同时提供了一个标准化的故障轨迹基准，为后续研究建立了统一的评估基础。在此基础上，现有的自动诊断研究大致可分为两种范式。第一种范式是目前的主导研究趋势，包括基于LLM的诊断方法，直接利用模型的推理能力进行故障归因（Zhang等人，2025d (https://arxiv.org/html/2606.03467#bib.bib25), c (https://arxiv.org/html/2606.03467#bib.bib26)；Zhu等人，2025a (https://arxiv.org/html/2606.03467#bib.bib42)；West等人，2025 (https://arxiv.org/html/2606.03467#bib.bib43)；Banerjee等人，2025 (https://arxiv.org/html/2606.03467#bib.bib44)；Kong等人，2025 (https://arxiv.org/html/2606.03467#bib.bib45)）。例如，RAFFLES（Zhu等人，2025a (https://arxiv.org/html/2606.03467#bib.bib42)）采用Judge-Evaluator迭代框架，通过多组件协作定位因果故障；而ECHO（Banerjee等人，2025 (https://arxiv.org/html/2606.03467#bib.bib44)）通过分层上下文建模和多视角投票，缓解了长轨迹分析中的不稳定性。与此互补，另一种更专业且新兴的范式转向将语义提取与诊断逻辑解耦的框架。例如，FAMAS（Ge等人，2025 (https://arxiv.org/html/2606.03467#bib.bib46)）在重新执行轨迹上进行统计频谱分析，而CDC-MAS（Ma等人，2025 (https://arxiv.org/html/2606.03467#bib.bib54)）引入了一个因果推断框架，通过建模执行轨迹中的因果依赖关系来识别关键故障步骤。尽管取得了这些进展，现有方法仍面临重大挑战。基于LLM的推理通常带来高昂的计算成本和延迟，而频谱分析等统计方法在处理复杂因果路径时可能缺乏足够的粒度。