ORCA：面向优化的根本原因分析的端到端交互式副驾驶

# ORCA：面向优化根因分析的端到端交互式副驾驶助手
来源：https://arxiv.org/html/2605.27022
\\copyrightclause

本论文版权归作者所有。允许在知识共享署名4.0国际许可（CC BY 4.0）下使用。

\\conference

第二届因果神经符号人工智能（Causal NeSy）研讨会，2026年5月10-11日，克罗地亚杜布罗夫尼克

\[[email protected]\]

Nicholas Tagliapietra，Lavdim Halilaj，Kristian Kersting，Juergen Luettin  
Robert Bosch GmbH，德国  
Bosch Global Software Technologies Company Limited，越南  
计算机科学系，达姆施塔特工业大学，德国  
黑森人工智能中心（hessian.AI），达姆施塔特  
德国人工智能研究中心（DFKI）  

（2026）

###### 摘要

因果分析在包括制造业、社会科学和医学在内的许多领域都是一项关键任务。然而，尽管最近取得了进展，因果方法在概念和方法上的复杂性使得领域专家难以掌握。这一差距使得专家无法利用这些进步，也阻碍了无法使用真实世界数据进行验证的研究人员。为了弥合这一鸿沟，我们引入了ORCA，一个用于端到端因果分析的副驾驶。ORCA编排多个代理，理解用户的目标，并引导他们完成最合适的因果分析工作流程——从全自动执行到高度用户引导的执行。它支持因果发现、因果效应估计、可解释性和根因分析（RCA）。ORCA评估并比较性能，生成关键指标和图表，并通过结构化报告生成洞见。我们在多个真实世界用例中展示了其有效性。

###### 关键词:

因果发现\\sep因果推断\\sep根因分析\\sep副驾驶\\sep大语言模型

## 1引言

因果发现和推断是科学理解和决策的关键。它使我们能够超越关联模式，揭示支配所观察现象的基本机制[1 (https://arxiv.org/html/2605.27022#bib.bib1)]。通过进行因果分析，我们可以揭示系统变量如何相互作用并影响结果。因此，它在广泛的领域中扮演着至关重要的角色，包括医疗保健[2 (https://arxiv.org/html/2605.27022#bib.bib2), 3 (https://arxiv.org/html/2605.27022#bib.bib3), 4 (https://arxiv.org/html/2605.27022#bib.bib4)]、经济学[5 (https://arxiv.org/html/2605.27022#bib.bib5)]、健康科学[6 (https://arxiv.org/html/2605.27022#bib.bib6)]、遗传学[7 (https://arxiv.org/html/2605.27022#bib.bib7), 8 (https://arxiv.org/html/2605.27022#bib.bib8)]、制造业[9 (https://arxiv.org/html/2605.27022#bib.bib9), 10 (https://arxiv.org/html/2605.27022#bib.bib10)]和IT网络[11 (https://arxiv.org/html/2605.27022#bib.bib11), 12 (https://arxiv.org/html/2605.27022#bib.bib12)]。例如，在医学研究中，我们感兴趣的是揭示疾病的病因；在流行病学中，我们寻找环境因素与疾病之间的因果关系；在制造业中，我们旨在识别缺陷的根因以优化生产。

尽管因果关系建模非常重要，但仍然极具挑战性，这就是为什么研究往往停留在关联层面[6 (https://arxiv.org/html/2605.27022#bib.bib6), 9 (https://arxiv.org/html/2605.27022#bib.bib9), 10 (https://arxiv.org/html/2605.27022#bib.bib10), 11 (https://arxiv.org/html/2605.27022#bib.bib11)]。例如，在健康领域，虽然随机对照试验（RTC）[13 (https://arxiv.org/html/2605.27022#bib.bib13)]是标准方法，但它们往往耗时、昂贵、不道德和/或不可行。而在Pearl框架中，结构因果模型[14 (https://arxiv.org/html/2605.27022#bib.bib14), 1 (https://arxiv.org/html/2605.27022#bib.bib1)]允许对所建模现象的因果机制进行图形表示，如果满足某些可识别性假设，这些机制通常可以仅从观测数据中学习。但即使在后一种情况下，尽管模型潜力巨大，其可用性仍受到高概念和方法复杂性的阻碍。因此，除非有深厚的专业知识，否则真实世界的应用往往仍然零散。更广泛的实际应用仍然未能实现。

一个典型的因果应用需要一个漫长、复杂且依赖任务的流程，包括领域描述、数据清洗和预处理、因果发现、效应估计和根因分析。每个阶段都需要技术决策来产生影响，从选择适当的算法到调整超参数和定义评估指标。这种深厚的方法论专业知识和特定领域知识的交叉点很少出现在单个从业者身上，这加剧了先进因果方法在真实世界场景中的采用难度。

这一采用差距因评估因果发现方法的困难而进一步扩大。与标准的机器学习任务不同，因果任务往往缺乏社区认可的标准化基准和评估程序。此外，在实践中，真实的因果图很少可用，迫使研究人员严重依赖合成数据集[15 (https://arxiv.org/html/2605.27022#bib.bib15)]或在下游任务上进行评估[16 (https://arxiv.org/html/2605.27022#bib.bib16)]。根因分析基准甚至更为稀缺[17 (https://arxiv.org/html/2605.27022#bib.bib17)]。由于全自动解决方案无法轻易根据地真实情况进行验证，有效的因果分析从根本上需要一种人在回路的循环方法，领域专家迭代地注入结构知识并验证假设，而当前工具不支持这一过程。

为了弥合因果分析解决方案的高需求与其高入门门槛之间的差距，我们提出了ORCA，一个交互式的代理副驾驶，旨在支持端到端因果分析。用户可以主动引导工作流，或依赖副驾驶的建议，从而消除技术障碍并促进更广泛的采纳¹¹¹演示视频将提供。.

#### 贡献：

我们的贡献总结如下：

- •我们描述了真实世界场景中的挑战，并提取了源自这些场景的一组需求。
- •我们提出了ORCA，这是我们为因果分析开发的对话式AI助手，旨在满足这些需求。我们详细介绍了我们的愿景、架构，并进一步阐述了主要工作流。
- •我们探讨了ORCA可以应用的真实世界用例，强调了其实际优势和简洁性。

## 2动机场景与需求

真实世界的系统表现出复杂的因果现象，由于其因果结构、高维度和结构机制，建模极具挑战性。因此，对于领域专家来说，选择最优的建模流程变得异常困难。我们因此从各种场景中收集了需求，部分扩展了[18 (https://arxiv.org/html/2605.27022#bib.bib18)]中的内容。

1. 需求1：端到端因果工作流：系统必须动态构建最合适的因果分析流程，包括领域定义、数据清洗、预处理、因果发现、因果效应估计、RCA、可视化和报告生成。
2. 需求2：直观交互与引导：ORCA应对因果分析非专家友好，应通过UI提供对话式自然语言交互。它必须主动引导新手用户，提出下一步建议，并在整个流程中自适应地融入用户反馈。
3. 需求3：数据安全与隐私：许多因果应用具有高度敏感数据的特点，如临床或制造数据或知识产权。因此，系统必须确保严格的数据隐私和强大的基于角色的访问控制。
4. 需求4：领域知识集成：为了克服观测数据的局限性，系统必须允许注入领域知识（例如，禁止或必需的因果关系），这些知识来自用户、现有文档或基于LLM的查询。
5. 需求5：可解释性与可追溯性：系统应提供可解释的结果，以图表描述各个阶段，允许用户可视化中间结果，并清晰解释其算法选择和根因识别背后的推理。
6. 需求6：算法推荐与自动化：系统必须提供对最先进（SOTA）因果方法的访问。它应基于AutoML原则，根据数据集特征和用户偏好推荐最合适的算法。

## 3相关工作

传统的因果分析需要手动选择发现和推理算法[19 (https://arxiv.org/html/2605.27022#bib.bib19), 20 (https://arxiv.org/html/2605.27022#bib.bib20), 17 (https://arxiv.org/html/2605.27022#bib.bib17)]，并与领域专家反复迭代以验证结果。然而，最近研究开始关注使用代理系统自动化和辅助这些工作流。

基于LLM的因果推理：LLM的因果推理能力已在[21 (https://arxiv.org/html/2605.27022#bib.bib21), 22 (https://arxiv.org/html/2605.27022#bib.bib22)]中进行了探索，结论基本是，其能力可能源于对因果对的记忆，并且缺乏泛化能力。尽管如此，[23 (https://arxiv.org/html/2605.27022#bib.bib23), 24 (https://arxiv.org/html/2605.27022#bib.bib24), 25 (https://arxiv.org/html/2605.27022#bib.bib25), 26 (https://arxiv.org/html/2605.27022#bib.bib26), 27 (https://arxiv.org/html/2605.27022#bib.bib27), 28 (https://arxiv.org/html/2605.27022#bib.bib28)]论证并展示了它们通过利用内部先验在辅助因果发现任务中的潜力，特别是在因果假设和可识别性失效的真实世界场景中。最后，在[29 (https://arxiv.org/html/2605.27022#bib.bib29), 30 (https://arxiv.org/html/2605.27022#bib.bib30)]中，作者展示了LLM从非结构化文本数据中提取因果关系的有效性。

数据科学中的人在回路与工具指导型副驾驶：针对临床预测建模的副驾驶已在[18 (https://arxiv.org/html/2605.27022#bib.bib18)]和[31 (https://arxiv.org/html/2605.27022#bib.bib31)]中引入，后来扩展到[32 (https://arxiv.org/html/2605.27022#bib.bib32)]中的治疗效果估计。在Pearl因果框架内，第一个用于因果分析的副驾驶已在[33 (https://arxiv.org/html/2605.27022#bib.bib33)]中提出，它引导用户进行因果发现、因果推断和因果解释。在（非因果的）可解释性和RCA领域，[34 (https://arxiv.org/html/2605.27022#bib.bib34)]结合LLM和格兰杰因果（[35 (https://arxiv.org/html/2605.27022#bib.bib35)]）进行网络事件的RCA。此外，一个用于制造业的神经符号因果分析代理已在[36 (https://arxiv.org/html/2605.27022#bib.bib36), 37 (https://arxiv.org/html/2605.27022#bib.bib37)]中提出。最后，一种基于LLM增强因果工具的更通用因果效应估计方法已在[38 (https://arxiv.org/html/2605.27022#bib.bib38)]中提出。

在我们的愿景中，ORCA通过填补空白并整合以下方面来扩展现有的交互式和LLM辅助因果推理工作：(1) SOTA因果发现和RCA方法，(2) 自动化方法推荐，(3) 适用于具有部分因果信息和/或没有因果图的用例的可扩展性，(4) 来自结构化与非结构化来源的领域知识集成。

参见图标题图1：ORCA是一个用于因果分析的助手。通过与用户及其提供的数据和信息交互（左），它编排执行针对特定因果分析任务的最合适工作流。它具有多种方法（中），并生成针对用户需求定制的报告（右）。
## 4ORCA

我们设计了ORCA来满足概述的需求。概念性概览如图1 (https://arxiv.org/html/2605.27022#S3.F1)所示，包含三个主要支柱：1) 用户输入——提供检索领域知识、观测数据以及给定查询的能力；2) 对话助手——构建在多代理框架之上，以简化跨各种集成模块的交互；3) 生成输出——负责以多种格式和可视化选项提供结果。

### 4.1系统架构

ORCA的架构旨在为因果分析提供一个强大的无代码环境，直接满足领域专家的需求。如图2 (https://arxiv.org/html/2605.27022#S4.F2)所示，该框架可分为(1) 用户交互，负责任务管理、聊天服务和LLM骨干；(2) 工作流管理，负责整个工作流链，包括用户交互和个体代理的执行(3)。

参见图标题图2：多代理架构，说明了工作流管理骨干（中间），它编排整个工作流与用户交互（顶部），并执行所需的个体代理（底部）。#### 请求管理单元（需求1 (https://arxiv.org/html/2605.27022#S2.I1.i1)）。

ORCA通过集中编排机制管理工作流状态。系统将API调用路由到远程托管的LLM，同时将密集型算法工作负载卸载到可用的GPU集群。一个中央生成单元动态地将编排者的高级推理转换为可执行的Python脚本，安全地弥合自然语言意图与底层最先进（SOTA）因果库之间的差距。

#### 计算时间估计（需求2 (https://arxiv.org/html/2605.27022#S2.I1.i2)）。

涉及因果模型的算法在很大程度上是难解的。特别是因果发现和复杂的RCA算法随着数据维度的增加而扩展性不佳，导致处理时间激增。为了缓解这一关键的操作约束，系统评估所选方法的理论复杂度、数据集的维度以及当前可用的硬件（例如，GPU集群）。然后，它提供运行时估计，可以指导用户在准确性和执行速度之间做出明智的决策。动机是不同的真实世界应用可能有不同的时间约束，凸显了关键权衡：有时，制造线上的诊断或异常必须在极短的时间线上进行。其他时候，较长的计算时间则是为更高准确性可接受的成本。

#### 安全性与隐私（需求3 (https://arxiv.org/html/2605.27022#S2.I1.i3)）

为了确保数据的安全处理，系统通过经过身份验证的API在用户界面和后端服务之间使用TLS加密通信。对来自因果发现或根因分析的数据集和输出的访问通过基于角色的访问控制（RBAC）进行控制，该控制与身份验证和授权层集成。每个交互在隔离的会话上下文中运行，以防止跨用户数据泄漏。

### 4.2用户交互

历史上，因果模型是通过将数据与人类专业知识相结合来构建的。为促进这一点，ORCA提供两种交互模式：自然语言和图形用户界面。