Causal-Audit：通过目标感知因果链构建实现显式可审计的图推理

# Causal-Audit：通过目标感知因果链构建实现的显式可审计图推理 来源：https://arxiv.org/html/2607.15281 Alan Wee\-Chung Liew 信息与通信技术学院，格里菲斯大学，昆士兰，澳大利亚 ###### 摘要 因果与干预性问答是推动大语言模型（LLM）从表面相关性推理向理解底层因果机制迈进的关键基础。然而，现有基于LLM的方法通常依赖隐式的语言层面推理，导致因果假设不透明、推理路径不可验证，且在复杂干预场景下（尤其是无上下文环境）预测结果脆弱。本文提出一种显式且可审计的因果推理框架，用于无上下文干预性问答。我们的方法将因果推断构建为在显式因果图上通过四个模块化阶段进行结构化推理，而非隐式的端到端预测。一项关键创新是目标感知因果图构建策略，该策略将目标变量视为图扩展过程中的核心约束，有效抑制无关变量、虚假因果关系和推理噪声。我们进一步引入路径级因果证据聚合机制，该机制结合多个因果路径，同时建模增强效应与抵消效应，从而实现超越单链推理的鲁棒决策。在三个基准上的大量实验表明，我们的框架在提供可解释且可审计的因果推理轨迹的同时，持续优于现有基于LLM的方法。

Causal-Audit：通过目标感知因果链构建实现的显式可审计图推理
苏岚，尹雪飞，朱彦明，Alan Wee\-Chung Liew
信息与通信技术学院，格里菲斯大学，昆士兰，澳大利亚

## 1 引言

因果与干预性问答被广泛视为推动大语言模型（LLM）从强大的语言处理器迈向可靠推理系统的关键一步Wu等人 (2024 (https://arxiv.org/html/2607.15281#bib.bib44))。此类问题询问在假设干预下结果将如何变化，而非预测通常观察到的情况，要求模型推理因果效应而非利用统计规律Jin等人 (2023 (https://arxiv.org/html/2607.15281#bib.bib17)); Zhou等人 (2024 (https://arxiv.org/html/2607.15281#bib.bib21))。形式上，它涉及主动操控某一变量对目标结果的影响，通常包含多个相互作用因素和间接因果路径。在不同设置中，**无上下文**因果问答尤为困难，模型必须在不依赖支持性段落或显式背景上下文的情况下推断因果效应Pearl和Mackenzie (2018 (https://arxiv.org/html/2607.15281#bib.bib45))。在此设置下，答案无法通过证据提取或表面级对齐获得，而需要内部构建和评估合理的因果机制。在本工作中，我们聚焦于这一具有挑战性但基础性的**无上下文因果问答**设置。

近期LLM的进展在因果与反事实基准上取得了令人鼓舞的性能提升，这主要得益于端到端预测或思维链式提示Wei等人 (2022b (https://arxiv.org/html/2607.15281#bib.bib23)); Kojima等人 (2022 (https://arxiv.org/html/2607.15281#bib.bib24))。然而，越来越多的实证研究表明，此类改进通常源于模式匹配或浅层启发式，而非真正的因果理解Miller等人 (2025 (https://arxiv.org/html/2607.15281#bib.bib14))。LLM已被证明在干预级推理、多变量因果依赖以及泛化到观察相关性之外方面存在困难，尤其需要在未见或反事实场景中进行推理时Jin等人 (2023 (https://arxiv.org/html/2607.15281#bib.bib17)); Wang (2024 (https://arxiv.org/html/2607.15281#bib.bib19)); Zhou等人 (2024 (https://arxiv.org/html/2607.15281#bib.bib21))。

已有多种方法被提出以增强LLM用于因果问答，但大多数主要在语言层面进行推理，将因果推断隐式地委托给token或语义级生成Wei等人 (2022b (https://arxiv.org/html/2607.15281#bib.bib23))。思维链（CoT）Wei等人 (2022a (https://arxiv.org/html/2607.15281#bib.bib42))、思维树Yao等人 (2023 (https://arxiv.org/html/2607.15281#bib.bib43))和思维图Besta等人 (2024b (https://arxiv.org/html/2607.15281#bib.bib26))等范式组织文本理由，但缺乏显式的变量级因果结构或干预语义，因此容易受到虚假但语义相关信息的干扰。尽管有些方法在训练中引入因果监督Li等人 (2025 (https://arxiv.org/html/2607.15281#bib.bib9))，但推理通常退化为直接问答，而不进行因果图的显式构建或审计，导致因果路径、效应传播以及来自虚假变量的干扰不可观察且无法验证Gendron等人 (2024 (https://arxiv.org/html/2607.15281#bib.bib46))。因此，近期研究对这类隐式推理的可靠性和忠实性提出了担忧，表明生成的理由可能在因果上不支持最终预测Paul等人 (2024 (https://arxiv.org/html/2607.15281#bib.bib30)); Chu等人 (2025 (https://arxiv.org/html/2607.15281#bib.bib15))。此外，从文本证据显式构建图的方法依赖上下文丰富的输入，在无上下文设置中往往失败，因为相关变量和关系无法可靠地接地Tandon等人 (2019 (https://arxiv.org/html/2607.15281#bib.bib11))。

为解决这些局限性，我们提出一种显式且可审计的因果推理框架，用于干预性问答。我们不依赖隐式的端到端预测或自由格式的理由，而是将因果推理构建为在显式因果图上的结构化推理，通过四个模块化阶段暴露中间因果假设并实现推理过程的可检查性。一项关键贡献是**目标感知**因果图构建策略，该策略将目标变量视为图扩展过程中的核心约束，有效抑制无关变量、虚假关系和推理噪声。此外，我们引入路径级因果证据聚合机制，该机制结合多个因果路径，同时建模增强效应与抵消效应，超越单链推理。这些设计将LLM从隐式的端到端“推理者”转变为受约束的“因果评估者”，提供了一种将LLM与符号因果推理相结合的新范式，用于可靠的干预性问答。在三个数据集上的大量实验表明，与现有基于LLM的方法相比，我们的框架在提供可解释且可审计的推理轨迹的同时，持续获得性能提升。主要贡献总结如下：

- •我们将无上下文干预性问答形式化为一个显式且可审计的因果推理问题，超越隐式的语言级推理，为使用LLM进行可靠干预推理提供了结构化框架。
- •我们提出一种目标感知因果图构建方法，在图的扩展过程中显式地将目标变量视为核心约束，有效抑制传统基于图的推理中的无关变量、虚假因果关系和推理噪声。
- •我们引入路径级因果证据聚合机制，该机制验证并结合多个因果路径，同时建模增强效应与抵消效应，实现超越单链或端到端方法的鲁棒决策。
- •在三个基准上的大量实验表明，我们的框架在提供可解释且可审计的因果推理轨迹的同时，持续优于现有基于LLM的推理方法。

## 2 相关工作

### 2.1 直接LLM

近期基准如CausalBenchWang (2024 (https://arxiv.org/html/2607.15281#bib.bib19)); Zhou等人 (2024 (https://arxiv.org/html/2607.15281#bib.bib21))、CLadderJin等人 (2023 (https://arxiv.org/html/2607.15281#bib.bib17))和CausalProbeChi等人 (2024 (https://arxiv.org/html/2607.15281#bib.bib20))表明，尽管表面性能强劲，LLM通常依赖浅层相关性而非真正的因果理解，尤其在复杂干预下。反事实和干预性推理通过上下文学习不一致地出现，并且对提示设计和分布变化仍然脆弱Miller等人 (2025 (https://arxiv.org/html/2607.15281#bib.bib14))。这些揭示了基于相关性的推理与因果结构学习之间的持续差距。

参照图注
图1：所提出的用于无上下文干预性问答的显式因果推理框架概览。该框架从问题中提取结构化因果变量，通过迭代搜索构建目标感知因果图，通过反事实验证审计候选因果链，并从多个阶段聚合证据以产生可解释的干预决策。详细算法描述见附录A (https://arxiv.org/html/2607.15281#A1)。

### 2.2 思维链推理

CoT提示改进了多步推理Wei等人 (2022b (https://arxiv.org/html/2607.15281#bib.bib23)); Kojima等人 (2022 (https://arxiv.org/html/2607.15281#bib.bib24))，自一致性进一步增强了鲁棒性Wang等人 (2023 (https://arxiv.org/html/2607.15281#bib.bib25))。然而，基于CoT的方法依赖非结构化的自然语言理由，缺乏因果和结构约束，且通常因果上不忠实于最终预测Paul等人 (2024 (https://arxiv.org/html/2607.15281#bib.bib30)); Chu等人 (2025 (https://arxiv.org/html/2607.15281#bib.bib15))。基于图的提示和神经符号方法引入了结构支架Besta等人 (2024b (https://arxiv.org/html/2607.15281#bib.bib26)); Fang等人 (2024 (https://arxiv.org/html/2607.15281#bib.bib27))，但未显式编码因果语义。相比之下，我们的工作将图构建植根于因果关系，并在路径级验证推理。

### 2.3 基于因果图的推理

将因果图和因果推断集成到LLM推理中，已成为提高忠实性和可解释性的有前景方向。现有方法引入因果结构Wang等人 (2024 (https://arxiv.org/html/2607.15281#bib.bib28))或采用因果目标和结构化监督Dong等人 (2025 (https://arxiv.org/html/2607.15281#bib.bib13)); Li等人 (2025 (https://arxiv.org/html/2607.15281#bib.bib9))，但基于干预的分析揭示了频繁违反因果忠实性的情况Paul等人 (2024 (https://arxiv.org/html/2607.15281#bib.bib30))。此外，大多数方法依赖预定义或外部提供的图。相比之下，我们的框架在推理过程中动态构建目标感知因果图，并执行路径级验证和证据聚合。

### 2.4 知识图谱增强的推理

另一条工作路线通过外部知识图谱（KG）增强LLM推理。基于路径的方法选择信息丰富的KG路径以支持多跳推理Liu等人 (2024 (https://arxiv.org/html/2607.15281#bib.bib31)); Tan等人 (2025 (https://arxiv.org/html/2607.15281#bib.bib33))。近期基准评估了LLM使用KG结构的能力Markowitz等人 (2025 (https://arxiv.org/html/2607.15281#bib.bib34))，并进一步探索了因果感知的图增强Luo等人 (2025 (https://arxiv.org/html/2607.15281#bib.bib16))。然而，这些方法主要将路径视为证据，并未显式建模因果方向或竞争效应。我们的框架则建模带符号的因果影响，并在推理过程中聚合冲突证据。

## 3 方法论

概述。给定一个无上下文的干预性因果问题，目标是确定干预变量对目标结果的方向性效应。为此，我们提出一个显式因果推理框架，以结构化和可解释的方式构建、审计并聚合因果证据。如图1 (https://arxiv.org/html/2607.15281#S2.F1)所示，该框架由四个顺序阶段组成。首先，结构化查询提取从输入问题中识别干预变量、目标变量和结果修饰词。其次，通过迭代扩展构建目标感知因果图，图的增长显式受限于与目标变量的相关性。第三，从图中提取连接干预变量和目标变量的候选因果链，并进行审计，以确保在假设干预下的因果一致性。最后，来自前三个阶段的经过验证的因果证据被聚合，以产生关于干预效应方向的最终决策。这种分阶段形式化能够系统控制推理过程，通过显式因果结构提高可解释性，并仅允许经过因果验证的证据参与最终预测。

### 3.1 因果变量识别

给定自然语言问题$q$，我们使用基于LLM的提取器$\Phi_{\text{extract}}$来生成结构化查询$\mathcal{Q}=(X, Y_s, Y_b, I)$。其中，$X$表示**干预变量**，代表被操控的原因事件；$Y_s$是**表面目标**，即问题中表层的结局表达式；$Y_b$是**基目标变量**，一个用于因果推理的标准科学名词短语；$I$包含**结果修饰词**，包括方向指示符$D \in \{\text{More}, \text{Less}\}$以及否定标志。我们将$Y_s$与$Y_b$区分开来，以便图构建和因果推理在归一化的变量对$(X, Y_b)$上进行，而最终预测使用$I$映射回原始问题语义。这种分离将因果推理与表面语言变体解耦，使得在语义等价的问题上能够进行更稳定的图构建和一致的推理。

### 3.2 目标感知因果图构建

我们提出构建一个有向因果图$\mathcal{G}=(\mathcal{V}, \mathcal{E})$，以干预变量$X$为根，目标是识别通向基目标变量$Y_b$的因果机制。

#### 带负约束的BFS扩展。
我们采用广度优先搜索（BFS）扩展策略Kozen (1992 (https://arxiv.org/html/2607.15281#bib.bib47))，逐层迭代探索候选因果效应以构建图。该过程从$X$向外逐步增长图，使框架能够捕获多跳因果机制，同时保持对搜索深度和扩展范围的显式控制。我们将前沿集合初始化为$\mathcal{F}_0=\{X\}$，已访问集合初始化为$\mathcal{V}_{\text{vis}}=\{X\}$，其中前沿表示当前步骤待扩展的节点集合，已访问集合记录所有已观察到的节点。