CAS：用于局部和全局可解释人工智能的因果归因评分

# CAS：一种用于局部与全局可解释人工智能的因果归因分数
来源：https://arxiv.org/html/2608.12555
Michael Georgiades隶属机构：计算机科学系隶属机构：Neapolis University Pafos隶属机构：塞浦路斯Charalambia Varnava

###### 摘要

预测性解释方法归因于模型输出；它们本身并不归因于对现实世界结果的干预效应。我们引入CAS（因果归因分数，Causal Attribution Score），一种紧凑的因果解释分数架构。CAS从一个已识别的干预联盟博弈出发，通过因果Shapley贡献分配联合干预对比度，并将这些原始结果尺度效应转换为局部CAS、有符号局部CAS以及两种互补的全局CAS汇总。其创新之处并非新的Shapley公式，而是一个具有明确干预目标的局部到全局因果报告层。

在已知真值基准测试中，八次重复的主干预模拟（每次\(n=2{,}200\)，三个动作）得到联盟感知CAS的平均局部CAS MAE（平均绝对误差）为0.107，而一次性归一化为0.173，全局归一化绝对ATE（平均处理效应）向量为0.213。相对于一次性归一化的配对优势从可加性下的−0.003增加到强交互下的0.091。在两个实证DoubleML数据集上，401(k)资格/净金融资产（\(n=9{,}915\)）和宾夕法尼亚州再就业奖金/失业持续时间（\(n=5{,}099\)），预测性SHAP/TreeSHAP排名与处理效应修饰因子的Feature-CAS排名存在实质性差异。在宾夕法尼亚州数据中，dep1（恰好一个受抚养人）从预测性全局排名第13位升至Feature-CAS排名第2位，并且是主要的局部Feature-CAS修饰因子。这些结果凸显了将*什么预测结果*与*什么解释估计因果效应中的异质性*分离开来的附加价值。

*关键词*因果归因⋅XAI⋅SHAP⋅LIME⋅DML⋅处理效应

## 1 动机与贡献

LIME和SHAP解释为什么一个拟合模型产生预测\(8 (https://arxiv.org/html/2608.12555#bib.bib1);6 (https://arxiv.org/html/2608.12555#bib.bib2)\)。在这两种方法中，目标是预测性的：

f⁡\(x\)−fbase。(1)

面向干预的解释有不同的目标：

E⁡\[Y⁡\(a1\)−Y⁡\(a0\)∣X=x\]。(2)

这里，\(x\)是被解释模型时的协变量画像，\(f_{\mathrm{base}}\)是参考预测（例如模型平均输出），\(Y(a_{1})\)和\(Y(a_{0})\)分别是目标干预画像\(a_{1}=a(Q)\)和基线干预画像\(a_{0}=a(\varnothing)\)下的潜在结果，具体形式化见第2节 (https://arxiv.org/html/2608.12555#S2)。一个特征可能因为它是代理、混杂因子、后代或治疗选择的标记而具有高度预测性，但并不一定是可操作的原因。反之，干预可能具有真实效应，却在预测重要性上很低。

先前的因果Shapley工作将因果结构纳入Shapley特征归因\(5 (https://arxiv.org/html/2608.12555#bib.bib4)\)。在本工作中，我们提出CAS。CAS*不*声称提出新的Shapley值。其新颖之处在于围绕一个声明的干预博弈构建的分数层：

1. 定义被解释的因果量；
2. 以结果单位分配其联合干预对比度；
3. 将分配转换为可比较的局部分数；
4. 将局部分数聚合为不同的全局汇总。

这种分离是核心贡献。该分数只有在声明的干预集和标准因果识别假设下才有意义：定义良好的干预、一致性、条件可交换性、积极性/联合支持以及干扰规范\(7 (https://arxiv.org/html/2608.12555#bib.bib7)\)。图1 (https://arxiv.org/html/2608.12555#S1.F1)总结了从因果规范到局部和全局归因的进展。

因果规范动作\(Q\)，基线/目标干预博弈\(v_{x}(S)\)原始因果分配\(\phi_{j}^{C}(x)\)局部CAS量级 + 符号全局CAS实例 / 效应质量因果估计量→分配→沟通

图1：CAS是建立在已识别干预目标之上的分数架构。原始因果分配保持结果单位；局部和全局CAS提供相对解释性汇总。

## 2 CAS定义

令\(Q=\{1,\ldots,q\}\)表示声明的可操作概念。每个动作\(j\)有一个基线水平\(a_j^0\)和一个目标水平\(a_j^1\)。对于联盟\(S\subseteq Q\)，令\(a(S)\)对\(S\)中的动作激活目标水平，否则激活基线水平。对于画像\(x\)，定义

\[v_x(S)=\mathbb{E}[Y(a(S))\mid X=x]\tag{3}\]

以及联合干预对比度

\[\Delta_Q(x)=v_x(Q)-v_x(\varnothing)。\tag{4}\]

### 2.1 原始因果贡献

CAS使用经典Shapley值\(9 (https://arxiv.org/html/2608.12555#bib.bib3)\)应用于*干预*博弈：

\[\phi_j^C(x)=\sum_{S\subseteq Q\setminus\{j\}}\frac{|S|!(q-|S|-1)!}{q!}\left[v_x(S\cup\{j\})-v_x(S)\right]。\tag{5}\]

原始贡献以结果单位表示，并且满足

\[\sum_{j\in Q}\phi_j^C(x)=\Delta_Q(x)。\tag{6}\]

方程（5）是一种分配机制；CAS是接下来定义的分数层。

### 2.2 局部CAS

令

\[A_+(x)=\sum_{k\in Q}|\phi_k^C(x)|\tag{7}\]

为局部因果质量。当\(A_+(x)=0\)时，联合干预效应在\(x\)处恰好为零（根据方程（6），\(\Delta_Q(x)=0\)）。局部CAS在这种情况下未定义，这些实例从方程（11）–（12）的总体平均值中排除。对于\(A_+(x)>0\)，

\[\boxed{\operatorname{CAS}_{L}^{(j)}(x)=\frac{|\phi_j^C(x)|}{\sum_k|\phi_k^C(x)|}}\tag{8}\]

是分配给动作\(j\)的绝对因果质量的比例。它是非负的，并且总和为1。方向通过

\[\boxed{\widetilde{\operatorname{CAS}}_{L}^{(j)}(x)=\frac{\phi_j^C(x)}{\sum_k|\phi_k^C(x)|}}\tag{9}\]

保留，其中

\[\sum_j\widetilde{\operatorname{CAS}}_{L}^{(j)}(x)=\frac{\Delta_Q(x)}{A_+(x)}\in[-1,1],\tag{10}\]

这来自三角不等式，\(|\Delta_Q(x)|=|\sum_j\phi_j^C(x)|\le\sum_j|\phi_j^C(x)|=A_+(x)\)。因此，有符号总和暴露的是增强或抵消，而不是充当概率。

### 2.3 全局CAS

局部和全局解释回答不同的问题。第一个全局CAS给予每个画像相等的权重：

\[\boxed{\operatorname{CAS}_{G,\mathrm{inst}}^{(j)}=\mathbb{E}_X[\operatorname{CAS}_{L}^{(j)}(X)]}\tag{11}\]

并回答：*哪个动作在个体间通常最突出？*

第二个按因果效应质量加权：

\[\boxed{\operatorname{CAS}_{G,\mathrm{mass}}^{(j)}=\frac{\mathbb{E}_X[|\phi_j^C(X)|]}{\sum_k\mathbb{E}_X[|\phi_k^C(X)|]}}\tag{12}\]

并回答：*哪个动作在总体中贡献最大的绝对因果效应？*

这种区分是必要的，因为一个动作可能影响不大但经常重要，或者很少出现但效应很大。两个全局分数总和均为1，但它们代表不同的总体汇总。

### 2.4 为什么联盟感知CAS不仅仅是归一化的CATE

如果干预博弈是可加的，

\[v_x(S)=v_x(\varnothing)+\sum_{j\in S}\tau_j(x),\tag{13}\]

那么动作\(j\)的边际贡献独立于联盟环境，并且

\[\phi_j^C(x)=\tau_j(x),\qquad\operatorname{CAS}_{L}^{(j)}(x)=\frac{|\tau_j(x)|}{\sum_k|\tau_k(x)|}。\tag{14}\]

因此，在没有交互时，CAS刻意退化为归一化条件处理效应。其联盟感知的附加价值出现在一个干预的效应依赖于哪些其他干预处于激活状态时。

## 3 估计与Feature-CAS

对于实证说明，我们使用随Python DoubleML包\(2 (https://arxiv.org/html/2608.12555#bib.bib6)\)分发的两个数据集。401(k)样本包含来自1991年收入与计划参与调查的\(n=9{,}915\)个观测，并遵循参考文献1 (https://arxiv.org/html/2608.12555#bib.bib8)中的401(k)处理响应应用；我们使用资格（e401）作为处理，净金融资产（net_tfa）作为结果。宾夕法尼亚州样本包含来自参考文献3 (https://arxiv.org/html/2608.12555#bib.bib9)分析的再就业奖金实验的\(n=5{,}099\)个观测；我们使用处理组指示变量（tg）和对数失业持续时间（inuidur1）。分析中使用的精确变量定义列于附录A (https://arxiv.org/html/2608.12555#A1)；不使用可选的多项式特征扩展。

处理效应使用交叉拟合和正交AIPW（增强逆概率加权）分数进行估计，遵循DML\(4 (https://arxiv.org/html/2608.12555#bib.bib5)\)。交叉拟合AIPW估计依赖于第1节 (https://arxiv.org/html/2608.12555#S1)中陈述的识别假设：一致性、给定\(X\)的条件可交换性以及处理分配中的积极性/重叠。令\(\widehat{\mu}_{di}=\widehat{\mu}_d(X_i)\)并且\(\widehat{e}_i=\widehat{e}(X_i)\)，二元处理分数为

\[\widehat{\psi}_i=\widehat{\mu}_{1i}-\widehat{\mu}_{0i}+\frac{D_i(Y_i-\widehat{\mu}_{1i})}{\widehat{e}_i}-\frac{(1-D_i)(Y_i-\widehat{\mu}_{0i})}{1-\widehat{e}_i}。\tag{15}\]

ATE为\(\widehat{\tau}_{\mathrm{ATE}}=n^{-1}\sum_i\widehat{\psi}_i\)。第二个交叉拟合学习器估计异质性效应

\[\widehat{\tau}_i=g^{(-k(i))}(X_i),\tag{16}\]

其中观测\(i\)由在其所在折上未训练的模型预测。

为了与预测性XAI进行特征级比较，我们使用*Feature-CAS*，它解释的是*估计的处理效应曲面*，而不是结果预测：

\[\widehat{\tau}_i=b_i+\sum_{j=1}^{p}\gamma_{ij}。\tag{17}\]

这里，\(p\)是处理前协变量的数量，\(b_i\)是折特定的TreeSHAP基值，由留出折的CATE学习器及其训练折背景确定。由于第二阶段CATE学习器是随机森林，\(\gamma_{ij}\)使用TreeSHAP\(6 (https://arxiv.org/html/2608.12555#bib.bib2)\)在生成\(\widehat{\tau}_i\)的确切折特定学习器上计算。实现检查可加性，并将存储的交叉拟合CATE重构到数值容差。它不显式枚举所有\(2^p\)个协变量子集。

相应的局部和全局特征分数为

\[\operatorname{F\!CAS}_{L,j}(x_i)=\frac{|\gamma_{ij}|}{\sum_k|\gamma_{ik}|},\qquad \operatorname{F\!CAS}_{G,j}=\frac{\mathbb{E}|\gamma_j(X)|}{\sum_k\mathbb{E}|\gamma_k(X)|}。\tag{18}\]

这些是*效应修饰因子归因*：它们识别哪些处理前协变量解释了估计因果效应中的异质性。它们并不声称直接操作诸如年龄之类的协变量会产生\(\gamma_{ij}\)。

Feature-CAS刻意不是方程（3）中干预博弈\(v_x(S)\)的直接实例：处理前协变量是效应修饰因子，而不是具有基线/目标水平\(a_j^0,a_j^1\)的声明动作。方程（17）将相同的Shapley型分配逻辑应用于一个不同的对象，即已经估计的标量\(\widehat{\tau}_i\)。预测性SHAP/TreeSHAP和LIME在随机森林结果模型上进行评估，并解释\(f(x)\)；Feature-CAS解释\(\widehat{\tau}(x)\)。因此，该比较刻意是在不同的解释目标之间进行的。

#### 公平局部画像选择。

为了避免由于某个解释器使某个画像极端而选择该画像，所有局部比较使用仅从\(X\)中选择的相同观测行。令\(m_j=\operatorname{median}_i X_{ij}\)并且\(s_j=\operatorname{IQR}_i X_{ij}\)（如果IQR为零，则使用MAD/标准差后备）。我们选择

\[i_{\mathrm{typ}}=\arg\min_i\left\{\frac{1}{p}\sum_{j=1}^{p}\left(\frac{X_{ij}-m_j}{s_j}\right)^2\right\}^{1/2}。\tag{19}\]

没有结果、处理、模型预测、SHAP/LIME值、ATE、CATE或Feature-CAS量进入此选择规则。然后由所有三种局部方法解释同一行。

#### 精确枚举与精确重构。

下面的核心已知真值CAS基准有\(q=3\)个声明的干预，因此先精确枚举所有\(2^q=8\)个干预联盟，再应用方程（5）。实证Feature-CAS则使用树特定的TreeSHAP算法在\(p=9\)或\(p=15\)个效应修饰因子上。因此，“精确Feature-CAS重构”意味着在数值容差内精确可加地重构拟合的折特定CATE模型输出；它并不意味着穷举\(2^p\)枚举，也不替代\(\widehat{\tau}\)的因果识别假设。

## 4 结果

### 4.1 CAS核心的已知真值验证

核心分数的最强测试是一个每个干预联盟值都已知的结构基准（附录B (https://arxiv.org/html/2608.12555#A2)）。表1 (https://arxiv.org/html/2608.12555#S4.T1)报告了主交互场景的重复种子结果。原始贡献MAE直接评估\(\phi_j^C\)；局部CAS MAE评估归一化分数；顶级动作准确率为

\[\Pr\left[\arg\max_j|\widehat{\phi}_j^C(x)|=\arg\max_j|\phi_j^{C,\star}(x)|\right]。\tag{20}\]

表1 (https://arxiv.org/html/2608.12555#S4.T1)中的每一行是\(R=8\)个独立种子（每个种子\(n=2{,}200\)个实例）上的平均值。括号内是跨种子的描述性95%蒙特卡洛区间。

表1：重复已知真值主交互基准（\(R=8\)，\(n=2{,}200\)，\(q=3\)）