GRALIS：通过里斯表示定理实现线性归因方法的统一规范框架

# 通过 Riesz 表示定理统一线性归因方法的规范框架

**来源**: https://arxiv.org/html/2605.05480  
**Raimondo Fanale**  
Universitas Mercatorum, Rome, Italy.  
**通讯**: [email protected].  

**配套论文**（在 BreaKHis 上进行实验验证）：  
*GRALIS-LLM: Multimodal Explainable AI for Automated Clinical Report Generation in Breast Cancer Histology*  
（准备中，Frontiers in Signal Processing, 2026）.  
（2026 年 5 月 ⋅ *arXiv 预印本*）

###### 摘要

深度神经网络的主要可解释人工智能（XAI）方法——GradCAM、SHAP、LIME、Integrated Gradients——基于各自独立的理论基础，且无法进行形式化的比较。本文提出了 **GRALIS**（Gradient-Riesz Averaged Locally-Integrated Shapley，梯度-Riesz 平均局部积分 Shapley），这是一个数学框架，统一了包括 SHAP、IG、LIME 和线性化 GradCAM 在内的一大类线性归因方法，建立了**归因的表示理论**：在 $L^2(\mathcal{Q}, \mu)$ 空间中的每一个加法性、线性和连续的归因泛函——其中 $\mathcal{Q}$ 是由归因机制（积分路径、联盟或特征图）诱导的索引空间——都拥有唯一的形式为 $(\mathcal{Q}, w, \Delta)$ 的规范表示，其中 $w \in L^2(\mathcal{Q})$ 是权重函数，$\Delta$ 是边际贡献。该类包括 SHAP、IG 和 LIME，但**不包括**如标准 GradCAM、注意力图或带有平滑处理的显著性方法等非线性泛函。七个形式化定理提供了任何单一方法所不具备的同时性保证：（T1）通过 Riesz 定理的必要规范形式；（T2）精确完备性；（T3）具有 $O(1/\sqrt{m}) + O(1/k)$ 界限的蒙特卡洛收敛性；（T4）精确的 Shapley 交互值（SIVs）；（T5）Hoeffding ANOVA 分解；（T6）Sobol 敏感性指数的推广；（T7）具有最小方差权重的多尺度扩展（MS-GRALIS）。附录 X 通过 Möbius 变换提供了 GRALIS-SIV 对应关系的代数证明，表明 GRALIS **构建**了一个合作博弈 $v_G$ 并**精确计算** $v_G$ 上的 SIVs，而无循环论证。GRALIS 满足比任何现有方法更广泛的公理和结构属性（见公理表）：包括完备性、敏感性、局部性、$k$ 阶交互以及具有最优权重的多尺度聚合。初步的实验验证在乳腺癌组织学（BreaKHis, 1,187 张图像, DenseNet-121）上进行，详见第 5 节 (https://arxiv.org/html/2605.05480#S5)；与基线 XAI 方法的扩展比较计划在配套论文中进行。

###### 目录

1. [1 Introduction](https://arxiv.org/html/2605.05480#S1)
2. [2 Background and Related Work](https://arxiv.org/html/2605.05480#S2)
    1. [2.1 XAI Attribution Methods](https://arxiv.org/html/2605.05480#S2.SS1)
    2. [2.2 Unification Attempts and Existing Gap](https://arxiv.org/html/2605.05480#S2.SS2)
    3. [2.3 Gap Analysis: Six Structural Gaps](https://arxiv.org/html/2605.05480#S2.SS3)
3. [3 The GRALIS Framework](https://arxiv.org/html/2605.05480#S3)
    1. [3.1 Definitions and Notation](https://arxiv.org/html/2605.05480#S3.SS1)
    2. [3.2 Theorem 1: Unified Canonical Form (Riesz)](https://arxiv.org/html/2605.05480#S3.SS2)
    3. [3.3 Theorem 2: Completeness](https://arxiv.org/html/2605.05480#S3.SS3)
    4. [3.4 Theorem 3: Monte Carlo Convergence (GRALIS-MC)](https://arxiv.org/html/2605.05480#S3.SS4)
    5. [3.5 Theorem 4: Shapley Interaction Values](https://arxiv.org/html/2605.05480#S3.SS5)
    6. [3.6 Theorem 5: Hoeffding ANOVA Decomposition](https://arxiv.org/html/2605.05480#S3.SS6)
    7. [3.7 Theorem 6: Sobol Sensitivity Indices](https://arxiv.org/html/2605.05480#S3.SS7)
    8. [3.8 Theorem 7: Multi-Scale Extension (MS-GRALIS)](https://arxiv.org/html/2605.05480#S3.SS8)
4. [4 Summary and Axiomatic Comparison](https://arxiv.org/html/2605.05480#S4)
5. [5 Preliminary Experimental Validation](https://arxiv.org/html/2605.05480#S5)
6. [6 Conclusions](https://arxiv.org/html/2605.05480#S6)
7. [X Justification via Möbius Transform of the GRALIS–SIV Correspondence](https://arxiv.org/html/2605.05480#A1)
    1. [X.1 Motivation](https://arxiv.org/html/2605.05480#A1.SS1)
    2. [X.2 Cooperative Game Induced by GRALIS](https://arxiv.org/html/2605.05480#A1.SS2)
    3. [X.3 Möbius Transform](https://arxiv.org/html/2605.05480#A1.SS3)
    4. [X.4 Second-Order Interactions](https://arxiv.org/html/2605.05480#A1.SS4)
    5. [X.5 Recovery of Shapley Interaction Values](https://arxiv.org/html/2605.05480#A1.SS5)
    6. [X.6 Interpretation for GRALIS](https://arxiv.org/html/2605.05480#A1.SS6)
    7. [X.7 Final Proposition](https://arxiv.org/html/2605.05480#A1.SS7)
    8. [X.8 Concluding Remark](https://arxiv.org/html/2605.05480#A1.SS8)
8. [Y Formalization of the Projection $\rho$ and the Operator $P_\rho$](https://arxiv.org/html/2605.05480#A1a)
    1. [Y.1 Motivation](https://arxiv.org/html/2605.05480#A1.SS1a)
    2. [Y.2 Lemma 1 — Push-Forward Measure and Well-Definedness of $v_G$](https://arxiv.org/html/2605.05480#A1.SS2a)
    3. [Y.3 Lemma 2 — Measurable Partition and Full Coverage of $\mathcal{Q}$](https://arxiv.org/html/2605.05480#A1.SS3a)
    4. [Y.4 Lemma 3 — Invariance with Respect to the Labeling of $\rho$](https://arxiv.org/html/2605.05480#A1.SS4a)
    5. [Y.5 The Operator $P_\rho$ and the Algebraic Structure of GRALIS](https://arxiv.org/html/2605.05480#A1.SS5a)
    6. [Y.6 GRALIS as a Functor between Continuous Spaces and Cooperative Games](https://arxiv.org/html/2605.05480#A1.SS6a)
9. [References](https://arxiv.org/html/2605.05480#bib)

## 1 引言

深度学习在许多医学成像任务中达到了超越人类专家的准确率。然而，深度神经网络的**黑盒**性质使得临床医生无法理解模型**为何**产生给定的预测。可解释人工智能（XAI）通过异质性的事后方法做出了回应\[26\]：GradCAM\[1\]通过最后一层卷积层的梯度识别最具影响力的区域；SHAP\[2\]通过核近似将 Shapley 值分配给特征；LIME\[3\]用线性分类器局部近似模型；Integrated Gradients\[4\]沿从基线到输入的路径积分梯度。每种方法都在不同的基础上开发，具有不同的保证，使得系统比较缺乏严谨性。

这种碎片化带来了直接的实践后果：XAI 方法的选择往往是经验性的，来自不同方法的归因图在形式上不可比，多种方法的组合缺乏统一的数学依据。先前的统一尝试是不完整的：Ancona 等人\[5\]观察到 GradCAM 和相关的梯度方法可以**经验性地**表达为 $\nabla f \times x$——一种线性形式——但他们没有证明这是**结构上必要**的，并且没有包含 SHAP 或 LIME。Covert 和 Lee\[9\]通过 Shapley 博弈统一了 LIME、SHAP 和 IG，但无法容纳 GradCAM，因为其聚合后的 $\mathrm{ReLU}$ 违反了框架所需的线性条件。

本文提出了 **GRALIS**，这是一个通过证明一大类线性加法归因方法——包括 SHAP、IG、LIME 和线性化 GradCAM——是独特规范结构的特例来解决碎片化的框架：

$$
\phi_i^{\textsc{GRALIS}}(f,x,x') \;=\; \int_{\mathcal{Q}} w(q) \cdot \Delta_i(f,x,x',q) \,d\mu(q), \tag{1}
$$

其中 $\mathcal{Q}$ 是积分索引空间，$w$ 是权重函数，$\Delta_i$ 是特征 $i$ 的边际贡献。Riesz 表示定理保证这种形式是每个**加法性**线性且连续归因泛函的**唯一**可能表示（定理 3.4）。

#### 贡献。

1.  **理论统一**。七个形式化定理统一了 GradCAM、SHAP、LIME、IG 并扩展了它们的保证。
2.  **计算效率**。GRALIS-MC 将复杂度从 $O(2^n \cdot k)$ 降低到 $O(m \cdot n \cdot k)$，并给出了明确的误差界限。
3.  **代数证明**。Möbius 变换（附录 X）表明 SIVs 是在由 GRALIS 构建的合作博弈上**精确**计算的，无需近似。

在乳腺癌组织学（BreaKHis 数据集，蒸馏后的 DenseNet-121 模型）上的初步实验验证报告在第 5 节中；与基线 XAI 方法的扩展比较计划在配套论文\[28\]中进行。

## 2 背景与相关工作

### 2.1 XAI 归因方法

归因方法为每个输入特征分配一个分数，代表其对预测的贡献。形式上，给定 $f:\mathbb{R}^n \to \mathbb{R}$ 和带有基线 $x'$ 的输入 $x$，该方法产生 $\phi \in \mathbb{R}^n$，使得 $\phi_i$ 代表特征 $i$ 的重要性。

#### GradCAM\[1\]。

计算 $s_{pq} = \sum_k \alpha_k^c \cdot A_{pq}^k$，其中 $\alpha_k^c = \frac{1}{Z} \sum_{i,j} \frac{\partial y^c}{\partial A_{ij}^k}$。计算高效（$O(1)$ 反向传播），但不满足完备性或局部性。对于定理 3.4，我们使用 **GradCAM-lin**，即预 ReLU 变体，定义为 $L_{\mathrm{lin}}^c(p,q) = \sum_k \alpha_k^c A_{pq}^k, \alpha_k^c = \frac{1}{Z} \sum_{i,j} \frac{\partial y^c}{\partial A_{ij}^k}$，这省略了标准 GradCAM 中的后聚合 $\mathrm{ReLU}$。\[1\] 中的 $\mathrm{ReLU}$ 是一种**可视化启发式方法**，仅保留对目标类别有正影响的通道；它不是公理要求，并且在线性算子的输出上引入了逐点非线性，从而破坏了 $f$ 的线性（见下文 Remark 3.5）。GradCAM-lin 精确对应于 $y^c$ 在零激活参考 $ \bar{A}^k = 0$ 处的一阶泰勒展开：

$$
y^c \;\approx\; y^c|_{A=0} + \sum_{k,i,j} \frac{\partial y^c}{\partial A_{ij}^k} \,A_{ij}^k, \tag{2}
$$

其在位置 $(p,q)$ 的空间摘要——通过对所有 $(i,j)$ 以均匀权重 $1/Z$ 池化 $A_{ij}^k$ 贡献获得——正是 $L_{\mathrm{lin}}^c(p,q)$。这种线性化与 Ancona 等人\[5\]建立的 GradCAM 的 $\nabla f \times x$ 解释、Montavon 等人\[6\]的深度泰勒分解框架以及 Simonyan 等人\[7\]的基于梯度的显著性图一致，所有这些都在预非线性线性项上操作。当所有 $k$ 的 $\alpha_k^c \geq 0$（每个通道对类别 $c$ 都有正贡献，这是训练良好的分类器中大多数通道满足的条件\[1\]）时，标准 GradCAM 可以从 GradCAM-lin 中**精确**恢复，并且当某些 $\alpha_k^c < 0$ 时，两种方法在泰勒展开的一阶上是一致的。

**实现备注**：当 GradCAM-lin 在最后一层卷积层的**预激活**特征图 $Z_{pq}^k$ 上计算时——即在网络内部 ReLU 之前而不是之后——展开式 (2) **精确**成立，无需一阶限定：

$$
L_{\mathrm{lin,pre}}^c(p,q) \;=\; \sum_k \alpha_k^c \,Z_{pq}^k, \quad Z_{pq}^k \in \mathbb{R}.
$$

由于 $Z_{pq}^k$ 的符号不受约束，加权和在所有情况下都是 $f$ 的真实线性泛函，并且当网络内部的 ReLU 不活跃（$Z_{pq}^k \geq 0$）且 $\alpha_k^c \geq 0$ 时，即当网络在该层局部线性时，标准 GradCAM 被精确恢复。这种实现选择在任何标准深度学习框架中都可获得，并且相对于标准 GradCAM 不改变计算成本。

#### SHAP\[2\]。

特征 $i$ 的 Shapley 值是其在所有联盟上的平均边际贡献：

$$
\phi_i = \sum_{S \subseteq \mathcal{F} \setminus \{i\}} \frac{\|S\|! (n-\|S\|-1)!}{n!} [f(S \cup \{i\}) - f(S)].
$$

满足效率性、对称性、哑变量性和加法性，但精确计算是 $O(2^n)$；KernelSHAP 以 $O(m \cdot n)$ 进行近似。

#### LIME\[3\]。

在局部用线性模型近似 $f$：$w^* = \arg\min_{g \in \mathcal{G}} L(f,g,\pi_x) + \Omega(g)$，其中 $\pi_x$ 是邻近核。定理 3.4 的条件在局部近似（由 $\pi_x$ 定义的邻域 $N_x$）内得到满足。

#### Integrated Gradients\[4\]。

$$
\phi_i(f,x) = (x_i - x'_i) \int_0^1 \frac{\partial f(x' + \alpha(x - x'))}{\partial x_i} \,d\alpha.
$$

满足完备性和敏感性；数值近似引入 $O(1/k)$ 的误差。

### 2.2 统一尝试与现有差距

Ancona 等人\[5\]建立的 $\nabla f \times x$ 家族为我们线性化提供了最接近的先前桥梁。他们表明 GradCAM（以及引导反向传播、纯梯度）可以表达为 $\phi_i \propto \nabla_i f(x) \cdot x_i$，即作为**梯度与输入的逐点积**，这在结构上是 $f$ 的线性泛函。这是一个重要的经验观察：它揭示了 GradCAM 家族**实际上**在线性 regime 中运行。然而，Ancona 等人将其建立为现有方法之间的家族关系；他们没有证明线性是**结构上必要**的——即，任何有效的加法归因必须采取这种形式——也没有将 SHAP 和 LIME 包含在相同的代数框架中。

Lundstrom 等人\[10\]将 $\nabla f \times x$ 分析扩展到内部神经元归因，表明一阶（线性）项是满足每一中间层路径完备性的唯一项。这进一步支持了对 GradCAM-lin 的限制：泰勒线性化不是随意的简化，而是保留特征图级别完备性的规范形式。

GradCAM 在定位基准测试中表现出强大的经验可靠性。Hooker 等人\[12\]的 ROAR/KAR 评估显示，GradCAM 优于像素级梯度方法，正是因为它...