图像修复洞察：利用逼真扰动提升视觉XAI

# 修复洞见：利用逼真扰动提升视觉可解释人工智能

来源：https://arxiv.org/html/2607.15482
11institutetext:朱利叶斯·马克西米利安·维尔茨堡大学, Sanderring 2, 97070 维尔茨堡, 德国
11email:[email protected]
11email:[email protected]
22institutetext:格罗宁根大学: Broerstraat 5, 9712 CP 格罗宁根, 荷兰
22email:[email protected]###### 摘要

随着最先进的机器学习模型日益复杂，其行为越来越难以解释，这推动了可解释人工智能（XAI）领域的快速发展。在众多提出的方法中，基于扰动的方法扮演着重要角色。通过系统地改变（扰动）输入特征，这些方法衡量对模型预测的影响。对于图像数据，传统的扰动技术通常涉及用预定义的颜色替换像素值。然而，这类方法，以及更精细的确定性技术，会生成不真实的分布外样本，并常常留下可见伪影，这可能误导模型并损害解释质量。在本工作中，我们调整了LIME（一种广泛使用的基于扰动的方法），以展示生成式修复如何改进基于扰动的图像解释。我们实现了与原始数据分布更一致的光照真实感扰动样本，并提升了解释质量。

## 1 引言

随着人工智能系统越来越多地影响关键决策，对透明度和问责制的需求变得至关重要[20,22,5]。例如，计算机视觉模型可能通过利用非预期的数据集伪影而非学习有意义的视觉特征来实现高准确率[16]。可解释人工智能的研究领域探索使复杂机器学习模型对人类可理解的方法，以促进信任和道德部署。

基于扰动的XAI方法，如LIME（局部可解释模型无关解释）[23]、SHAP（SHapley Additive exPlanations）[17]和RISE（用于解释的随机输入采样）[21]，已成为解释图像分类器的基础工具[4]。这些方法通过系统地移除或遮挡输入图像的部分区域生成扰动样本，并用恒定颜色（*例如*，灰色或平均像素值）、模糊或归零像素来替换它们[23,32,21]。

例如，用于图像的LIME将输入图像分割成超像素，并通过遮挡创建扰动样本，默认情况下用超像素的平均颜色替换。然而，LIME的扰动采样可以适应不同的替换方法，正如我们在第2.2节中通过8种确定性遮挡策略所展示的那样。尽管如此，我们可以证明，在某些情况下所有这些方法都失效了。更一般地，尽管被广泛使用，确定性扰动方法往往引入非自然伪影并生成分布外样本。这可能导致不可预测的模型行为和模糊的属性归因[2,28]。

替换方法背后的共同直觉是，遮挡应在移除区域处创建合理的内容。Agarwal和Nguyen[1]证明，生成式修复模型可以在移除鉴别性特征的同时保持原始数据分布。他们对LIME的改编版本LIME-G使用DeepFill v1和v2[31,30]进行修复以生成扰动样本。然而，更近期的模型（如LaMa[25]）在感知修复质量上优于DeepFill。尽管如此，尽管有这些进展，尚未有工作探索用最先进的修复模型改进LIME-G。

我们的贡献如下：首先，我们引入了**利用修复实现局部可解释性（LILI）**，这是一种结合生成式扰动掩码修复以使用LIME解释图像的方法。其次，通过利用重叠超像素（扰动掩码扩展），我们模糊了残余伪影和轮廓，以实现更有效的遮挡。我们证明，掩码扩展通过使扰动过程适应现代修复模型的生成能力，有助于减轻被遮挡特征的意外重建。最后，我们的评估显示，LILI在感知图像质量方面产生更真实的扰动，有利于在所解释网络深处保持更一致的高级特征分布。此外，我们展示了LILI相比LIME和LIME-G实现了改进的解释质量，凸显了使用先进生成式修复模型进行基于扰动的解释的有效性。

图1展示了扰动样本以及LIME-G和LILI给出的解释示例。注意只有LILI将创可贴识别为最重要的。该方法和评估的所有代码均为开源，可在GitHub上获取：https://github.com/jo01123/LILI，https://github.com/m-chaves/LIME。

图1：不同方法针对“创可贴”的扰动样本和解释：第一行显示分割后的原始图像，附带一个扰动掩码示例（左图），以及LIME、LIME-G和LILI给出的扰动样本。第二行显示模型相对于输入的梯度，以及不同方法给出的解释（此处可视化了按绝对权重排序的前十个超像素：深绿色表示更强的正贡献）。注意相对于输入的梯度表明，创可贴超像素似乎影响预测。然而，只有LILI将创可贴识别为最重要的。

## 2 背景与动机

在本节中，我们将概述所提出的LILI方法的基础。首先，我们在第2.1节介绍LIME。其次，在第2.2节，我们讨论确定性遮挡失效的例子。第2.3节介绍LaMa修复模型，并讨论为何将其选用于LILI。最后，在第2.4节，我们介绍相关工作。

### 2.1 LIME

Ribeiro等人[23]引入了局部可解释模型无关解释（LIME），这是一种解释任何黑盒模型（模型无关）的单个预测（局部）的方法。核心思想是使用可解释的代理模型（如线性回归）在局部近似复杂模型。为此，LIME通过修改可解释特征来扰动输入数据，并观察模型输出中随之而来的变化。然后代理模型被拟合到这些变化上，以估计特征重要性。对于图像数据，LIME将可解释特征定义为超像素，即具有相似属性的像素组。通过随机遮蔽其中一些超像素来创建扰动样本，使得代理模型能够近似原始模型在待解释的特定实例周围的行为。

遵循Garreau和Mardaoui[10]的表示法，我们可以将LIME用于图像的核心步骤描述如下。设 \( f \) 为模型，\( \xi \) 为待解释样本。

1.  **创建可解释特征**：通过使用分割算法（*例如*，默认使用quickshift[29]）将图像分割成 \( d \) 个不相交的超像素 \( J_1, \dots, J_d \)。
2.  **创建扰动样本** \( x_1, \dots, x_n \)：对于每个 \( x_i \)，从独立的伯努利试验中抽取 \( z_i \in \{0,1\}^d \)。对于所有 \( z_{i,j}=1 \) 的超像素 \( J_j \)，在样本 \( x_i \) 中被遮蔽（*即*，被关闭）。因此，将所有被遮蔽超像素的像素替换为超像素的平均颜色（默认）或替换颜色。分割、扰动掩码和扰动样本的示例见图1。
3.  **计算权重** \( w_i \)：根据 \( x_i \) 与 \( \xi \) 的接近程度（*例如*，使用指数核函数）。更接近原始样本（*即*，被关闭的超像素更少）的扰动样本获得更高权重。
4.  **查询模型**：进行预测 \( y_i = f(x_i) \)。
5.  **拟合局部代理模型**：以 \( y_i \)（目标）对超像素的存在与否（\( z_i \)）进行拟合。默认使用加权（权重为 \( w_i \)）的岭回归。代理模型得到的系数可以解释为对应超像素对模型 \( f \) 在原始图像 \( \xi \) 上预测的近似贡献。通过将图像像素映射到其超像素权重，我们得到属性图，可以可视化为热力图。

### 2.2 确定性遮挡失效的情况

一个自然的想法是用更好但简单的方法改进超像素替换。例如，我们测试了用于LIME的八种确定性方法（包括LIME原生的超像素平均颜色或黑色替换）：(1) 超像素的平均颜色，(2) 图像平均颜色，(3) 相邻超像素的平均颜色，(4) 归零（黑色），(5) 图像边界像素的中值颜色，(6) 图像边界超像素的中值颜色，(7) 超像素邻居均值的中值颜色，以及(8) 超像素均值的中值颜色。

虽然这些方法在特定情况下有所改进，但它们仍然产生视觉上不自然的样本，并且难以有效泛化。当替换颜色与原始超像素非常相似时，或者当超像素的形状泄露其内容信息时，LIME难以识别特征的重要性。我们通过“创可贴”类别的一个示例展示结果：在图2中，这些策略均未能将创可贴识别为最重要的超像素。然而，LILI做到了（见图1）。额外结果可在GitHub2上找到。

图2：使用8种确定性遮挡方法的解释：应用于类别“创可贴”的图像，其中默认LIME未能识别最重要的超像素。可视化了按绝对权重排序的前十个超像素（深绿色表示更强的正贡献）。从左到右，我们可以看到第2.2节中描述的遮挡方法1-8。

### 2.3 利用傅里叶卷积进行分辨率鲁棒的大掩码修复（LaMa）

LaMa由Suvorov等人[25]提出，是一个前馈式修复网络，通过使用快速傅里叶卷积（FFC）[6]设计用于处理高分辨率图像、大面积缺失区域和复杂几何形状。FFC将输入通道分割成局部和全局分支，并在全局分支上使用通道维度的快速傅里叶变换以获得图像宽度的感受野。LaMa的模型架构类似于ResNet，包含3个下采样块，随后是6-18个FFC残差块，再接着3个上采样块。LaMa在Places和CelebA-HQ数据集上训练，使用真实图像和合成生成的掩码，以及一个损失函数，该函数是梯度惩罚、对抗损失、基于判别器的感知损失以及他们新引入的高感受野感知损失的加权和。尽管其架构相对轻量（2700万参数），但LaMa在感知质量指标（如Fréchet Inception Distance (FID)[11]和LPIPS[33]）上始终优于DeepFill v2[31]等旧模型。

我们选择LaMa进行修复，是因为它在感知质量和计算效率之间取得了平衡，使其非常适合生成为LIME所需的大量扰动样本（通常每个解释需要1000个）。虽然基于Transformer[8]或扩散架构[13]的最先进修复模型实现了卓越的感知质量，但它们的计算成本很高。例如，即使是比早期基于扩散的方法更快的区域感知扩散模型（RAD）[13]，其推理时间也显著高于LaMa。

### 2.4 相关工作

基于扰动的解释方法在计算机视觉的XAI中被广泛使用[4]。这些方法的一个关键挑战是生成保持真实并与原始数据分布一致的扰动样本[2,28]。生成式修复的最新进展在通过创建保持上下文一致性的真实扰动来解决这个问题方面显示出有希望的结果。

Tritscher等人[28]将生成式修复应用于基于Shapley值的异常检测解释（表格数据）。通过用去噪扩散概率模型（TabDDPM[15]）替换传统的特征遮挡方法，他们展示了跨各种数据集和模型的稳定解释质量。

关于图像数据，Agarwal和Nguyen[1]以及Aghakishiyeva等人[2]探索了生成式修复在生成扰动样本方面的能力。通过引入LIME-G，Agarwal和Nguyen[1]将生成式修复集成到LIME中。LIME-G用DeepFill-v1/v2[31,30]替换了每个超像素的平均颜色遮挡，以生成合理且与原始数据分布更一致的扰动样本。他们的发现表明，与传统的遮挡方法相比，基于修复的扰动提高了解释的准确性和鲁棒性。同样地，Aghakishiyeva等人[2]探索了在生态监测中用于基于扰动的解释的光照真实感修复。他们的方法使用了来自Segment Anything Model (SAM)[14]的细化掩码