使用图可解释解释生成干预假设：G2I，一个两阶段贪心框架

# 利用图上可解释解释生成干预假设：G2I，一个两阶段贪心框架
来源：https://arxiv.org/html/2608.23835
**作者：**
Mulin Tian  
**单位：** 南加州大学，洛杉矶，加利福尼亚，美国  
**邮箱：** [mulintia@usc\.edu](mailto:[email protected])  
Ajitesh Srivastava  
**单位：** 东北大学，夏洛特，北卡罗来纳，美国  
**邮箱：** [aji\.srivastava@northeastern\.edu](mailto:[email protected])  
© 无

###### 摘要
公共卫生和社会科学领域的现实决策可以极大地受益于预测模型，然而将预测转化为有效的干预措施需要解释模型行为。虽然图神经网络（GNN）非常适合建模关系数据，但现有的解释方法主要在节点层面操作，难以支持可操作的、网络级的干预设计。现有的反事实GNN解释器，例如CF-GNNExplainer和CF2，依赖于对特征和边的连续掩码优化，这隐含地假设了边的可操作性，可能将资源分配给不可变或不可操作的属性，并产生巨大的计算开销。此外，解释方法本身的得出过程对于非AI专家的领域专家来说也难以解释。简单的方法能否生成好的解释？为了探究这一点，我们将反事实解释重新定义为一个干预设计问题。在局部层面，我们通过贪心搜索生成反事实，该搜索直接识别节点特征和邻居级条件的最小、可操作变更。我们推导了贪心搜索能提供保证的条件，并通过实验表明这些条件在实践中得到近似满足。这些反事实被转换为适合现实世界干预的可解释规则。在网络层面，我们将干预选择建模为预算约束下的析取范式覆盖问题，该问题是非递减且近似次模的，从而可以使用具有理论保证的贪心算法。在合成图和真实世界自杀风险网络上的实验表明，我们的方法生成了可扩展、具有成本效益的干预策略，与基于掩码的反事实方法相比，效率显著提高。

###### 关键词
图神经网络，可解释性，干预生成

## 1. 引言
在社会科学和健康科学中，会进行干预以改善个体结果。这包括识别谁可以从何种干预中受益。例如，为了降低自杀风险，干预可能旨在针对那些基于某些历史、个人或社会属性可能处于更高风险的人（Christakis 和 Fowler，2009；Jackson，2008）。然而，识别哪些个体处于风险中，以及关键地，他们为什么处于风险中，仍然是一个重大挑战。图神经网络（GNN）已成为建模社交网络的强大工具，因为它们可以有效地编码节点级属性和个体之间的关系结构。这种能力使得GNN特别适合预测过程，其中个体的结果不仅由个人特征塑造，也由其社会联系塑造。然而，除了高准确性外，还需要解释来理解模型行为。

**作为假设的解释：** 几项先前的工作，包括GNNExplainer、CF-GNNExplainer、CF2-GNNExplainer、PGExplainer、SubgraphX和RCExplainer，通过识别对目标节点最具影响力的节点特征和边来解释节点级预测。具体来说，它们可以提供反事实解释——数据中的何种最小改变可以导致分类的变化。这些反事实解释可以被视为“干预假设”，即如果我们能够改变某些属性，它将改变结果。经济学领域的最近工作提出了使用机器学习反事实解释作为假设生成工具的想法（Ludwig 和 Mullainathan，2024）。然而，在现实世界的关系数据中实现这一点用于干预是具有挑战性的，原因如下：（1）现有方法提供节点级解释，尚不清楚如何将其转化为群体级干预。（2）现有方法可能无法直接支持能导致可操作且具有成本效益预防策略的解释。例如，对一个节点的解释可能建议删除一条边，这在现实网络中可能不可行或不道德，并且无法提供群体级洞察。（3）最重要的是，解释方法本身对于非ML专家来说难以解释。我们认为，在跨学科合作中，解释“黑箱”模型的方法本身不应该是黑箱，而应该易于向非ML专家解释。

为了解决这些局限性，我们提议在两个层面使用贪心算法的形式（G2I – 从图到干预）。在“局部”层面，我们扰动网络的结构和特征组件，贪心地构建一个特征子集（针对个体及其邻域），以最大化节点分类中结果的偏移。在“全局”层面，我们构建一个干预设计问题：给定局部反事实解释，如何设计针对特征子集（个体和邻域级）的干预以最大化结果的改善。

我们的G2I框架在第一阶段的解释评估和第二阶段的干预生成任务中，一致优于先前的解释方法，包括CF和CF2。此外，G2I比这些方法快达两个数量级。我们将我们的方法与先前工作相比的新颖性和优势总结如下：

*   **具有可操作性的可解释性：** 我们的框架提供反事实解释，明确描述对节点属性和社会联系的改变将如何改变节点的预测风险，超越静态重要性分数，转向反映因果和对比推理的解释。通过将可行的扰动限制在符合现实世界干预约束的特征和邻域内，我们使从业者能够理解、设计和测试干预措施。
*   **可泛化性：** 由于采用贪心方法，我们的方法不需要针对特定数据集的超参数调整，并在不同数据集和结构设置中保持稳定性能。
*   **可扩展性：** 与传统的基于掩码的优化方法相比，我们的方法可以在相同硬件约束下扩展到显著更大的图，因为它只需要存储原始图和预训练的GNN模型，而先前方法需要通过维护相当大小的掩码变量来产生大量的内存开销。这一优势对于大规模社交网络上的群体级干预设计至关重要。

## 2. 背景与相关工作

**GNN 解释方法：** GNNExplainer（Ying等，2019）学习边缘和节点特征上的软掩码，以识别足以保留原始GNN预测的子图。然而，它并未建模必要性，因为它没有测试移除所识别组件是否会改变结果。因此，解释是描述性的，而非反事实或可操作的。CF-GNNExplainer（Lucic等，2022）通过识别能翻转节点预测的最小边删除来生成反事实解释，明确捕捉了必要性。然而，它没有强制充分性，因为剩余的子图并未被要求重现原始预测。该方法还仅限于结构扰动，并忽略了特征-结构交互。CF2（Tan等，2022）通过联合优化事实和反事实目标，明确纳入了充分性和必要性。它确保所选子图足以保持预测，同时也足够必要，其移除会改变结果。这种联合公式产生了比仅关注单一标准的方法更平衡和完整的解释。尽管取得了这些进展，但这三种方法都依赖于基于掩码的优化过程，这引入了黑盒训练的额外步骤。解释是在任务特定损失函数下优化连续掩码变量的结果，而不是通过透明、可解释的推理步骤产生的。因此，解释过程本身对于计算机科学以外的从业者来说仍然不清晰且难以证明，这可能限制了其在现实世界决策环境中的可用性。

**社会干预：** 基于同伴的干预利用社会联系，使社区内的个体能够相互影响和支持，已被广泛用于促进积极成果，如HIV预防、减少物质滥用（Valente等，2007）和心理健康支持（Davidson等，2006）。这些策略依赖于信任和共享的生活经历来促进行为改变。这种方法在服务不足的社区中至关重要，因为这些社区对医疗系统、社会服务和执法机构等正规机构存在不信任。这种怀疑态度通常源于过去在这些系统内的负面互动（Fest，2013；Dworsky 和 Courtney，2009）。因此，个体更可能寻求同伴而非传统服务提供者的支持。为了支持这些同伴驱动的方法，预测模型必须超越分类，提供清晰、可解释的洞见。提供对为何某人处于风险中的更好理解，对于提供及时、可操作的、植根于社区的干预措施至关重要。

旨在解决群体级挑战的现实世界干预措施被广泛应用，例如控制传染病传播（Pastor-Satorras等，2015）或在社会系统中减轻错误信息扩散（Vosoughi等，2018）。这些本质上是集体性问题，因为人类行为和决策受到社交网络中与他人互动的强烈影响（Christakis 和 Fowler，2009；Jackson，2008）。因此，在设计群体级干预措施时，有必要明确考虑潜在的网络结构，而不是将个体视为独立的。实际上，干预策略通常基于简单的启发式规则，如“如果X，则Y”，例如针对具有某些风险因素的个体进行特定治疗或政策。然而，此类方法受限于人类偏见（Tversky 和 Kahneman，1974）和部分知识，因为它们依赖于从业者从可用数据或先前经验中推断出的信息（Ludwig 和 Mullainathan，2024）。同时，现实世界的人群具有高度异质性（Athey 和 Imbens，2016），驱动结果的因素因个体及其社会背景而异。因此，有效的干预策略需要是个性化且依赖于上下文的，而不是依赖于应用于所有个体的单一统一规则。

**作为假设生成器的解释：** 最近的工作指出了机器学习作为假设生成工具而非仅仅是预测工具的作用（Ludwig 和 Mullainathan，2024；Mullainathan 和 Spiess，2017）。特别是，他们认为数据驱动的模型可以揭示可能指导干预设计的模式，尤其是在传统理论驱动方法受限的复杂社会系统中（Lazer等，2009；Lazer等，2020）。然而，从模型输出生成可操作的假设仍然具有挑战性。实际上，假设生成通常是不正式的，严重依赖人类的解释，这使得难以系统地识别既有效又可扩展的干预措施。此外，可能的干预措施空间是组合性的，特别是在网络环境中，个体属性和社会互动共同影响结果。基于这些观察，一个自然的方向是将假设生成形式化为一个优化问题。在有限的干预预算下，人们会寻求构建在满足可解释性、可操作性和计算效率等实际要求的同时，最大化群体级影响的干预策略。然而，现有工作尚未提供一个在基于图的干预设计中同时解决这些方面的统一框架。

**两阶段流程图：** 阶段1接收一个图和一个训练好的GNN，并对节点特征、边修改和邻居特征扰动进行迭代贪心搜索，为每个节点生成一个反事实子句。阶段2将这些子句聚合成全局析取范式干预策略，通过贪心次模最大化实现节点覆盖并满足预算约束。
**图1. 两阶段框架：** 阶段1通过迭代贪心搜索节点特征、边修改和邻居特征扰动生成节点级反事实解释。阶段2在预算约束下使用次模优化将局部子句聚合为全局干预策略。
**两阶段流程图：** 阶段1接收一个图和一个训练好的GNN，并对节点特征、边修改和邻居特征扰动进行迭代贪心搜索，为每个节点生成一个反事实子句。阶段2将这些子句聚合成全局析取范式干预策略，通过贪心次模最大化实现节点覆盖并满足预算约束。

## 3. 方法与近似保证
提出的用于图结构数据干预设计的框架包含三个主要组成部分：（1）一个基于图的预测模型，（2）一个节点级反事实搜索，用于识别特定于节点的干预措施，以及（3）一个群体级干预策略优化框架。