从图到梯度：用于网络物理物联网系统及更广领域的物理启发式结构归因

# 从图到梯度：面向信息物理物联网系统及更广领域的物理启发式结构归因  
来源：https://arxiv.org/html/2607.05563  

Spyridon Evangelatos, Christos Diou, Georgios Th. Papadopoulos, Evangelos Markakis, 与 Panagiotis Sarigiannidis  

S. Evangelatos 任职于 Netcompany S.A. 研究与创新发展部，卢森堡（邮箱：[email protected]）。  
C. Diou 与 G. Papadopoulos 任职于雅典哈罗科皮奥大学信息学与远程信息处理系，希腊（邮箱：[email protected] 与 [email protected]）。  
E. Markakis 任职于希腊地中海大学电气与计算机工程系，希腊（邮箱：[email protected]）。  
P. Sarigiannidis 任职于西马其顿大学电气与计算机工程系，希腊（邮箱：[email protected]）。  

###### 摘要  

人工智能中的可解释性方法旨在揭示潜在原因及其影响，从而加深对系统在不同输入下为何以特定方式行为的理解。与主要强调输入变量与输出变量之间相关性的传统可解释性方法不同，因果解释侧重于回答干预性问题。通过这种方式，它提供了更稳健的见解，帮助用户更好地理解自动决策，特别是在高风险领域。然而，在具有反馈回路和部分可观测性的大规模混合信息物理系统中，恢复显式的有向因果结构往往不切实际。本文引入了一个新颖的框架，该框架受统计力学领域概念的启发，通过基于能量的无向表示来建模信息物理物联网系统中的变量依赖关系。我们的方法通过分析能量景观中的变化如何反映系统内各个组件的影响，从而实现了严格的依赖感知归因，而无需恢复有向因果图。此外，它还支持推理混合交互中扰动的影响，为异常行为提供可靠的解释。我们在一个包含混合连续和离散变量的工业物联网测试平台上，通过大量仿真对提出的框架进行了实证检验，结果表明，与最先进的基于图的可解释性方法相比，我们的方法具有更高的归因准确性、更强的鲁棒性以及显著更好的可扩展性。虽然得到的归因结果并非旨在完全恢复或解释系统潜在的生成动力学，但它们提供了有价值的、依赖感知的解释，既支持人工理解，也支持下游的预测和诊断任务。尽管本文在工业物联网安全领域进行了演示，但我们的框架也适用于其他需要原则性结构解释的高维信息物理系统和社会技术系统。  

**影响声明**  
现代信息物理系统，如工业物联网基础设施和水处理厂，越来越多地暴露于复杂且常常隐藏的故障机制中。当事件发生时，操作员需要清晰的解释，说明其原因以及如何在互联组件之间传播。本文提出的框架提供了此类解释，而无需依赖难以获取的有向因果图或特定于模型的黑盒技术，因此适用于具有许多相互作用的变量的系统。在 SWaT 测试平台上的实验结果表明，所提出的方法接近完美地识别了根因，而竞争方法则接近零。此外，随着系统维度的增加，我们的方法保持了更高的归因准确性和鲁棒性。这些改进可以转化为关键基础设施中更快、更可靠的故障诊断，有助于减少停机时间、安全风险和运营成本。更广泛地说，我们的工作通过为复杂现实世界环境中的系统级归因提供可扩展且可解释的方法，为可信赖的人工智能做出了贡献。  

## I. 引言  

随着人工智能（AI）系统越来越多地影响关键决策过程，对透明度和可解释性的需求变得至关重要。传统的可解释性方法通常依赖于相关性关联，这只能提供有限的洞察，以了解不同变量如何在变化条件下影响模型行为。因果可解释性[1 (https://arxiv.org/html/2607.05563#bib.bib1)]旨在通过检查对特定变量的扰动或干预如何影响系统行为来弥合这一差距。这一观点植根于因果推断理论[2 (https://arxiv.org/html/2607.05563#bib.bib2)]，并通常使用结构因果模型和图表示等工具进行形式化。然而，这些经典的推断框架通常依赖于预定义的有向结构，而在具有反馈回路和部分可观测性的系统中，从观测数据中可靠地识别这些结构往往非常困难甚至不可能。因此，它们难以扩展到具有反馈回路、混合连续-离散变量和部分可观测动态特性的大规模混合信息物理系统。它们对模型错误设定和分布偏移也很敏感，同时在对抗性或异常运行模式下难以扩展。  

为了解决这些局限性，需要替代性公式，这些公式能够在不施加严格因果层级结构的情况下捕获复杂的依赖关系。同时，这些公式必须在高维设置中保持可扩展性和可解释性。在信息物理物联网系统中，系统级行为通常源于异构组件之间的局部交互，而非明确定义的因果链。因此，需要概率表示来同时捕获正常和异常运行模式。在本文中，我们提出了一个受统计力学原理启发的基于能量的解释框架。我们并非假设一个有向因果结构，而是通过一个无向的能量景观来建模系统，该能量景观将符合正常系统行为的配置分配低能量值，而将异常或对抗状态分配高能量值。通过分析局部扰动、全局自由能变化和高阶交互如何重塑整体能量景观，得到归因分数。通过这种方式，我们的框架在扰动操作条件下支持对复杂混合信息物理系统的局部和全局分析，而无需显式恢复有向因果图。所得的归因对于解释以及下游预测和检测任务是有价值的，但与完全指定的有向因果模型不同，它们并非旨在解释系统的完整生成动力学。  

提出的框架在一个大规模的工业物联网测试平台上进行了评估，其中在混合信息物理数据上引入了受控扰动和现实的攻击场景。其性能根据归因准确性、对输入扰动的鲁棒性和计算可扩展性进行了评估。结果表明，与基于图论的成熟可解释性方法相比，尤其是在系统规模和复杂性增加时，我们的方法始终具有优势。本文的主要贡献总结如下：  

- • 提出了一个基于能量的依赖感知归因框架，基于无向图表示，为混合信息物理系统提供可解释的解释；  
- • 在 SWaT 工业测试平台[3 (https://arxiv.org/html/2607.05563#bib.bib3)]上对该框架进行了全面评估，展示了在现实信息物理攻击期间对主导贡献变量及其下游影响的准确识别；以及  
- • 比较结果显示，我们的框架在系统规模增大时，比 GNNExplainer 实现了更高的解释准确性和显著更好的计算可扩展性。  

为方便参考，表 I (https://arxiv.org/html/2607.05563#S2.T1) 总结了本文使用的关键符号，揭示了基于概率能量的建模与统计力学概念之间的联系。  

本文其余部分组织如下：第 II 节 (https://arxiv.org/html/2607.05563#S2) 提供了关于信息物理物联网系统可解释性和可解释人工智能方法的相关工作综述。第 III 节 (https://arxiv.org/html/2607.05563#S3) 详细描述了提出的基于能量的归因框架，形式化了系统底层概率建模、局部和全局归因机制以及相关的计算流程。第 IV 节 (https://arxiv.org/html/2607.05563#S4) 描述了该框架在物联网网络安全场景中的应用，重点放在工业信息物理系统上。第 V 节 (https://arxiv.org/html/2607.05563#S5) 提供了广泛的实验评估，包括归因准确性、对扰动的鲁棒性以及与传统最先进方法的可扩展性比较。最后，第 VI 节 (https://arxiv.org/html/2607.05563#S6) 总结了本文并指出了未来的研究方向。  

## II. 相关工作  

人工智能中的因果可解释性通过互补的理论框架和实用方法不断发展[4 (https://arxiv.org/html/2607.05563#bib.bib4)]，包括结构因果模型、反事实解释方法、概率图模型、基于图的可解释性方法以及受物理启发和信息论的技术。  

结构因果模型（SCM）通过明确的变量和有向依赖关系提供了一种表示因果关系的基本原则框架。文献[5 (https://arxiv.org/html/2607.05563#bib.bib5)]的作者提出了一个因果发现框架，该框架利用跨异构和非平稳环境的分布变化来识别不变的因果机制，并从观测数据中恢复因果结构。然而，他们的方法侧重于因果图识别，并依赖于显式的结构假设。这使得它不太适合在具有复杂反馈和交互动态的大规模混合信息物理系统中进行可扩展的因果归因和解释。此外，随着变量和环境数量的增加，该方法也可能带来显著的计算开销。  

**表 I：符号总结**  

在文献[6 (https://arxiv.org/html/2607.05563#bib.bib6)]中，作者介绍了一种因果异常检测方法，通过结构因果模型剪枝和反事实推理来减少误导性相关性并提供可解释的解释。该方法在异构物联网数据集上显示出一致的准确性提升，同时能够进行根因分析。然而，较高的计算成本以及该方法对准确因果建模的依赖可能会阻碍可扩展性，并在潜在因果关系演变或仅部分可观测时降低性能。  

反事实解释旨在通过识别导致不同结果的最小输入变化来解释模型决策[7 (https://arxiv.org/html/2607.05563#bib.bib7)]。在此背景下，文献[8 (https://arxiv.org/html/2607.05563#bib.bib8)]的作者通过将算法追索权从最近反事实解释转变为最小结构干预来重新构建该概念。这些干预明确考虑了特征之间的真实世界因果依赖关系。作者表明，当特征之间存在因果关系时，基于反事实的朴素推荐会失败。为了解决这个问题，他们基于结构因果模型和“溯因-行动-预测”流程提出了一个因果框架，以生成尊重下游效应的可行追索行动。然而，他们的方法假设完全了解结构因果模型，这是一个在实践中很少满足的严格限制。它进一步依赖于具有可逆结构方程的加性噪声模型，限制了其在具有反馈和混合连续-离散动态的复杂混合系统中的应用[9 (https://arxiv.org/html/2607.05563#bib.bib9)]。此外，该框架侧重于个体层面的追索优化，并未解决当真实因果模型未知时从数据中发现或学习因果结构的挑战，而是依赖于预先指定的图。相关担忧也在文献[10 (https://arxiv.org/html/2607.05563#bib.bib10)]中被强调，该文献着重指出在现实世界操作约束下部署可解释和因果机器学习方法的挑战。特别是，经典的反事实方法通常假设特征独立，而在紧密耦合的信息物理环境中这一假设被违反。  

概率图模型通过结构化的概率表示捕捉变量之间的因果和统计依赖关系。在此背景下，文献[11 (https://arxiv.org/html/2607.05563#bib.bib11)]的作者介绍了 TOCA-IoT 框架，该框架将基于 LiNGAM[12 (https://arxiv.org/html/2607.05563#bib.bib12)] 的因果发现与可解释机器学习技术相结合。LiNGAM 是一种概率图方法，用于识别捕获因果关系的有向无环图。在 TOCA-IoT 中，这种组合用于建模物联网网络特征之间的有向依赖关系，支持更可解释的异常检测。由此得到的因果图随后用于支持对网络攻击根因的可解释推理，同时通过阈值优化提高检测性能。然而，这种方法依赖于 LiNGAM 固有的线性、无环因果假设，这限制了其表示信息物理系统中常见的反馈回路和非线性交互的能力。同时，因果结构学习是在静态数据集上离线进行的，这限制了对演化系统动态和在线推理场景的适应性。  

图结构模型的可解释性方法旨在通过识别图内具有影响力的节点、边和子结构来解释预测。这些方法主要解释已训练预测模型的行为，而非生成数据的底层系统动态。在他们开创性的工作中[13 (https://arxiv.org/html/2607.05563#bib.bib13)]，作者引入了 GNNExplainer，这是一个用于解释图神经网络预测的模型无关框架。该方法识别出一个紧凑的子图和一组节点特征，这些特征对给定预测影响最大。它将解释形式化为一个优化问题，最大化解释与模型输出之间的互信息，从而为图结构数据提供实例级别的可解释性。尽管有效，但该方法解释的是已训练预测模型的行为，而非底层系统或数据生成过程，限制了因果可解释性。此外，其基于优化的解释过程计算成本高且对噪声敏感，限制了在大规模动态信息物理系统中的可扩展性和鲁棒性。作为对模型