知识辅助的多图依赖学习用于多阶段工业过程的多变量时间序列异常检测

# 知识辅助的多图依赖学习用于多阶段工业过程中的多变量时间序列异常检测

**来源：** https://arxiv.org/html/2607.15799

**作者：** Jaeyeong Lee, Taeseong Yoon, Wonmo Koo, Heeyoung Kim

本研究得到韩国国家研究基金会（NRF）资助，由韩国政府（MSIT）拨款（项目编号：2023R1A2C2005453, RS-2023-00218913）。（通讯作者：Heeyoung Kim）

Jaeyeong Lee, Taeseong Yoon, Wonmo Koo 和 Heeyoung Kim 就职于韩国科学技术院（KAIST）工业与系统工程系，韩国大田。（电子邮箱：[email protected]; [email protected]; [email protected]; [email protected]）

Jaeyeong Lee 和 Taeseong Yoon 对本文贡献相同。

###### 摘要

工业过程通常生成来自多个阶段多个传感器的复杂、相互依赖的时间序列数据，形成变量与过程阶段之间的复杂依赖关系。通过多变量时间序列异常检测（MTAD）对这些时间序列进行有效监控并及时发现异常，对于防止故障及确保自动化系统的可靠性至关重要。图神经网络（GNN）通过利用数据驱动的图来建模变量间的复杂依赖关系，有效捕捉多变量时间序列中的关系结构，从而提升了异常检测性能。然而，现有的基于GNN的方法往往忽略关键的过程知识，即便考虑了这些知识，将其无缝整合到现有模型中仍存在固有困难，导致性能次优。为解决这一局限，我们提出一种知识辅助的多图框架，用于建模多阶段工业过程中的传感器依赖关系以实现MTAD。该框架显式地将过程知识融入图学习，以增强依赖关系建模并提升异常检测性能。我们的方法构建三个互补图：一个纯数据驱动的图，以及两个通过整合过程知识导出的结构约束进行精炼的图。为有效利用这些图进行异常检测，我们采用多图注意力网络，从而更准确、稳健地表示复杂依赖关系。在两个真实的多阶段工业数据集上的全面实验表明，融入过程知识显著提升了异常检测性能。

**致从业者说明：** 本工作解决多阶段工业过程中的异常检测问题，其中许多传感器在阶段内部及阶段之间都存在依赖关系。纯粹从数据中学习传感器关系的方法常常忽略关键依赖或推断出虚假连接。为解决此限制，所提方法融合了两种通常可获得的过程知识——传感器组知识（与每个子过程关联的传感器）和过程流知识（相邻子过程关系）——这些知识来源于过程图。该方法构建三个互补图（无信息图、传感器组知识信息图、过程流知识信息图），并采用多图注意力网络结合时间卷积网络进行基于预测的异常检测。在水处理和水分配系统上的实验表明，与纯数据驱动的基线相比，F1评分有显著提升；消融研究证实了两种知识来源的贡献。部署时，从业者只需从现有图中指定传感器分组和阶段邻接关系，无需手动建模关系或专门领域专业知识。模型在正常运行数据上训练，并通过预测误差检测异常。当子过程边界与流程有良好文档记录时，该方法最为有效；若工厂配置发生变化则应更新。除了水系统，该方法还可应用于具有类似多阶段结构的化工、发电和自动化制造设施。

## I. 引言

工业控制系统（ICS）是信息物理系统，旨在使少量操作员能够高效管理工业过程。这些系统依赖分布在多个阶段（或子过程）中的大量传感器和执行器来监控和控制操作[2, 4, 3, 1, 5]。对ICS生成的多变量时间序列进行有效监控并及时检测异常，对于防止故障和确保系统可靠性非常重要，这可以通过多变量时间序列异常检测（MTAD）来实现。近年来，采用图神经网络（GNN）的方法[6, 7, 9, 10, 11, 12, 13, 14, 15, 16, 17]在MTAD中展现了卓越性能，这主要归功于它们能够通过图来捕捉复杂的传感器间依赖关系，其中节点代表传感器，边代表其关系。由于在许多实际MTAD场景中图的结构往往是未知的[7]，基于GNN的MTAD方法通常从数据中学习图结构。然而，对于具有多个阶段或子过程的过程而言，准确学习图结构可能具有挑战性，因为这些过程在变量之间和过程阶段之间都表现出复杂依赖关系。特别是，不仅同一阶段内的变量之间可能产生强相关性，不同阶段之间（尤其是紧密相连的阶段）也可能产生强相关性[8]。为说明这一挑战，图1(a)展示了水处理过程的流程图，包含六个子过程（P1–6），每个子过程由多个传感器监控；而图1(b)则突出了P3中两个传感器（MV301和DPIT301）与P6中两个传感器（P602和FIT601）测量值之间的强相关性。这些相关性自然源自底层过程动态。具体而言，在P3中，MV301调节超滤（UF）单元的反冲洗阀门，而DPIT301测量由此产生的压差。类似地，在P6中，P602指示泵的状态，直接影响FIT601测量的水流量。此外，P3与P6通过反冲洗过程内在关联，因为来自P6的处理水被泵送至P3以清洁UF单元。¹¹尽管P3和P6在过程流中顺序连接，但由于物理响应延迟相对于采样分辨率较短，它们的传感器响应在图1(b)中可能几乎同时出现。因此，该图展示了顺序连接子过程的耦合响应，而非不相关子过程的同步运行。图1：(a) 安全水处理（SWaT）过程的流程图，(b) 来自P3和P6的四个传感器的一小时多变量时间序列。图2：在图结构学习中捕获的四传感器关系：(a) GDN[7]和(b) 所提模型。边按学习到的相似度加权，虚线表示缺失的关系。

因此，准确建模这些复杂的相互依赖关系对于有效的MTAD至关重要。然而，现有的基于GNN的MTAD方法仅从数据中推断传感器间关系，往往难以准确捕捉这些复杂依赖。结果，它们可能学习到虚假连接，或未能识别多阶段过程中的关键关系。这一局限在图2(a)中得到了说明，该图展示了图偏差网络（GDN）[7]（一种代表性的基于GNN的MTAD方法）学习到的图1(b)中四个传感器（MV301、DPIT301、P602、FIT601）之间的关系。实线表示检测到的关系，虚线表示缺失的连接。边上的数值表示相似度分数，颜色越深表示推断的连接越强。理想情况下，鉴于四个传感器之间的高相关性（如图1(b)所示），模型应捕捉所有关系。然而，GDN错误地表示了传感器交互，导致依赖关系描述不完整，最终造成次优的异常检测。相比之下，如图2(b)所示，我们提出的方法有效捕捉了真实的传感器依赖关系，从而实现了更可靠的异常检测。

为应对这些挑战，已有研究将传感器组知识（即指定每个传感器关联的子过程）融入基于GNN的MTAD框架[11]。虽然这种方法通过利用传感器组知识改进了依赖建模，但并未考虑过程流知识，即捕捉紧密相关子过程之间的关系。若不显式建模相互连接的子过程间关系，学习到的图结构可能仍会忽略关键依赖，最终限制异常检测的有效性。因此，需要一种更全面的方法，融合传感器组知识和过程流知识，以准确建模多阶段工业过程并提升MTAD性能。

本文提出一种知识辅助的多图框架，用于多阶段工业过程中传感器的依赖关系建模，以实现基于预测的MTAD。该框架扩展了基于GNN的MTAD方法，通过结构化的方式将传感器组知识和过程流知识融入图构建，并利用多图注意力机制挖掘由此得到的互补关系表示以进行预测。这种结构化整合有助于模型更有效地捕捉传感器间依赖关系，优于那些常忽略底层过程动态的纯数据驱动方法。通过将这种知识引导的图结构构建与时间卷积网络（TCN）[19]进行时间建模相结合，所提方法在真实工业数据集上实现了更稳健的预测和更优的异常检测性能。

我们的方法包含三个阶段：(1) 图结构学习，(2) 基于图注意力的预测，(3) 异常评分。我们的主要贡献在于第一阶段——图结构学习——我们引入了一种将过程知识嵌入图中的原则性方法。由于架构约束以及将结构化关系嵌入图表示的困难，这并非易事。为解决此问题，我们引入了一种简单而有效的结构设计，将过程知识无缝整合到GNN框架中。具体来说，我们采用每个传感器的两个可学习嵌入来表示传感器相似度，从而捕捉传感器对之间的双向关系。基于这些相似度，我们构建三个图：(1) 纯数据驱动图，(2) 利用传感器组知识选择性屏蔽相似度的图，(3) 基于过程流知识屏蔽相似度的图。我们的框架并非简单地将先验知识视为辅助节点属性，而是将其直接转化为图构造机制。这为图学习本身引入了结构化归纳偏差，引导稳健地发现传感器间依赖关系。基于这些图，我们预测未来传感器读数，并根据预测误差进行异常检测。这里的关键挑战是将图中学习到的传感器间依赖与传感器内部的时间动态相结合，以实现准确预测和稳健异常检测。由于每个图编码了不同的传感器间关系，我们采用三个独立的图注意力网络（GAT）[18]，分别对应前一阶段构建的每个图，每个网络学习针对相应图的注意力机制，使模型能捕捉互补的关系信息以用于预测。这些GAT通过动态分配不同重要性给相邻传感器，实现了灵活且自适应的关系建模。同时，为建模传感器内部随时间变化的依赖关系，我们使用TCN，利用其以相对较低的计算成本（相比典型循环模型）有效捕捉时间模式的能力。GAT与TCN的输出相结合，形成丰富的时空表示，用于预测未来传感器读数。异常评分则基于预测误差得出。

我们在两个真实的多阶段工业数据集上验证了方法，结果表明融入过程知识显著提升了异常检测性能。本文的主要贡献有三点：(1) 一个用于多阶段工业过程MTAD的知识辅助多图依赖学习框架；(2) 一种利用传感器组知识和过程流知识建模子过程内部及子过程间依赖关系的原则性机制；(3) 全面的实证验证，包括消融研究和定性分析，证明了所提知识引导图设计的有效性和可解释性。

本文其余部分组织结构如下：第二部分回顾相关工作；第三部分概述GAT和TCN；第四部分描述所提方法；第五部分使用真实传感器数据集验证所提方法；最后，第六部分总结全文。

## II. 相关工作

### II-A 无监督多变量时间序列异常检测

遵循异常检测的标准分类，本工作关注点异常检测而非上下文或集体异常检测[20, 21, 23, 24]。针对MTAD，已提出多种基于深度神经网络（DNN）的方法[21, 22, 26, 25]