基于解释的运行时验证：实现可信赖的机器学习驱动光网络

# 基于解释的运行时验证：面向可信的ML驱动光网络

本工作得到了EUREKA CELTIC-NEXT SUSTAINET-Advance项目的支持，该项目由瑞士创新机构Innosuisse（项目编号119.588 INT-ICT）和瑞典创新机构Vinnova（项目编号2025-02987）资助。通讯作者：[email protected]
来源：https://arxiv.org/html/2607.20675
Omran Ayoubhttps://orcid.org/0000-0002-3884-35941, Carlos Natalinohttps://orcid.org/0000-0001-7501-55472, Ali Al Housseinihttps://orcid.org/0009-0003-6682-474X1, Felix Foschum3, Philipp Morger3, Tiziano Leidihttps://orcid.org/0000-0002-6335-79771, David Hockhttps://orcid.org/0009-0002-5142-26874, Paolo Montihttps://orcid.org/0000-0002-5636-99102

###### 摘要

机器学习(ML)模型日益集成到光网络自动化框架中，以支持故障管理、性能监控和资源分配等任务。在这些环境中，ML驱动的预测可能直接与控制面动作耦合，错误的决策会立即影响服务质量、资源效率和网络稳定性。随着自动化程度的提高，确保部署时单个决策的可靠性成为关键需求。可解释人工智能(XAI)技术应运而生，通过突出影响ML预测的因素来提高透明度。除了识别有影响的特征外，XAI还能揭示模型的底层推理过程，展示不同输入变量如何影响最终结果，以及特征交互如何塑造决策边界。在这项工作中，我们引入了基于解释的运行时验证，这是一种利用模型解释来评估单个ML决策在付诸网络控制回路之前合理性的方法。所提出的方法在运行时评估解释一致性和物理基础一致性，使系统能够推迟或拒绝被标记为不确定的决策。我们通过一个具有代表性的光路传输质量分类用例来展示该方法的有效性。实验结果表明，基于解释的验证可以拦截很大一部分错误决策，同时保持较高的自动化率。

## I. 引言

机器学习(ML)模型越来越多地部署在光网络中，以支持配置选择、性能估计、异常检测和资源分配等操作决策[8](https://arxiv.org/html/2607.20675#bib.bib13)。随着这些模型嵌入到控制和编排系统中，它们的输出不再仅仅是咨询性的，而是直接影响网络动作。在这样的环境中，错误的ML决策可能导致服务降级、资源利用效率低下或自动化工作流不稳定[22](https://arxiv.org/html/2607.20675#bib.bib14)。

在离线验证期间确保高整体预测准确性并不足以保证安全部署，因为此类模型在特定网络条件下仍可能产生孤立的错误决策。从运营商的角度来看，关键问题不仅仅是*模型整体有多准确？*，而是*在运行时某个特定决策在被实施之前能被信任吗？*因此，避免错误的自动化决策，特别是可能触发不安全配置的假阳性决策，在运营光网络中至关重要。

可解释人工智能(XAI)技术已被引入，通过揭示哪些输入特征影响模型预测来提高透明度，最终目标是实现模型行为验证并增强信任[11](https://arxiv.org/html/2607.20675#bib.bib15)。虽然此类解释增强了可解释性并促进了离线分析，但它们本身并不提供在推理时评估单个决策可靠性的机制。一个解释可以描述一个决策，但它并不验证推理是否连贯、合理或得到充分支持以证明操作实施是合理的。

在这项工作中，我们为光网络中的ML驱动决策系统引入了*基于解释的运行时验证*。这里的运行时验证指的是持续评估ML输出是否符合预定义的可接受性标准，使系统能够有选择地接受有充分支持的决策，并推迟那些表现出矛盾或不充分解释证据的决策。换句话说，我们利用解释作为运行时证据来验证底层ML模型的决策。

我们首先定义一个不确定性标准，以识别潜在不可靠或边界预测（例如，低置信度或类间边际小）。对于每个被标记的实例，我们使用XAI技术——即Shapley加法解释(SHAP)[18](https://arxiv.org/html/2607.20675#bib.bib16)——提取特征归因，并在单个决策层面分析特征影响的方向和大小。这些归因随后根据预定义的可接受性规则进行评估，这些规则同时评估决策与解释的一致性（即，主导特征是否真正支持预测类别）以及其与光层物理的一致性（即，有影响的特征是否与已知的物理原理和运营知识一致）。如果主要的解释性因素一致支持预测结果，并且对应于有意义的网络驱动因素，那么该决策即使不确定，也会被接受。否则，它将被推迟到保守的处理程序或备用机制，如人工监督。因此，目标是选择性地识别和抑制不可靠的不确定决策，而不是不加区分地丢弃所有低置信度预测，从而在显著降低错误决策风险的同时保持高自动化水平。

我们假设，表现出不连贯、不稳定或物理上不一致的解释模式的预测，本质上更容易不可靠或虚假。通过验证每个预测背后的推理结构，系统可以识别其内部逻辑与领域原则或运营知识相冲突的决策，从而降低错误控制动作的风险。总体目标是通过直接在部署流程中嵌入基于解释的一致性检查，来增强ML驱动光网络自动化的可信度和操作安全性，同时无需修改底层预测模型或增加显著计算开销。

我们通过一个具有代表性的二元光路径传输质量(QoT)分类用例来展示我们方法的有效性。在两个开放数据集上的实验结果表明，所提出的方法支持选择性拒绝高风险批准，降低了假阳性率，同时维持了高自动化水平。

## II. 预备知识：特征归因

本节介绍XAI和特征归因的基本概念，因为后者构成了我们方法的核心构建块。

XAI包含旨在使ML和AI模型的决策过程对人类透明且可理解的方法和框架。其主要目标是“打开”黑盒模型，通过生成可解释的解释来揭示输入特征如何影响预测。除了透明度之外，XAI还允许实践者揭示模型学习到的关系，识别有影响的输入特征，并验证与领域知识的一致性。它还支持在关键场景中的模型调试和人工监督。

最广泛采用的XAI方法是事后解释方法。这些技术在模型训练后应用，不修改模型的内部结构或预测行为，旨在解释给定决策是如何达成的。根据其范围，事后解释可以提供全局或局部的见解。全局解释描述了模型在整个数据集上的整体行为，例如通过揭示每个特征的影响并验证与已知趋势的一致性。相比之下，局部解释关注单个预测，并识别对该特定结果贡献最大的具体特征。

图例说明 图1：使用SHAP为光路径QoT分类模型生成的全局解释（左）和局部解释（右）示例。全局解释可视化了整个数据集中针对不可接受QoT类别的整体特征影响（SHAP值），描述了模型的总体行为。例如，它表明更多的跨段数、更高阶调制格式、更高的链路占用率以及更长的路径长度会导致光路径QoT降级，这与领域知识一致。相比之下，局部解释展示了单个预测的特征归因，量化了每个输入特征如何贡献于该特定决策。这些图表的详细解释见[5](https://arxiv.org/html/2607.20675#bib.bib1)。在这项工作中，我们依赖局部解释，特别是特征归因方法，即基于特征的解释，量化每个输入变量对模型输出的影响。图1(eference to caption) 展示了一个全局解释（左）和一个局部解释（右）的例子 1 [5](https://arxiv.org/html/2607.20675#bib.bib1) 在光路径QoT估计背景下提供了这些图表的详细解读。局部解释图量化了单个特征对特定预测的贡献，区分了支持模型决策（正贡献）的特征和反对模型决策（负贡献）的特征。每个贡献的大小反映了其对最终输出影响的强度，从而能够细粒度地理解单个自动化决策背后的推理过程。在我们的工作中，我们采用特征归因来测量单个决策层面的特征影响。像SHAP[18](https://arxiv.org/html/2607.20675#bib.bib16)这样的方法提供了一种原则性的方式，将预测分解为加性特征贡献，支持局部和聚合分析。这种对特征影响的量化构成了我们运行时验证框架的基础，因为它使得在决策实施之前能够系统地评估归因分数所反映的推理在运营和物理上是否一致。

## III. 相关工作

XAI在光网络背景下日益受到研究，主要用于增强透明度、提取运营见解以及理解输入特征对ML模型决策的影响。然而，现有工作主要利用可解释性进行事后解释和知识蒸馏，而不是用于运行时验证或ML驱动决策的操作验证。

几项研究集中于光路径QoT估计的XAI。在[5](https://arxiv.org/html/2607.20675#bib.bib1)中，XAI技术被应用于监督式QoT分类模型，以提取特征相关性的见解并分析误分类。类似地，[4](https://arxiv.org/html/2607.20675#bib.bib4), [3](https://arxiv.org/html/2607.20675#bib.bib3)利用基于SHAP的解释来量化输入特征的影响，并识别驱动QoT预测的特征值组合。在[12](https://arxiv.org/html/2607.20675#bib.bib5)中，XAI被用于识别最具影响力的特征，从而实现特征集缩减以降低遥测负载和计算复杂性，同时保持预测性能。沿着同样的思路，[1](https://arxiv.org/html/2607.20675#bib.bib6)将XAI驱动的特征选择与迁移学习技术相结合，以增强模型在异构数据集上的适应性和可靠性。除了技术性能，[17](https://arxiv.org/html/2607.20675#bib.bib2)研究了用于光网络管理任务的可解释AI模型，并评估了可解释性对运营商信任和故障定位的影响。

可解释性也被用于故障管理。在[15](https://arxiv.org/html/2607.20675#bib.bib8)中，XAI被应用于解释基于ML的、利用光信号测量的故障定位决策。类似地，[14](https://arxiv.org/html/2607.20675#bib.bib7)结合了SHAP和局部可解释模型无关解释框架，以增强基于ML的、利用光时域反射仪数据的实时故障检测中的透明度和运营商信任。此外，在流量预测和动态网络优化背景下，[13](https://arxiv.org/html/2607.20675#bib.bib9)使用XAI来识别哪些传输和网络状态参数最影响弹性光网络中的带宽阻塞概率，而[16](https://arxiv.org/html/2607.20675#bib.bib10)通过分析跨流量类型和聚合级别的特征相关性，提取了对流量预测模型的见解。最近，可解释性在基于强化学习(RL)的控制框架中得到了探索。在[2](https://arxiv.org/html/2607.20675#bib.bib11)中，基于Shapley的解释与深度RL代理集成用于网络切片准入控制，以在部署前分析和验证拒绝决策。类似地，[21](https://arxiv.org/html/2607.20675#bib.bib12)增强了用于RL驱动的路由和频谱分配的基于Shapley的可解释性，以解释主动的光路径拒绝。

除了可解释性，几项工作集中在通过不确定性量化(UQ)和概率建模来增强光网络ML模型的可靠性。这些方法旨在提供校准的置信区间、预测边际或分布估计，以支持风险感知决策。例如，在[9](https://arxiv.org/html/2607.20675#bib.bib17), [10](https://arxiv.org/html/2607.20675#bib.bib19)中提出了校准回归和概率QoT建模技术，而在[19](https://arxiv.org/html/2607.20675#bib.bib18), [20](https://arxiv.org/html/2607.20675#bib.bib20)中利用深度分位数回归和蒙特卡洛Dropout来明确表示预测不确定性并减少过于保守的设计裕度。最近，引入了共形预测框架，以在领域偏移下提供具有统计保证的QoT估计[23](https://arxiv.org/html/2607.20675#bib.bib21)。

虽然这些方法在输出层面量化了预测不确定性，但它们并没有明确验证单个决策的内部推理结构。相比之下，我们的工作利用模型解释作为运行时证据来评估决策与解释的一致性以及物理一致性。重要的是，基于解释的验证与不确定性感知建模是正交的，可以自然地与UQ或共形预测技术相结合，以进一步增强决策可靠性。

最后，我们注意到少数工作探索了在操作期间将解释用于验证目的。在[6](https://arxiv.org/html/2607.20675#bib.bib23)中，SHAP解释被用作辅助信号来区分之前见过的和未见过的网络攻击，效