面向智能服务的漂移稳定量子联邦学习

# 一种抗漂移的量子联邦学习框架用于智能服务  
来源：https://arxiv.org/html/2607.21647  
Shanika Iroshi Nanayakkara 和 Shiva Raj Pokhrel  
Shanika Iroshi Nanayakkara 与澳大利亚迪肯大学信息技术学院（VIC 3125，伯伍德）联系，电子邮箱：[email protected]。  
Shiva Raj Pokhrel 与澳大利亚迪肯大学信息技术学院联系，电子邮箱：[email protected]。  

###### 摘要  
量子联邦学习使分布式客户端能够在无需共享本地数据的情况下训练量子神经网络，因此非常适合隐私感知的智能服务。本文中的“智能服务”指隐私敏感的分布式决策系统，例如欺诈检测和基因组分类，在这些系统中，可靠且公平的客户端级学习与聚合模型的准确性同等重要。然而，异构的客户端数据和嘈杂的量子优化常常导致不稳定的本地更新、客户端漂移以及客户端之间不公平的性能。本文提出 DUQFL-Prox，一种基于深度展开局部优化的抗漂移量子联邦学习框架。每个客户端不采用固定的本地优化器，而是执行自适应的展开 SPSA 更新，同时通过一个近端项使本地模型接近全局模型。一个轻量级的控制器学习步骤特定的优化参数，以提升聚合后的性能。在金融欺诈和基因组分类任务上的实验表明，与标准 QFL 基线相比，DUQFL-Prox 在稳定性、泛化能力和客户端公平性方面均有提升。结果表明，深度展开的量子联邦学习能够在异构分布式环境中支持更可靠、更公平的智能服务。  

## 一、引言  
联邦学习（FL）已成为一种有前景的协作模型训练框架，其中多个客户端在不集中原始本地数据的情况下优化共享模型。通过允许客户端进行本地训练并仅向协调服务器传递模型更新，FL 为隐私感知和通信高效的智能提供了有吸引力的范式 [16 (https://arxiv.org/html/2607.21647#bib.bib51)]。随着量子机器学习的发展，这种分布式设置在量子背景下也变得越来越相关，催生了量子联邦学习（QFL），其中多个客户端协作训练量子或量子增强模型，同时保持本地数据的去中心化 [36 (https://arxiv.org/html/2607.21647#bib.bib26),7 (https://arxiv.org/html/2607.21647#bib.bib28),23 (https://arxiv.org/html/2607.21647#bib.bib46)]。然而，在这种设置下，优化变得比传统经典 FL 更具挑战性，因为量子神经网络（QNN）的本地训练通常是嘈杂的、非凸的、对测量次数敏感且高度依赖于优化器配置 [10 (https://arxiv.org/html/2607.21647#bib.bib1),36 (https://arxiv.org/html/2607.21647#bib.bib26)]。在本文中，“智能服务”一词指的是分布式 AI 驱动的服务环境，其中数据驱动的决策必须从去中心化、隐私敏感且异构的客户端数据中学习。此类服务包括金融欺诈检测、基因组分类、医疗健康分析、网络物理监控 [34 (https://arxiv.org/html/2607.21647#bib.bib3)] 以及边缘智能，在这些场景中，数据自然分布在不同机构、设备或服务提供商之间，且因隐私、监管或所有权限制无法自由集中 [5 (https://arxiv.org/html/2607.21647#bib.bib4)]。这些设置不仅要求较高的聚合准确率，还需要稳定的优化、公平的客户端级性能以及跨异构参与者的可靠泛化 [22 (https://arxiv.org/html/2607.21647#bib.bib2)]。  

参考图注  
图 1：DUQFL 高层设置，包含自适应本地 QNN 训练、选定模型聚合以及控制器引导的全局优化。  

在异构联邦环境中，提高训练效率的一种常见策略是排除、降低权重、延迟或选择性采样慢速客户端（通常称为掉队者）。先前 FL 研究表明，系统异构性（包括计算和通信能力的差异）会显著拖慢同步联邦训练 [16 (https://arxiv.org/html/2607.21647#bib.bib51),12 (https://arxiv.org/html/2607.21647#bib.bib56),28 (https://arxiv.org/html/2607.21647#bib.bib62)]。因此，诸如 Oort 之类的客户端选择方法通过优先选择统计和系统效用良好的客户端来改善达到准确率的时间 [15 (https://arxiv.org/html/2607.21647#bib.bib57)]。然而，选择或缓解掉队者的策略也可能导致代表性问题，当慢速、资源受限或统计特征独特的客户端反复被低估时，这种问题尤为突出。最近关于有偏客户端选择和参与不平衡的研究表明，非均匀的客户端参与可能会使学习到的全局模型产生偏差，并影响公平性或客户端级性能 [2 (https://arxiv.org/html/2607.21647#bib.bib55),29 (https://arxiv.org/html/2607.21647#bib.bib54)]。在实际 QFL 设置中，这种问题是不理想的，因为异构客户端可能包含稀有、领域特定或临床上重要的数据分布。DUQFL-Prox 并非排除这些客户端，而是旨在稳定它们本地的 QNN 优化轨迹，使其更新仍对全局聚合有用。  

现有 QFL 流程的一个核心局限性在于本地优化通常被视为一个固定过程。在典型设置中，每个客户端接收广播的全局模型，使用固定的优化器计划执行预定次数的本地优化步骤，并将得到的参数返回给服务器。这种设计隐含地假设相同的本地训练规则适用于所有客户端、数据分布和通信轮次。在 QFL 中这种假设具有限制性，因为 QNN 优化对学习率、扰动尺度、测量噪声以及变分量子损失景观的非凸几何形状非常敏感。因此，在非独立同分布数据下，固定的本地优化可能产生不均匀的客户端更新、过度的客户端漂移以及不稳定的聚合后行为。  

SPSA 对 QNN 训练很有吸引力，因为它仅通过两次目标函数评估就能估计更新方向，与可训练参数的数量无关 [32 (https://arxiv.org/html/2607.21647#bib.bib58)]。这一特性使 SPSA 在变分量子模型中具有实用性，尤其是在解析梯度成本高昂、不可用或嘈杂的情况下 [8 (https://arxiv.org/html/2607.21647#bib.bib59)]。然而，在联邦 QNN 训练中，固定的 SPSA 调度可能过于僵化。保守的设置可能减缓本地改进，而激进的设置则可能放大客户端漂移并降低本地更新在聚合时的兼容性。因此，核心挑战不仅仅是使用 SPSA，而是使基于 SPSA 的本地 QNN 优化具有自适应性，同时保持客户端更新与全局联邦目标对齐。  

为应对这一挑战，我们提出了*深度展开近端正则化量子联邦学习（DUQFL-Prox）*，一种用于异构智能服务的抗漂移 QFL 框架。DUQFL-Prox 将基于 SPSA 的本地 QNN 训练分解为 \(K\) 个展开优化块。在每个展开步骤，一个轻量级的共享控制器根据优化状态特征（包括展开进度、近期损失行为、参数位移和客户端上下文）生成步骤特定的 SPSA 学习率和扰动尺度。这使得本地 QNN 优化能够跨客户端、展开步骤和通信轮次进行自适应调整，而不是依赖固定的优化器调度。然而，仅靠自适应本地优化可能会在非独立同分布联邦数据下放大客户端漂移。因此，DUQFL-Prox 在客户端目标中引入近端正则化，以惩罚与广播全局模型之间的过大偏差。这鼓励每个客户端在改进其本地 QNN 目标的同时保持聚合兼容的更新。此外，每个客户端上传的是验证偏好展开检查点，而不是必定返回最终的展开状态，从而防止过于激进的后期更新破坏全局聚合。DUQFL-Prox 遵循双层学习结构。在内层，每个客户端对其本地 QNN 参数执行深度展开的近端 SPSA 优化。在外层，共享控制器通过基于聚合后验证行为的元目标进行定期优化。因此，DUQFL-Prox 不仅学习 QNN 参数，还学习本地 QNN 优化应如何演变，从而使客户端更新变得更加稳定、公平且对聚合有用。  

本文的主要贡献总结如下：  

- • 我们提出了 DUQFL-Prox，一种用于异构智能服务的抗漂移深度展开 QFL 框架，其中本地 QNN 训练被建模为自适应多步优化过程，而非固定的优化器例程。  
- • 我们设计了一种控制器驱动的 SPSA 机制，该机制根据本地优化状态特征生成展开特定的学习率和扰动尺度，使得 QNN 训练能够跨客户端、通信轮次和展开步骤进行自适应调整。  
- • 我们引入了近端正则化和基于验证的最佳展开选择，以减少客户端漂移、防止过度的局部专门化更新并提高聚合兼容性。重要的是，我们引入了一种外层元损失引导的控制器自适应机制，将本地优化行为与聚合后的全局性能对齐。  
  我们通过全局准确率、客户端级泛化、训练-测试差距、公平性差距以及不平衡感知分类指标，在金融欺诈检测和基因组分类任务上评估了 DUQFL-Prox。  

本文其余部分组织如下。第二节 (https://arxiv.org/html/2607.21647#S2) 回顾了 QFL、QNN 优化、联邦异构性和深度展开的相关工作。第三节 (https://arxiv.org/html/2607.21647#S3) 提出问题形式化和 DUQFL-Prox 方法论。第四节 (https://arxiv.org/html/2607.21647#S4) 描述实验设置和可重现性协议。第五节 (https://arxiv.org/html/2607.21647#S5) 展示实证结果和消融分析。第 LABEL:sec:discussion 节讨论意义、局限性和未来研究方向，第六节 (https://arxiv.org/html/2607.21647#S6) 总结全文。  

## 二、相关工作  
表 I：研究空白。\(\checkmark\) 表示显式支持，\(\triangle\) 表示部分支持，\(\times\) 表示有限或没有支持。  
表 I (https://arxiv.org/html/2607.21647#S2.T1) 显示，先前的 QFL 研究主要集中在安全量子通信、隐私保护学习、特定应用 QFL 实现以及服务器端聚合机制 [17 (https://arxiv.org/html/2607.21647#bib.bib72),3 (https://arxiv.org/html/2607.21647#bib.bib8),37 (https://arxiv.org/html/2607.21647#bib.bib31),6 (https://arxiv.org/html/2607.21647#bib.bib5),7 (https://arxiv.org/html/2607.21647#bib.bib28),25 (https://arxiv.org/html/2607.21647#bib.bib35),39 (https://arxiv.org/html/2607.21647#bib.bib23),26 (https://arxiv.org/html/2607.21647#bib.bib74),1 (https://arxiv.org/html/2607.21647#bib.bib20),33 (https://arxiv.org/html/2607.21647#bib.bib66)]。虽然这些研究确立了 QFL 的可行性，但本地 QNN 优化通常被视为一个固定的内部过程。当客户端数据是非独立同分布且量子测量具有随机性时，这种假设变得具有限制性。在这种情况下，本地更新可能变得不稳定、偏离全局模型并降低客户端级泛化能力。  

QNN 训练通常依赖于梯度下降、Adam、COBYLA 和 SPSA 等优化器。SPSA 特别适合于变分量子模型，因为它仅通过两次目标函数评估就能估计随机更新方向，与可训练参数数量无关 [27 (https://arxiv.org/html/2607.21647#bib.bib49),31 (https://arxiv.org/html/2607.21647#bib.bib50)]。然而，在联邦 QNN 训练中，固定的 SPSA 调度可能不足：保守的设置会减缓本地改进，而激进的设置会放大客户端漂移并降低聚合兼容性。因此，关键挑战不仅是使用 SPSA，而是在保持全局联邦一致性的同时自适应基于 SPSA 的本地 QNN 优化。  

深度展开提供了一种将迭代优化转换为结构化且可学习的更新过程的原则性方法 [30 (https://arxiv.org/html/2607.21647#bib.bib48)]。同时，诸如 FedProx 和 SCAFFOLD 等经典 FL 方法表明，客户端漂移是异构数据下的核心障碍，而近端或校正机制可以改善稳定性 [16 (https://arxiv.org/html/2607.21647#bib.bib51),13 (https://arxiv.org/html/2607.21647#bib.bib52)]。尽管这些方法并非量子专用，但它们启发了 QFL 中自适应和漂移感知的本地优化策略的开发。  

受这些差距的启发，我们提出了*深度展开近端正则化量子联邦学习（DUQFL-Prox）*。DUQFL-Prox 将基于 SPSA 的本地 QNN 训练展开为多个控制器引导的优化块。控制器根据本地优化状态特征生成步骤特定的学习率和扰动尺度，同时一个近端项惩罚与广播全局模型之间的过大偏差。控制器进一步使用聚合后元目标进行优化，将本地优化行为与全局验证性能联系起来。所提出的框架在三个方面不同于先前的 QFL 工作。首先，本地 QNN 优化被建模为控制器驱动的展开过程，而非固定的客户端例程。其次，引入近端正则化以改善客户端漂移下的聚合兼容性。第三，控制器基于聚合后验证行为进行更新，而不仅仅依赖本地训练信号。据我们所知，这种展开 SPSA 的 QNN 优化、近端客户端漂移控制以及外层元损失引导的控制器自适应的组合在现有 QFL 文献中尚未被明确开发。  

与客户端过滤或掉队者移除策略不同，DUQFL-Prox 不会丢弃异构客户端。相反，它稳定它们的本地优化轨迹，使其更新对聚合仍然有用。这在生物医学、基因组、欺诈检测和遥感场景中非常重要，因为困难的客户端可能包含稀有但重要的模式。因此，我们的评估报告了全局准确率以及平均客户端测试准确率、训练-测试差距、客户端公平性差距和不平衡感知指标，如 F1 分数、精确率、召回率、ROC-AUC、PR-AUC 和 MCC。  

## 三、问题形式化与方法论  

### III-A 问题陈述  
本文的目标是在异构客户端参与下提高 QFL 的稳定性、泛化能力和客户端级可靠性。在传统 QFL 中，每个客户端接收广播的全局 QNN 参数，执行本地优化，并将更新后的参数返回给服务器进行聚合。然而，在非独立同分布数据和随机量子测量下，固定的本地优化……