双注意力头用于ECG分类中的个性化联邦学习

# 本文已被IEEE MWSCAS 2026接收：用于心电图分类的个性化联邦学习中的双注意力头
来源：https://arxiv.org/html/2607.06653
###### 摘要

联邦学习（FL）使各机构能够在不共享敏感患者数据的情况下协作训练模型。然而，各医疗服务提供商的心电图（ECG）数据固有的异质性给鲁棒分类带来了重大技术挑战。我们提出FedDualAtt，一种个性化联邦学习方法，它将Transformer注意力头拆分为全局分支和局部分支。全局头通过FedAvg聚合，以捕获跨站点的共享模式，而局部头则保持客户端特定，以适应机构级别的记录特征。在FedCVD（一个用于心血管疾病检测的FL基准测试）上的实验表明，FedDualAtt在心电图分类任务中优于现有的FL和个性化FL方法。对全局-局部头比例的分析显示，不同客户端受益于不同级别的架构个性化。

## I. 引言

心血管疾病每年导致约1980万人死亡，是全球死亡的主要原因[9 (https://arxiv.org/html/2607.06653#bib.bib1)]。尽管12导联心电图（ECG）仍是检测心脏病理的主要非侵入性工具，但手动分析心电图中的错误可能导致误诊和治疗延误[7 (https://arxiv.org/html/2607.06653#bib.bib2)]。深度学习模型，特别是基于Transformer的架构，在自动多标签心电图分类中表现出色[6 (https://arxiv.org/html/2607.06653#bib.bib6)]，然而其部署需要来自多个临床站点的大型多样化训练集，以确保泛化能力。

联邦学习（FL）[5 (https://arxiv.org/html/2607.06653#bib.bib3)] 通过使各医疗服务提供商能够协作训练模型而不集中敏感患者记录，解决了这些挑战。尽管如此，由于记录设备、患者人口统计和当地疾病流行率的差异，不同医疗服务提供商的心电图数据表现出显著的异质性[11 (https://arxiv.org/html/2607.06653#bib.bib5)]。这些非独立同分布（non-IID）的数据分布导致标准FL方法（如FedAvg[12 (https://arxiv.org/html/2607.06653#bib.bib7)]）性能下降，这些方法试图在分散的客户端分布上强制执行单一全局模型。虽然算法级别的个性化FL方法，如Ditto[2 (https://arxiv.org/html/2607.06653#bib.bib9)]和FedALA[10 (https://arxiv.org/html/2607.06653#bib.bib10)]，通过局部微调或自适应聚合缓解了这一问题，但它们引入了额外的训练目标，并未在表示层面解决异质性。

我们观察到，Transformer自注意力对分布特别敏感：一个头所关注的模式自然反映了其训练数据的统计特征。这启发了一种架构个性化策略，将注意力头划分为两个功能组。全局头通过FedAvg聚合，以捕获通用时间ECG模式，而局部头保持客户端特定，以适应特定站点的记录特征。这种划分除了头拆分比例外，不引入额外的训练目标或超参数。

我们的工作引入了FedDualAtt框架，具有以下贡献：

- • 我们引入了一个双注意力Transformer模块，附加到FedCVD[11 (https://arxiv.org/html/2607.06653#bib.bib5)]的ResNet1D-34骨干网络之上，将注意力头划分为全局分支（FedAvg聚合）和局部分支（每个客户端），使得在单次前向传播中实现跨站点泛化和站点特定适应；
- • 我们设计了一个具有严格参数分离的联邦训练协议：全局和局部参数独立存储、传输和聚合；
- • 我们在所有九种头比例配置上对FedCVD基准进行了实证分析，表征了全局-局部注意力拆分中的稳定性-性能权衡。

其余部分结构如下：第二节 (https://arxiv.org/html/2607.06653#S2)回顾相关工作，第三节 (https://arxiv.org/html/2607.06653#S3)介绍所提出的方法，第四节 (https://arxiv.org/html/2607.06653#S4)描述实验评估，第五节 (https://arxiv.org/html/2607.06653#S5)总结。

## II. 背景

### II-A 用于心电图的联邦学习

FedCVD基准[11 (https://arxiv.org/html/2607.06653#bib.bib5)]为多中心心电图分类上的FL方法建立了一个标准化评估，使用四个真实世界数据集，包含20个诊断标签。评估了七种FL算法，报告的最佳结果是Scaffold[1 (https://arxiv.org/html/2607.06653#bib.bib8)]，全局Micro-F1为70.1%。所有评估的方法都在ResNet1D-34骨干网络上运行，没有时间注意力组件，仅依靠卷积层处理序列ECG依赖关系。我们的工作通过使用双注意力Transformer模块增强ResNet1D-34骨干网络，旨在解耦全局和局部时间表示，从而弥补了这一空白。

### II-B 个性化联邦学习

参数级别的个性化包括Ditto（具有近端项的双目标局部微调）、FedALA（局部自适应聚合权重）、FedBN[4 (https://arxiv.org/html/2607.06653#bib.bib11)]（每个客户端的批量归一化统计量）和FedProx[3 (https://arxiv.org/html/2607.06653#bib.bib13)]（对全局模型的近端正则化）。这些方法将个性化视为聚合后的适应步骤，并可以应用于任何架构。而FedDualAtt在设计时即强制执行全局/局部边界：参数划分在构建时固定，FL协议对全局划分应用标准FedAvg，无需额外的目标或梯度操作。头的专门化在自然语言处理中有先例，分析表明单个Transformer注意力头学习不同的句法和语义功能[8 (https://arxiv.org/html/2607.06653#bib.bib12)]。FedDualAtt在此基础上通过架构显式地实现专门化，在设计时将头分配给全局或局部划分。

## III. 提出的方法

参见图注 图1: FedDualAtt框架。(a) DualAttentionResNet1D，具有并行的全局（θg\\theta^\{g\}，通过FedAvg聚合）和局部（φk\\phi\_\{k\}，每个客户端）注意力分支。(b) 联邦训练协议，具有用于θg\\theta^\{g\}和{φk}k=1K\\\{\\phi\_\{k\}\\\}\_\{k=1\}^\{K\}的独立参数存储。我们考虑K=4K=4个医疗服务提供商，每个提供商有一个私有数据集DkD\_\{k\}，包含12导联ECG记录xikx^\{k\}\_\{i\}和20类多标签二元目标yiky^\{k\}\_\{i\}。客户端协作进行T=50T=50轮通信。

### III-A 模型架构

图1 (https://arxiv.org/html/2607.06653#S3.F1)展示了我们提出的架构。我们将模型参数划分为两组：全局参数θg\\theta^\{g\}（跨客户端聚合）和每个客户端的局部参数φk\\phi\_\{k\}（从不聚合）。

我们将双注意力集成到一个混合CNN-Transformer架构中，使用一个ResNet1D-34从12导联ECG信号中提取特征，然后是两个堆叠的双注意力Transformer块，最后是一个用于多标签预测的分类头。

ResNet1D-34特征提取器：我们采用FedCVD的ResNet1D-34卷积特征提取器，不做修改，以确保与所有基线方法直接可比。它将每个输入xik∈R12×Lx\_\{i\}^\{k\}\\in\\mathbb\{R\}^\{12\\times L\}映射为特征序列X∈RL′×d\\mathbf\{X\}\\in\\mathbb\{R\}^\{L^\{\\prime\}\\times d\}（d=512d=512，L′=156L^\{\\prime\}=156），通过步进卷积、池化和正弦位置编码实现。

双注意力Transformer块：核心设计思想是，完全的FedAvg会破坏站点特定的注意力模式，而纯粹的局部训练无法利用跨站点数据。我们通过将H=8H\\\!=\\!8个注意力头拆分为HgH\_\{g\}个全局头和HlH\_\{l\}个局部头（Hg+Hl=HH\_\{g\}+H\_\{l\}=H）来解决这一问题：全局头通过FedAvg聚合，学习跨医疗服务提供商可迁移的模式；局部头保持每个客户端特定，适应各自站点的分布。每个块通过这两个并行的多头注意力（MHA）分支处理X\\mathbf\{X\}，并配合层归一化（LN）和固定的头维度dh=64d\_\{h\}=64。每个分支使用输入投影Win\\mathbf\{W\}\_\{in\}和输出投影Wout\\mathbf\{W\}\_\{out\}，在模型维度dd和分支的注意力空间之间进行映射。

*全局分支*：

G^=LN\(X+MHA\(XWing,Hg\)Woutg\)∈RL′×d\\hat\{\\mathbf\{G\}\}=\\mathrm\{LN\}\\\!\\left\(\\mathbf\{X\}\+\\mathrm\{MHA\}\\\!\\left\(\\mathbf\{X\}\\mathbf\{W\}\_\{in\}^\{g\},\\,H\_\{g\}\\right\)\\mathbf\{W\}\_\{out\}^\{g\}\\right\)\\;\\in\\mathbb\{R\}^\{L^\{\\prime\}\\times d\} (1)
*局部分支*：

L^=LN\(X+MHA\(XWinl,Hl\)Woutl\)∈RL′×d\\hat\{\\mathbf\{L\}\}=\\mathrm\{LN\}\\\!\\left\(\\mathbf\{X\}\+\\mathrm\{MHA\}\\\!\\left\(\\mathbf\{X\}\\mathbf\{W\}\_\{in\}^\{l\},\\,H\_\{l\}\\right\)\\mathbf\{W\}\_\{out\}^\{l\}\\right\)\\;\\in\\mathbb\{R\}^\{L^\{\\prime\}\\times d\} (2)
分支被拼接并投影到维度dd，然后通过前馈网络（FFN）进行细化：

X′\\displaystyle\\mathbf\{X\}^\{\\prime\}=[G^;L^]Wc\\displaystyle=\[\\hat\{\\mathbf\{G\}\};\\hat\{\\mathbf\{L\}\}\]\\mathbf\{W\}\_\{c\} (3)
Y\\displaystyle\\mathbf\{Y\}=LN\(X′+FFN\(X′\)\)\\displaystyle=\\mathrm\{LN\}\\\!\\left\(\\mathbf\{X\}^\{\\prime\}\+\\mathrm\{FFN\}\(\\mathbf\{X\}^\{\\prime\}\)\\right\) (4)
直观上，全局分支学习哪些ECG时间步长在所有参与的医疗服务提供商之间相互相关，并且由于其参数通过FedAvg聚合，它能够捕获整个客户端群体的通用模式。局部分支使用特定于机构φk\\phi\_\{k\}的参数执行相同操作，学习哪些时间模式与客户端kk的患者人群和记录条件相关，并且从不与其他客户端共享。组合步骤将两种表示融合为单个序列，FFN对每个时间步独立应用位置级非线性变换。组合投影Wc\\mathbf\{W\}\_\{c\}、FFN以及所有三个LN层都是全局参数θg\\theta^\{g\}。保持Wc\\mathbf\{W\}\_\{c\}全局确保全局和局部表示在跨客户端一致的坐标空间中进行融合，因为每个客户端的Wc\\mathbf\{W\}\_\{c\}将允许每个站点任意重新解释共享的全局特征，从而破坏跨客户端对齐。

分类头：全局平均池化减少Y\\mathbf\{Y\}的序列维度，一个带有Sigmoid激活的全连接层产生20类多标签预测，使用二元交叉熵损失进行训练。

### III-B 联邦训练协议

服务器维护全局参数θg\\theta^\{g\}（全局注意力头、组合层、FFN和分类头）。每个客户端kk独立存储其局部参数φk\\phi\_\{k\}（局部注意力头），不与服务器或其他客户端共享。算法1 (https://arxiv.org/html/2607.06653#alg1)描述了一轮通信的协议。由于φk\\phi\_\{k\}从不聚合，每个客户端的局部注意力头仅适应其自身数据分布，而共享的θg\\theta^\{g\}通过FedAvg受益于所有客户端。

算法1 FedDualAtt：通信轮次tt
输入：
θtg\\theta^\{g\}\_\{t\}；客户端kk：φk,t\\phi\_\{k,t\}，DkD\_\{k\}，轮数EE
输出：
θt+1g\\theta^\{g\}\_\{t+1\}；客户端kk：φk,t+1\\phi\_\{k,t+1\}
1: 并行执行每个客户端k=1,...,Kk=1,\\ldots,K do
2: 下行链路：从服务器接收θtg\\theta^\{g\}\_\{t\}
3: 初始化模型：加载θtg\\theta^\{g\}\_\{t\}作为全局参数，φk,t\\phi\_\{k,t\}作为局部注意力
4: 训练：在DkD\_\{k\}上运行SGD进行EE轮，联合更新所有参数
5: 上行链路：向服务器发送(θk,t+1g,nk)\\(\\theta^\{g\}\_\{k,t+1\},\\;n\_\{k\}\\)
6: 将φk,t+1\\phi\_\{k,t+1\}保留在本地存储中
7: end for
8: 聚合：θt+1g←∑k=1Knknθk,t+1g\\theta^\{g\}\_\{t+1\}\\leftarrow\\sum\_\{k=1\}^\{K\}\\frac\{n\_\{k\}\}\{n\}\\,\\theta^\{g\}\_\{k,t+1\}，n=∑k=1Knkn=\\sum\_\{k=1\}^\{K\}n\_\{k\}
9: 返回θt+1g\\theta^\{g\}\_\{t+1\}

## IV. 实验评估

### IV-A 设置

我们提出的框架使用FedCVD多中心ECG分类基准进行评估。该基准包括四个不同的临床数据集：山东大学齐鲁医院（SPH）、德国物理技术联邦机构（PTB-XL）、绍兴市人民医院（SXPH）以及PhysioNet 2020挑战赛（G12EC）。这四个站点在数据集大小、记录硬件和诊断标签分布上差异显著，造成了严重的non-IID条件[11 (https://arxiv.org/html/2607.06653#bib.bib5)]。任务是20类多标签ECG分类。我们报告每个客户端的Micro-F1和平均精度（mAP），这衡量站点级别的适应能力；以及全局Micro-F1和mAP，这汇总所有四个站点所有测试样本的预测，反映泛化到新医疗服务提供商的能力。我们将FedDualAtt与标准联邦算法（包括FedAvg、FedProx和Scaffold）以及个性化方法（如Ditto和FedALA）进行比较。对于FedDualAtt，我们评估了所有九种头比例配置（从8Hg:0Hl8H\_\{g\}\\:\\!0H\_\{l\}到0Hg:8Hl0H\_\{g\}\\:\\!8H\_\{l\}）。所有FedDualAtt结果均为5个种子的均值±\\pm标准差。基线FL结果（Micro-F1, mAP）取自FedCVD论文。

### IV-B 主要结果

表I (https://arxiv.org/html/2607.06653#S4.T1)报告了所有方法的每个客户端和全局Micro-F1及mAP。在所有配置中，FedDualAtt的8Hg:0Hl8H\_\{g\}\\:\\!0H\_\{l\}（所有全局头）实现了最高的全局Micro-F1，为72.7%，比之前的最佳结果（Scaffold, 70.1%）高出2.62.6个百分点。这一改进完全来自于Transformer注意力架构对ResNet1D-34骨干网络的增强，而非个性化。仅局部极端配置（0Hg:8Hl0H\_\{g\}\\:\\!8H\_\{l\}）实现了有竞争力的每个客户端F1，但全局Micro-F1降至50.8%，证实了跨客户端聚合对于跨站点泛化至关重要。

引入局部头（任何Hl≥1H\_\{l\}\\geq 1的比例）持续改善了每个客户端Micro-F1：SPH达到86.6–87.8%（对比FedALA 84.4%），PTB-XL达到70.1–75.2%（对比FedALA 71.7%），G12EC达到70.7–74.3%（对比Ditto 73.4%）。例外是SXPH，其中FedALA（88.2%）仍然最强，表明自适应聚合对该分布更有效。值得注意的是，Ditto在G12EC上表现出高方差（±\\pm6.7 F1），这是近端项方法在高异质性客户端上的已知失败模式。FedDualAtt在所有四个站点上保持稳定。

表I: ECG基准：每个客户端和全局Micro-F1 / mAP (%)。基线FL行报告来自FedCVD论文的均值±\\pm标准差。FedDualAtt行报告5个种子的均值±\\pm标准差。**粗体**=最佳，<u>下划线</u>=次佳，联合排名。
### IV-C 头比例消融

图2 (https://arxiv.org/html/2607.06653#S4.