FedCC:一种低资源联邦适应基础模型方法,用于胎儿超声图像中稳健的胼胝体定位

arXiv cs.LG 论文

摘要

FedCC 提出了一种联邦学习框架,结合冻结的 DINOv2 骨干网络、轻量级 YOLO 检测头和 LoRA 模块,用于胎儿超声图像中稳健的胼胝体定位,在多中心设置下以大幅降低的通信成本实现了强劲性能。

arXiv:2607.18283v1 Announce Type: new 摘要:在胎儿超声(US)图像中准确定位胼胝体(CC)对于早期识别神经发育异常至关重要。然而,由于超声成像固有的局限性,包括低对比度、散斑噪声以及胼胝体显著的解剖变异,这项任务仍然极具挑战性。我们提出 FedCC,一种基于联邦学习(FL)的框架,用于胎儿超声图像中的胼胝体定位,专为现实的多中心、资源受限的临床环境设计,无需数据共享。该框架集成了冻结的 DINOv2 骨干网络和基于 YOLO 的轻量级检测头。为了实现参数高效的自适应,引入了低秩适应(LoRA)模块,仅允许一小部分参数在客户端之间进行优化和交换。这种策略显著降低了计算和通信开销,使其适用于低资源环境。所提出的方法在包含来自三个临床站点的 58 名孕妇在常规神经超声检查期间使用异构成像设备获取的 10,970 帧超声图像的多中心数据集上进行了评估。该框架在联邦设置中实现了强劲性能。特别是,DINOv2 和 LoRA 在 FedAvg 策略下的组合实现了平均 mAP@50 为 0.857 和 F1-score 为 0.803,优于完全微调和编码器冻结基线。值得注意的是,所提出的方法将可训练参数减少到 2.9M,而完全微调为 24.4M,相当于通信成本降低了约 8.5 倍。这些发现代表了向可扩展、保护隐私且临床可部署的胎儿神经超声 AI 系统迈出的有希望的一步。
查看原文
查看缓存全文

缓存时间: 2026/07/22 08:18

# FedCC:一种低资源联邦适配的基础模型,用于胎儿超声图像中胼胝体的鲁棒定位  
来源:https://arxiv.org/html/2607.18283  
Sara Moccia、Giuseppe Rizzo、Gianpaolo Grisolia、Ricciarda Raffaelli、Lorenzo Vasciaveo、Francesco d’Antonio、Maria Chiara Fiorentino(邮箱:mariachiara\.fiorentino@unich\.it)  

###### 摘要  
**背景:** 在胎儿超声图像中准确定位胼胝体对于早期识别神经发育异常至关重要。然而,由于超声成像固有的局限性(包括低对比度、斑点噪声以及胼胝体显著的解剖变异性),这项任务仍然极具挑战性。此外,由不同采集协议和成像设备导致的显著跨站点变异性进一步增加了自动化分析的难度。尽管具有临床重要性,但胎儿超声中胼胝体的自动定位在文献中受到关注有限,这主要是由于这些技术挑战以及公开标注数据集的稀缺性。  
**方法:** 我们提出了FedCC,一个基于联邦学习的框架,用于胎儿超声图像中的胼胝体定位,该框架专门设计用于现实的多中心、资源受限的临床环境,无需数据共享。该框架将冻结的DINOv2骨干网络与轻量级基于YOLO的检测头相结合。为了实现参数高效的适配,引入了低秩适配模块,仅优化和交换一小部分参数。这一策略显著降低了计算和通信开销,使该框架适用于低资源环境。所提出的方法在包含10,970帧超声图像的多中心数据集上进行了评估,这些图像来自三个临床站点、使用不同成像设备对58名孕妇进行的常规神经超声检查。  
**结果与讨论:** 所提出的框架在联邦设置中表现出强劲性能。特别是在FedAvg策略下,DINOv2与LoRA的结合实现了平均mAP@50为0.857,F1得分为0.803,优于全微调和冻结编码器的基线方法。值得注意的是,所提出的方法将可训练参数数量减少到2.9M,而全微调为24.4M,相当于通信成本降低了约8.5倍。此外,联邦框架在异构领域间提升了泛化能力,尤其是在最具挑战性的客户端上。这些发现代表了向可扩展、保护隐私且可临床部署的胎儿神经超声AI系统迈出的有希望的一步,尽管仍需在更大、更多样化的队列中进行进一步验证。  

###### 关键词:联邦学习,胎儿超声,基础模型,胼胝体  

\\affiliation [1] organization=意大利基耶蒂-佩斯卡拉“G. D’Annunzio”大学医学与牙科创新技术系,城市=基耶蒂,国家=意大利  
\\affiliation [2] organization=意大利基耶蒂-佩斯卡拉“G. D’Annunzio”大学胎儿护理与高危妊娠中心,城市=基耶蒂,国家=意大利  
\\affiliation [3] organization=罗马大学妇产科系,城市=罗马,国家=意大利  
\\affiliation [4] organization=妇产科系,城市=曼托瓦,国家=意大利  
\\affiliation [5] organization=维罗纳大学妇产科系,城市=维罗纳,国家=意大利  
\\affiliation [6] organization=福贾大学妇产科系,城市=福贾,国家=意大利  

{graphicalabstract}  
![[无标题图片]](https://arxiv.org/html/2607.18283v1/framework.png)  

{highlights}  
- 提出了一种用于胎儿超声图像中胼胝体检测的联邦学习框架。  
- 将冻结的DINOv2骨干网络与LoRA适配器和基于YOLO的检测架构相结合。  
- 仅LoRA适配器和检测头参数在联邦客户端之间共享。  
- 与全模型微调相比,通信成本降低高达8.5倍。  
- 在多个中心的胎儿超声数据集上实现了平均mAP@50为0.857和F1得分为0.803。  

## 1 引言  

胎儿超声是监测胎儿发育和评估整个孕期中枢神经系统解剖结构的标准成像方式[44,33]。在孕中期和孕晚期,神经超声检查在早期发现脑部异常中起着基础性作用,从而实现及时的产前咨询和临床管理[43]。在此背景下评估的解剖结构中,胼胝体具有特别的临床相关性。作为连接两个大脑半球的主要白质连合,胼胝体对于半球间通信和正常神经发育至关重要[22],其产前评估通常在正中矢状面上进行,在该平面上,胼胝体表现为位于透明隔腔上方的一条细而弯曲的低回声带(图1)。  

参考标题  
(a) 胎儿大脑矢状面视图,突出显示胼胝体(黄色结构)及周围中线结构。  
参考标题  
(b) 代表性胎儿超声帧,带有描绘正中矢状面胼胝体的真实边界框(绿色)。  
图1:胼胝体检测的解剖背景和定位目标。  

准确定位这一结构在临床上至关重要,因为胼胝体异常(包括发育不全、发育不良和发育低下)是胎儿中枢神经系统最常见的先天性畸形之一,常与神经发育障碍、染色体异常及其他脑部异常相关[34,28]。因此,早期可靠检测对于指导进一步的诊断检查、遗传咨询和预后评估至关重要[35]。尽管具有临床重要性,胎儿超声中胼胝体的鲁棒定位仍具挑战性。该结构本身较小,且其形态外观在妊娠期间(尤其18至32周)会发生显著变化,因为胼胝体逐渐伸长和增厚[6]。这些发育变化与胎儿超声成像的固有局限性(包括斑点噪声、低对比度、声影以及胎儿位置、母体体型和探头方向引入的显著变异性)相互叠加[30,11]。  

在此背景下,胼胝体的自动定位方法可以通过提高胎儿神经超声检查的一致性和效率,为临床医生提供有意义的支持。基于深度学习的方法在自动化胎儿超声复杂图像分析任务方面显示出巨大潜力,可能通过提高不同临床环境中一致性、可重复性和效率来支持临床医生。已有多种方法被提出用于胎儿超声分析,包括标准平面检测、生物测量估计和关键点定位[11,40]。然而,发挥其全部潜力需要在涵盖不同中心、扫描仪和人群的真实世界采集变异性的大型且多样化的数据集上进行训练,这一要求可能与通常限制机构间直接数据共享的法规和伦理约束直接冲突。因此,大多数现有的胎儿超声图像分析方法都是使用来自单个中心和特定超声系统的数据开发的[3,41],本质上容易过拟合特定采集设置,并且对外部临床环境泛化能力差。  

为了解决这些局限性,近期研究开始探索使用基础模型,这些模型在大型异构数据集上预训练,因此能够学习更通用和可迁移的表征[17,21]。与在有限的胎儿超声数据集上从头训练的传统模型相比,基础模型有潜力更好地处理不同扫描仪、采集协议和临床中心引入的变异性[31,27]。然而,将基础模型适配到特定任务应用通常依赖于需要更新大量参数的微调策略,导致在资源受限环境中产生显著的计算和内存需求。参数高效微调方法通过仅引入少量可训练参数同时保持大部分预训练骨干网络冻结来应对这一限制。通过这种方式,参数高效微调显著降低了计算和通信成本,同时保留了预训练中学习到的丰富且可泛化的表征[45,8]。  

这些特性在联邦学习设置中变得尤为有利,其中多个机构在不交换敏感患者数据的情况下协作训练共享模型,从而保护隐私并遵守数据共享法规[38]。当与参数高效微调集成时,在联邦优化过程中仅需在参与机构之间交换轻量级适配器参数,而基础模型骨干网络保持本地存储和冻结。这一策略显著减少了跨站点的可训练参数数量和通信开销,使得在分布式临床环境中部署和适配大型基础模型更加实用[2,38]。此外,减少可训练和传输的参数数量也降低了与模型适配相关的计算和能源需求,可能减少AI开发和部署的环境影响。这一视角与欧盟委员会值得信赖的AI指南相一致,该指南将社会和环境福祉确定为关键要求,并鼓励设计在其整个生命周期中考虑环境足迹的AI系统[7]。通过仅需要轻量级参数更新,所提出的框架降低了计算和通信负担,从而即使在资源受限的设置中也能促进参与协作训练计划[38,37]。  

综合来看,联邦学习、基础模型和参数高效微调的集成代表了在异构胎儿超声数据集中开发用于胼胝体自动定位的鲁棒、可泛化系统的原则性和有前景的策略。本研究的主要贡献如下:  

- • **FedCC**,一个用于胼胝体自动定位的联邦学习框架,将基于DINOv2的基础模型与基于YOLO的检测头相结合。基础模型骨干网络保持冻结,仅轻量级低秩适配模块[13]在联邦过程中训练并在参与中心之间共享,从而显著减少了可训练参数数量和通信开销。这种设计使得在分布式临床设置中适配大型基础模型变得切实可行,同时保护患者隐私。  
- • **多设备域偏移下的鲁棒性系统评估**:我们在一个现实的、以站点间在扫描仪类型、空间分辨率、图像质量和采集条件方面存在显著变异性的多中心多设备场景下评估了FedCC。通过与替代基础模型骨干网络、基于CNN的基线方法、集中式训练、不同适配策略以及联邦聚合方法进行广泛比较,我们表明所提出的基于LoRA的联邦适配改善了跨客户端泛化,并在异构采集设置下保持了鲁棒性能。  
- • **一个新的用于胼胝体检测的胎儿超声数据集**,该数据集在临床实践中采集,覆盖意大利阿布鲁佐、普利亚和威尼托三个地区的三个临床中心,包括使用高分辨率和低分辨率超声设备采集的图像。该数据集涵盖了遇到的显著变异性,并代表了对开发和评估可泛化的胼胝体检测方法的宝贵资源。  

## 2 相关工作  

仅有少数研究专门针对胎儿超声中胼胝体的自动分析,这既反映了任务的固有难度,也反映了标注数据集的稀缺性。在早期贡献中,[14]提出了一个用于胎儿超声图像中胼胝体和脉络丛自动分割的框架。该框架首先识别具有均匀强度模式的区域,然后使用编码形状和局部强度信息的描述符对其进行表征。这些描述符随后与增强分类器相结合以分割目标解剖结构。该框架在两个小型2D胎儿超声数据集上进行了评估:219张用于胼胝体分割的正中矢状图像(采集自21至30孕周的胎儿),以及120张用于脉络丛分割的经丘脑图像(采集自20至22孕周的健康胎儿)。该框架取得了较高的分割精度,胼胝体的Dice系数为0.81±0.06,脉络丛的Dice系数为0.76±0.08。然而,其对手工特征和传统分类器的依赖可能限制了其在异构采集设置中的泛化能力。  

最近,[42]的研究提出了FB-ZWUNet,一个端到端的胼胝体分割网络,集成了用于特征增强的注意力模块、用于优化特征融合的小波注意力模块以及用于精确边缘和区域捕获的形态学约束模块。该网络在FB-CC数据集上进行了训练,该数据集包含1,336张标注的胎儿大脑正中矢状超声图像(孕周18至32周),使用三种不同的超声设备采集,在一个包含1,336张标注正中矢状超声图像的专用胎儿大脑胼胝体数据集上取得了Dice系数0.874和IoU 0.781。  

[24]的研究提出了CC-FocusNet,一个深度学习框架,将自动区域定位与解剖感知双流网络相结合。

相似文章

准确且资源高效的联邦持续学习

arXiv cs.LG

FedRAN是一种资源感知的分析型联邦持续学习框架,用紧凑的随机特征统计量替代基于梯度的更新,在显著降低通信与计算成本的同时实现高精度。

Federated Foundation Models Fine-Tuning with Heterogeneous Compressed Clients

arXiv cs.LG

This paper proposes FedSLM, a parameter-centric framework for federated fine-tuning of foundation models with heterogeneous compressed clients, using SVD-based decomposition and a weak-to-strong elicitation step to handle resource asymmetry. Experiments show it outperforms existing federated baselines while reducing client GPU memory by ~50%.