现实世界客户端流失下的鲁棒联邦学习

# 面向真实世界客户端变动场景的鲁棒联邦学习  
来源：https://arxiv.org/html/2607.06979  

###### 摘要  
联邦学习（Federated Learning, FL）能够在私有设备数据上训练共享模型，然而当前生产系统通常受限于缓慢的多日刷新周期，这是因为协调海量客户端群体的复杂性。但对于现代应用，如信息流排序、广告定向和个性化推荐系统，模型的**时效性**（即快速适应新用户本地数据的能力）是最大化应用目标（如点击率）的关键驱动因素。这种时间差导致模型变得陈旧，无法对易变的实时数据分布（如病毒式传播趋势或用户意图变化）做出响应。缩小这一差距需要应对现有FL系统尚未解决的三个相互制约的约束条件：客户端的短暂可用性、高度动态的数据异构性，以及模型预测与可观察应用结果之间的固有延迟。我们提出FeLiX，一种重新设计的FL编排方法，旨在优化实时交互流上的**时间-目标精度**。FeLiX引入了三个新颖的原语：(i) 流感知可用性层级，利用轻量级遥测大规模筛选就绪客户端；(ii) 新鲜效用选择，一种双层机制，用于在能够满足紧迫刷新截止时间的设备上寻找具有高统计价值的贡献；(iii) 感知信息量的延迟鲁棒聚合，在包含带真实结果的高价值延迟更新的同时，不使全局模型偏向过时分布。与依赖不切实际的客户端可用性先验知识的现有系统不同，FeLiX在真实场景中实现了接近先验的性能。通过在CIFAR-10和Google Speech等多模态数据集以及现实低可用性轨迹上的评估，FeLiX相比最先进的同步和异步FL基线，将时间-目标精度的墙上时钟时间减少了最多2.37×，同时节省了1.30×的总通信带宽。通过实现恶劣真实条件下更快的模型适应，FeLiX确保流式应用与最新的用户交互保持同步。  

††会议：; ;  

## 1. 引言  

联邦学习（FL）能够在大量用户设备上训练共享模型，而无需集中收集原始数据。这一范式使得之前集中式训练器无法访问的私有设备交互日志上的机器学习成为可能（McMahan et al., 2017；Bonawitz et al., 2019；Kairouz et al., 2021）。这种保护隐私的分散化对于多种生产应用至关重要，包括个性化推荐器、信息流排序和会话感知输入预测。FL已部署用于移动键盘和语言预测（Hard et al., 2018；Chen et al., 2019；Xu et al., 2023）、隐私保护医疗分析（Brisimi et al., 2018；Xu et al., 2021；Nguyen et al., 2022a）以及大规模模型个性化（Yang et al., 2019；Xu et al., 2024），成为跨多个领域的隐私敏感协作训练的事实标准方法。  

历史上，这些部署侧重于批量的、多天刷新，其中数据收集与模型更新之间的适度延迟是可以接受的。然而，当代设备端应用越来越需要能够在小时间尺度上适应的**新鲜**模型。用户交互流是易变的：病毒式传播内容、新闻事件、促销活动和短暂的用户意图会迅速改变预测分布。当模型刷新间隔落后于这些变化时，预测相关性会下降，关键应用指标如点击率和下游转化会受到影响（Matam et al., 2024）。实现这些目标需要FL系统在实时流上最小化**时间-目标精度**，同时以生产规模运行。  

请参见图1的标题。  

图1：现有FL系统在客户端短暂可用性和异构流数据下会停滞、错误选择或积累陈旧性，而FeLiX通过自适应的低开销编排，无需轨迹知识即可持续训练达到目标精度。  

从慢批量FL过渡到敏捷流FL很困难，因为近实时更新打破了现有FL系统的核心假设。我们强调三个相互制约的约束条件，这些条件使得现有架构的简单扩展无效：  

#### (1) 客户端短暂可用性  
移动和边缘设备由于电池、网络和用户行为间歇性可访问。可用性在分钟级别波动，并表现出高变动率（M-Lab）。如（Garg et al., 2025）所示，现有缓解措施通常有三种失败方式：(a) **过度选择**，即请求过多客户端参与每轮训练，浪费设备算力和带宽，同时增加服务器端更新方差；(b) **阻塞同步**，当聚合目标未达到时，将每轮延迟从秒级变为分钟级；(c) **粗粒度周期性探测**，要么错过有用客户端的短暂可用窗口，要么为维持最新状态产生高心跳开销。这些方法要么牺牲时间-精度，要么牺牲通信预算，因此不适合每轮涉及数千个客户端的大规模FL部署。针对部分参与导致的统计方差的方法（Jhunjhunwala et al., 2022）或研究大群选择效应的方法（Charles et al., 2021）提高了效率，但仍假设可用客户端池可预测，并未解决分钟级变动。  

#### (2) 不断演变的客户端效用和异构性  
客户端不仅在硬件能力（计算速度、内存、网络）上不同，其近期数据的**统计价值**也不同。我们将**客户端效用**定义为结合数据对实时分布的信息量以及客户端预期计算延迟的一个时变量。现有选择算法通常忽略这些动态（Nguyen et al., 2022b；Bonawitz et al., 2019；Nishio and Yonetani, 2019），而较新的排序方法依赖于不可实现的条件知识（oracular knowledge），难以在部署中应用。不仅如此，它们也未考虑流式任务中变化的数据分布（Lai et al., 2021；Abdelmoniem et al., 2023；Ye et al., 2023）。使用从稀疏探测或历史轨迹得出的效用估计来对客户端排序的选择器会系统性地错误排序参与者，因为这些信号很快过时，引入的偏差可能超过其预期收益。例如，它可能过度选择数据无关的快速设备，而忽略带有新鲜、信息丰富信号的慢速设备。这些技术要么需要不存在的有穷部署轨迹，要么需要粗粒度且经常过时的效用估计，要么需要频繁探测带来高昂开销。因此，它们随着效用变化在时间-精度上迅速退化。  

#### (3) 模型新鲜度与延迟更新  
在生产任务中，最强的训练信号（真实标签）通常有一定延迟到达；例如，推荐的转化可能在交互后数小时才被观察到。这造成了一个基本权衡：立即用代理反馈进行更新可以最大化新鲜度但引入噪声，而等待完整反馈则提高标签质量但付出过时代价。现有策略——如缓冲异步聚合（Nguyen et al., 2022b）或陈旧性加权方案（Xie et al., 2019；Rodio and Neglia, 2024；Zhou et al., 2022）——迫使在收敛速度和统计鲁棒性之间做出选择。不正确的聚合会破坏训练过程，增加达到目标精度的墙上时钟时间，或丢弃有价值但延迟的信号。  

综上所述，这些约束解释了现有同步和异步FL系统为何无法在流式设置中以生产规模达到合理的时间-目标精度，如图1所示。同步方案停滞或过度选择；异步方案避免阻塞但积累陈旧性导致收敛退化（Xie et al., 2019；Lian et al., 2018；Li et al., 2019b）；假设可用性的有穷知识或重量级预测器不可行；频繁探测的高通信成本破坏了性能。实证研究（见§2和图4）表明，即使是适度的不可用性或数据异构性，随着部署复杂度向硬化生产环境变化，也会加剧模型适应时间。不仅如此，随着不可用性和异构性增加，性能会大幅下降，甚至可能不收敛。  

在这项工作中，我们将流FL构建为一个约束优化问题：**在满足短暂可用性、不断变化的每个客户端效用、频繁更新延迟和有界通信开销的条件下，最小化实时交互流上的时间-目标精度。** 这一目标将我们的设计聚焦于将可用性和效用视为低延迟控制输入的策略，同时确保在海量群体中的可扩展性，而不假设客户行为的先知性知识。  

我们提出FeLiX，一个重新设计的FL编排框架，直接优化流生产环境中的**时间-目标精度**。FeLiX将可用性视为一个演变信号，并将廉价的时效性检查与选择逻辑相结合，以优化收敛。我们的核心原语包括：  

- **流感知可用性层级**：FeLiX根据轻量级信号（电池、连接性）将客户端组织成动态就绪层级。这利用了客户端-服务器设计，最小化网络开销，同时确保服务器在紧刷新窗口内拥有关于客户端能力的高保真信息。  
- **基于新鲜效用的选择**：我们引入双层方法，其中**评估层**执行廉价的前向传递以估计数据信息量。这与计算速度融合，优先选择既硬件性能好又能反映最新相关分布变化的客户端。  
- **感知信息量的延迟鲁棒聚合**：FeLiX使用权重平衡更新信息量与模型年龄修正。这使得系统能够安全地合并带有完整反馈的延迟高价值更新，确保全局模型保持鲁棒，而不被慢速客户端或长时间不可用客户端的尾延迟所阻碍。  

我们使用真实世界的MobiPerf轨迹和多模态数据集（包括CIFAR-10（Krizhevsky, 2009）和Google Speech Commands V2（Warden, 2018））对FeLiX进行了详尽评估。我们证明，与最新的同步和异步FL基线相比，FeLiX在时间-目标精度上实现了2.37倍的减少，同时限制了通信开销并保持了新鲜模型的预测能力。  

## 2. 背景与动机  

请参见图2的标题。  

图2：跨设备训练器执行时间在2-120秒之间，由硬件、数据和广域网变异性驱动（Nguyen et al., 2022b）。虽然慢速执行中的落伍者会延迟更新，但短暂的设备不可用性会完全暂停参与，这突显了传统落伍者缓解措施之外的一个关键系统挑战。  

请参见图3的标题。  

图3：跨设备异步FL训练架构概览。为了满足并发级别，客户端被异步随机选择进行本地训练，并向服务器发送更新。每当agg-goal数量的客户端发送更新后，服务器聚合这些更新以获得新的全局模型。  

### 2.1. FL入门与客户端可用性  
**异步FL**。联邦学习（FL）通过在多个分散的、保护隐私的客户端之间保持原始数据本地化来训练共享模型：服务器广播全局权重，客户端在设备上进行本地训练，然后服务器聚合返回的更新（McMahan et al., 2017；Bonawitz et al., 2019）。跨设备部署主要有两种执行模式。在**同步**FL（SyncFL）中，服务器在收集到agg-goal数量的客户端更新后前进一轮；在**异步**FL（AsyncFL）中，服务器在收到更新时立即合并，不阻塞落伍者。SyncFL提供概念简单性和有界陈旧性，但容易受到少数慢速或不可用客户端的延迟影响；AsyncFL以需要原则性陈旧性处理为代价，实现了连续进展，避免了阻塞。FedAvg在非IID数据下的收敛分析（Li et al., 2019b；Wang et al., 2020b）表明，数据异构性加剧了客户端间的梯度发散，而自适应联邦优化器（Reddi et al., 2020）部分补偿但未解决可用性挑战。  

AsyncFL的出现是为了应对实践中观察到的广泛运行时变异性：异步去中心化SGD的理论分析（Lian et al., 2018）和异步联邦优化（Xie et al., 2019）确认，异步更新在温和的陈旧性边界下收敛，但当更新非常陈旧或来自强非IID本地数据时，会急剧退化。移动设备显示出长尾训练运行时间，由计算能力、后台负载和网络延迟的差异驱动，如图2所示。设备异构性和应用驱动的数据生成共同产生了快速演变的训练器运行时分布。这种变异性迫使系统设计者面对三个同时出现的问题：(i) 服务器在任何时刻应选择哪些客户端，(ii) 如何处