通信约束下公平个性化去中心化学习的统一框架

# 面向通信受限场景的公平个性化去中心化学习统一框架
来源：https://arxiv.org/html/2608.26493
## 面向通信受限场景的公平个性化去中心化学习统一框架

作者：K. S. Tharakan 与 C. Fischione 隶属于瑞典斯德哥尔摩 KTH 皇家理工学院电气工程与计算机科学学院。邮箱：{tharakan, carlofi}@kth.se

###### 摘要

去中心化学习系统旨在无需中央协调者的情况下，在多个客户端间协作训练模型。虽然去中心化提升了可扩展性、隐私性和鲁棒性，但也加剧了三项基本挑战：客户端间的统计异质性、客户端层面的性能公平性以及严格的通信约束。这引出了一个自然的问题：*在有限通信条件下，去中心化学习能达到何种公平程度？* 我们通过提出一个通信受限下的去中心化学习统一框架来回答这一问题，该框架融合了基于图的个性化、不可知公平性以及压缩事件触发通信。具体而言，我们提出了一种新算法 DMFL-SQ，这是一种去中心化多任务学习算法，将基于通信图的个性化模型训练与不可知混合公平目标相耦合，同时通过稀疏化、量化和事件触发同步来减少通信。我们为一般非凸目标建立了收敛保证，并证明 DMFL-SQ 在预期平方 Moreau-包络平稳性方面达到 O(T^{-1/2}) 的收敛速率，尽管采用了稀疏、量化且事件触发的通信方式。我们进一步推导了面向公平性混合目标的 PAC-Bayes 泛化保证。在 CIFAR-10 和真实异构 MUSMET 脑电数据集上的实验表明，DMFL-SQ 在显著减少通信量的同时，保持了预测性能并提升了客户端间的公平性。综合我们的理论与实证结果表明，在去中心化学习中，个性化、公平性和通信效率可以同时实现，且不会损失主导的收敛速率。

###### 索引术语：

去中心化学习、公平性、多任务联邦学习、稀疏通信。

## I 引言

联邦学习（FL）使多个客户端能够在不直接共享本地数据的情况下协作训练机器学习模型[1, 2]。在经典 FL 设置中，中央服务器通过收集参与客户端的本地模型更新并将其聚合成单一全局模型来协调训练过程。该范式已在分布式数据源（包括移动设备、边缘传感器和网络化智能系统）上实现了大规模学习[3, 4]。然而，FL 的实际部署面临若干根本性挑战。客户端数据往往具有统计异质性，使得单一全局模型对许多用户而言并非最优。仅优化平均性能也可能导致不公平的结果，其中数据稀少、嘈杂或不具代表性的客户端会遭受不成比例的高损失[5]。此外，频繁通信高维模型更新在带宽有限、能量受限且不可靠的网络中构成了严重瓶颈。

解决统计异质性的一个自然方法是通过个性化或多任务学习。不是对所有客户端强制实施单一共享模型，而是让每个客户端在仍受益于与相关客户端协作的同时，学习个性化模型。在基于图的个性化学习中，客户端被表示为通信图或相似度图的节点，并通过基于图的正则化机制鼓励相邻模型保持接近。这允许学习过程利用客户端间的统计相似性，同时保持局部适应性。此类表述已在多任务和个性化联邦学习中被研究[6, 7, 8, 3]。然而，大多数现有的个性化 FL 方法要么依赖于集中式协调，要么没有明确解决客户端间的公平性问题。

公平性感知的联邦学习已成为缓解客户端层面性能差异的重要方向。公平性感知方法不仅优化平均损失，还致力于改善代表性不足或高损失客户端的性能。基于分布鲁棒优化、不可知联邦学习和条件风险价值（CVaR）的方法旨在控制最坏情况或上尾部客户端风险，从而提高对异构客户端分布的鲁棒性[9, 10, 11]。然而，这些方法通常假设集中式聚合和频繁的全局同步。它们在通信有限的完全去中心化网络中的集成很大程度上尚未被探索。

通信效率是去中心化学习中的另一个核心挑战[12, 13]。与基于服务器的 FL 不同，完全去中心化系统要求客户端直接通过通信图与邻居交换信息。这消除了对中央协调者的需求，并提高了对服务器故障的鲁棒性，但也使通信变得更加复杂。每个客户端必须通过带宽有限的链路重复传输模型更新或梯度，而这些更新通常是高维的。压缩、稀疏化、量化和事件触发通信可以显著降低此成本[14, 15]。然而，激进的通信减少可能会引入额外的偏差、网络分歧和不稳定性，尤其是在非凸学习问题中。因此，在去中心化图耦合、公平性正则化和压缩事件触发通信下建立严格的收敛保证在技术上具有挑战性。

尽管在个性化、公平性和通信效率方面取得了巨大进展，但这些组成部分通常是孤立研究的。据我们所知，现有工作尚未提供一个统一的理论和算法框架，能够同时捕获基于图的个性化、不可知公平性以及在一般非凸目标下的压缩去中心化通信，而 DMFL-SQ 引入了一种新的集成去中心化算法框架。本文解决以下问题：*在有限通信条件下，去中心化学习能达到何种公平程度？* 我们通过开发一个通信受限下去中心化学习的统一框架来回答这一问题，该框架融合了三个实用组件：基于图的个性化（用于处理统计异质性）、不可知公平性（用于控制客户端层面性能差异）以及稀疏化、量化和事件触发通信（用于减少带宽消耗）。

DMFL-SQ 引入了一种新的集成去中心化算法框架。现有的压缩去中心化优化方法，如 SPARQ-SGD[14]、CHOCO-SGD[13] 及其相关变体，主要针对共识优化或共享全局模型。相比之下，DMFL-SQ 优化的是图正则化的个性化目标，其中客户端模型无需达成一致。同样，不可知联邦学习方法处理最差客户端或混合风险鲁棒性，但通常在集中式或服务器辅助环境中研究，且未考虑在去中心化图上的稀疏量化事件触发邻居通信[16, 17, 18]。

相反，DMFL-SQ 解决了具有基于图的个性化和不可知客户端层面公平性的去中心化多任务学习问题。这种耦合带来了新的分析挑战，因为公平性包络通常是不可微的，优化变量是完整的个性化模型集合，而通信压缩在图耦合方向上引入了陈旧邻居副本误差。所提出的算法通过使用标量公平性共识来识别活动的不可知混合分量，并在事件触发器激活时仅通信稀疏量化的模型副本创新来应对这些挑战。伴随的分析建立了公平性感知目标的平稳性，同时保持了标准的 O(T^{-1/2}) 非凸平稳性速率，并明确考虑了随机梯度噪声、陈旧邻居副本误差、压缩和事件触发。我们还为不可知混合目标推导了 PAC-Bayes 泛化保证，从而刻画了公平性感知去中心化学习的优化和统计两个方面。

### I-A 相关工作

使用随机梯度下降实现 FL 的直接方法需要频繁交换高维梯度或模型更新向量，这些向量可能包含数百万个参数。这造成了巨大的通信开销，尤其是在无线资源有限的无线边缘网络中。缓解此瓶颈的一个常见方法是在传输前压缩梯度信息[13]。一个简单的例子是基于符号的压缩，通常称为 SignSGD，其中仅通信每个梯度坐标的符号[19]。这些方法提高了可扩展性并避免了单点故障，但大多数现有的去中心化优化算法侧重于学习单一全局模型或最小化平均目标。相比之下，本文研究了一种完全去中心化的设置，其中客户端在学习个性化模型的同时，共同考虑公平性和通信约束。

在去中心化环境中，Assran 等人[20]和 Tatarenko 与 Touri[21]分析了用于非凸目标的随机梯度推送方法，其主要重点是近似定向网络上的分布式平均，而不是通过梯度压缩来减少通信。相比之下，Tang 等人[12]研究了用于在去中心化节点间交换梯度或模型信息的无偏随机压缩机制。个性化 FL 通过允许客户端学习适应其本地数据的任务特定模型来解决统计异质性[6, 7, 22]。这些方法在异构数据下改善了局部适应性，但通常没有将不可知客户端层面的公平性目标或压缩事件触发通信纳入完全去中心化网络。

通信减少已通过稀疏化[23]、量化[24]和误差反馈校正[25]得到广泛研究。事件触发通信通过允许客户端仅在本地更新足够具有信息性时进行通信，进一步减少了带宽消耗。例如，SPARQ-SGD[14]结合了稀疏化、量化和事件触发更新用于去中心化优化。最近的工作也为在压缩、网络约束及相关通信限制下的去中心化 SGD 建立了非凸收敛保证[26, 27, 28]。然而，这些方法通常优化平均目标或单一全局模型，并未分析基于图的个性化、不可知公平性和压缩去中心化通信的联合影响。

上述方向解决了分布式学习的重要方面，但在很大程度上是孤立进行的：个性化处理统计异质性，公平性感知 FL 控制客户端层面差异，压缩去中心化优化减少通信，总结见表 I。相比之下，DMFL-SQ 提供了一个统一框架，共同纳入了基于图的个性化、不可知公平性以及稀疏化、量化、事件触发的去中心化通信，同时为所得的公平性感知混合目标提供了非凸收敛性和 PAC-Bayes 泛化界。

表 I：文献综述
| 特性 | [29] | [13] | [6] | [18] | [14] | [30] | [17] | 本文提出 |
| :--- | :---: | :---: | :---: | :---: | :---: | :---: | :---: | :---: |
| 完全去中心化 | ✓ | ✓ | ✓ | ✓ | ✓ | | | ✓ |
| 个性化 | | | ✓ | | | | ✓ | ✓ |
| 公平性感知目标 | | | | ✓ | | | ✓ | ✓ |
| 压缩通信 | ✓ | ✓ | | | ✓ | ✓ | ✓ | ✓ |
| 事件触发通信 | | | | | ✓ | | | ✓ |
| 非凸收敛保证 | ✓ | ✓ | ✓ | ✓ | | | | ✓ |
| 泛化保证 | | | | | | | | ✓ |

### I-B 贡献与组织

本文的主要贡献总结如下。

- • **统一的去中心化公平多任务学习框架**：我们将通信受限下的去中心化学习表述为一个涉及基于图的个性化、不可知公平性和压缩事件触发通信的统一问题。这为在完全去中心化网络中联合研究个性化、客户端层面公平性和带宽效率提供了单一框架。
- • **通信高效的去中心化算法**：我们提出了 DMFL-SQ，一种去中心化多任务学习算法，结合了局部随机更新、基于图的模型耦合、稀疏量化通信以及事件触发同步。该算法在减少通信开销的同时，保持了异构客户端间的公平性感知协作。
- • **非凸收敛保证**：我们为一般非凸目标建立了有限时间收敛保证。分析明确分离了优化误差、通信引起的邻居副本残差、压缩残差误差和事件触发误差，并表明 DMFL-SQ 在预期平方 Moreau-包络平稳性方面达到了 O(T^{-1/2}) 的收敛速率，在考虑去中心化图耦合、公平性选择以及压缩、事件触发通信的同时，匹配了标准的随机非凸优化速率。
- • **PAC-Bayes 泛化分析**：我们为不可知混合目标推导了 PAC-Bayes 泛化界，从而刻画了公平性感知去中心化学习的优化和统计两个方面。