基于极化码的联邦学习：收敛分析与资源分配

# 收敛性分析与资源分配
来源：https://arxiv.org/html/2608.13961

## 基于极化码的联邦学习：收敛性分析与资源分配

**致谢**：本工作部分由中国国家自然科学基金（基金号：62361146853、6237112962371129）和东南大学移动通信国家重点实验室研究基金（基金号：2026A05）资助。

**致谢**：韩晓和魏康隶属于中国南京东南大学信息科学与工程学院（邮编211189）（电子邮件：[email protected]；[email protected]）

**致谢**：刘南隶属于东南大学移动通信国家重点实验室（中国南京，邮编211189）（电子邮件：[email protected]）

###### 摘要

联邦学习（FL）能够在分布式设备间进行协同模型训练，而无需共享原始数据；然而在实际应用中，它面临着显著的通信瓶颈和信道损伤问题。传统的网络层处理方法要么将信道理想化为无差错，要么对传输的模型更新采用等错误保护（EEP），未能考虑到单个本地模型内量化比特内在的重要性不均。为解决这一局限，我们提出了一种跨层的基于极化码的FL方案，该方案利用了有限码长下极化码的不等错误保护（UEP）特性。具体而言，所提出的设计选择性地保护更重要的量化比特，从而减轻信道噪声的有害影响。我们进一步对该方案进行了严格的收敛性分析，推导出了收敛差距的上界，并随后联合优化了所有训练迭代中的量化比特数与极化码码块长度。实验结果表明，我们提出的基于极化码方案的恒定和可变码块长度配置，在性能上均显著优于未编码和基于LDPC的EEP基准方案，且随着信道质量恶化，优势愈发明显。这些发现证实了我们跨层设计在提升现实信道条件下FL鲁棒性和效率方面的有效性。

## I 引言

传统的机器学习依赖于集中式范式，其中训练数据存储并处理于数据中心或云基础设施中[1](https://arxiv.org/html/2608.13961#bib.bib1)。然而在实践中，隐私法规和通信资源限制常常阻碍用户直接将原始数据传输到中央服务器[2](https://arxiv.org/html/2608.13961#bib.bib2)。得益于移动设备计算和存储能力的迅速提升，分布式学习（允许在单独收集的数据上进行本地模型训练）近年来日益受到重视[3](https://arxiv.org/html/2608.13961#bib.bib3)。联邦学习（FL）作为最有前景的分布式学习框架之一，允许用户在无需暴露其私有数据集的情况下协同训练一个共享模型。这种方法在保护数据隐私和实现低延迟通信方面具有显著优势，正如近期工作所强调的那样[4](https://arxiv.org/html/2608.13961#bib.bib4)、[5](https://arxiv.org/html/2608.13961#bib.bib5)。

**参考图注 图1：** 联邦学习系统。大多数现有联邦学习研究将其分析局限于网络层，假设每个本地模型更新被封装在单个数据包中进行传输。具体而言，这些工作中的大多数，例如[6](https://arxiv.org/html/2608.13961#bib.bib6)、[7](https://arxiv.org/html/2608.13961#bib.bib7)、[8](https://arxiv.org/html/2608.13961#bib.bib8)、[9](https://arxiv.org/html/2608.13961#bib.bib9)、[10](https://arxiv.org/html/2608.13961#bib.bib10)、[11](https://arxiv.org/html/2608.13961#bib.bib11)、[12](https://arxiv.org/html/2608.13961#bib.bib12)、[13](https://arxiv.org/html/2608.13961#bib.bib13)、[14](https://arxiv.org/html/2608.13961#bib.bib14)、[15](https://arxiv.org/html/2608.13961#bib.bib15)，通过假设一个带宽受限但无差错的信道，忽略了信道固有的噪声特性。其他工作，如[16](https://arxiv.org/html/2608.13961#bib.bib16)、[17](https://arxiv.org/html/2608.13961#bib.bib17)、[18](https://arxiv.org/html/2608.13961#bib.bib18)、[19](https://arxiv.org/html/2608.13961#bib.bib19)、[20](https://arxiv.org/html/2608.13961#bib.bib20)、[21](https://arxiv.org/html/2608.13961#bib.bib21)、[22](https://arxiv.org/html/2608.13961#bib.bib22)、[23](https://arxiv.org/html/2608.13961#bib.bib23)，明确考虑了有噪声的传输，并将数据包错误概率视为一个可调的物理层参数，该参数受信道条件、带宽分配、功率控制和客户端选择等因素影响，以直接优化整体收敛性能。

尽管种类多样，上述网络层处理方法存在两个根本缺陷。第一个是延迟：根据信息论[24](https://arxiv.org/html/2608.13961#bib.bib24)，无差错信道假设仅在无限延迟约束下理论上成立。在实践中，一些工作，例如[25](https://arxiv.org/html/2608.13961#bib.bib25)，采用确认-重传机制，这可能在少数用户上产生无限延迟，导致扰乱同步全局聚合的拖尾效应。第二个缺陷在于分离原则：在网络层，压缩和信道编码被视为独立的构建模块，物理层实现细节在很大程度上被抽象掉了。虽然这种分离对于根据信息论[24](https://arxiv.org/html/2608.13961#bib.bib24)的一系列源是有效的，但在FL中，每个本地模型（无论是标量还是向量）构成一个单一的源符号，因此这种分离原则不再适用。在标量量化期间，每个比特对应一个不同的量化级别；然而，传统的信道编码对所有比特提供相等的错误保护（EEP）。这种设计是次优的，因为本地模型的量化比特表现出内在的重要性不均，因此需要不等错误保护（UEP）。

为克服这些局限，本文从跨层设计的角度研究FL问题，并提出了一种基于极化码的FL方案。通过利用有限码长下的极化特性，我们内在地实现了UEP，根据量化模型比特的重要性对其进行保护。我们进一步推导了所提方案收敛差距的上界，并在所有训练迭代中联合优化量化比特数和极化码码块长度。我们的方法提供两个关键优势。首先，与传统的EEP信道编码方案相比，极化码固有的UEP特性为更重要的量化比特提供了更强的保护。其次，我们的优化表明，在训练的后期阶段分配更多的信道资源（即更长的极化码码块长度）能够有效抑制由量化、信道噪声和其他损伤引入的累积误差。数值实验表明，我们提出的方案在未编码和基于LDPC的EEP基准方案上取得了显著的性能增益。

## II 系统模型

我们考虑一个联邦学习系统，见图1 (https://arxiv.org/html/2608.13961#S1.F1)，包含 M 个用户（每个用户索引为 k∈M={1,2,...,M}）和一个服务器。联邦学习系统的任务是最小化以下函数 F(w)：
$$
F(\boldsymbol{w}) \triangleq \frac{1}{M} \sum_{k=1}^{M} F_k(\boldsymbol{w})，(1)
$$
其中 F_k(\boldsymbol{w}) 是第 k 个用户的强凸局部损失函数，w∈R^d 表示 d 维模型参数向量。每个用户拥有自己的训练数据集 D_k，大小为 |D_k|，且不同用户的数据集不相交，即 D_k∩D_j=∅（k≠j）。所有用户的总体数据集表示为 D=⋃_{k∈M} D_k，所有训练数据的总大小为 |D|=∑_{k=1}^M |D_k|。

令 ξ_k 为第 k 个用户的大小为 b 的小批量，从数据集 D_k 中独立采样。我们记相对于小批量样本 ξ_k 的局部经验损失函数为：
$$
F_k(\boldsymbol{w}, \boldsymbol{\xi}_k) = \frac{1}{b} \sum_{i=1}^{b} f(\boldsymbol{w}, \xi_{ki})。(2)
$$
其中 ξ_{ki} 是小批量 ξ_k 中的第 i 个样本，f(w, ξ_{ki}) 是关于 ξ_{ki} 的损失函数。每个样本 ξ_{ki} 由一对 (x_{ki}, y_{ki}) 组成，其中 x_{ki} 是特征，y_{ki} 是标签。

令 w* 为最优模型权重向量，并令 F* 和 F_k* 分别为 F 和 F_k 的最小值。则 Γ=F*−1/M∑_{k=1}^M F_k* 代表数据异质性的程度。

**参考图注 图2：** 单轮学习过程流程图。本文研究的FL系统的系统框图如图2 (https://arxiv.org/html/2608.13961#S2.F2) 所示。在每次迭代轮次中，系统将执行以下操作：

**广播：** 由于通信资源的限制，并非所有客户端都能参与每一轮学习。在第 (t+1) 轮开始时，中央服务器从 M 个用户中均匀随机选择 K 个用户。第 (t+1) 轮被选中的用户集合记为 S_{t+1}，其中 |S_{t+1}|=K。在第 (t+1) 轮中，中央服务器将第 t 轮聚合的模型参数向量 w_t 广播给集合 S_{t+1} 中的被选用户。

**本地模型更新：** 集合 S_{t+1} 中的每个用户使用接收到的全局模型 w_t 执行小批量随机梯度下降（SGD）方法。梯度 g_{t+1}^k 计算为：
$$
\boldsymbol{g}_{t+1}^k = \nabla_{\boldsymbol{w}_t} F_k\left(\boldsymbol{w}_t, \boldsymbol{\xi}_{t+1}^k\right)，(3)
$$
可用于如下本地更新模型参数向量：
$$
\boldsymbol{w}_{t+1}^k = \boldsymbol{w}_t - \eta_{t+1} \boldsymbol{g}_{t+1}^k，(4)
$$
然而，在此我们通过信道传输的是梯度 g_{t+1}^k 而非模型参数向量 w_{t+1}^k [26](https://arxiv.org/html/2608.13961#bib.bib26)。我们注意到 g_{t+1}^k∈R^d 是一个 d 维向量，我们将 g_{t+1}^k 的第 j 个分量记为 g_{t+1,j}^k。

**二进制删除信道：** 集合 S_{t+1} 中的每个用户使用具有擦除概率 ε 的二进制删除信道（BEC(ε)）将本地梯度 g_{t+1}^k 传输到服务器。假设 BEC(ε) 的输入为 X，输出为 Y。BEC(ε) 的特征为：
$$
Y = \begin{cases}
X, & \text{w.p. } 1-\epsilon \\
E, & \text{w.p. } \epsilon
\end{cases}
$$
其中 E 代表信道中发生的擦除。我们将 W: X→Y 表示为二进制输入字母表 X={0,1}、三元输出字母表 Y={0,1,E} 和转移概率 W(y|x)，x∈X, y∈Y 的 BEC(ε)。我们假设 BEC(ε) W 被连续使用 N 次，并将 N 次无记忆的信道使用记为 W^N: X^N→Y^N，其中 W^N(y_1^N|x_1^N)=∏_{i=1}^N W(y_i|x_i)。为了通过 N 次使用 BEC(ε) 传输梯度 g_{t+1}^k，我们定义编码器和解码器：
$$
\psi: \mathbb{R}^d \mapsto \mathcal{X}^N \quad (7)
$$
$$
\varphi: \mathcal{Y}^N \mapsto \mathbb{R}^d \quad (8)
$$
更具体地说，信道输入 X^N=ψ(g_{t+1}^k)，信道输出处的重建为 \tilde{\boldsymbol{g}}_{t+1}^k=\varphi(Y^N)。

**聚合：** 在重建集合 S_{t+1} 中所有用户的梯度后，服务器聚合梯度并更新全局模型参数向量 w_{t+1} 如下：
$$
\boldsymbol{w}_{t+1} = \boldsymbol{w}_t - \frac{\eta_{t+1}}{K} \sum_{k \in \mathcal{S}_{t+1}} \tilde{\boldsymbol{g}}_{t+1}^k。(9)
$$
其中 η_{t+1} 称为步长或学习率。

## III 提出的基于极化码的FL方案

现有工作通常遵循分离原则，其中编码和解码模块被分解为两个独立的功能：量化和信道编码[27](https://arxiv.org/html/2608.13961#bib.bib27)。在本节中，我们提出了一种新颖的方案，将无偏量化和极化码进行联合设计。具体而言，我们首先采用无偏量化以减少通信开销。接下来，我们采用极化码作为信道编码方法来实现不等错误保护（UEP）。最后，我们通过根据量化比特的相对重要性分配UEP来协调压缩和信道编码。

### III-A 量化

如上所述，为减轻通信资源负担，第 k 个用户的本地梯度 g_{t+1}^k 将被转换为量化版本，记为 Q(g_{t+1}^k)。我们假设梯度更新在范围 [B_min, B_max] 内有界。我们分配 n 个量化比特以将实数值转换为由长度为 n 的二进制序列表示的离散值。量化级别 {s_0, s_1, ..., s_{2^n-1}} 在上下界之间均匀放置，即 [B_min, B_max] 被等分为 2^n-1 个区间，每个区间的宽度为：
$$
\Delta = \frac{B_{\text{max}} - B_{\text{min}}}{2^n - 1}。(10)
$$
对于第 i 个区间 [s_i, s_{i+1}]，我们注意到：
$$
s_i = B_{\text{min}} + i \times \Delta, \quad i=0, \cdots, 2^n-1。
$$