生成位置的重要性：面向标签偏斜联邦学习的预算感知合成增强

# 生成位置至关重要：面向标签偏斜联邦学习的预算感知合成增强
Source: https://arxiv.org/html/2607.06616
11institutetext:Chung\-Ang University, Seoul, South Korea11email:\{dltkddn,tjdghks994,jaewoolee\}@cau\.ac\.kr

###### 摘要

联邦学习中的标签偏斜会导致客户端漂移并降低全局准确性。合成数据增强可以减轻这种不平衡，但完全类别均衡需要大量的计算成本。我们提出FedEAS，这是一种策略，根据每个客户端的本地标签分布为其分配一个熵自适应的每类生成预算。该预算共同决定了每个客户端*生成多少*样本以及样本*去往何处*。因此，总生成预算由每个客户端的预算决定，而不是预先固定。FedEAS恢复了完全类别均衡的大部分准确率增益，同时将生成预算减少了94.1%。在相同的总生成预算下，它在CIFAR-10和CIFAR-100上比均匀分配高出最多18.82%的准确率。

## 1引言

标签偏斜是联邦学习中的一个基本挑战\[kairouz,lifl\]。客户端持有局部不平衡的类别分布，导致其本地更新彼此漂移，从而降低全局模型性能\[zhao,liconv,hsu,noniidsilos\]。优化级和模型级方法通过近端正则化、控制变量、对比目标和分类器校准来减轻这种客户端漂移，但本地数据分布保持不变\[fedprox,scaffold,moon,classcal,nofear\]。

现有的合成数据增强方法直接纠正这种不平衡，生成每个客户端本地分布所缺乏的样本\[genfedsd,feddda\]。主流策略是完全类别均衡，即每个客户端生成样本直到其每个类别的大小都达到最大类别的大小\[genfedsd,feddda\]。

然而，完全类别均衡是一种昂贵的策略。如图1(a)所示，在20个客户端的CIFAR-10分区上，在狄利克雷标签偏斜（α=0.1\\alpha=0.1）下达到完全类别均衡需要226,783个合成样本。其成本源于将生成量视为一种均衡要求而非决策。最近的研究通过将生成预算和客户端资源视为显式约束来放松这一要求\[fedgc,fimi\]。它们的分配是均匀的，或者基于数据大小和设备资源而非标签偏斜，且总生成预算预先固定。如图1(b)所示，相同的总生成预算根据样本去往何处会导致截然不同的准确率。因此，我们提出本文的核心问题：*每个客户端实际上需要多少合成数据，以及样本应该去往何处？*

参见说明(a)
参见说明(b)

图1：CIFAR-10狄利克雷分区（K=20K=20，α=0.1\\alpha=0.1）上的预算感知合成增强。(a)达到完全类别均衡需要226,783个合成样本，而FedEAS（β=12\\beta=12）预算需要13,437个；条纹柱表示每个客户端的完全均衡需求，实心柱表示FedEAS预算。(b)分配决定了多少预算转化为准确率。FedAvg在不使用合成数据的情况下训练，而Uniform、Missing-only和FedEAS（β=12\\beta=12）共享相同的13,437样本总数，差异仅在于样本去往何处（最后20轮平均值）。为了解决这个问题，我们提出FedEAS（联邦熵自适应合成），它根据每个客户端的本地标签分布为其分配一个每类生成预算。该预算共同决定了每个客户端*生成多少*样本以及样本*去往何处*。偏斜更严重的客户端获得更大的预算，接近平衡的客户端几乎不获得预算，在IID（独立同分布）极限下，FedEAS退化为标准FedAvg\[fedavg\]。在每个客户端内部，生成仅填充低于预算的类别。这些正是该客户端的缺失和稀缺类别。因此，总生成预算由每个客户端的预算决定，而不是预先固定。

在CIFAR-10和CIFAR-100上，在狄利克雷标签偏斜下，FedEAS恢复了完全类别均衡的大部分准确率增益，同时生成的合成样本减少了94.1%（CIFAR-10上为13,437个 vs. 226,783个样本；第4.2节）。这种节省转化为在单GPU上端到端运行时间降低3.7倍（第4.3节）。准确率也随预算增长单调上升，因此操作点可以仅根据可用生成资源选择（第4.3节）。

这种效率取决于样本*去往何处*。因此，我们在匹配预算协议下比较分配策略，其中每个策略共享相同的生成器和相同的总生成预算，因此准确率差异仅反映分配。在该协议下，FedEAS在CIFAR-10和CIFAR-100上比均匀分配高出最多18.82%的准确率，并且在CIFAR-10上达到70%准确率阈值的速度比仅缺失类生成快2倍（第4.2节和第4.3节）。

总之，本文做出以下贡献。

- •**熵自适应预算分配策略。** 我们提出FedEAS，它决定在标签偏斜联邦学习中*生成多少*以及*去往何处*以减轻不平衡。它给偏斜客户端更大的预算，并且仅将样本分配给每个客户端的稀缺类别。总生成预算由每个客户端的预算决定（第3.1节）。
- •**生成高效的准确率。** FedEAS以降低94.1%的生成预算和3.7倍更低的端到端运行时间，恢复了完全类别均衡的大部分准确率增益（第4.2节和第4.3节）。
- •**匹配预算下的分配优势。** 在相同的总生成预算下，FedEAS比均匀分配高出最多18.82%的准确率，并且收敛速度比仅缺失类生成快2倍（第4.2节和第4.3节）。

## 2预备知识与动机

### 2.1联邦设置与客户端漂移

我们考虑标准FL设置\[lifl\]，其中包含K个客户端，客户端k持有大小为N_k的本地数据集D_k。全局目标是

min_θ∈R^d F(θ):=∑_{k=1}^K p_k F_k(θ),   p_k=N_k/∑_j N_j,  (1)

其中F_k(θ)=∑_{c=1}^C q_k^c l_k^c(θ)表示客户端k在C个类别上的本地目标，q_k^c=n_k^c/N_k表示其类别分布（n_k^c是类别c的样本数），l_k^c表示类别c的损失。在非IID数据下，FedAvg的收敛界包含跨客户端异质性项

Γ=∑_k p_k ‖∇F_k - ∇F‖^2.  (2)

Γ在FedAvg收敛分析中量化了这种异质性\[scaffold,fedopt,wangfedavg\]，也是我们分析的出发点（第2.2节）。

**标签偏斜与熵。** 我们通过狄利克雷划分\[hsu,noniidsilos\]引入标签偏斜，其浓度为α（α越小意味着偏斜越严重）。客户端k的偏斜由归一化香农熵概括：

H̃_k = H_k / log C ∈ [0,1],   H_k = -∑_{c=1}^C (n_k^c/N_k) log (n_k^c/N_k),  (3)

其中0 log 0 := 0，以及每类平均计数ñ_k = N_k / C，用于第3节的预算规则。在整篇文章中，上横线表示平均值（ñ_k，q̄），波浪线表示归一化或增强后的量（H̃_k，q̃_k^c）。主导策略是Full-Balance\[genfedsd\]，即第1节中的完全类别均衡，它增强直到每个c都有q̃_k^c ≈ 1/C。如图1(a)所示，对于最偏斜的客户端可能需要数万个样本，这激发了预算感知的重新表述。

**研究焦点。** 我们研究如何跨客户端和类别分配合成生成，而非生成器设计。所有增强方法共享一个预训练的类别条件去噪扩散概率模型（DDPM）\[ddpm,cfg,diffbeatgan\]作为固定黑盒生成器，因此性能差异主要反映分配。

### 2.2动机：生成多少与去往何处

第1节提出了每个客户端需要*多少*合成数据以及样本应该*去往何处*。本小节在任何训练之前回答这两个部分，并得出三个观察。

**观察1. 不平衡集中在少数客户端。** **观察2. 不平衡仅当样本去往稀缺类别时才减少。** **观察3. 随着生成进行，去除不平衡的成本越来越高。** 观察1和3回答了“多少”部分，观察2回答了“何处”部分。为验证它们，我们首先为分配建立一个评分，并展示它跟踪第1节中的客户端漂移。

**分配评分。** 我们根据分配将每个客户端拉向类别平衡的强度来评分。对于总生成预算B，我们定义不平衡评分

I(B)=∑_{k=1}^K p_k ‖q_k(B) - u‖_2^2,  (4)

其中q_k(B)表示在给定分配下添加总共B个合成样本后客户端k的类别分布，u=(1/C,...,1/C)表示均匀分布，权重p_k保持其在方程(1)中的原始值。I只需要标签计数，因此可以在任何生成之前比较分配。

**为什么评分跟踪客户端漂移。** I跟踪方程(2)中的漂移项Γ。为看到联系，将I分解为跨客户端异质性和全局不平衡：

∑_k p_k ‖q_k - u‖_2^2 = ∑_k p_k ‖q_k - q̄‖_2^2 + ‖q̄ - u‖_2^2,  (5)

因为∑_k p_k (q_k - q̄)=0，其中q̄:=∑_k p_k q_k。第一项是Γ的分布对应项，第二项衡量对平衡的全局偏离，这在平衡测试集上的泛化中很重要。我们参考u而非q̄，以便基准在生成下保持不变，并且当每个客户端都平衡时I=0。在三个理想化假设下联系变得显式，即(i)每类损失梯度{∇l^c}_c近似正交，(ii)共享梯度范数‖g‖，以及(iii)每类损失跨客户端共享（l_k^c ≡ l^c）：

Γ ≈ ‖g‖^2 ∑_{k=1}^K p_k ‖q_k - q̄‖_2^2,  (6)

其中方程(5)的第一项精确出现。推导展开∇F_k - ∇F = ∑_c (q_k^c - q̄^c) ∇l^c，其中交叉项在(i)下消失，对角线项在(ii)下共享尺度‖g‖^2。这些假设在深度网络中并不严格成立，因此我们不声称正式界，经验对应项Γ̂在补充材料第A节中直接测量。因此，减少类别不平衡相当于从分布源头减少客户端漂移，并且I作为其无需训练的代用指标。

参见说明(a)
参见说明(b)

图2：图1分区上不平衡的集中与减少。(a)不平衡评分和FedEAS生成预算（β=12）的累积分数，按不平衡递减顺序添加客户端；五个客户端持有53.6%的不平衡评分，并接收45.1%的预算。(b)随着总生成预算B增长，归一化不平衡减少1-I(B)/I(0)。在相同的匹配预算（标记点）下评估均匀分配和第3节的FedEAS预算路径，虚线显示方程(7)的贪婪参考，括号标记在匹配的13,437样本预算处+14.6%的差距。

**观察1：不平衡集中在少数客户端。** 如图2(a)所示，在该CIFAR-10分区（K=20，α=0.1）上，前25%的客户端持有总不平衡评分的53.6%。因此，完全平衡一个客户端所需的生成量变化超过一个数量级，如图1(a)所示。归一化熵H̃_k仅从本地计数就捕捉到了这种集中性。单一的平衡策略因此混淆了需求截然不同的客户端。

**观察2：不平衡仅当样本去往稀缺类别时才减少。** 考虑一个类别c的合成样本被添加到客户端k。在一阶近似下，I的变化为 -Δ_k^c，其中

Δ_k^c = (2p_k/N_k) (‖q_k‖_2^2 - q_k^c),  (7)

这来源于更新q_k → (N_k q_k + e_c)/(N_k+1)的一阶形式，其中e_c是类别c的独热向量。增益仅在q_k^c低于客户端特定水平‖q_k‖_2^2时为正，因此将样本放入已经较大的类别会增加不平衡。均匀分配直接为此付出代价。在该分区上，它将13,437个样本中的1,679个（12.5%）放置在增益为负的（客户端，类别）对上。由于p_k = N_k / ∑_j N_j，前导因子对每个客户端均为2/∑_j N_j，并且增益随客户端的偏斜程度增长，这在样本级别证实了观察1。因此，高效生成应填充每个客户端阈值以下的稀缺类别，而不是分散到所有类别。

**观察3：随着生成进行，不平衡变得越来越昂贵。** 图2(b)跟踪了归一化不平衡减少1-I(B)/I(0)随总生成预算B增长的变化，针对均匀分配和贪婪参考（每次重复将单个样本放置在最大化方程(7)的（客户端，类别）对上）。两条曲线在最小时最陡，然后因可去除的不平衡耗尽而趋于平坦。补充材料第B节中的两客户端案例显示了相同的递减