基于风险重写的广义无分布半监督学习

# 基于风险重写的广义无分布假设半监督学习 来源：https://arxiv.org/html/2607.11947 Hiroo Irobe东京科学大学数学与计算科学系 Takafumi Kanamori东京科学大学数学与计算科学系 理化学研究所革新智能研究中心 ###### 摘要 典型的半监督学习（SSL）方法依赖于分布假设，当这些假设被违反时，其性能会下降。虽然PNU学习（一种风险重写方法）提供了一种无分布假设的替代方案，但它仅限于二分类问题，且其方差最优性尚不明确。在本文中，我们提出一个通用框架，通过线性组合成分风险来构建无偏风险估计器，该框架涵盖了PNU学习并可扩展至多分类。我们推导了可达的最小方差，证明我们的估计器在非对称损失场景下能获得比PNU更低的方差。此外，我们建立了一个泛化界，直接将这种方差减少与学习性能提升联系起来。基于这些理论洞见，我们提出了两种实用的SSL方法，在二分类和多分类基准测试中经验性地媲美或超越现有方法。 ## 1 引言 尽管机器学习模型通常需要大量标注数据才能获得良好性能，但在现实场景中获取此类标签往往困难且昂贵。相比之下，无标签数据获取成本较低。因此，半监督学习（SSL）得到了广泛研究，以在标注数据稀缺时利用无标签数据。现有方法通常依赖于关于数据的特定分布假设或启发式方法[chapelle06semi, ouali20overview, mass25self]。典型的分布假设包括**流形假设**（即高维数据位于较低维度的流形上）和**聚类假设**（即决策边界应穿过低密度区域以分隔数据簇）[ouali20overview]。为了将这些分布假设编码到分类器训练中，主要研究了两个方向。第一个是**一致性正则化**，它通过对分类器进行正则化，使得预测不会因无标签数据的扰动而发生显著变化。这提高了分类器沿数据流形的平滑性。早期工作采用基于图的正则化[zhou03l, belkin06mani]。近期基于深度模型的方法使用正则化器来增强模型对输入扰动、数据增强和丢弃的鲁棒性[miyato19vat, laine17temp, tar17mean, xie20uda]。第二个是**自训练**，它联合训练分类器并使用当前预测为无标签数据分配标签（伪标签）。通过抑制低置信度预测，将决策边界推向低密度区域[ouali20overview]。伪标签过程传统上由固定置信度阈值管理[yaro95uns]，近期工作根据训练进度进行调整[zhang21flex, wang23free]。这些方法通过多个分类器[blum98co, zhi05tri, pham21meta]来获得更准确的伪标签。其他SSL方法请参考mass25self, ouali20overview，它们通常基于上述分布假设。尽管这些方法取得了显著成功，但其性能往往依赖于目标数据集是否满足底层分布假设。如果这些假设被违反，无标签数据引入的归纳偏差可能产生不利影响，甚至使性能低于监督学习[coz03semi, li11tow, krij17rob, wang22deb, arazo20pseudo]。 **无偏风险估计器与风险重写**。另一条独特的研究路线关注如何在不依赖限制性分布假设的情况下利用无标签数据进行风险评估。这是通过**风险重写**[sugiyama22ws]实现的，它将标准期望风险重新表述为可直接从可用数据分布（例如，标注数据和无标签数据的组合）计算的无偏估计器。例如，正-无标签（PU）学习通过构建这样的重写风险估计器，仅使用正类和无标签数据来训练分类器[du14analysis]。sakai17semi将其扩展到半监督场景，提出了PNU学习，它结合了PN（监督）、PU和NU（负-无标签）风险。他们从理论上证明，与标准监督学习相比，PNU学习可以降低风险估计器的方差。这种方法很有吸引力，因为它有理论支持，且可应用于任何模型，无需强分布假设（如聚类或流形假设）。 **局限性与待解决问题**。尽管sakai17semi提出的PNU学习框架具有理论优势，但仍存在几个待解决问题。首先，他们的方法仅限于二分类。其次，在更广泛的无偏风险重写估计器类别中，PNU是否方差最优尚不清楚。在本文中，我们通过将方法推广到风险线性组合集 S_{lin}，并提出新的SSL方法来最小化风险估计器的方差，从而解决这些局限性。我们的贡献总结如下： - •我们提出了一个用于风险重写SSL的通用框架，该框架涵盖了PNU风险，并可自然扩展到多分类场景。如第7节 (https://arxiv.org/html/2607.11947#S7) 所述，我们的框架对广泛的SSL和弱监督学习问题具有潜在影响。 - •我们推导了集合 S_{lin} 的理论最小方差，并证明在一般（非对称）损失情况下，它可能比PNU风险具有更小的最小方差。在对称损失情况下，我们证明PNU风险可以达到 S_{lin} 中的最优最小方差。 - •我们提出了两种新颖的SSL方法：(1) 一种迭代优化方法，(2) 一种在等协方差假设下的无数据方法，并通过实验证明它们始终优于或匹配现有SSL方法。 ## 2 问题设定 我们考虑一个多分类问题，其中输入空间为 X⊂R^d，输出标签空间为 Y={1,…,k}。我们假设数据由联合分布 p(x,y) 在 X×Y 上生成。令 pi(x)=p(x∣y=i) 表示类别 i 的类条件密度，θi=P(y=i) 为类先验概率，满足 ∑_{i=1}^k θi=1。无标签数据的分布由混合模型给出：p(x)=∑_{i=1}^k θi pi(x)。在半监督场景中，我们为每个类别 i∈Y 提供标注数据集 Xi={x_j^i}_{j=1}^{n_i} ~ i.i.d. pi(x)，以及一个无标签数据集 XU={x_j^U}_{j=1}^{n_U} ~ i.i.d. p(x)。 **风险定义**。令 g:X→R^k 为决策函数（例如神经网络），l:R^k×Y→R 为损失函数。假设 g 属于函数类 G。标准监督学习的目标是最小化真实风险 R(g):=E_{(x,y)~p(x,y)}[l(g(x),y)]。为了研究无偏风险估计器，我们将风险分解为基于数据分布和用于损失评估的标签的分量。我们定义成分风险 R_{ij}(g) 为： R_{ij}(g):=E_{x~p_i}[l(g(x),j)], (1) 即在分布 p_i 上计算预测器 g 的期望损失，但针对固定标签 j 进行评估。类似地，我们定义相对于标签 j 的无标签分布上的风险为： R_{Uj}(g):=E_{x~p(x)}[l(g(x),j)]。 (2) 使用这些分量，标准监督风险可以表示为 R(g)=∑_{i=1}^k θi R_{ii}(g)。 ### 2.1 重温二分类风险重写：PU、NU 和 PNU 风险 尽管标准监督风险写作 R(g)=∑_{i=1}^k θi R_{ii}(g)，但这并非唯一表达式。在二分类中，已经提出了几种不同的 R(g) 在无标签数据下的表达式。考虑 k=2 的情况，其中 y=1 和 y=2 分别代表正类和负类。那么标准监督风险（PN 风险）为 R_PN(g):=θ1 R_{11}(g)+θ2 R_{22}(g)。 **PU 风险**。正-无标签（PU）学习[du14analysis]处理负标签不可用的情况。通过利用密度等式 θ2 p2(x)=p(x)−θ1 p1(x)，我们可以将负类上的风险重写为 θ2 R_{22}(g)=R_{U2}(g)−θ1 R_{12}(g)。这产生了 PU 风险： R_PU(g):=θ1 R_{11}(g)−θ1 R_{12}(g)+R_{U2}(g)。 (3) 该风险等价于 PN 风险，但无需负类分布即可表达。 **NU 风险**。通过应用对称变换（通过 θ1 p1(x)=p(x)−θ2 p2(x) 替换正类分量），我们得到负-无标签（NU）风险： R_NU(g):=θ2 R_{22}(g)−θ2 R_{21}(g)+R_{U1}(g)。 (4) **PNU 风险**。在某些条件下，当 n_U→∞ 时，PU 和 NU 学习优于 PN 学习[niu16]。为了进一步利用这一优势，sakai17semi 提出了 PNU 学习¹，它考虑以下风险，该风险以参数 η∈[−1,1] 线性组合 PU、NU 和 PN 风险： R_PNU^η(g):= { R_PNPU^η(g) (η≥0) R_PNNU^{|η|}(g) (η<0) } 其中 R_PNPU^η(g):=(1−η)R_PN(g)+η R_PU(g), R_PNNU^η(g):=(1−η)R_PN(g)+η R_NU(g)。使用经验分布估计 PNU 风险比估计 PN 风险具有更小的方差，这导致更高效的 SSL。此方法有几个优点：(i) 不像其他 SSL 方法那样需要分布假设，(ii) 适用于任何损失和分类模型，(iii) 额外计算成本最小。与增强繁重或师生 SSL 方法[zhang21flex, pham21meta]不同，我们的方法不需要增强传递或额外网络。尽管有这些优点，PNU 学习仅限于二分类。如何将其扩展到多分类并不明显。此外，目前尚不清楚是否可以构建比 PNU 风险估计方差更小的风险。 ## 3 我们提出的框架：广义风险重写 在本节中，我们提出一个基于风险重写的半监督学习通用框架。我们引入一大类无偏风险估计器，它们由成分风险的线性组合构成，并分析其方差性质。 ### 3.1 通过线性组合的广义无偏估计器 我们定义风险泛函的线性组合集 S_{lin} 为： S_{lin}:= { R_lin^{{a_{ij}},{b_j}}(⋅):=∑_{i,j=1}^k a_{ij} R_{ij}(⋅)+∑_{j=1}^k b_j R_{Uj}(⋅) | a_{ij}, b_j∈R, ∀g∈G, R_lin^{{a_{ij}},{b_j}}(g)=R(g) }。 (5) 该集合定义为成分风险和无标签风险的线性组合，对于所有 g∈G 都等于 R(g)。值得注意的是，此公式概括了现有的风险，如 PU、NU 和 PNU 风险。我们可以通过使用经验分布为每个 R_lin^{{a_{ij}},{b_j}}(⋅)∈S_{lin} 构建无偏估计器。通过优化整个集合 S_{lin} 上的参数 a_{ij} 和 b_j，我们可以推导出比现有方法具有更低估计方差的风险。 ### 3.2 线性独立性下的特征化 在以下温和假设下，定义 S_{lin} 中风险的参数数量可以减少。 ###### 假设 1（线性独立性）。风险分量在以下意义上是线性独立的： ∑_{i,j=1}^k c_{ij} R_{ij}(g)=0 (∀g∈G) ⟹ ∀i,j, c_{ij}=0。 (6) 当 G 足够大且损失函数不受线性关系约束时，此假设成立。特别是，它不能被对称损失函数（如 0-1 损失）满足，因为 ∑_{j=1}^k l(g(x),j) 是常数，导致风险分量线性相关。对称损失情况在第4节 (https://arxiv.org/html/2607.11947#S4) 中讨论。 在假设1 (https://arxiv.org/html/2607.11947#Thmasmp1) 下，我们可以特征化满足约束 ∀g∈G, R_lin^{{a_{ij}},{b_j}}(g)=R(g) 的参数。 ###### 定理 1（S_{lin} 的参数化）。在假设1 (https://arxiv.org/html/2607.11947#Thmasmp1) 下，S_{lin} 可以重写为： S_{lin}= { R_lin^a(⋅):=∑_{i=1}^k θ_i R_{ii}(⋅)+∑_{i,j=1}^k θ_i (a_j/θ_j−1) R_{ij}(⋅) −∑_{j=1}^k (a_j/θ_j−1) R_{Uj}(⋅) | a∈R^k }。 (7) 该定理表明，S_{lin} 中的每个风险由 k 维向量 a 参数化。 ### 3.3 最小方差计算 在下文中，我们使用固定的 g，并经常省略风险项的参数，当上下文清晰时将 R_{ij}(g) 记作 R_{ij}。令 R̂_lin^a 和 R̂_{ij} 表示经验估计。注意：由于原文在此处截断，但根据结构，后续内容应继续。我们按照要求翻译至此。

¹他们还提出了PUNU风险，但我们省略它，因为证明其不如PNU风险。