分布偏移下无标记-无标记学习的重要性加权

# 分布偏移下无标记-无标记学习的重要性加权
来源：https://arxiv.org/html/2609.10994

Tomoharu Iwata, Hiroshi Takahashi  
所属机构：Taishi Nishiyama, Kazuki Adachi, Yasuhiro Fujiwara  
所属机构：NTT, Inc.  
邮箱：[[email protected]](mailto:)

###### 摘要
无标记-无标记（UU）学习允许我们从两组具有不同类别先验概率的无标记数据中学习二元分类器。这是一个通用框架，因为它涵盖了各种监督学习，如正例-无标记（PU）学习、噪声标签学习和基于相似性的学习。现有的UU学习假设测试分布和训练分布具有相同的类别条件密度。然而，由于分布偏移，这一假设在实践中很少成立。本文提出了一种针对UU学习的分布偏移适应方法，该方法利用训练分布中的UU数据和测试分布中少量的UU数据。所提方法基于重要性加权，通过使用具有估计重要性权重的训练数据来最小化测试风险。尽管现有的重要性加权方法无法处理UU数据，但我们证明了可以以一种原则性的方式实现。得益于UU学习的通用性，我们的方法可以在单一框架内处理分布偏移下的各种学习问题，如PU学习和噪声标签学习，而现有方法通常针对特定问题定制。此外，它不需要对偏移类型（如协变量偏移）做出任何假设。我们通过真实世界数据集实验证明了所提方法的有效性。

## 1 引言
在监督学习中，需要大量的标记数据来学习准确的分类器。然而，在实践中，标记数据往往收集成本高昂，甚至难以获得。这一事实促使我们研究在弱监督（例如噪声标签）下表现良好的学习算法，这些数据通常比干净完整的标记数据更容易收集[50]。
在本文中，我们考虑无标记-无标记（UU）学习，其目标是从两个共享类别条件密度但具有不同类别先验概率（即每个无标记数据中正例的比例）的无标记数据集中学习二元分类器[33, 35, 32]。在此设置中，类别先验概率可视为弱监督。我们关注这一具有挑战性的设置，因为它具有高度通用性：通过指定类别先验概率的值，它可以表示各种学习问题，例如正-负（PN）学习[54]、正-无标记（PU）学习[6, 20, 2]、噪声标签学习[58, 4]、成对比较学习[10]和基于相似性的学习[1, 45][5]。
尽管最近提出了一些UU学习方法[33, 35, 32, 56]，但它们假设测试分布和训练分布具有相同的类别条件密度。然而，在实践中，这一假设常因各种因素（如数据收集时期[27]和环境[24]的差异）而被违反。例如，在网络安全领域，（带噪声的）恶意和正常数据可视为UU数据，其数据分布可能因新型攻击的出现而随时间变化[26]。当发生此类分布偏移时，现有方法的性能会急剧下降。

**图 1：我们的问题设置。** 我们被给予训练分布中的UU数据和测试分布中的少量UU数据。每个分布中的UU数据共享类别条件密度，但具有不同的类别先验概率（即θ^{a}_{tr}≠θ^{b}_{tr} 和 θ^{a}_{te}≠θ^{b}_{te}）。类别条件密度在训练分布和测试分布之间可能不同。目标是利用这些UU数据集，学习一个能够准确分类来自具有真实类别先验概率π_{te}的测试分布中的测试数据的二元分类器。我们问题设置的更多细节在第4.1节中提供。

在本文中，我们提出了一种针对UU学习的分布偏移适应方法，该方法利用训练分布中的UU数据和测试分布中的少量UU数据[1]。即使在测试分布中，少量的UU数据也相对容易收集。图1展示了我们问题设置的概览。
我们的方法基于重要性加权，这是一种在普通监督学习中用于分布偏移适应的成熟且常用的框架[51, 8, 34]。该框架估计重要性权重（即训练和测试密度之间的比率），并通过最小化近似等价于测试风险的重要性加权经验训练风险来学习分类器。尽管已经提出了许多针对PN学习[7, 8]和PU学习[27]等设置的分布偏移适应方法，但现有方法均无法处理UU数据。据我们所知，我们首次展示了可以以一种原则性的方式从UU数据执行重要性加权。通过最小化训练分布中UU数据的重要性加权经验风险与测试分布中UU数据的经验风险的加权和，所提方法可以训练适应测试分布的分类器。
得益于UU学习的通用性，所提方法可以在单一框架内处理分布偏移下的各种类型学习问题，包括PN学习、PU学习、噪声标签学习、成对比较学习和基于相似性的学习。这与现有通常针对特定问题定制的分布偏移适应方法形成对比[39, 48]。需要注意的是，现有没有假设两个分布都存在噪声标签的分布偏移适应方法，也没有针对基于相似性的学习或成对比较学习的方法。
此外，所提方法可以灵活处理训练和测试阶段之间不同类型的监督，例如训练分布中的带噪声标签数据和测试分布中的少量PN数据。进一步地，通过使用测试分布中的UU数据，所提方法不需要对偏移类型（如协变量偏移[46]和概念偏移[37]）做出假设，而这些假设通常是使用测试分布中无标记数据的现有分布偏移适应方法所必需的。由于从无标记数据中通常很难或无法识别偏移类型[27]，这一特性在实践中是有利的。

## 2 相关工作
判别聚类或无监督分类方法尝试从一组无标记数据中学习分类器[59, 21]。然而，由于它们依赖于一个聚类对应于一个类的聚类假设，而该假设在实践中经常被违反[33, 35]，因此它们通常不是最优的。为了克服这个问题，UU学习方法基于经验风险最小化（ERM），该风险通过两个具有不同类别先验概率的无标记数据集重写[33, 35, 36]。它可以在没有聚类假设的情况下学习二元分类器[33]。一些方法可以使用m（m≥2）个具有不同类别先验概率的无标记数据集来学习二元分类器[32, 56]。然而，所有这些方法都假设测试分布和训练分布具有相同的类别条件密度，因此不适用于我们的问题设置（其中类别条件密度可能不同）。
分布偏移或领域适应方法试图缓解训练和测试分布之间的差距[39, 55, 53, 48]。尽管已经提出了许多方法，但尚无针对UU学习的方法。对于适应，一种代表性的方法是学习训练和测试分布之间的不变特征[43, 38, 11, 23, 29]。虽然这种方法在某些应用中很有前景，但不变特征通常不会提高性能，因为它们没有显式地最小化测试风险[63, 27]。另一种代表性的方法是重要性加权，它可以通过显式最小化测试风险来适应偏移，并且具有坚实的理论特性，如一致性[34, 52]。因此，我们将其扩展到UU设置。
关于用于适应的数据，现有方法通常假设测试分布中存在无标记数据[43, 11, 23, 46]。由于测试分布中没有监督，它们通常假设特定的偏移类型，如协变量偏移[46]。然而，从无标记数据中通常很难或无法识别偏移类型[7, 27]。一些最近的重要性加权方法可以通过使用测试分布中的一些监督（如少量PN数据[7, 8]或少量PU数据[27]）来适应偏移，而无需偏移类型假设。所提方法也不需要偏移类型假设，因为它使用了测试分布中少量的UU数据。通过适当设置类别先验概率，所提方法可以将这些方法[7, 27]作为特例恢复。通常，由于所提方法必须完全从无标记数据执行重要性加权，它比这些可以利用标记（正例）数据的方法面临更具挑战性的问题。
尽管有几种方法假设训练分布中存在带噪声标签的数据，测试分布中存在无标记数据[47, 62, 61, 14]，但它们无法处理训练和测试分布中都存在带噪声标签数据的情况，而所提方法可以。

## 3 预备知识
我们解释基于ERM的UU学习[33, 35]。设x ∈ X, y ∈ {±1}为输入和输出随机变量，其中X是输入空间，y = +1和-1分别代表正类和负类。设p(x, y)为联合密度，p^p(x) := p(x|y=+1)和p^n(x) := p(x|y=-1)分别为正类和负类的条件密度，p(x) = π p^p(x) + (1-π) p^n(x)为边缘密度，π := p(y=+1)为类别先验概率。f: X → R是一个决策函数，预测标签通过t = sign(f(x))获得，其中sign(·)是符号函数。设l: R × {±1} → R_{≥0}为损失函数，值l(t, y)表示对于真实标签y，由t产生的损失。二元分类的目标是学习最小化期望测试误差（称为风险）的f，风险定义为：
R(f) := E_{p(x,y)}[l(f(x), y)] = π E_{p^p(x)}[l(f(x), +1)] + (1-π) E_{p^n(x)}[l(f(x), -1)], (1)
其中E_{p(z)}表示关于p(z)的期望。在标准监督学习中，我们被给予从p(x, y)抽取的带标签的正负数据。因此，我们可以通过最小化经验风险来直接训练分类器，该风险通过将公式(1)中的期望替换为样本平均值来计算。然而，在UU学习中，我们被给予两组从以下边缘分布抽取的无标记数据X^a和X^b：
X^a = {x^a_n}_{n=1}^{N^a} ∼ p^a(x) := θ^a p^p(x) + (1-θ^a) p^n(x),