弱监督学习的最新进展:新的监督范式、假设放宽与实际解决方案
摘要
本章回顾了弱监督学习的最新进展,介绍了置信度差异分类、互补标签学习的放宽假设以及部分标签学习的评估框架。
arXiv:2608.06896v1 公告类型:新
摘要:近年来,得益于高质量、标注良好的训练数据的可用性,深度学习取得了巨大成功。然而,在现实世界的应用中,这一要求往往无法满足。弱监督学习旨在利用不完整、不精确或不准确的监督信息来训练精确的模型。在本章中,我们将讨论该领域的最新进展,包括新的监督范式、放宽的假设和实际解决方案。首先,我们引入了一个新的弱监督二分类问题,称为置信度差异分类,并提出了解决该问题的一致性方法。接下来,我们研究互补标签学习,这是一个弱监督多分类问题。与现有的一致性方法相比,我们提出的方法基于对数据生成过程更宽松的假设。最后,我们为部分标签学习(另一个流行的多类弱监督学习问题)提出了一个评估框架,以促进该领域算法的公平和现实评估。
查看缓存全文
缓存时间: 2026/08/10 08:04
# 第10章 弱监督学习的最新进展 Source: https://arxiv.org/html/2608.06896 ###### 摘要 近年来,得益于高质量、良好标注的训练数据的可用性,深度学习取得了巨大成功。然而,这一要求在现实应用中往往无法满足。弱监督学习旨在利用不完整、不精确或不准确的监督来训练准确模型。在本章中,我们将讨论该领域的最新进展,包括新的监督范式、放宽的假设以及实际解决方案。首先,我们介绍一个新的弱监督二分类问题,称为置信度差异分类,并提出一致的方法来求解它。接下来,我们研究互补标签学习,这是一个弱监督多分类问题。我们提出的方法基于比现有一致方法更宽松的数据生成过程假设。最后,我们提出了部分标签学习的评估框架,这是另一个流行的弱监督多分类学习问题,以促进该领域算法的公平和现实评估。 \Mainmatter \subchapter 新的监督范式、假设放宽与实际解决方案 ### 1 引言 近年来,深度学习凭借其强大的泛化能力,在各类现实应用中取得了显著成功。然而,这种成功在很大程度上依赖于大规模、准确标注的训练数据,而在现实场景中,获取此类数据通常代价高昂或难以实现。弱监督学习提供了一种有前景的解决方案,它允许使用不完美监督训练模型,同时保持与全监督方法相当的性能(sugiyama2022machine)。 弱监督学习(WSL)处于监督学习和无监督学习的交叉点。在本章中,我们将主要关注弱监督分类,即仅使用弱监督数据来构建一个二分类
相似文章
决策中的弱到强学习
本文提出了一种决策感知的弱到强(W2S)学习框架,该框架利用有限的标注数据训练一个弱模型,然后由该模型在未标注数据上生成软监督信号,用于训练一个强模型,以改进上下文随机优化。理论界限和实证实验表明,当弱特征表示与强特征表示之间的相关性较小时,大量未标注数据能够降低下游决策风险。
基于设计的带噪声人工标签监督学习
提出了部分裁决的基于设计的监督学习(PA-DSL)方法,该方法利用少量已裁决案例纠正噪声人工标签,从而消除自动化分类器的偏差,在实验中实现了名义覆盖度,并将均方根误差(RMSE)降低了10-17%。
信任函数:通过学会何时信任弱教师实现近乎无损的弱到强泛化
信任函数通过识别可靠的弱标签进行训练,实现近乎无损的弱到强泛化,在多个领域中达到与真实标签监督相当的性能。
使用弱监督的ML驱动的LDAP侦察检测
本文提出了两个用于检测LDAP侦察攻击的机器学习框架:一个使用弱监督预测恶意查询的ML分类器,以及一个用于挖掘新型恶意签名的统计假设检验方法,实现了实用的检测性能。
面向以对象为中心的视觉推理的弱监督概念学习
本文提出了一种两阶段的神经符号框架,利用弱监督(仅需 1% 的标签)结合基于 Slot 的变分自编码器(VAE),学习用于以对象为中心的视觉推理的可解释符号,在领域泛化方面优于基础模型。