鲁棒性遇上不确定性：面向鲁棒选择性分类的证据对抗训练

arXiv cs.LG 论文
adversarial-training selective-classification robustness uncertainty evidential-learning deep-neural-networks

摘要

本文介绍了一种名为证据对抗训练（EV-AT）的方法，通过结合基于证据的损失与鲁棒证据对齐，改善了分类器的鲁棒性-不确定性权衡，在选择性分类基准上取得了最先进的结果。

arXiv:2607.03075v1 Announce Type: new 摘要：安全关键应用要求分类器既鲁棒又可靠。对抗训练是提高深度神经网络鲁棒性的广泛采用的防御手段，然而其对预测不确定性可靠性的影响尚未得到充分探索。我们通过选择性分类的视角来研究这一空白，而选择性分类很少与对抗鲁棒性一起被系统分析。我们引入了一个用于鲁棒性-不确定性权衡的统一基准。它标准化了干净、对抗和常见损坏设置下的架构、数据增强、威胁模型和评估指标。在多种最先进的对抗训练方法中，我们发现了一个反复出现的失败模式：几种方法在提高鲁棒精度的同时损害了不确定性排序，导致选择性行为变差。为了解决这个问题，我们提出了证据对抗训练（EV-AT），它通过狄利克雷分布对不确定性进行建模，并结合了（i）促进干净精度和可靠不确定性的基于证据的损失与（ii）在log狄利克雷参数空间中匹配干净和对抗预测的鲁棒证据对齐损失。大量实验表明，EV-AT将鲁棒性-不确定性权衡的帕累托前沿推向了超越先前最先进对抗训练方法的水平。我们的源代码公开在 https://github.com/NicolasSournac/Robustness_Meets_Uncertainty.EV-AT。
查看原文
查看缓存全文

缓存时间: 2026/07/07 04:40 

# 鲁棒性与不确定性的交汇：面向鲁棒选择性分类的基于证据的对抗训练
来源：https://arxiv.org/abs/2607.03075
查看PDF（https://arxiv.org/pdf/2607.03075）

> 摘要：安全关键型应用需要兼具鲁棒性与可靠性的分类器。对抗训练是一种广泛采用的提升深度神经网络鲁棒性的防御手段，然而其对预测不确定性可靠性的影响仍鲜有探索。我们通过选择性分类的视角来研究这一空白，而选择性分类此前极少与对抗鲁棒性一同被系统分析。我们为鲁棒性-不确定性权衡引入了一个统一的基准，该基准在干净、对抗和常见损坏场景下标准化了架构、数据增强、威胁模型以及评估指标。在多种最先进的对抗训练方法中，我们发现了一个反复出现的失效模式：若干方法在提升鲁棒精度的同时，降低了不确定性排序，从而导致更差的选择性行为。为解决此问题，我们提出了基于证据的对抗训练（EV-AT），该方法通过狄利克雷分布对不确定性进行建模，并融合了：(i) 一种基于证据的损失函数，用于促进干净准确度与可靠的不确定性；(ii) 一种鲁棒证据对齐损失函数，在 log 狄利克雷参数空间中对齐干净预测与对抗预测。大量实验表明，EV-AT 将鲁棒性-不确定性权衡的帕累托前沿推进至超越先前最先进的对抗训练方法。我们的源代码已公开于以下链接：https://github.com/NicolasSournac/Robustness_Meets_Uncertainty.EV-AT。

## 提交历史

来自：Nicolas Sournac [查看邮件](https://arxiv.org/show-email/377bd7be/2607.03075) **\[v1\]** 2026年7月3日 星期五 08:10:21 UTC（1,592 KB）

相似文章

快速停止！早停法实现认证鲁棒性

arXiv cs.LG

本文介绍了一个面向任意时有效认证鲁棒性的元学习框架，该框架使用序列E过程自适应分配计算资源，与传统的随机平滑方法相比，样本复杂度降低了20倍，同时保持了严格的统计保证。