不同扰动类型之间对抗鲁棒性的迁移

# 对抗鲁棒性在不同扰动类型间的迁移 来源：https://openai.com/index/transfer-of-adversarial-robustness-between-perturbation-types/ OpenAI ## 摘要 我们研究了深度神经网络对抗鲁棒性在不同扰动类型间的迁移。虽然大多数关于对抗样本的研究集中在L∞和L₂有界扰动上，但这些并未涵盖对手可用的所有扰动类型。本研究针对在ImageNet的100类子集上进行对抗训练的模型，评估了5种不同类型的32种攻击。我们的实证结果表明，为了理解对抗鲁棒性是否能在扰动类型间迁移，需要在广泛的扰动大小范围内进行评估。我们进一步证明，对某一扰动类型的鲁棒性可能并不一定能保证，有时甚至可能损害对其他扰动类型的鲁棒性。鉴于这些结果，我们建议对对抗防御的评估应在多种扰动类型和大小的范围内进行。