理解对抗鲁棒剪枝模型的容错性

arXiv cs.LG 论文
adversarial-robustness pruning fault-tolerance neural-networks neuromorphic-hardware edge-computing

摘要

本文实证研究了剪枝、对抗训练和硬件引起的权重故障如何共同影响卷积神经网络的可靠性，发现对抗训练会增加对固定为零故障的敏感性，而剪枝对故障敏感性几乎没有影响。

arXiv:2608.04173v1 公告类型：新 摘要：部署在资源受限的神经形态硬件上的深度神经网络（DNN）面临三个并发挑战：通过剪枝进行模型压缩的需求、对抗输入扰动的脆弱性，以及硬件引起的权重故障（如固定为零错误）的易感性。虽然这些因素各自已被单独研究，但它们的组合效应对模型可靠性的影响却很少受到关注。本文对剪枝、对抗训练和硬件故障注入如何相互作用影响卷积神经网络的鲁棒性进行了实证研究。使用在MNIST上训练的紧凑型三层CNN，我们进行了三个实验：（1）比较在同时发生硬件故障和对抗攻击时，自然训练和对抗训练模型的容错性；（2）评估剪枝如何影响对抗鲁棒性；（3）刻画故障率、对抗扰动幅度和剪枝水平之间的联合准确率曲面。我们的结果表明，对抗训练提高了对输入扰动的鲁棒性，但增加了对固定为零权重故障的敏感性。与直觉相反，剪枝并未显著增加故障敏感性，改变剪枝水平在不同故障率和攻击强度下几乎没有影响。这些结果强调需要联合考虑对抗鲁棒性和硬件可靠性。
查看原文
查看缓存全文

缓存时间: 2026/08/06 07:46 

# 理解对抗鲁棒剪枝模型的容错性
Source: https://arxiv.org/html/2608.04173

###### 摘要

深度神经网络\(DNNs\)部署在资源受限的神经形态硬件上，面临三个同时存在的挑战：需要通过剪枝进行模型压缩、对对抗性输入扰动的鲁棒性、以及对硬件引起的权重故障（如卡零错误）

相似文章

不同扰动类型之间对抗鲁棒性的迁移

OpenAI Blog

# 不同扰动类型之间对抗鲁棒性的迁移 来源: [https://openai.com/index/transfer-of-adversarial-robustness-between-perturbation-types/](https://openai.com/index/transfer-of-adversarial-robustness-between-perturbation-types/) OpenAI## 摘要 我们研究深度神经网络在不同扰动类型之间的对抗鲁棒性迁移。虽然大多数关于对抗样本的工作专注于L∞L\_∞和L2L\_2有界扰动，但这些并不能捕捉所有t

证书失效时：嵌入式神经接口模型的统一安全框架

arXiv cs.LG

本文表明，嵌入式神经接口模型的正式鲁棒性证书可能在任务准确率因对抗攻击而崩溃时仍能通过，并提出一个统一的实证审计框架，以解决训练目标与操作用户福利之间的对齐失败问题。