量子对抗机器学习：从经典适应到量子原生方法

arXiv cs.LG 论文
quantum adversarial-machine-learning survey robustness quantum-machine-learning security

摘要

量子对抗机器学习综述，涵盖攻击、防御和理论基础。

arXiv:2605.18821v1 公告类型: new 摘要: 机器学习已经彻底改变了许多工业领域。尽管近期取得了进展，机器学习模型仍然容易受到对抗性威胁。对抗性机器学习是一个研究这些脆弱性以构建稳健机器学习模型的领域。量子机器学习是一个连接量子计算和经典机器学习的跨学科领域。尽管量子机器学习在回归、分类和生成建模等复杂任务中展现出超越经典机器学习的潜力，但它仍然容易受到对抗性攻击。鉴于量子计算和机器学习的最新进展，量子对抗机器学习领域应运而生，旨在研究量子机器学习的脆弱性、可能的攻击以及新型量子增强防御策略。在这篇综述中，我们详细概述了量子对抗机器学习，并探讨了现有的攻击和防御措施。我们还回顾了这一领域的理论基础、新兴趋势和关键挑战。
查看原文

相似文章

用对抗样本攻击机器学习

OpenAI Blog

本文讨论了针对机器学习模型的对抗攻击，并展示了梯度掩蔽（一种试图拒绝攻击者访问有用梯度的防御技术）为何从根本上是无效的。论文表明，攻击者可以通过训练能够模拟被防御模型行为的替代模型来绕过梯度掩蔽，最终使这一防御策略失效。

多智能体强化学习中的量子优势

arXiv cs.LG

本文提供了实证证据，表明量子纠缠在多智能体强化学习中提供了可测量的优势，通过CHSH游戏和协作导航任务展示了相对于经典基线的性能提升。

面向自然语言理解任务的混合对抗防御框架

arXiv cs.CL

来自南安普顿大学和曼彻斯特大学的研究人员提出了一种面向大语言模型的混合对抗防御框架，该框架将基于熵、基于不确定性和基于几何的模型相结合，旨在同时应对自然语言理解任务中的幻觉问题和对抗性攻击漏洞，最终实现了高达 64.92% 的对抗鲁棒性提升和 62.27% 的攻击成功率降低。