标签
本文分析了联邦学习系统中对抗攻击的可转移性，并提出了一种基于对抗训练的防御机制以增强模型鲁棒性。
USAD提出了两种新的统计量：方差差异（Variance Discrepancy）和基于扰动的协方差差异（Perturbation-based Covariance Discrepancy），用于捕捉对抗样本的全局和局部不确定性模式，相较于基线方法实现了更优越的检测性能。
本文提出了一种基于认证的自动语音识别机制，采用双门诊断流水线（Two-Sided Atomic Audit 和 Rank-Based Tournament）来提供认证鲁棒性，并在多种架构上实现了词错误率高达55%的相对降低。
本文介绍了用于计算神经网络可信鲁棒性认证的瓣心距度量(apothem measure)，证明了体积最优认证的难解性，并提出了ParallelepipedoNN系统，在MNIST和Fashion MNIST数据集上实现了最小边长两倍的提升。
Abliteration 推出了一种按需定制的合成训练数据工作流，可为分类器生成负样本、罕见样本和对抗性样本，包含模式、真实世界事实、标签、来源追溯，并支持导出到 Hugging Face 等平台。
# 不同扰动类型之间对抗鲁棒性的迁移 来源: [https://openai.com/index/transfer-of-adversarial-robustness-between-perturbation-types/](https://openai.com/index/transfer-of-adversarial-robustness-between-perturbation-types/) OpenAI## 摘要 我们研究深度神经网络在不同扰动类型之间的对抗鲁棒性迁移。虽然大多数关于对抗样本的工作专注于L∞L\_∞和L2L\_2有界扰动，但这些并不能捕捉所有t
# 激活图谱简介 来源：[https://openai.com/index/introducing-activation-atlases/](https://openai.com/index/introducing-activation-atlases/) 理解神经网络内部工作原理不仅仅是科学好奇心的问题——我们的知识缺陷限制了审计神经网络的能力，在高风险场景中，确保其安全性。通常，如果要部署关键软件，可以审查代码的所有执行路径，但
研究人员展示了对抗性图像,这些图像能够在多个尺度和视角下可靠地欺骗神经网络分类器,这对自动驾驶汽车所使用的多尺度图像捕捉系统的鲁棒性假设提出了挑战。
本文讨论了针对机器学习模型的对抗攻击，并展示了梯度掩蔽（一种试图拒绝攻击者访问有用梯度的防御技术）为何从根本上是无效的。论文表明，攻击者可以通过训练能够模拟被防御模型行为的替代模型来绕过梯度掩蔽，最终使这一防御策略失效。
正如Zoubin Ghahramani关于智能系统中不确定性数学所讨论的，AI系统必须整合概率推理以处理不确定性，从而实现鲁棒且可信赖的决策。