标签
本文介绍了用于计算神经网络可信鲁棒性认证的瓣心距度量(apothem measure)，证明了体积最优认证的难解性，并提出了ParallelepipedoNN系统，在MNIST和Fashion MNIST数据集上实现了最小边长两倍的提升。
Abliteration 推出了一种按需定制的合成训练数据工作流，可为分类器生成负样本、罕见样本和对抗性样本，包含模式、真实世界事实、标签、来源追溯，并支持导出到 Hugging Face 等平台。
# 不同扰动类型之间对抗鲁棒性的迁移 来源: [https://openai.com/index/transfer-of-adversarial-robustness-between-perturbation-types/](https://openai.com/index/transfer-of-adversarial-robustness-between-perturbation-types/) OpenAI## 摘要 我们研究深度神经网络在不同扰动类型之间的对抗鲁棒性迁移。虽然大多数关于对抗样本的工作专注于L∞L\_∞和L2L\_2有界扰动，但这些并不能捕捉所有t
# 激活图谱简介 来源：[https://openai.com/index/introducing-activation-atlases/](https://openai.com/index/introducing-activation-atlases/) 理解神经网络内部工作原理不仅仅是科学好奇心的问题——我们的知识缺陷限制了审计神经网络的能力，在高风险场景中，确保其安全性。通常，如果要部署关键软件，可以审查代码的所有执行路径，但
研究人员展示了对抗性图像,这些图像能够在多个尺度和视角下可靠地欺骗神经网络分类器,这对自动驾驶汽车所使用的多尺度图像捕捉系统的鲁棒性假设提出了挑战。
本文讨论了针对机器学习模型的对抗攻击，并展示了梯度掩蔽（一种试图拒绝攻击者访问有用梯度的防御技术）为何从根本上是无效的。论文表明，攻击者可以通过训练能够模拟被防御模型行为的替代模型来绕过梯度掩蔽，最终使这一防御策略失效。