machine-learning-security

本文介绍了 AESOP，这是一种用于对抗性执行路径选择的框架，能够显著增加深度学习推理流水线中的浮点运算次数（FLOPs）和延迟，揭示了基于效率的新型漏洞。

本文讨论了针对机器学习模型的对抗攻击，并展示了梯度掩蔽（一种试图拒绝攻击者访问有用梯度的防御技术）为何从根本上是无效的。论文表明，攻击者可以通过训练能够模拟被防御模型行为的替代模型来绕过梯度掩蔽，最终使这一防御策略失效。