神经网络策略的对抗性攻击

# 神经网络策略的对抗攻击 来源：https://openai.com/index/adversarial-attacks-on-neural-network-policies/ OpenAI ## 摘要 已知机器学习分类器容易受到由对手精心构造的输入的攻击，从而被迫进行错误分类。这类对抗样本已在计算机视觉应用中得到广泛研究。在本研究中，我们展示了对抗攻击在针对强化学习中的神经网络策略时同样有效。具体而言，我们证明现有的对抗样本生成技术可以显著降低训练后策略的测试时性能。我们的威胁模型考虑了能够向策略原始输入引入小扰动的对手。我们在白盒和黑盒设置下，针对对抗样本攻击的一个子类，刻画了不同任务和训练算法中的易攻击程度。无论学习任务或训练算法如何，我们都观察到性能出现显著下降，即使在不干扰人类感知的小对抗扰动下也是如此。视频可在此处获得（http://rll.berkeley.edu/adversarial）。