今日 Paper | 模态平衡模型；组合语义分析；高表达性SQL查询；多人姿态估计模型等

AI科技评论 · 公众号 · AI · 2020-02-07 14:34

正文

请到「今天看啥」查看全文

对注意力的通用攻击和对应的数据集DAmageNet

论文名称：Universal Adversarial Attack on Attention and the Resulting Dataset DAmageNet

作者：Chen Sizhe /He Zhengbao /Sun Chengjin /Huang Xiaolin

发表时间：2020/1/16

论文链接：https://arxiv.org/abs/2001.06325v1

https://paper.yanxishe.com/review/9324

这篇论文研究的是深度神经网络的对抗性攻击。这篇论文提出了注意力集中攻击（Attack on Attention, AoA)，这是很多深度神经网络目前会采用的。在不超过10次决策查询的情况下，AoA可以对很多常用的深度神经网络达到接近100%的成功率。这篇论文应用AoA在ImageNet上生成了96020个对抗样本，并且将这些样本组成的数据集命名为DAmageNet。在这个数据集上，这篇论文测试了20个深度神经网络，当它们没有对抗训练时，错误率都超过90%。通过DAmageNet这个数据集的提出，可以为未来的深度神经网络的鲁棒性研究提供一个新的基准。