近日,电院学子陈思哲基于毕业设计内容撰写的学术论文《Universal Adversarial Attack on Attention and the Resulting Dataset DamageNet》(合作者为自动化系本科生何正保、硕士研究生孙程锦、杨杰教授、黄晓霖副教授)被人工智能顶级期刊IEEE Transactions on Pattern Analysis and Machine Intelligence 录用。
《基于语义的对抗攻击及迁移性研究》提出了全新的注意力攻击(AoA)方法。该方法攻击网络间的共同语义特征——注意力热图,在图像分类神经网络中,达到目前最好的黑盒攻击迁移成功率。除分类任务外,陈思哲同学还在卡耐基梅隆大学张坤教授的指导下,设计了目标检测网络的注意力攻击机制。利用这种两种攻击创建的分类、检测通用对抗数据集DAmageNet和AOCO能够帮助其他研究者测试和提高网络的鲁棒性。他的研究已经吸引了华为中央媒体研究院、腾讯朱雀实验室的合作兴趣。
论文链接 https://ieeexplore.ieee.org/document/9238430
对抗攻击样本库:http://www.pami.sjtu.edu.cn/Show/56/122