李祥坤¹，杨争峰¹，曾霞²，刘志明²

1. 华东师范大学计算机科学与软件工程学院,上海 200062;2. 西南大学计算机与信息科学学院, 重庆 400715

出版日期:2019-12-25发布日期:2020-03-20

An Approach to Generate Universal Adversarial Perturbation for Deep Neural Networks in Image Recognization

LI Xiangkun¹， YANG Zhengfeng¹ ，ZENG Xia² ，LIU Zhiming²

1.School of Computer Science and Software Engineering, East China Normal University, Shanghai 200062; 2. College of Computer and Information Science, Southwest University, Chongqing 400715

Online:2019-12-25Published:2020-03-20







摘要
图/表
参考文献
相关文章
编辑推荐
-->Metrics
本文评论

近年来, 基于深度神经网络的图像识别技术表现出良好的性能, 然而研究表明神经网络容易受到对抗扰动攻击而发生分类错误, 施加一个小的通用扰动就能使神经网络在整个数据集上失效. 为构建更加健壮的神经网络, 对通用扰动生成的研究显得至关重要. 通用扰动生成问题要求得到一个扰动向量对整个数据集产生指定扰动率的攻击效果, 相较于单张图片扰动生成问题其约束条件更严格, 计算难度更大. 目前已有算法得到的通用扰动范数较大, 容易被人眼识别. 文章基于优化理论提出新的通用扰动生成算法, 在达到指定扰动率的同时能产生更小的通用扰动. 算法结合PCA降维思想克服了问题的规模性带来的困难; 然后利用单张对抗扰动向量的均值叠加随机噪声, 得到满足扰动率的初始通用扰动; 最后改进梯度下降方法在保证扰动率的同时得到更小的通用扰动. 实验表明, 该方法可有效攻击各类先进神经网络: 在达到相同扰动率的情况下, 所得通用扰动的范数较Uni. Perturbation算法的结果平均降低了54\%.

分享此文:

()

No related articles found!

-->

PDF全文下载地址:

http://sysmath.com/jweb_xtkxysx/CN/article/downloadArticleFile.do?attachType=PDF&id=13769