周文^1,3,张世琨²,丁勇⁴,陈曦⁵

¹(北京大学软件与微电子学院 北京 100871);²(北京大学软件工程国家工程研究中心 北京 100871);³(中国航空油料集团有限公司 北京 100088);⁴(鹏城实验室 广东深圳 518000);⁵(中国软件测评中心 北京 100048) (zhou.wen@pku.edu.cn)

出版日期: 2020-04-01


基金资助:国家自然科学基金项目(61772150)；鹏城实验室基金项目(PCL2018KP004)

Adversarial Example Attack Analysis of Low-Dimensional Industrial Control Network System Dataset

Zhou Wen^1,3, Zhang Shikun², Ding Yong⁴, Chen Xi⁵

¹(School of Software and Microelectronics, Peking University,Beijing 100871);²(National Engineering Research Center for Software Engineering, Peking University, Beijing 100871);³(China National Aviation Fuel Group Limited, Beijing 100088);⁴(Peng Cheng Laboratory, Shenzhen, Guangdong 518000);⁵(China Software Testing Center, Beijing 100048)

Online: 2020-04-01


Supported by:This work was supported by the National Natural Science Foundation of China (61772150) and the Project of Peng Cheng Laboratory (PCL2018KP004).

摘要/Abstract

摘要： 针对工业控制系统的网络攻击日趋增加，凸显工业控制网络入侵异常检测的必需性.研究工作者已经提出了各种基于机器学习算法的工控网流量异常检测模型，然而对抗样本攻击阻碍了机器学习模型的广泛应用.目前关于对抗样本攻击的成果集中在特征丰富的数据集上.然而，工控系统由于网络拓扑结构相对固定，所以数据集特征较少.针对一个低维(特征少)的天然气工控网数据集，通过实验分析4个常见优化算法SGD，RMSProp，AdaDelta和Adam与对抗样本攻击能力的关系，分析典型机器学习算法防御对抗样本攻击的能力，并研究对抗训练对提高深度学习算法抗对抗样本白盒攻击的能力.此外，提出了一个新指标“同比损失率”来评估对抗样本的白盒攻击能力.大量实验结果表明：对于这个低维数据集，优化算法确实影响了对抗样本的白盒攻击能力；对抗样本对各典型机器学习算法具有黑盒攻击能力；和决策树、随机森林，支持向量机、AdaBoost、逻辑回归、卷积神经网络(CNN)等典型分类器相比，循环神经网络(RNN)具有最强的防对抗样本黑盒攻击能力；此外，对抗样本训练能够提高深度学习模型防御对抗样本白盒攻击的能力.

参考文献

相关文章 15

[1]	吴宗友, 白昆龙, 杨林蕊, 王仪琦, 田英杰. 电子病历文本挖掘研究综述[J]. 计算机研究与发展, 2021, 58(3): 513-527.
[2]	廖海斌, 徐斌. 基于性别和年龄因子分析的鲁棒性人脸表情识别[J]. 计算机研究与发展, 2021, 58(3): 528-538.
[3]	付章杰, 李恩露, 程旭, 黄永峰, 胡雨婷. 基于深度学习的图像隐写研究进展[J]. 计算机研究与发展, 2021, 58(3): 548-568.
[4]	古天龙, 冯旋, 李龙, 包旭光, 李云辉. 基于社会新闻数据集的伦理行为判别方法[J]. 计算机研究与发展, 2021, 58(2): 253-263.
[5]	陈晋音, 陈奕芃, 陈一鸣, 郑海斌, 纪守领, 时杰, 程瑶. 面向深度学习的公平性研究综述[J]. 计算机研究与发展, 2021, 58(2): 264-280.
[6]	李金鹏, 张闯, 陈小军, 胡玥, 廖鹏程. 自动文本摘要研究综述[J]. 计算机研究与发展, 2021, 58(1): 1-21.
[7]	孟子尧, 谷雪, 梁艳春, 许东, 吴春国. 深度神经架构搜索综述[J]. 计算机研究与发展, 2021, 58(1): 22-33.
[8]	于畅, 王雅文, 林欢, 宫云战. 基于故障检测上下文的等价变异体识别算法[J]. 计算机研究与发展, 2021, 58(1): 83-97.
[9]	朱泓睿, 元国军, 姚成吉, 谭光明, 王展, 户忠哲, 张晓扬, 安学军. 分布式深度学习训练网络综述[J]. 计算机研究与发展, 2021, 58(1): 98-115.
[10]	李双峰. TensorFlow Lite：端侧机器学习框架[J]. 计算机研究与发展, 2020, 57(9): 1839-1853.
[11]	陈珂锐, 孟小峰. 机器学习的可解释性[J]. 计算机研究与发展, 2020, 57(9): 1971-1986.
[12]	丁成诚, 陶蔚, 陶卿. 一种三参数统一化动量方法及其最优收敛速率[J]. 计算机研究与发展, 2020, 57(8): 1571-1580.
[13]	贺一笑, 庞明, 姜远. 蒙德里安深度森林[J]. 计算机研究与发展, 2020, 57(8): 1594-1604.
[14]	林培光, 周佳倩, 温玉莲. SCONV：一种基于情感分析的金融市场趋势预测方法[J]. 计算机研究与发展, 2020, 57(8): 1769-1778.
[15]	李冬梅, 张扬, 李东远, 林丹琼. 实体关系抽取方法研究综述[J]. 计算机研究与发展, 2020, 57(7): 1424-1448.

PDF全文下载地址:

https://crad.ict.ac.cn/CN/article/downloadArticleFile.do?attachType=PDF&id=4157