1(安徽理工大学数学与大数据学院 安徽淮南 232001);2(安徽理工大学能源与安全学院 安徽淮南 232001) (dqli@aust.edu.cn)
出版日期:
2020-09-01基金资助:
国家重点研发计划项目(2018YFF0301000);国家自然科学基金项目(61472003);安徽省学术和技术带头人及后备人选项目(2019H211);安徽省淮南市“50·科技之星”创新团队项目Defending Against Dimensional Saddle Point Attack Based on Adaptive Method with Dynamic Bound
Li Dequan1, Xu Yue1, Xue Sheng21(School of Mathematics and Big Data, Anhui University of Science and Technology, Huainan, Anhui 232001);2(School of Energy and Security, Anhui University of Science and Technology, Huainan, Anhui 232001)
Online:
2020-09-01Supported by:
This work was supported by the National Key Research and Development Program of China(2018YFF0301000), the National Natural Science Foundation of China (61472003), the Academic and Technical Leaders and the Backup Candidates of Anhui Province (2019H211), and the Program of the Innovation Team of “50 Star of Science and Technology” of Huainan, Anhui Province.摘要/Abstract
摘要: 随着大数据时代的到来,分布式机器学习已广泛应用于处理海量数据.其中最常用的是分布式随机梯度下降算法,但其易受到不同类型的Byzantine攻击.为了解决在分布式高维Byzantine环境下,能最大弹性限度地抵御蓄意攻击问题并有效求解优化问题.基于梯度更新规则,首先提出了一种新的Byzantine攻击方式——鞍点攻击.并分析了当目标函数陷入鞍点时,相比较于自适应和非自适应方法,所提出的动态约束自适应方法能够更快逃离鞍点,进而在数据集分类问题上做了比对实验.其次,提出了一种过滤Byzantine个体的聚合规则Saddle(·),理论分析表明它是高维Byzantine弹性.因此,在分布式高维Byzantine环境下,采用动态约束的自适应优化方法结合聚合规则Saddle(·)能够有效抵御鞍点攻击.最后,从数据集分类实验结果的错误率和误差方面比较并分析了动态约束自适应与自适应和非自适应方法的优劣性.结果表明,结合聚合规则Saddle(·)的动态约束自适应在分布式高维Byzantine环境下受鞍点攻击的影响较小.
参考文献
相关文章 15
[1] | 芦效峰, 廖钰盈, Pietro Lio, Pan Hui. 一种面向边缘计算的高效异步联邦学习机制[J]. 计算机研究与发展, 2020, 57(12): 2571-2582. |
[2] | 郭羽含, 张宇, 沈学利, 于俊宇. 即时车辆共乘问题的多策略解空间图搜索算法[J]. 计算机研究与发展, 2020, 57(6): 1269-1283. |
[3] | 谢秦,张清华,王国胤. 基于相似度量的自适应三支垃圾邮件过滤器[J]. 计算机研究与发展, 2019, 56(11): 2410-2423. |
[4] | 宋珂慧,张莹,张江伟,袁晓洁. 基于生成式对抗网络的结构化数据表生成模型[J]. 计算机研究与发展, 2019, 56(9): 1832-1842. |
[5] | 石海鹤,周卫星. 基于动态规划的双序列比对算法构件设计与实现[J]. 计算机研究与发展, 2019, 56(9): 1907-1917. |
[6] | 李杰,张静,李伟东,张学杰. 一种基于共享公平和时变资源需求的公平分配策略[J]. 计算机研究与发展, 2019, 56(7): 1534-1544. |
[7] | 朱真峰,翟艳祥,叶阳东. 一种线性的在线AUC优化方法[J]. 计算机研究与发展, 2018, 55(12): 2725-2733. |
[8] | 束柬,梁昌勇,徐健. 基于信任的云服务系统多目标任务分配模型[J]. 计算机研究与发展, 2018, 55(6): 1167-1179. |
[9] | 张莹,王超,郭文雅,袁晓洁. 基于双向分层语义模型的多源新闻评论情绪预测[J]. 计算机研究与发展, 2018, 55(5): 933-944. |
[10] | 牛新征,王崇屹,叶志佳,佘堃. 基于簇和阈值区间的高效关联规则隐藏算法[J]. 计算机研究与发展, 2017, 54(12): 2785-2796. |
[11] | 李琪,钟将,李雪. 基于启发策略的动态平衡图划分算法[J]. 计算机研究与发展, 2017, 54(12): 2851-2857. |
[12] | 蓝雯飞,邢志宝,黄俊,强小利. DNA自组装计算模型求解二部图完美匹配问题[J]. 计算机研究与发展, 2016, 53(11): 2583-2593. |
[13] | 杜玉越,孙亚男,刘伟. 基于Petri网的模型偏差域识别与模型修正[J]. 计算机研究与发展, 2016, 53(8): 1766-1780. |
[14] | 巩树凤,张岩峰. EDDPC:一种高效的分布式密度中心聚类算法[J]. 计算机研究与发展, 2016, 53(6): 1400-1409. |
[15] | 刘智翔,方勇,宋安平,徐磊,王晓伟,周丽萍,张武. 基于MRT-LBM方法的大规模可扩展并行计算研究[J]. 计算机研究与发展, 2016, 53(5): 1156-1165. |
PDF全文下载地址:
https://crad.ict.ac.cn/CN/article/downloadArticleFile.do?attachType=PDF&id=4264