删除或更新信息,请邮件至freekaoyan#163.com(#换成@)

基于矩阵映射的拜占庭鲁棒联邦学习算法

本站小编 Free考研考试/2022-01-01

刘飚1,张方佼1,王文鑫1,谢康2,张健毅1,3
1(北京电子科技学院 北京 100070);2(信息网络安全公安部重点实验室(公安部第三研究所) 上海 200031);3(中国科学院网络测评技术重点实验室(中国科学院信息工程研究所) 北京 100093) (liubiao@besti.edu.cn)
出版日期: 2021-11-01


基金资助:国家重点研发计划项目(2018YFB1004100);信息网络安全公安部重点实验室(公安部第三研究所)开放基金资助课题(C18612);中国科学院网络测评技术重点实验室(中国科学院信息工程研究所)项目(KFKT2019-004)

A Byzantine-Robust Federated Learning Algorithm Based on Matrix Mapping

Liu Biao1, Zhang Fangjiao1, Wang Wenxin1, Xie Kang2, Zhang Jianyi1,3
1(Beijing Electronic Science and Technology Institute, Beijing 100070);2(Key Lab of Information Network Security of Ministry of Public Security (The Third Research Institute of Ministry of Public Security), Shanghai 200031);3(CAS Key Laboratory of Network Assessment Technology (Institute of Information Engineering, Chinese Academy of Sciences), Beijing 100093)
Online: 2021-11-01


Supported by:This work was supported by the National Key Research and Development Program of China (2018YFB1004100), the Opening Project of Key Lab of Information Network Security of Ministry of Public Security (The Third Research Institute of Ministry of Public Security) (C18612), and the Project of CAS Key Laboratory of Network Assessment Technology (Institute of Information Engineering, Chinese Academy of Sciences) (KFKT2019-004).




摘要/Abstract


摘要: 联邦学习(federated learning)由于参数服务器端只收集客户端模型而不接触客户端本地数据,从而更好地保护数据隐私.然而其基础聚合算法FedAvg容易受到拜占庭客户端攻击.针对此问题,很多研究提出了不同聚合算法,但这些聚合算法存在防守能力不足、模型假设不贴合实际等问题.因此,提出一种新型的拜占庭鲁棒聚合算法.与现有聚合算法不同,该算法侧重于检测Softmax层的概率分布.具体地,参数服务器在收集客户端模型之后,通过构造的矩阵去映射模型的更新部分来获取此模型的Softmax层概率分布,排除分布异常的客户端模型.实验结果表明:在不降低FedAvg精度的前提下,在阻碍收敛攻击中,将拜占庭容忍率从40%提高到45%,在后门攻击中实现对边缘后门攻击的防守.此外,根据目前最先进的自适应攻击框架,设计出专门针对该聚合算法的自适应攻击,并进行了实验评估,实验结果显示,该聚合算法可以防御至少30%的拜占庭客户端.






[1]周纯毅, 陈大卫, 王尚, 付安民, 高艳松. 分布式深度学习隐私与安全攻击研究进展与挑战[J]. 计算机研究与发展, 2021, 58(5): 927-943.
[2]陈大卫, 付安民, 周纯毅, 陈珍珠. 基于生成式对抗网络的联邦学习后门攻击方案[J]. 计算机研究与发展, 2021, 58(11): 2364-2373.
[3]黄倩怡, 李志洋, 谢文涛, 张黔. 智能家居中的边缘计算[J]. 计算机研究与发展, 2020, 57(9): 1800-1809.
[4]刘俊旭, 孟小峰. 机器学习的隐私保护研究综述[J]. 计算机研究与发展, 2020, 57(2): 346-362.
[5]芦效峰, 廖钰盈, Pietro Lio, Pan Hui. 一种面向边缘计算的高效异步联邦学习机制[J]. 计算机研究与发展, 2020, 57(12): 2571-2582.
[6]董业, 侯炜, 陈小军, 曾帅. 基于秘密分享和梯度选择的高效安全联邦学习[J]. 计算机研究与发展, 2020, 57(10): 2241-2250.





PDF全文下载地址:

https://crad.ict.ac.cn/CN/article/downloadArticleFile.do?attachType=PDF&id=4525
相关话题/计算机 中国科学院 网络 实验 概率

  • 领限时大额优惠券,享本站正版考研考试资料!
    大额优惠券
    优惠券领取后72小时内有效,10万种最新考研考试考证类电子打印资料任你选。涵盖全国500余所院校考研专业课、200多种职业资格考试、1100多种经典教材,产品类型包含电子书、题库、全套资料以及视频,无论您是考研复习、考证刷题,还是考前冲刺等,不同类型的产品可满足您学习上的不同需求。 ...
    本站小编 Free壹佰分学习网 2022-09-19
  • 基于自注意力网络的共享账户跨域序列推荐
    郭磊1,李秋菊1,刘方爱2,王新华21(山东师范大学商学院济南250358);2(山东师范大学信息科学与工程学院济南250358)(leiguo.cs@gmail.com)出版日期:2021-11-01基金资助:国家自然科学基金项目(61602282,61772321);中国博士后科学基金项目(20 ...
    本站小编 Free考研考试 2022-01-01
  • 面向超导量子计算机的程序映射技术研究
    窦星磊,刘磊,陈岳涛(计算机体系结构国家重点实验室(中国科学院计算技术研究所)北京100190)(中国科学院计算技术研究所北京100190)(liulei2010@ict.ac.cn)出版日期:2021-09-01基金资助:国家自然科学基金项目(62072432,61502452)AnInvesti ...
    本站小编 Free考研考试 2022-01-01
  • 一种基于3因素概率图模型的长尾推荐方法
    冯晨娇1,2,宋鹏3,王智强1,梁吉业11(计算智能与中文信息处理教育部重点实验室(山西大学)太原030006);2(山西财经大学应用数学学院太原030006);3(山西大学经济与管理学院太原030006)(fengcj@sxufe.edu.cn)出版日期:2021-09-01基金资助:国家自然科学 ...
    本站小编 Free考研考试 2022-01-01
  • 基于胶囊网络的对抗判别域适应算法
    戴宏,盛立杰,苗启广(西安电子科技大学计算机科学与技术学院西安710071)(西安市大数据与视觉智能关键技术重点实验室(西安电子科技大学)西安710071)(hdai@stu.xidian.edu.cn)出版日期:2021-09-01基金资助:国家自然科学基金项目(61772396,61902296 ...
    本站小编 Free考研考试 2022-01-01
  • 一种基于增强图卷积神经网络的协同推荐模型
    王磊,熊于宁,李云鹏,刘媛媛(西南财经大学经济信息工程学院成都610074)(dr.wangl@163.com)出版日期:2021-09-01基金资助:教育部人文社会科学研究规划基金项目(16XJAZH002);中央高校基本科研业务费专项资金(JBK2102049)ACollaborativeRec ...
    本站小编 Free考研考试 2022-01-01
  • 基于宏微观因素的概率级别的车辆事故预测
    张力天1,2,孔嘉漪1,2,樊一航1,2,范灵俊2,3,包尔固德11(北京交通大学软件学院北京100044);2(中国科学院计算技术研究所信息技术战略研究中心北京100190);3(贵阳市大数据产业集团有限公司贵阳550081)(remilia@bjtu.edu.cn)出版日期:2021-09-01 ...
    本站小编 Free考研考试 2022-01-01
  • 基于K阶互信息估计的位置感知网络表征学习
    储晓恺1,2,范鑫鑫2,毕经平21(中国科学院大学北京100049);2(中国科学院计算技术研究所北京100190)(chuxiaokai@ict.ac.cn)出版日期:2021-08-01基金资助:国家自然科学基金项目(62077044,61702470,62002343)Position-Awa ...
    本站小编 Free考研考试 2022-01-01
  • 基于病毒传播网络的基因序列表示学习
    马扬,刘泽一,梁星星,程光权,阳方杰,成清,刘忠(国防科技大学系统工程学院长沙410073)(yang_ma_cn@163.com)出版日期:2021-08-01基金资助:国家自然科学基金项目(62073333);湖南省研究生科研创新项目(CX20200069)GeneSequenceReprese ...
    本站小编 Free考研考试 2022-01-01
  • 基于非递减时序随机游走的动态异质网络嵌入
    郭佳雯1,2,白淇介1,2,林铸天1,宋春瑶1,2,袁晓洁1,21(南开大学网络空间安全学院天津300350);2(天津市网络与数据安全技术重点实验室(南开大学)天津300350)(guojiawen@dbis.nankai.edu.cn)出版日期:2021-08-01基金资助:国家自然科学基金项目 ...
    本站小编 Free考研考试 2022-01-01
  • 基于孪生BERT网络的科技文献类目映射
    何贤敏1,李茂西1,何彦青21(江西师范大学计算机信息工程学院南昌330022);2(中国科学技术信息研究所北京100038)(xianminhe@jxnu.edu.cn)出版日期:2021-08-01基金资助:国家自然科学基金项目(61662031);中国科学技术信息研究所重点工作项目(ZD202 ...
    本站小编 Free考研考试 2022-01-01