芦效峰¹,廖钰盈¹,Pietro Lio²,Pan Hui³

¹(北京邮电大学网络空间安全学院 北京 100876);²(剑桥大学计算机实验室 英国剑桥 CB3 0FD);³(香港科技大学计算机科学与工程学院 香港 999077) (luxf@bupt.edu.cn)

出版日期: 2020-12-01


基金资助:国家自然科学基金项目(61472046)；北京市科学技术协会种子基金项目；蚂蚁金服安全专项科研基金项目

An Asynchronous Federated Learning Mechanism for Edge Network Computing

Lu Xiaofeng¹, Liao Yuying¹, Pietro Lio², Pan Hui³

¹(School of Cyberspace Security, Beijing University of Posts and Telecommunications, Beijing 100876);²(Computer Laboratory, University of Cambridge, Cambridge CB3 0FD);³(Department of Computer Science & Engineering, Hong Kong University of Science and Technology, Hong Kong 999077)

Online: 2020-12-01


Supported by:This work was supported by the National Natural Science Foundation of China (61472046), the Beijing Association for Science and Technology Seed Fund, and the Ant Financial Security Special Research Fund.

摘要/Abstract

摘要： 随着物联网和移动设备性能的不断提高，一种新型计算架构——边缘计算——应运而生.边缘计算的出现改变了数据需要集中上传到云端进行处理的局面，最大化利用边缘物联网设备的计算和存储能力.边缘计算节点对本地数据进行处理，不再需要把大量的本地数据上传到云端进行处理，减少了数据传输的延时.在边缘网络设备上进行人工智能运算的需求也在逐日增大，因为联邦学习机制不需要把数据集中后进行模型训练，所以更适合于节点平均数据量有限的边缘网络机器学习的场景.针对以上挑战，提出了一种面向边缘网络计算的高效异步联邦学习机制(efficient asynchronous federated learning mechanism for edge network computing， EAFLM)，根据自适应的阈值对训练过程中节点与参数服务器之间的冗余通信进行压缩.其中，双重权重修正的梯度更新算法，允许节点在学习的任何过程中加入或退出联邦学习.实验显示提出的方法将梯度通信压缩至原通信次数的8.77%时，准确率仅降低0.03%.

参考文献

相关文章 15

[1]	孟小峰, 刘立新. 基于区块链的数据透明化：问题与挑战[J]. 计算机研究与发展, 2021, 58(2): 237-252.
[2]	张燕咏, 张莎, 张昱, 吉建民, 段逸凡, 黄奕桐, 彭杰, 张宇翔. 基于多模态融合的自动驾驶感知及计算[J]. 计算机研究与发展, 2020, 57(9): 1781-1799.
[3]	黄倩怡, 李志洋, 谢文涛, 张黔. 智能家居中的边缘计算[J]. 计算机研究与发展, 2020, 57(9): 1800-1809.
[4]	刘泽宁, 李凯, 吴连涛, 王智, 杨旸. 多层次算力网络中代价感知任务调度算法[J]. 计算机研究与发展, 2020, 57(9): 1810-1822.
[5]	马惠荣, 陈旭, 周知, 于帅. 绿色能源驱动的移动边缘计算动态任务卸载[J]. 计算机研究与发展, 2020, 57(9): 1823-1838.
[6]	王志刚, 王海涛, 佘琪, 史雪松, 张益民. 机器人4.0: 边缘计算支撑下的持续学习和时空智能[J]. 计算机研究与发展, 2020, 57(9): 1854-1863.
[7]	卢海峰, 顾春华, 罗飞, 丁炜超, 杨婷, 郑帅. 基于深度强化学习的移动边缘计算任务卸载研究[J]. 计算机研究与发展, 2020, 57(7): 1539-1554.
[8]	王会勇, 唐士杰, 丁勇, 王玉珏, 李佳慧. 生物特征识别模板保护综述[J]. 计算机研究与发展, 2020, 57(5): 1003-1021.
[9]	乐光学, 戴亚盛, 杨晓慧, 刘建华, 游真旭, 朱友康. 边缘计算可信协同服务策略建模[J]. 计算机研究与发展, 2020, 57(5): 1080-1102.
[10]	黄克振, 连一峰, 冯登国, 张海霞, 刘玉岭, 马向亮. 基于区块链的网络安全威胁情报共享模型[J]. 计算机研究与发展, 2020, 57(4): 836-846.
[11]	王斌, 张磊, 张国印. 敏感渐进不可区分的位置隐私保护[J]. 计算机研究与发展, 2020, 57(3): 616-630.
[12]	梁玉珠, 梅雅欣, 杨毅, 马樱, 贾维嘉, 王田. 一种基于边缘计算的传感云低耦合方法[J]. 计算机研究与发展, 2020, 57(3): 639-648.
[13]	刘俊旭, 孟小峰. 机器学习的隐私保护研究综述[J]. 计算机研究与发展, 2020, 57(2): 346-362.
[14]	黄海平, 张东军, 王凯, 朱毅凯, 王汝传. 带权值的大规模社交网络数据隐私保护方法[J]. 计算机研究与发展, 2020, 57(2): 363-377.
[15]	丁旭阳, 谢盈, 张小松. 基于边缘计算的进化多目标优化图像隐写算法[J]. 计算机研究与发展, 2020, 57(11): 2260-2270.

PDF全文下载地址:

https://crad.ict.ac.cn/CN/article/downloadArticleFile.do?attachType=PDF&id=4311