删除或更新信息,请邮件至freekaoyan#163.com(#换成@)

基于蚁群优化算法的纠删码存储系统数据更新方案

本站小编 Free考研考试/2022-01-01

李乾,胡玉鹏,叶振宇,肖叶,秦拯
(湖南大学信息科学与工程学院 长沙 410082) (qianli160@hnu.edu.cn)
出版日期: 2021-02-01


基金资助:国家自然科学基金项目(61872130,61572181);湖南省交通厅科技项目(201928);长沙市重点研发计划项目(kq1907103)

An Ant Colony Optimization Algorithms Based Data Update Scheme for Erasure-Coded Storage Systems

Li Qian, Hu Yupeng, Ye Zhenyu, Xiao Ye, Qin Zheng
(College of Computer Science and Electronic Engineering, Hunan University, Changsha 410082)
Online: 2021-02-01


Supported by:This work was supported by the National Natural Science Foundation of China (61872130, 61572181), the Science and Technology Project of Hunan Provincial Department of Communications(201928), and the Key Research and Development Program of Changsha (kq1907103).




摘要/Abstract


摘要: 由于纠删码具备高可用性和高存储空间有效性的特点,采用纠删码为大规模分布式存储系统提供数据持久性已成为事实标准.然而,纠删码的密集型更新操作将导致大量的数据传输和I/O开销.如何减少数据传输量,优化现有网络资源的利用率,以提高纠删码的更新效率,成为纠删码存储系统面临的重要挑战.然而,在多重服务质量(quality of service, QoS)指标下,目前对纠删码更新效率的优化研究很少.针对此问题,提出一种基于蚁群优化算法的多数据节点更新方案(ant colony optimization algorithm based multiple data nodes update scheme, ACOUS),采用2阶段数据更新方式以优化多数据节点更新过程.具体而言,基于多目标蚁群优化更新路由算法(multi-objective ant colony optimization update routing algorithm, MACOU)所构建的多目标更新树,2阶段数据更新方式能有效地进行数据增量收集和校验增量分发.大量的实验结果表明,在典型的数据中心网络拓扑结构下,与TA-Update方案相比,所提方案能够在保证算法收敛的前提下,以可忽略的计算开销为代价,将更新时延降低26%~37%.






[1]魏征, 窦禹, 高艳珍, 马捷, 孙凝晖, 邢晶. 一种基于条带的一致性散列数据放置算法[J]. 计算机研究与发展, 2021, 58(4): 888-903.
[2]包涵, 王意洁, 许方亮. 基于生成矩阵变换的跨数据中心纠删码写入方法[J]. 计算机研究与发展, 2020, 57(2): 291-305.
[3]张耀, 储佳佳, 翁楚良. 纠删码存储系统数据更新方法研究综述[J]. 计算机研究与发展, 2020, 57(11): 2419-2431.
[4]唐英杰,王芳,谢燕文. 纠删码存储系统中基于网络计算的高效故障重建方法[J]. 计算机研究与发展, 2019, 56(4): 767-778.
[5]刘佩,蒋梓逸,曹袖. 一种基于分布式存储系统中多节点修复的节点选择算法[J]. 计算机研究与发展, 2018, 55(7): 1557-1568.
[6]傅颖勋,文士林,马礼,舒继武. 纠删码存储系统单磁盘错误重构优化方法综述[J]. 计算机研究与发展, 2018, 55(1): 1-13.
[7]卞建超,查雅行,罗守山,李伟. 一种基于磁盘内和磁盘间冗余的混合编码方案[J]. 计算机研究与发展, 2016, 53(9): 1906-1917.
[8]毛波,叶阁焰,蓝琰佳,张杨松,吴素贞. 一种基于重复数据删除技术的云中云存储系统[J]. 计算机研究与发展, 2015, 52(6): 1278-1287.
[9]陈世敏. 大数据分析与高速数据更新[J]. 计算机研究与发展, 2015, 52(2): 333-342.
[10]文仁强, 钟少波, 袁宏永, 黄全义,. 应急资源多目标优化调度模型与多蚁群优化算法研究[J]. , 2013, 50(7): 1464-1472.
[11]孙 竞 余宏亮 郑纬民. 支持分布式存储删冗的相似文件元数据集合索引[J]. , 2013, 50(1): 197-205.
[12]廖 彬, 于 炯, 孙 华, 年 梅,. 基于存储结构重配置的分布式存储系统节能算法[J]. 计算机研究与发展, 2013, 50(1): 3-18.
[13]刘 全, 陈 浩, 张永刚, 李 娇, 张沈斌,. 一种动态挥发率和启发式修正的蚁群优化算法[J]. , 2012, 49(3): 620-627.
[14]杨振国, 黄刘生, 肖明军, 黄 河, 张银东, 朱友文,. 一种基于蚁群算法的容迟网络路由策略[J]. , 2012, 49(12): 2501-2514.
[15]罗象宏 舒继武. 存储系统中的纠删码研究综述[J]. 计算机研究与发展, 2012, 49(1): 1-11.





PDF全文下载地址:

https://crad.ict.ac.cn/CN/article/downloadArticleFile.do?attachType=PDF&id=4347
相关话题/计算机 数据 优化 方案 网络

  • 领限时大额优惠券,享本站正版考研考试资料!
    大额优惠券
    优惠券领取后72小时内有效,10万种最新考研考试考证类电子打印资料任你选。涵盖全国500余所院校考研专业课、200多种职业资格考试、1100多种经典教材,产品类型包含电子书、题库、全套资料以及视频,无论您是考研复习、考证刷题,还是考前冲刺等,不同类型的产品可满足您学习上的不同需求。 ...
    本站小编 Free壹佰分学习网 2022-09-19
  • 面向跨数据中心网络的节点约束存储转发调度方法
    林霄1,姬硕1,岳胜男2,孙卫强2,胡卫生21(福州大学物理与信息工程学院福州350116);2(区域光纤通信网与新型光通信系统国家重点实验室(上海交通大学)上海200240)(linxiaocer@fzu.edu.cn)出版日期:2021-02-01基金资助:国家自然科学基金青年科学基金项目(61 ...
    本站小编 Free考研考试 2022-01-01
  • 基于持久化内存的索引设计重新思考与优化
    韩书楷,熊子威,蒋德钧,熊劲(计算机体系结构国家重点实验室(中国科学院计算技术研究所)北京100190)(中国科学院大学北京100049)(hanshukai@ict.ac.cn)出版日期:2021-02-01基金资助:国家重点研发计划项目(2018YFB1003303);中国科学院战略性先导科技专 ...
    本站小编 Free考研考试 2022-01-01
  • 基于XDR数据分析的OTT视频服务感知质量评估方法
    黄鹂声1,冉金也1,罗静1,张翔引21(电子科技大学计算机科学与工程学院成都611731);2(电子科技大学航空航天学院成都611731)(lsh@uestc.edu.cn)出版日期:2021-02-01基金资助:国家重点研发计划项目(2018YFB0804505);国家电网公司科学技术项目(522 ...
    本站小编 Free考研考试 2022-01-01
  • 基于时空融合图网络学习的视频异常事件检测
    周航,詹永照,毛启容(江苏大学计算机科学与通信工程学院江苏镇江212013)(henrryzh@qq.com)出版日期:2021-01-01基金资助:国家自然科学基金项目(61672268)VideoAnomalyDetectionBasedonSpace-TimeFusionGraphNetwor ...
    本站小编 Free考研考试 2022-01-01
  • 分布式深度学习训练网络综述
    朱泓睿1,2,元国军1,姚成吉3,谭光明1,王展1,户忠哲1,2,3,张晓扬1,2,3,安学军11(中国科学院计算技术研究所北京100190);2(中国科学院大学北京100049);3(北京旷视科技有限公司北京100080)(zhuhongrui@ncic.ac.cn)出版日期:2021-01-01 ...
    本站小编 Free考研考试 2022-01-01
  • 网络功能虚拟化下服务功能链的资源管理研究综述
    祖家琛,胡谷雨,严佳洁,李实吉(陆军工程大学指挥控制工程学院南京210007)(jiachen_zu@foxmail.com)出版日期:2021-01-01ResourceManagementofServiceFunctionChaininNFVEnabledNetwork:ASurveyZuJia ...
    本站小编 Free考研考试 2022-01-01
  • 命名数据网络中的视频传输研究综述
    胡晓艳1,2,3,4,童钟奇1,徐恪5,张国强6,郑少琦1,赵丽侠1,程光1,2,3,龚俭1,2,31(东南大学网络空间安全学院南京211189);2(计算机网络和信息集成教育部重点实验室(东南大学)南京211189);3(网络空间国际治理研究基地(东南大学)南京211189);4(网络通信与安全紫 ...
    本站小编 Free考研考试 2022-01-01
  • 基于排序学习的网络舆情演化趋势评估方法研究
    秦涛1,2,沈壮1,2,刘欢1,2,陈周国31(智能网络与网络安全教育部重点实验室(西安交通大学)西安710049);2(西安交通大学电子与信息工程学部西安710049);3(中国电子科技集团第三十研究所成都610093)(qin.tao@mail.xjtu.edu.cn)出版日期:2020-12- ...
    本站小编 Free考研考试 2022-01-01
  • 教育大数据中认知跟踪模型研究进展
    胡学钢,刘菲,卜晨阳(大数据知识工程教育部重点实验室(合肥工业大学)合肥230601)(合肥工业大学计算机与信息学院合肥230601)(合肥工业大学大知识科学研究院合肥230601)(jsjxhuxg@hfut.edu.cn)出版日期:2020-12-01基金资助:国家重点研发计划项目(2016YF ...
    本站小编 Free考研考试 2022-01-01
  • 基于超图的EBSN个性化推荐及优化算法
    于亚新,张文超,李振国,李莹(东北大学计算机科学与工程学院沈阳110169)(医学影像智能计算教育部重点实验室(东北大学)沈阳110169)(yuyx@mail.neu.edu.cn)出版日期:2020-12-01基金资助:国家自然科学基金项目(61871106,61973059);国家重点研发计划 ...
    本站小编 Free考研考试 2022-01-01