删除或更新信息,请邮件至freekaoyan#163.com(#换成@)

新型存储设备上重复数据删除指纹查找优化

本站小编 Free考研考试/2022-01-01

何柯文, 张佳辰, 刘晓光, 王 刚
(南开大学计算机学院 天津 300350) (天津市网络与数据安全技术重点实验室(南开大学) 天津 300350) (hekw@nbjl.nankai.edu.cn)
出版日期: 2020-02-01


基金资助:国家自然科学基金项目(U1833114,61872201,61702521,61602266);天津市自然科学基金项目(17JCYBJC15300,16JCYBJC41900);天津市人工智能重大专项项目(18ZXZNGX00140,18ZXZNGX00200);中央高校基本科研业务费专项资助项目

Fingerprint Search Optimization for Deduplication on Emerging Storage Devices

He Kewen, Zhang Jiachen, Liu Xiaoguang, and Wang Gang
(College of Computer Science, Nankai University, Tianjin 300350) (Tianjin Key Laboratory of Network and Data Security Technology (Nankai University), Tianjin 300350)
Online: 2020-02-01


Supported by:This work was supported by the National Natural Science Foundation of China (U1833114, 61872201, 61702521, 61602266), the Natural Science Foundation of Tianjin (17JCYBJC15300, 16JCYBJC41900), the Artificial Intelligence Major Project of Tianjin (18ZXZNGX00140, 18ZXZNGX00200), and the Fundamental Research Funds for the Central Universities.




摘要/Abstract


摘要: 指纹查找部分是I/O密集型工作负载,即外存存储设备的性能是指纹查找的性能瓶颈.因此关注重复数据删除系统的指纹查找部分,对比了传统的勤奋指纹查找算法和致力于减少磁盘访问次数的懒惰指纹查找算法,分析了2种方法在傲腾固态硬盘(Optane solid state drive, Optane SSD)和持久性内存(persistent memory, PM)两种新型存储设备上的性能表现,并给出了优化建议.对勤奋指纹查找算法和懒惰指纹查找算法的时间进行建模,分析得出了指纹查找算法在新型存储设备下的3点优化结论:1)应减少统一查找的指纹数;2)在较快设备上应减少懒惰指纹查找中局部性环的大小,并且局部性环大小存在一个最优值;3)在快速设备上,勤奋指纹查找的效果要优于懒惰指纹查找.最终,在实际机械硬盘(hard disk drive, HDD)、Optane SSD和PM模拟器上实验验证了模型的正确性.实验结果显示,快速设备上指纹查找的时间相较于HDD减少90%以上,并且采用勤奋算法要优于懒惰算法,局部性环最优值前移的现象,也与模型理论优化结果吻合.






[1]闫玮, 张兴军, 纪泽宇, 董小社, 姬辰肇. 基于持久性内存的单向移动B+[J]. 计算机研究与发展, 2021, 58(2): 371-383.
[2]陈茂棠, 郑圣安, 游理通, 王晶钰, 闫田, 屠要峰, 韩银俊, 黄林鹏. 一种基于RDMA多播机制的分布式持久性内存文件系统[J]. 计算机研究与发展, 2021, 58(2): 384-396.
[3]汪庆, 朱博弘, 舒继武. 一种多核友好的持久性内存键值系统[J]. 计算机研究与发展, 2021, 58(2): 397-405.
[4]屠要峰, 陈正华, 韩银俊, 陈兵, 关东海. 基于持久性内存和SSD的后端存储MixStore[J]. 计算机研究与发展, 2021, 58(2): 406-417.
[5]杨帆, 李飞, 舒继武. 安全持久性内存存储研究综述[J]. 计算机研究与发展, 2020, 57(5): 912-927.
[6]陈波, 陆游游, 蔡涛, 陈游旻, 屠要峰, 舒继武. 一种分布式持久性内存文件系统的一致性机制[J]. 计算机研究与发展, 2020, 57(3): 660-667.
[7]陈游旻, 朱博弘, 韩银俊, 屠要峰, 舒继武. 一种持久性内存文件系统数据页的混合管理机制[J]. 计算机研究与发展, 2020, 57(2): 281-290.
[8]陈娟,胡庆达,陈游旻,陆游游,舒继武,杨晓辉. 一种基于微日志的持久性事务内存系统[J]. 计算机研究与发展, 2018, 55(9): 2029-2037.
[9]阎芳,李元章,张全新,谭毓安. 基于对象的OpenXML复合文件去重方法研究[J]. 计算机研究与发展, 2015, 52(7): 1546-1557.
[10]毛波,叶阁焰,蓝琰佳,张杨松,吴素贞. 一种基于重复数据删除技术的云中云存储系统[J]. 计算机研究与发展, 2015, 52(6): 1278-1287.
[11]李 超, 王树鹏, 云晓春, 周晓阳, 陈 明,. 一种基于流水线的重复数据删除系统读性能优化方法[J]. 计算机研究与发展, 2013, 50(1): 90-100.
[12]付印金 肖 侬 刘 芳. 重复数据删除关键技术研究进展[J]. , 2012, 49(1): 12-20.





PDF全文下载地址:

https://crad.ict.ac.cn/CN/article/downloadArticleFile.do?attachType=PDF&id=4116
相关话题/计算机 数据 系统 优化 南开大学

  • 领限时大额优惠券,享本站正版考研考试资料!
    大额优惠券
    优惠券领取后72小时内有效,10万种最新考研考试考证类电子打印资料任你选。涵盖全国500余所院校考研专业课、200多种职业资格考试、1100多种经典教材,产品类型包含电子书、题库、全套资料以及视频,无论您是考研复习、考证刷题,还是考前冲刺等,不同类型的产品可满足您学习上的不同需求。 ...
    本站小编 Free壹佰分学习网 2022-09-19
  • 一种持久性内存文件系统数据页的混合管理机制
    陈游旻1,朱博弘1,韩银俊2,屠要峰2,舒继武11(清华大学计算机科学与技术系北京100084);2(中兴通讯股份有限公司南京210012)(chenym16@mails.tsinghua.edu.cn)出版日期:2020-02-01基金资助:国家重点研发计划项目(2018YFB1003301);中 ...
    本站小编 Free考研考试 2022-01-01
  • 基于生成矩阵变换的跨数据中心纠删码写入方法
    包涵1,2,王意洁1,2,许方亮21(并行与分布处理国家重点实验室(国防科技大学)长沙410073);2(国防科技大学计算机学院长沙410073)(hanb_nudt@foxmail.com)出版日期:2020-02-01基金资助:国家重点研发计划项目(2016YFB1000101);国家自然科学基 ...
    本站小编 Free考研考试 2022-01-01
  • 基于地理空间大数据的高效索引与检索算法
    赵慧慧1,2,赵凡2,3,陈仁海1,2,冯志勇1,21(天津大学智能与计算学部天津300350);2(天津大学深圳研究院广东深圳518000);3(天津大学国际工程师学院天津300350)(1442700849@qq.com)出版日期:2020-02-01基金资助:国家自然科学基金项目(617023 ...
    本站小编 Free考研考试 2022-01-01
  • 基于收益模型的Spark SQL数据重用机制
    申毅杰,曾丹,熊劲(计算机体系结构国家重点实验室(中国科学院计算技术研究所)北京100190)(中国科学院大学北京100049)(shenyijie@ict.ac.cn)出版日期:2020-02-01基金资助:国家重点研发计划项目(2016YFB1000202);国家自然科学基金项目(6137904 ...
    本站小编 Free考研考试 2022-01-01
  • 带权值的大规模社交网络数据隐私保护方法
    黄海平1,2,张东军1,2,王凯1,2,朱毅凯3,王汝传1,21(南京邮电大学计算机学院南京210023);2(江苏省无线传感网高技术研究重点实验室(南京邮电大学)南京210023);3(南京大学网络信息中心南京210023)(hhp@njupt.edu.cn)出版日期:2020-02-01基金资助 ...
    本站小编 Free考研考试 2022-01-01
  • 数据中心网络传输协议综述
    曾高雄,胡水海,张骏雪,陈凯(香港科技大学计算机科学与工程系香港999077)(kaichen@cse.ust.hk)出版日期:2020-01-01TransportProtocolsforDataCenterNetworks:ASurveyZengGaoxiong,HuShuihai,ZhangJ ...
    本站小编 Free考研考试 2022-01-01
  • 智慧健康研究综述: 从云端到边缘的系统
    邱宇1,王持1,齐开悦2,沈耀1,李超1,张成密3,过敏意11(上海交通大学大学计算机科学与工程系上海200240);2(上海交通大学电子信息和电气工程学院上海200240);3(上海交通大学医学院附属新华医院上海200092)(ed3rss@sjtu.edu.cn)出版日期:2020-01-01基 ...
    本站小编 Free考研考试 2022-01-01
  • 云计算系统可靠性研究综述
    段文雪1,胡铭1,周琼2,吴庭明1,周俊龙3,刘晓4,魏同权1,陈铭松11(华东师范大学上海市高可信计算重点实验室上海200062);2(上海外国语大学国际金融贸易学院上海200083);3(南京理工大学计算机科学与技术学院南京210094);4(迪肯大学信息技术学院澳大利亚墨尔本VIC3125)( ...
    本站小编 Free考研考试 2022-01-01
  • 面向非易失内存的数据一致性研究综述
    肖仁智1,冯丹1,2,胡燏翀2,3,张晓祎1,程良锋21(华中科技大学武汉光电国家研究中心武汉430074);2(华中科技大学计算机科学与技术学院武汉430074);3(深圳华中科技大学研究院广东深圳518061)(rzxiao@hust.edu.cn)出版日期:2020-01-01基金资助:国家重 ...
    本站小编 Free考研考试 2022-01-01
  • 2019大数据知识工程及应用专题
    郑庆华(西安交通大学西安710049)出版日期:2019-12-01Online:2019-12-01摘要/Abstract摘要:实际工程问题的求解往往涉及跨领域、跨模态的海量碎片化知识,这些知识不能仅靠专家提供,而需要从环境中动态学习和融合生成.知识工程旨在研究计算机对知识的获取、表征和处理.随着 ...
    本站小编 Free考研考试 2022-01-01