删除或更新信息,请邮件至freekaoyan#163.com(#换成@)

基于持久性内存和SSD的后端存储MixStore

本站小编 Free考研考试/2022-01-01

屠要峰1,2,陈正华2,韩银俊2,陈兵1,关东海1
1(南京航空航天大学计算机科学与技术学院 南京 211106);2(中兴通讯股份有限公司 南京 210012) (tu.yaofeng@zte.com.cn)
出版日期: 2021-02-01


基金资助:国家重点研发计划项目(2018YFB1003301);江苏省重点研发计划项目(BE2019012)

MixStore: Back-End Storage Based on Persistent Memory and SSD

Tu Yaofeng1,2, Chen Zhenghua2, Han Yinjun2, Chen Bing1, Guan Donghai1
1(Department of Computer Science and Technology, Nanjing University of Aeronautics and Astronautics, Nanjing 211106);2(ZTE Corporation, Nanjing 210012)
Online: 2021-02-01


Supported by:This work was supported by the National Key Research and Development Program of China (2018YFB1003301) and the Key Research and Development Program of Jiangsu Province(BE2019012).




摘要/Abstract


摘要: 持久性内存(persistent memory, PMEM)同时具备内存的低时延字节寻址和磁盘的持久化特性,将对现有软件架构体系产生革命性的变化和深远的影响.分布式存储在云计算和数据中心得到了广泛的应用,然而现有的以Ceph BlueStore为代表的后端存储引擎是面向传统机械盘和固态硬盘(solid state disk, SSD)设计的,其原有的优化设计机制不适合PMEM特性优势的发挥.提出了一种基于持久性内存和SSD的后端存储MixStore,通过易失区段标记和待删除列表技术实现了适用于持久性内存的并发跳表,用于替代RocksDB实现元数据管理机制,在保证事务一致性的同时,消除了BlueStore的compaction所引发的性能抖动等问题,同时提升元数据的并发访问性能;通过结合元数据管理机制的数据对象存储优化设计,把非对齐的小数据对象存放在PMEM中,把对齐的大块数据对象存储在SSD上,充分发挥了PMEM的字节寻址、持久性特性和SSD的大容量低成本优势,并结合延迟写入和CoW(copy-on-write)技术实现数据更新策略优化,消除了BlueStore的WAL日志引起的写放大,提升小数据写入性能.测试结果表明,在同样的硬件环境下,相比BlueStore,MixStore的写吞吐提升59%,写时延降低了37%,有效地提升了系统的性能.






[1]闫玮, 张兴军, 纪泽宇, 董小社, 姬辰肇. 基于持久性内存的单向移动B+[J]. 计算机研究与发展, 2021, 58(2): 371-383.
[2]陈茂棠, 郑圣安, 游理通, 王晶钰, 闫田, 屠要峰, 韩银俊, 黄林鹏. 一种基于RDMA多播机制的分布式持久性内存文件系统[J]. 计算机研究与发展, 2021, 58(2): 384-396.
[3]汪庆, 朱博弘, 舒继武. 一种多核友好的持久性内存键值系统[J]. 计算机研究与发展, 2021, 58(2): 397-405.
[4]杨帆, 李飞, 舒继武. 安全持久性内存存储研究综述[J]. 计算机研究与发展, 2020, 57(5): 912-927.
[5]陈波, 陆游游, 蔡涛, 陈游旻, 屠要峰, 舒继武. 一种分布式持久性内存文件系统的一致性机制[J]. 计算机研究与发展, 2020, 57(3): 660-667.
[6]何柯文, 张佳辰, 刘晓光, 王刚. 新型存储设备上重复数据删除指纹查找优化[J]. 计算机研究与发展, 2020, 57(2): 269-280.
[7]陈游旻, 朱博弘, 韩银俊, 屠要峰, 舒继武. 一种持久性内存文件系统数据页的混合管理机制[J]. 计算机研究与发展, 2020, 57(2): 281-290.
[8]陈娟,胡庆达,陈游旻,陆游游,舒继武,杨晓辉. 一种基于微日志的持久性事务内存系统[J]. 计算机研究与发展, 2018, 55(9): 2029-2037.
[9]刘珂, 蔡晓军, 张志勇, 赵梦莹, 贾智平. 基于高性能SOC FPGA阵列的NVM验证架构设计与验证[J]. 计算机研究与发展, 2018, 55(2): 265-272.
[10]陆克中,朱金彬,李正民,隋秀峰. 面向固态硬盘的Spark数据持久化方法设计[J]. 计算机研究与发展, 2017, 54(6): 1381-1390.
[11]周维,路劲,周可人,王世普,姚绍文. 基于并发跳表的云数据处理双层索引架构研究[J]. 计算机研究与发展, 2015, 52(7): 1531-1545.
[12]骆歆远,陈刚,伍赛. 基于GPU加速的超精简型编码数据库系统[J]. 计算机研究与发展, 2015, 52(2): 362-376.
[13]刘靖宇, 郑 军, 李元章, 孙志卓, 王文明, 谭毓安,. 混合S-RAID:一种适于连续数据存储的节能数据布局[J]. 计算机研究与发展, 2013, 50(1): 37-48.
[14]陈志广 肖 侬 刘 芳 杜溢墨. 一种用磁盘备份SSD的高性能可靠存储系统[J]. 计算机研究与发展, 2013, 50(1): 80-89.





PDF全文下载地址:

https://crad.ict.ac.cn/CN/article/downloadArticleFile.do?attachType=PDF&id=4354
相关话题/计算机 数据 设计 系统 技术

  • 领限时大额优惠券,享本站正版考研考试资料!
    大额优惠券
    优惠券领取后72小时内有效,10万种最新考研考试考证类电子打印资料任你选。涵盖全国500余所院校考研专业课、200多种职业资格考试、1100多种经典教材,产品类型包含电子书、题库、全套资料以及视频,无论您是考研复习、考证刷题,还是考前冲刺等,不同类型的产品可满足您学习上的不同需求。 ...
    本站小编 Free壹佰分学习网 2022-09-19
  • 基于XDR数据分析的OTT视频服务感知质量评估方法
    黄鹂声1,冉金也1,罗静1,张翔引21(电子科技大学计算机科学与工程学院成都611731);2(电子科技大学航空航天学院成都611731)(lsh@uestc.edu.cn)出版日期:2021-02-01基金资助:国家重点研发计划项目(2018YFB0804505);国家电网公司科学技术项目(522 ...
    本站小编 Free考研考试 2022-01-01
  • 命名数据网络中的视频传输研究综述
    胡晓艳1,2,3,4,童钟奇1,徐恪5,张国强6,郑少琦1,赵丽侠1,程光1,2,3,龚俭1,2,31(东南大学网络空间安全学院南京211189);2(计算机网络和信息集成教育部重点实验室(东南大学)南京211189);3(网络空间国际治理研究基地(东南大学)南京211189);4(网络通信与安全紫 ...
    本站小编 Free考研考试 2022-01-01
  • 基于边际贡献的需求变更技术债务量化评估
    张云洁1,张璇1,2,王旭3,任峻民1,唐子淇11(云南大学软件学院昆明650091);2(云南省软件工程重点实验室(云南大学)昆明650091);3(云南大学经济学院昆明650091)(932145749@qq.com)出版日期:2021-01-01基金资助:国家自然科学基金项目(61862063 ...
    本站小编 Free考研考试 2022-01-01
  • 教育大数据中认知跟踪模型研究进展
    胡学钢,刘菲,卜晨阳(大数据知识工程教育部重点实验室(合肥工业大学)合肥230601)(合肥工业大学计算机与信息学院合肥230601)(合肥工业大学大知识科学研究院合肥230601)(jsjxhuxg@hfut.edu.cn)出版日期:2020-12-01基金资助:国家重点研发计划项目(2016YF ...
    本站小编 Free考研考试 2022-01-01
  • 飞腾处理器上向量三角函数的设计实现与优化
    沈洁,龙标,姜浩,黄春(国防科技大学计算机学院长沙410073)(j.shen@nudt.edu.cn)出版日期:2020-12-01基金资助:“核高基”国家科技重大专项基金项目(2018ZX01029-103);国家自然科学基金项目(61902407);湖南省自然科学基金资助项目(2018JJ36 ...
    本站小编 Free考研考试 2022-01-01
  • 基于SMT求解器的微处理器指令验证数据约束生成技术
    谭坚,罗巧玲,王丽一,胡夏晖,范昊,徐占(江南计算技术研究所江苏无锡214083)(tanjian131@163.com)出版日期:2020-12-01基金资助:国家重点研发计划项目(2017YFB0202703)DataConstraintGenerationTechnologyforMicrop ...
    本站小编 Free考研考试 2022-01-01
  • 一种分布式异构带宽环境下的高效数据分区方法
    马卿云1,季航旭1,赵宇海1,毛克明2,王国仁31(东北大学计算机科学与工程学院沈阳110169);2(东北大学软件学院沈阳110169);3(北京理工大学计算机学院北京100081)(maqy1995@163.com)出版日期:2020-12-01基金资助:国家重点研发计划项目(2018YFB10 ...
    本站小编 Free考研考试 2022-01-01
  • 基于失真-扩展代价的JPEG图像可逆数据隐藏
    王洋洋1,和红杰1,陈帆1,张善俊21(信号与信息处理四川省重点实验室(西南交通大学)成都611756);2(神奈川大学理学部信息科学科日本神奈川県平塚市2591293)(wyy.wang@foxmail.com)出版日期:2020-11-01基金资助:国家自然科学基金项目(U1936113,618 ...
    本站小编 Free考研考试 2022-01-01
  • 移动群智感知中融合数据的隐私保护方法
    王涛春,金鑫,吕成梅,陈付龙,赵传信(安徽师范大学计算机与信息学院安徽芜湖241002)(网络与信息安全安徽省重点实验室(安徽师范大学)安徽芜湖241002)(wangtc@nuaa.edu.cn)出版日期:2020-11-01基金资助:国家自然科学基金项目(61402014,61972439,61 ...
    本站小编 Free考研考试 2022-01-01
  • 自动图像标注技术综述
    马艳春,刘永坚,解庆,熊盛武,唐伶俐(武汉理工大学计算机科学与技术学院武汉430070)(mayanchun@whut.edu.cn)出版日期:2020-11-01基金资助:国家自然科学基金项目(61602353);中央高校基本科研业务费专项资金(WUT:2017YB028)ReviewofAuto ...
    本站小编 Free考研考试 2022-01-01