一、WindowsNT分布式文件系统服务及应用(论文文献综述)
李鹤鸣[1](2021)在《云平台下基于GlusterFS的多客户端文件管理系统》文中认为在云计算技术突飞猛进,云平台使用日益广泛的今天,用户在生产环境中产生与使用的数据和文件体积随时间发展而极速扩张。针对云平台下的海量数据管理,研究人员提出了云存储概念,其意义是结合云概念,将用户的海量文件存放在大规模分布式文件系统中,结合服务器集群技术,对用户提供访问接口,用户无需关注文件存放的物理位置与组织形式,只需要使用云储存服务访问文件即可。云存储结合分布式文件系统,具有扩容方便,冗余备份,单位存储容量价格低等特点,适合企业应用到生产环境中。云存储的优秀特性既需要底层分布式文件系统的支撑,也需要实现上层功能服务的易用和强大。本文在研究了主流的几种分布式文件系统后,选择了GlusterFS文件系统,其具有无元数据服务特性,扩容性能强大,支持数据冗余备份,损坏数据自修复等优秀特性,非常适合应用在云存储环境下。针对上层服务,本文考虑到用户在不同环境与设备下访问文件系统的需求,选择使用Electron技术进行多平台客户端的开发,使得用户可以使用各平台的设备对文件系统进行访问。解决了传统云存储中,系统难以扩展,不能够在多环境下提供文件管理服务,难以满足协同办公需要的不足,也解决了实验室传统云存储维护中,组件过多,安全维护困难的缺点。本文首先对GlusterFS的系统架构,服务端客户端访问机制,数据分布与自修复机制进行了深入了解,分析了用户对云平台下文件管理系统的具体需求,设计确定了基于GlusterFS的多客户端文件管理系统的性能需求与功能需求,并对各个模块进行了详细设计与实现,包括有基础功能模块,性能优化模块,文件模块。性能优化模块提出设计了对Gluster文件服务器增加元数据缓存层,提高服务器的相应性能,降低资源开销。文件模块实现了大文件的分片上传与下载功能,设计实现了小文件聚合存储,提高了小文件性能,并结合Electron技术,实现了文件的在线浏览,方便了用户办公操作,改善了用户的体验。在结尾对系统进行的功能测试与性能测试表明,云平台下基于GlusterFS的多客户端文件管理系统可以满足用户的使用需求,实现了规划的目标。
曹晓裴[2](2020)在《面向分布式存储系统Ceph的遥感影像瓦片存储及其关键技术》文中指出近年来,随着遥感技术以及信息技术的快速发展,遥感影像已经成为科学研究、行业应用以及互联网企业最重要的地理数据之一。此外,为了有效提高遥感影像数据的快速共享、处理、分析与显示效率,影像切片技术逐渐成为影像对外提供服务的重要方式之一,因此,遥感影像瓦片也成为各行业部门对外提供服务的基础数据,如何对海量遥感影像瓦片进行高效组织、存储和管理是遥感影像对外提供高性能服务的关键所在。传统的基于数据库和文件系统的遥感影像瓦片存储系统,不仅在存储性能方面表现较差,同时也难以扩展和维护,已经无法满足海量遥感影像瓦片的存储。而新一代的基于主从架构的No SQL数据库以及HDFS分布式文件系统,由于存在主节点单点故障问题,其主节点往往容易成为整个存储系统的性能瓶颈。此时,基于无中心化架构思想的分布式存储系统Ceph由于其被设计成一款没有单点故障,具有高性能、高可靠性以及高扩展性的系统,已经成为海量遥感影像瓦片存储的最佳选择。但其在存储海量遥感影像瓦片这样的小文件时具有明显的性能缺陷。针对上述问题,本文在前人的小文件合并方案的基础上,充分考虑了遥感影像瓦片的时空特性,设计并实现了海量遥感影像瓦片多级优化存储方法TMOSM。本文主要的研究内容如下:(1)设计了海量遥感影像瓦片多级优化存储方法TMOSM。针对Ceph在存储海量遥感影像瓦片等小文件时性能表现不佳的问题,本文基于遥感影像瓦片合并和预取缓存策略设计了海量遥感影像瓦片多级优化存储方法TMOSM。从遥感影像瓦片合并存储策略、全局映射索引策略以及预取缓存策略等多方面对面向Ceph分布式存储系统的遥感影像瓦片存储进行了读写性能优化。(2)提出了基于扩展Z曲线和一致性哈希的遥感影像瓦片合并存储策略。为了将具有高度空间相关性的遥感影像瓦片合并在一起,同时考虑合并服务集群的伸缩性,本文通过分析已有数据划分方法的不足和缺陷,提出了基于扩展Z曲线和一致性哈希的遥感影像瓦片合并策略,该策略能够将空间上彼此邻近的瓦片合并成一个遥感影像瓦片数据集,并能够根据合并服务节点的性能分配合并数据集的数目,同时考虑到合并服务集群的扩展性和所产生的数据迁移问题。(3)设计了顾及瓦片时空特性的瓦片预取技术和缓存置换策略。为了充分发挥缓存服务器的存储性能,提高遥感影像瓦片的读取性能和访问效率,本文制定了基于深度优先策略和广度优先策略的预取策略,充分利用用户执行地图操作时的停顿时间,根据用户的访问特性将下一步可能访问的瓦片数据预取到服务器本地缓存,提高用户的响应速度和访问瓦片的效率。此外,设计了基于瓦片时空特征价值的瓦片缓存置换策略,利用遥感影像瓦片的访问特性和时空特性,提高遥感影像瓦片的读取性能。
程旺[3](2020)在《基于Hadoop的云存储系统的设计与实现》文中认为随着社会信息化的发展,互联网的使用已经非常普及。全球大数据进入高速发展阶段,随之产生的数据呈指数级增长,如何存储和分析这些海量数据已成为当前热点问题。云存储作为一种服务,被广泛应用在多个存储领域,以其良好的可扩展性、可靠性、稳定性作为海量数据存储的优秀解决方案。Hadoop作为云存储的分布式存储技术的主流项目,可以运行在低廉的硬件上,并具有可靠的容错性,正受到很多企业和科研的青睐。本文系统地阐述了一个基于Hadoop架构的云存储系统的设计与实现。并针对小文件存储问题进行原生HDFS系统改造,提出了HPM方案,在数据处理层完成了多个功能模块的设计。根据小文件的体积不均的特点,本文基于体积最优的小文件合并算法的设计,对小文件进行合并,使得均匀地分布在数据块中,充分利用数据块体积减少数据块的空白区,一定程度上减少Name Node的内存开销,其中相比于原生HDFS的内存开销降低了近95.58%。另外设计文件索引与热点缓存,是基于Ehcache的缓存预取方案。在数据写入之前对文件建立索引,以文件多标签拼接成字符串作为Row Key存储在HBase数据库中,接着通过对各种不同文件标识设计读取方式,并采用Ehcache缓存策略实现热点数据的预取和缓存,从而提高Hadoop集群的读取效率,对比实验验证了该方案比原生HDFS的读取速率提升了2.01倍左右。通过对云存储方案需求和可行性的分析,设计了云存储系统的总体架构并在此基础上进行系统的技术架构、web端负载均衡及数据库的设计工作,最后,完成系统的环境部署及系统功能的实现,主要验证了系统基于B/S模式的访问特点,实现用户管理、目录管理及文件上传、下载、共享、删除等操作。基本实现了云存储系统应有的功能和所具备的特点。
赵宇晨[4](2020)在《智能监护数据统计及分析系统的设计与实现》文中认为随着计算机技术与大数据技术的飞速发展,世界各国医疗行业信息化的建设不断加速,各类医疗监护设备采集的医疗数据也不断增加,然而传统的以单一节点数据仓库为主要信息系统的医院由于受到硬件能力的限制,在处理大量监护数据时容易遇到性能的上限,很难做到存储能力和计算能力的双向扩展。另外,需要对医疗监护数据进行统计分析,充分挖掘数据价值,用于医疗的质量控制、科学研究和辅助诊疗等。本文针对目前医疗监护数据信息化建设的需求,研究了医疗监护数据分布式存储技术和统计分析算法,设计与实现了监护数据统计及分析系统。论文的主要工作和成果如下:1、分析了当前医护人员对于麻醉教学和医疗监护报表的具体需求,设计了针对患者手术麻醉监护数据的特点的数据统计及分析系统的系统架构。该架构承载了存储和备份数据文件的数据仓库和分布式文件系统、为医护人员提供的系统网页服务器以及支撑业务实现的相关模块。2、研究了分布式存储和处理技术,设计了系统的数据模型和数据仓库。采用分布式存储实现了医疗监护数据的有效存储和管理,使医疗机构采集的海量监护数据得到妥善地存储。在数据存储之后使用并行计算模型对监护数据进行初步的归纳,为后续对监护数据进一步挖掘工作提供规范格式的数据。3、研究了医疗监护数据统计分析方法,实现了根据监护数据生理指标阈值区分患者术中症状的智能辅诊功能。智能辅诊功能基于关联规则算法的原理,能够利用过往手术麻醉过程中产生的监护数据,挖掘患者生理指标与对应术中症状的关系,并在之后的手术麻醉过程中帮助医护人员快速发现术中患者的症状。也能在手术回溯流程中监护记录未填写情况下,辅助学员完成对患者症状的判断。目前智能辅诊功能的处理结果能够为麻醉学员提供参考。4、实现了医疗监护数据统计分析系统并进行了容器化部署。系统实现了符合医护人员使用习惯的查看麻醉记录信息和读写报表电子医疗监护报表生成功能;供医护人员生成、查看和保存监护报表的功能和供麻醉学员学习了解手术麻醉业务的回溯功能,达到了医护人员和麻醉学员预期的功能和使用要求。分析了系统容器化部署与系统监控技术,设计了采用Docker虚拟容器部署项目的方法,简化了系统部署流程,并加强了系统监控。
陈孟祥[5](2020)在《分布式传统民族服饰图案存储平台的设计与实现》文中研究指明传统民族服饰文化是几千年来祖先留给中华儿女的巨大财富。在数字化智能网络时代,传统民族服饰研究过程中积累的研究资料越来越多,存储与检索的需求巨大,传统民族服饰文化的传承和保护成为了亟待解决的问题。本文针对传统民族服饰研究对存储与检索的巨大需求,提出搭建分布式传统民族服饰图案存储平台,平台划分为存储层、平台层与应用层,各层的主要研究内容如下:(1)存储层采用Ceph分布式文件系统,设计并实现了传统民族服饰研究中的三库,分别是中国民族文化基因标本库,中华民族文化基因库,中华文化素材库(下文简称三库);部署Elasticsearch分布式检索集群为图像检索提供检索能力;采用Neo4j图形数据库存储传统民族服饰图案之间的关联关系。(2)平台层是平台的核心,负责处理来自应用层的请求。采用REST(Representational State Transfer)构建请求及响应参数规范;通过HTTPS协议保证网络通信的安全;引入图片缓存机制加快图片响应速度,减小存储系统访问压力;采用控制反转、依赖注入及RPC远程过程调用技术,对各部功能进行封装,实现统一调用;针对传统民族服饰研究资料特点,设计相应的存储结构与关联关系构建流程;基于神经网络模型,结合存储层Elasticsearch分布式检索集群的检索能力,实现图像检索。(3)应用层采用MVC(Model View Controller)软件设计典范与B/S(浏览器/服务器)系统架构开发用户与平台的交互应用。本文按照软件工程规范,首先介绍了分布式传统民族服饰图案存储平台的研究背景及关键技术。然后分析了平台的功能性需求与非功能性需求,按照需求对平台的设计与实现进行了详细的阐述。最后完成平台的功能性测试与非功能性测试,验证设计与实现的正确性。
付建宇[6](2020)在《云计算平台虚拟机端缓存优化关键技术研究》文中认为云计算平台是支撑互联网应用服务和大数据处理不可替代的基础设施,已经广泛应用于人类的生产、生活和城市治理的方方面面,呈现出大量数据密集型应用和日益提高的多应用粘合度,这不断加剧了云计算平台的I/O压力。为了支持应用迁移,提高云服务可靠性,云计算平台中的虚拟机使用分布共享存储资源来存储其关键数据。共享存储通过内部网络(如以太网)互连,大数据量存取的带宽可超过单磁盘带宽,但是,在小量数据存取时,延迟大,平均带宽低。为提高云计算平台的I/O性能,虚拟机客户端广泛采用SSD作为数据缓存。然而,虚拟机特有的I/O操作特性大幅限制了客户端SSD缓存性能的充分发挥,具体表现为:在COW(Copy-on-Write)虚拟磁盘下,SSD缓存效率低;虚拟机文件系统的日志机制降低了SSD缓存效率;SSD存储空间有限,需根据虚拟机的QoS需求分配SSD缓存空间。本文针对上述三类技术难题,创新性地提出了以下技术解决方法。一、提出了根据COW虚拟磁盘I/O特性进行优化的数据缓存策略云计算平台中的虚拟机通常使用COW虚拟磁盘以提供多种虚拟机功能。然而,本文发现COW虚拟磁盘的元数据管理和COW机制,会将虚拟机发出的I/O请求数量扩大数倍,给SSD缓存带来低效的元数据性能和COW缓存扩大问题,不仅加剧了SSD磨损,还降低了I/O性能。针对上述挑战,本文提出了一个感知COW虚拟磁盘I/O特性的高效SSD缓存系统,具有三个创新点:(1)设计了一种新的SSD缓存管理架构,可以消除COW虚拟磁盘和SSD缓存的管理之间的语义隔阂,从而能够实现跨层次优化;(2)设计了一种细粒度的元数据缓存与合并写机制,通过匹配元数据的局部性特征,提高了元数据的缓存效率;(3)设计了一种解耦合COW机制,通过将COW虚拟磁盘扩大的I/O请求从关键I/O路径中解耦合出去,并只在SSD中缓存局部性高的数据,消除了COW缓存扩大问题。实验表明,相较于不感知COW虚拟磁盘的传统SSD缓存方案,该系统将虚拟机的I/O性能提高了多达122.7%,将SSD缓存的磨损减少了多达78.5%。二、提出了协同SSD缓存来保证虚拟机文件系统一致性的策略云计算平台中的虚拟机文件系统主要使用日志机制来维护存储一致性。然而,本文发现日志机制具有重复写模式(即对于文件系统的修改操作,需先写到日志区域,再更新到原始位置),其不仅会给分布式存储系统带来大量的日志写I/O,也会在SSD缓存中造成大量的冗余数据,从而降低虚拟机的I/O性能和SSD缓存的使用寿命。针对上述挑战,本文提出协同使用SSD缓存来保证虚拟机文件系统的一致性,具有三个创新点:(1)设计了一个虚拟日志设备,可以在SSD缓存管理器中获取虚拟机中日志机制的语义;(2)设计了一个缓存即日志区机制,通过将SSD缓存作为虚拟机文件系统的目标日志区域,消除了到分布式存储系统的日志写I/O,进而缓解了分布式存储系统的I/O压力;(3)设计了一个逻辑缓存机制,通过识别文件系统的同一修改带来的日志写I/O和原地写I/O,消除了二者在SSD缓存中产生的冗余数据。实验表明,相较于传统的SSD缓存方案,该方案将虚拟机的I/O性能提高了多达11.4倍,将SSD缓存的磨损减少了多达42%。三、提出了一种确定虚拟机实际缓存空间需求的R-MRC曲线以及基于该曲线且以QoS需求为导向的SSD缓存空间动态分配策略云计算平台中的SSD缓存通常由多个同时运行的虚拟机共享使用,不同的虚拟机具有不同的缓存使用模式,对于QoS服务质量的需求也各不相同。本文发现(1)传统的用于确定虚拟机的缓存空间与缓存性能之间关系的MRC曲线会高估其实际缓存空间需求;(2)传统的SSD缓存空间分配方案没有充分考虑单个虚拟机的QoS需求,从而导致有限的SSD缓存空间无法得到高效的利用。针对上述挑战,本文首先提出了一种新的R-MRC曲线,通过区分数据的局部性来确定虚拟机的真实缓存空间需求;然后提出了一种基于R-MRC曲线的SSD缓存空间动态分配算法,能够更好地满足每个虚拟机的QoS需求。实验表明,相较于传统的SSD缓存空间分配方案,该方案将所有虚拟机与其QoS目标之间的整体距离减少了多达80.6%,将SSD缓存的磨损减少了多达43.2%。
张志祥[7](2020)在《分布式金融量化分析系统研究与实现》文中提出在金融证券投资行业中,量化分析是指对证券交易的历史数据按照量化策略逻辑进行定量分析,并且最终转换为有价值交易信号的一种分析方法。量化分析应用首先需要从底层数据源中加载历史交易数据,然后以用户定义的量化策略逻辑处理这些数据,最终将得到的交易信号返回上层应用。随着大数据技术的发展,金融行业对大规模交易数据进行量化分析的需求越来越大。然而,传统金融量化分析系统是基于单机内存设计的,不具备处理大规模交易数据的能力。另外,大数据系统的学习和编程使用门槛较高,易用性不够,量化分析人员设计实现大数据金融量化分析编程模型和接口,工作难度大且效率低下。针对上述问题,本文研究提出了一种分布式金融量化分析编程模型和框架,并基于该模型和框架设计实现了一个分布式金融量化分析系统,以支持大规模交易数据的量化分析应用。本文的主要研究工作和贡献点如下:(1)研究提出了一种基于流水线(Pipeline)模式的金融量化分析编程模型和基于Spark平台的分布式金融量化分析编程框架,并在此基础上设计了一系列分布式金融量化分析编程接口。(2)基于上述分布式金融量化分析编程模型和框架,设计实现了一个高效的分布式金融量化分析系统Alchemy。该系统为量化分析作业构建多维度任务元数据索引,从而对来自底层数据源的大规模交易数据进行细粒度的并行计算和分析,并从数据存储访问、数据清洗等方面为量化分析人员提供全方面的大规模交易数据管理服务。(3)为了进一步提升该金融量化分析系统的可靠性和性能,研究设计了系统容错处理和安全机制,并且对系统底层进行了性能优化,包括源数据缓存优化、基于随机采样的任务元数据索引优化、以及基于Data Frame索引的分布式文件合并优化。(4)实验结果表明,本文研究实现的分布式金融量化分析系统Alchemy具有良好计算性能和近线性的可扩展性,本文提出的三种系统底层性能优化方法均能显着提升系统计算性能。与传统单机金融量化分析系统RQAlpha相比,本文系统Alchemy在股票和交易日期两个维度分别达到3.91倍和4.02倍的加速比。与系统未优化前相比,量化分析作业在数据加载阶段、并行计算阶段和文件合并阶段分别获得42.67%、27.63%和17.37%的性能提升。(5)作为一个实际落地验证应用案例,本文研究实现的分布式金融量化分析系统Alchemy已部署在华泰证券公司的生产环境中,并与华泰证券原单机金融量化分析系统进行了性能对比。实验结果表明,本文系统Alchemy相对于单机系统可达到100到336倍的加速,具有近线性的加速比。
向虹锟[8](2020)在《基于GeoTrellis的栅格大数据分布式计算研究》文中研究指明近年来,随着地理空间信息领域中栅格数据获取技术的发展,获取到的栅格数据呈爆炸式的增长,而与强大的数据获取能力形成鲜明对比是数据处理能力的低下,这极大的限制了人们从栅格大数据中获取信息和知识,如何高效处理栅格大数据成为地理空间信息领域中亟待解决的问题,分布式技术为解决这个问题提供了思路。本文提出一个GeoTrellis地理计算引擎与Hadoop、Spark结合的分布式计算思路来解决栅格大数据的处理,GeoTrellis与Hadoop和Spark技术融合可弥补分布式技术在栅格大数据处理中的劣势,保证栅格大数据分布式存储与计算的有效性和高效性。文中设计了基于GeoTrellis的栅格大数据处理四层分布式架构,并基于该四层分布式架构设计和实现了栅格大数据分布式计算与存储系统。同时本文基于GeoTrellis地理计算引擎设计和实现了一个B/S架构的栅格大数据处理的Web测试系统,该测试系统可对10米分辨率的全球地表覆盖分类图进行分布式计算,系统具有栅格数据入库、构建金字塔、栅格渲染、地表覆盖分类统计等服务端功能,浏览器端具有栅格数据渲染与用户交互的功能。文章最后对分布式系统的计算性能进行了相关测试,测试中以不同的栅格计算应用探讨分布式集群的大小、栅格数据量的大小以及分布式集群中硬件资源对系统性能的影响,讨论分布式系统的扩展性、稳定性等问题,并给基于GeoTrellis地理计算引擎搭建栅格大数据分布式系统提出相关建议。
王屹[9](2020)在《基于数据内容的消息中间件技术研究》文中认为随着信息技术革命在全球范围内的深入推进与互联网软硬件的广泛普及以及“互联网+”产业形态的兴起,大数据的时代已经来临。剧增的数据量一方面为数据挖掘技术提供了有力的支撑,为人类社会提供了更为智能与便捷的网络服务,另一方面其带来的网络传输与存储需求也对现有的软件技术提出了严峻的挑战,催生了分布式技术的持续演进。消息中间件技术是分布式系统中为收发两端应用提供高效数据分发服务,支撑分布式系统平稳应对大数据量并发访问的软件技术。如今,在日益发展壮大的网络规模下,直面数据洪峰的消息中间件在吞吐率和传输时延上的性能瓶颈问题变得更加突出。巨大的数据传输需求使得数据服务提供商不得不部署大量的服务器组成复杂的中间件集群,从而导致了集群部署运维成本的飞升,数据传输所占用的网络带宽与存储资源又影响了分布式系统的整体服务效率。现有的消息中间件通过优化IO,减少冗余流程,增大并发线程数等传统软件优化方法来提升系统性能表现,但随着消息中间件软件的日臻完善这种做法所能带来的性能提升已逐渐遇到瓶颈。消息中间件亟需实现进一步性能提升的手段。为解决这一问题,本文提出数据驱动消息传输的思想,立足于分布式计算机系统迫切需要更高性能的消息中间件的现实,结合新兴的机器学习技术,提出了一种基于数据内容的消息中间件技术。针对消息中间件的吞吐量性能瓶颈,为改善消息中间件在大数据场景下对网络带宽与存储资源高占用的现状,本文设计了自编码训练模块,创新性地将自编码器引入消息中间件来对数值型消息进行最大程度的压缩,进而提升系统的吞吐率。针对分布式系统中存在的对关键热点数据的低时延传输需求,本文提出了分级消息传输方案,允许通过解析消息内容为消息设置优先级。通过将高优先级消息基于内存存储,而对存储于磁盘的普通消息利用内存映射技术进行优化,可以实现关键数据的优先高速传输,为关键业务的快速响应提供了支持。在此基础上,本文针对分布式环境设计了一套消息中间件系统。基于所设计方案,本文完成了整体系统的实现与部署,并对系统进行了性能测试与可用性测试。测试结果表明,与现存其他的消息中间件相比,本文所设计的消息中间件在吞吐率与部分消息的时延性能上具有优势。这一结果表明,通过引入数据分析方法提升消息中间件的性能表现是可行的,这为消息传输性能优化提供了新的思路,对分布式消息传输的相关研究具有重要意义。
符纯浩[10](2020)在《基于分布式账本的去中心化存储系统框架》文中研究指明去中心化存储系统旨在联合遍布全世界的存储设备持有者成为服务者,贡献设备为想要租借存储空间的客户提供点对点、分布式的存储服务。该系统具有去控制中心、多服务方服务的特点,可以有效解决传统中心化存储服务单点失效、数据泄露等痛点。本文采用了分布式账本技术实现系统激励机制,该技术通过分散记账权实现了去中心化的交易。激励机制利用经济手段刺激更多设备持有者参与系统;分布式账本则能够保证激励过程中交易的去中心化特性。本文通过对去中心化存储、区块链、冗余存储和文件存储证明技术进行深入研究,提出了一种基于分布式账本的去中心化存储系统设计方案。本文的研究工作及成果主要有以下几点:(1)本文提出了一种基于分布式账本的去中心化存储系统框架,规范了框架中各部分包含的功能模块及其具体作用,并阐述了一次交易中系统运转流程。(2)本文改进了去中心化存储中冗余文件的分配策略。本文提出的系统采用了纠删编码冗余备份的方式,并给出最佳的文件冗余量,在保证存储性能等同于完全备份的同时,将冗余数据大小缩小了1.4倍。同时,本文设计了基于客户到服务者点对点网络传输速度的冗余备份分配方式,可以大幅加快文件恢复速度,并保护用户数据隐私。(3)本文设计并实现了基于分布式账本的存储服务交易市场,用于客户和服务者间确定服务关系。交易市场基于联盟链Hyperledger Fabric搭建,其中采用了一种基于拍卖交易的服务方选择方式,以协助客户挑选到优质的服务者;还采用了文件存储证明的链上校验的方式,可以更好的保证证明校验的公平性。经过仿真测试,本文设计的去中心化存储系统在两年存储期内可以达到99.9%以上的服务可用性,并在十年存储期内保持在99.75%以上;同时可保证存储耐用性达到“12个9”,基本达到一线云存储服务设计标准。交易市场的测试中,在“2个组织,2个背书节点,5个排序节点”的微型拓扑结构下,1秒内可以响应近20笔交易和至少100次查询服务,每笔交易平均延迟为2.4秒,交易吞吐量已高于以太坊。实验表明,本文提出的系统可以提供可靠的数据存储服务,并可实现高效的存储服务交易。
二、WindowsNT分布式文件系统服务及应用(论文开题报告)
(1)论文研究背景及目的
此处内容要求:
首先简单简介论文所研究问题的基本概念和背景,再而简单明了地指出论文所要研究解决的具体问题,并提出你的论文准备的观点或解决方法。
写法范例:
本文主要提出一款精简64位RISC处理器存储管理单元结构并详细分析其设计过程。在该MMU结构中,TLB采用叁个分离的TLB,TLB采用基于内容查找的相联存储器并行查找,支持粗粒度为64KB和细粒度为4KB两种页面大小,采用多级分层页表结构映射地址空间,并详细论述了四级页表转换过程,TLB结构组织等。该MMU结构将作为该处理器存储系统实现的一个重要组成部分。
(2)本文研究方法
调查法:该方法是有目的、有系统的搜集有关研究对象的具体信息。
观察法:用自己的感官和辅助工具直接观察研究对象从而得到有关信息。
实验法:通过主支变革、控制研究对象来发现与确认事物间的因果关系。
文献研究法:通过调查文献来获得资料,从而全面的、正确的了解掌握研究方法。
实证研究法:依据现有的科学理论和实践的需要提出设计。
定性分析法:对研究对象进行“质”的方面的研究,这个方法需要计算的数据较少。
定量分析法:通过具体的数字,使人们对研究对象的认识进一步精确化。
跨学科研究法:运用多学科的理论、方法和成果从整体上对某一课题进行研究。
功能分析法:这是社会科学用来分析社会现象的一种方法,从某一功能出发研究多个方面的影响。
模拟法:通过创设一个与原型相似的模型来间接研究原型某种特性的一种形容方法。
三、WindowsNT分布式文件系统服务及应用(论文提纲范文)
(1)云平台下基于GlusterFS的多客户端文件管理系统(论文提纲范文)
摘要 |
abstract |
第一章 绪论 |
1.1 研究背景与意义 |
1.2 国内外研究现状 |
1.3 研究内容与主要工作 |
1.4 论文的组织结构 |
第二章 技术概述 |
2.1 分布式文件系统简述 |
2.2 GlusterFS分布式文件系统 |
2.2.1 GlusterFS系统结构 |
2.2.2 GlusterFS服务端与客户端 |
2.2.3 GlusterFS的数据分布与自修复机制 |
2.2.4 GlusterFS特点与对比 |
2.3 Electron多客户端开发技术 |
2.4 Spring Boot服务端开发技术 |
2.5 本章小结 |
第三章 基于GlusterFS的多客户端文件管理系统的分析与设计 |
3.1 系统需求分析 |
3.1.1 功能模块分析 |
3.1.2 性能需求分析 |
3.2 系统总体设计 |
3.2.1 系统整体架构 |
3.2.2 功能模块设计 |
3.2.3 数据库设计 |
3.3 本章小结 |
第四章 基于GlusterFS的多客户端文件管理系统详细设计与实现 |
4.1 系统基础功能设计与实现 |
4.1.1 交互接口设计 |
4.1.2 用户模块 |
4.1.3 权限模块 |
4.1.4 系统监控 |
4.1.5 服务高可用设计与实现 |
4.2 文件目录性能优化设计与实现 |
4.3 文件模块功能设计与实现 |
4.3.1 文件上传 |
4.3.2 文件下载 |
4.3.3 文件/文件夹删除 |
4.3.4 文件浏览 |
4.3.5 小文件聚合存储 |
4.4 多客户端设计与实现 |
4.5 本章小结 |
第五章 系统测试 |
5.1 测试环境 |
5.1.1 测试环境搭建 |
5.2 测试结果 |
5.2.1 功能测试 |
5.2.2 性能测试 |
5.3 本章小结 |
第六章 总结与展望 |
6.1 论文总结 |
6.2 论文工作展望 |
致谢 |
参考文献 |
(2)面向分布式存储系统Ceph的遥感影像瓦片存储及其关键技术(论文提纲范文)
致谢 |
摘要 |
Abstract |
1 绪论 |
1.1 研究背景与意义 |
1.2 国内外研究现状 |
1.2.1 分布式文件系统研究现状 |
1.2.2 海量遥感影像瓦片存储方法研究现状 |
1.2.3 海量小文件存储研究现状 |
1.2.4 遥感影像瓦片缓存技术研究现状 |
1.3 研究内容 |
1.4 论文组织结构 |
2 Ceph分布式存储关键技术分析 |
2.1 Ceph简介 |
2.2 Ceph系统架构 |
2.2.1 Ceph存储系统核心RADOS |
2.2.2 Ceph寻址过程 |
2.2.3 CRUSH算法 |
2.3 Ceph文件系统的主要组件 |
2.3.1 监视器 |
2.3.2 对象存储设备 |
2.3.3 元数据服务器 |
2.3.4 Ceph客户端 |
2.4 Ceph读写流程 |
2.4.1 Ceph读文件流程 |
2.4.2 Ceph写文件流程 |
2.5 Ceph存储小文件问题 |
2.6 本章小结 |
3 海量遥感影像瓦片多级优化存储方法 |
3.1 遥感影像瓦片多级优化存储方法TMOSM设计 |
3.2 基于扩展Z曲线和一致性哈希的遥感影像瓦片合并存储策略 |
3.2.1 遥感影像瓦片数据划分原则 |
3.2.2 遥感影像瓦片数据划分方法 |
3.2.3 基于扩展Z曲线和一致性哈希的遥感影像瓦片数据合并策略 |
3.2.4 基于扩展Z曲线的遥感影像瓦片数据集的构建过程 |
3.2.5 基于一致性哈希算法的遥感影像瓦片数据集分发过程 |
3.3 基于Avro的遥感影像瓦片合并文件存储结构 |
3.4 基于布隆过滤器和FNI-Tree的遥感影像瓦片数据映射索引策略 |
3.5 本章小结 |
4 顾及瓦片时空特性的预取技术与缓存置换策略 |
4.1 基于遥感影像瓦片空间特性的预取策略 |
4.1.1 遥感影像瓦片加载服务原理 |
4.1.2 遥感影像瓦片预取策略的制定 |
4.2 遥感影像瓦片缓存置换策略的评价指标 |
4.2.1 遥感影像瓦片数据访问特性 |
4.2.2 遥感影像瓦片时空特征价值评价指标 |
4.3 基于遥感影像瓦片时空特征价值的缓存置换策略 |
4.3.1 遥感影像瓦片时空特征价值表达 |
4.3.2 基于R树的遥感影像瓦片缓存索引 |
4.3.3 基于瓦片时空特征价值的缓存置换流程 |
4.4 本章小结 |
5 原型系统实现与性能测试 |
5.1 原型系统实现及部署 |
5.2 Ceph存储集群网络配置 |
5.3 系统实验验证 |
5.3.1 实验数据与内容 |
5.3.2 遥感影像瓦片合并存储策略实验验证 |
5.3.3 基于时空特征价值的瓦片缓存置换策略的实验验证 |
5.3.4 基于瓦片预取技术的瓦片数据读取性能测试实验 |
5.4 本章小结 |
6 总结与展望 |
6.1 论文工作总结 |
6.2 研究特色 |
6.3 不足与展望 |
参考文献 |
作者简介 |
(3)基于Hadoop的云存储系统的设计与实现(论文提纲范文)
中文摘要 |
Abstract |
第1章 绪论 |
1.1 课题研究背景及意义 |
1.2 国内外研究现状 |
1.2.1 云存储现状 |
1.2.2 Hadoop现状 |
1.2.3 小文件存储研究现状 |
1.3 论文主要研究内容及章节安排 |
第2章 云存储理论及Hadoop文件系统介绍 |
2.1 云存储 |
2.1.1 云存储概述 |
2.1.2 云存储系统模型 |
2.1.3 云存储关键技术 |
2.2 分布式文件系统 |
2.2.1 分布式文件系统架构 |
2.2.2 分布式文件系统访问流程 |
2.3 HDFS系统分析 |
2.3.1 HDFS体系架构 |
2.3.2 HDFS功能组件 |
2.3.3 HDFS合并元数据 |
2.3.4 HDFS数据交互 |
2.3.5 HDFS通信协议 |
2.4 目前HDFS存在的缺陷 |
2.5 本章小结 |
第3章 小文件存储优化实现 |
3.1 小文件定义 |
3.2 小文件存储问题 |
3.3 Hadoop自带方案分析 |
3.3.1 Hadoop Archives方案 |
3.3.2 Sequence File方案 |
3.3.3 Map File方案 |
3.4 小文件优化方案设计 |
3.4.1 文件判重模块 |
3.4.2 文件大小判定模块 |
3.4.3 文件合并模块 |
3.4.4 文件索引策略 |
3.4.5 文件缓存模块 |
3.4.6 文件读写过程 |
3.5 本章小结 |
第4章 云存储系统设计 |
4.1 系统需求与可行性分析 |
4.1.1 系统需求分析 |
4.1.2 系统可行性分析 |
4.2 云存储系统架构设计 |
4.2.1 总体架构设计 |
4.2.2 系统技术架构设计 |
4.2.3 Web服务器负载均衡设计 |
4.2.4 数据库设计 |
4.3 本章小结 |
第5章 云存储系统实现与小文件测试 |
5.1 云存储系统环境搭建 |
5.1.1 Hadoop集群部署 |
5.1.2 开发环境搭建 |
5.2 云存储平台系统功能实现 |
5.2.1 系统功能列表 |
5.2.2 上传文件 |
5.2.3 下载文件 |
5.2.4 浏览文件 |
5.2.5 其他操作 |
5.3 云存储系统展示 |
5.4 小文件存储优化测试与分析 |
5.4.1 实验环境与内容 |
5.4.2 实验结果对比分析 |
5.5 本章小结 |
结论 |
参考文献 |
致谢 |
攻读硕士学位期间发表的学术论文 |
攻读硕士学位期间获得的奖项 |
(4)智能监护数据统计及分析系统的设计与实现(论文提纲范文)
摘要 |
ABSTRACT |
第一章 绪论 |
1.1 研究背景与意义 |
1.2 研究现状 |
1.3 论文主要研究工作及结构安排 |
第二章 智能监护数据统计及分析系统概述 |
2.1 系统功能分析 |
2.2 系统功能模块设计 |
2.3 系统的关键技术研究 |
2.3.1 Web报表生成技术 |
2.3.2 报表导出技术 |
2.3.3 视频回放技术 |
2.3.4 分布式文件存储 |
2.3.5 并行计算技术 |
2.3.6 数据挖掘算法 |
2.4 本章小结 |
第三章 数据统计服务功能的设计与实现 |
3.1 数据统计服务功能方案设计 |
3.2 数据模型设计 |
3.2.1 患者麻醉信息功能数据模型设计 |
3.2.2 麻醉流程回溯功能数据模型设计 |
3.2.3 质控/麻醉报表功能数据模型设计 |
3.2.4 综合医疗数据看板数据模型设计 |
3.3 视频文件系统的设计与实现 |
3.4 麻醉流程回溯功能模块 |
3.4.1 麻醉流程回溯功能Web端实现流程 |
3.4.2 麻醉流程回溯功能服务端实现流程 |
3.4.3 麻醉流程回溯功能测试 |
3.5 质控记录功能模块 |
3.5.1 质控记录表功能Web端实现流程 |
3.5.2 质控记录表功能服务端实现流程 |
3.5.3 质控报表功能测试 |
3.6 医疗数据看板模块 |
3.6.1 医疗数据看板Web端实现流程 |
3.6.2 医疗数据看板功能服务端实现流程 |
3.6.3 医疗数据看板功能测试 |
3.7 本章小结 |
第四章 数据分析服务功能的设计与实现 |
4.1 数据分析功能架构设计 |
4.1.1 数据层 |
4.1.2 访问控制层 |
4.1.3 应用层 |
4.2 监护数据持久化备份 |
4.3 监护数据分析功能研究 |
4.3.1 监护数据预处理 |
4.3.2 Apriori算法划分症状区间 |
4.3.3 产生辅诊结论 |
4.4 实验结果及分析 |
4.5 本章总结 |
第五章 系统虚拟容器化部署 |
5.1 虚拟容器化部署的研究 |
5.2 系统功能拆分与部属 |
5.2.1 主从数据库部署 |
5.2.2 监护数据统计功能模块的部署 |
5.2.3 监护数据分析功能模块的部署 |
5.3 本章小结 |
第六章 总结与展望 |
6.1 论文工作总结 |
6.2 后期工作展望 |
参考文献 |
致谢 |
作者攻读学位期间内成果目录 |
(5)分布式传统民族服饰图案存储平台的设计与实现(论文提纲范文)
摘要 |
ABSTRACT |
第一章 绪论 |
1.1 研究背景及意义 |
1.2 国内外研究现状 |
1.3 论文主要工作 |
1.4 论文组织结构 |
1.5 本章小结 |
第二章 相关理论及技术介绍 |
2.1 存储技术 |
2.1.1 分布式存储技术 |
2.1.2 Neo4j图型数据库 |
2.1.3 内存数据库 |
2.2 分布式检索技术 |
2.2.1 Elasticsearch框架 |
2.2.2 神经网络相关技术 |
2.3 系统开发技术 |
2.3.1 web开发技术 |
2.3.2 通信技术 |
2.4 本章小结 |
第三章 分布式传统民族服饰图案存储平台的需求分析 |
3.1 需求概述 |
3.1.1 传统民族服饰存储需求分析 |
3.1.2 总体需求 |
3.2 功能性需求 |
3.2.1 传统民族服饰图案存储库 |
3.2.2 具有反馈的图像检索 |
3.2.3 关联关系网络 |
3.2.4 应用层Web门户 |
3.3 非功能性需求 |
3.4 本章小结 |
第四章 分布式传统民族服饰图案存储平台的设计 |
4.1 总体设计 |
4.2 存储层设计 |
4.3 平台层设计 |
4.4 应用层系统设计 |
4.5 本章小结 |
第五章 分布式传统民族服饰图案存储平台的实现 |
5.1 存储层实现 |
5.2 平台层实现 |
5.3 应用层系统实现 |
5.4 本章小结 |
第六章 分布式传统民族服饰图案存储平台的测试 |
6.1 测试目标 |
6.2 测试环境 |
6.3 功能性测试 |
6.4 非功能性测试 |
6.5 本章小结 |
第七章 总结与展望 |
7.1 工作总结 |
7.2 工作展望 |
参考文献 |
致谢 |
(6)云计算平台虚拟机端缓存优化关键技术研究(论文提纲范文)
摘要 |
Abstract |
第一章 绪论 |
1.1 云计算平台的现状和发展趋势 |
1.1.1 云计算平台应用的需求 |
1.1.2 云计算平台的技术特点 |
1.1.3 云计算平台的快速发展 |
1.2 云计算平台的I/O需求分析 |
1.2.1 数据密集型应用场景 |
1.2.2 虚拟化带来的I/O需求 |
1.3 云计算平台中SSD缓存的现状和挑战 |
1.3.1 基于Flash闪存技术的SSD |
1.3.2 云计算平台中使用SSD缓存 |
1.3.3 SSD缓存面临的挑战性问题 |
1.4 本文工作 |
1.4.1 感知COW虚拟磁盘的数据缓存策略 |
1.4.2 协同SSD缓存的虚拟机文件系统一致性策略 |
1.4.3 面向QoS需求的R-MRC曲线构建和空间分配策略 |
1.5 论文组织 |
第二章 相关研究 |
2.1 基于SSD的缓存 |
2.1.1 混合磁盘技术 |
2.1.2 SSD缓存技术 |
2.2 SSD缓存数据管理技术 |
2.2.1 数据缓存策略 |
2.2.2 数据替换策略 |
2.2.3 数据写回策略 |
2.2.4 SSD缓存内部优化 |
2.2.5 小结 |
2.3 SSD缓存空间分配技术 |
2.3.1 空间分配策略 |
2.3.2 MRC曲线构建策略 |
2.3.3 小结 |
第三章 感知COW虚拟磁盘的数据缓存策略 |
3.1 研究背景与动机 |
3.1.1 COW虚拟磁盘分析 |
3.1.2 缓存管理层次分析 |
3.1.3 为COW虚拟磁盘提供SSD缓存的新挑战 |
3.2 COWCache系统设计 |
3.2.1 感知COW虚拟磁盘的缓存架构 |
3.2.2 细粒度的元数据缓存与合并写 |
3.2.3 解耦合Copy-on-Write机制 |
3.3 系统实现 |
3.3.1 虚拟缓存映射表 |
3.3.2 感知COW虚拟磁盘 |
3.4 性能测试 |
3.4.1 实验环境 |
3.4.2 微基准程序测试 |
3.4.3 应用程序测试 |
3.5 本章小结 |
第四章 协同SSD缓存的虚拟机文件系统一致性策略 |
4.1 研究背景与动机 |
4.1.1 日志文件系统 |
4.1.2 日志机制下的SSD缓存挑战 |
4.2 JCache系统设计 |
4.2.1 感知日志机制的缓存架构 |
4.2.2 缓存即日志区 |
4.2.3 逻辑缓存 |
4.2.4 恢复 |
4.3 性能测试 |
4.3.1 系统实现 |
4.3.2 实验环境 |
4.3.3 微基准程序测试 |
4.3.4 应用程序测试 |
4.4 本章小结 |
第五章 面向QoS需求的R-MRC曲线构建和空间分配策略 |
5.1 研究背景与动机 |
5.2 R-MRC曲线设计 |
5.2.1 R3 距离 |
5.2.2 RWS栈算法 |
5.2.3 重用数据树算法 |
5.3 缓存空间分配 |
5.3.1 问题描述 |
5.3.2 以命中率为QoS目标的优化设计 |
5.3.3 以I/O延迟为QoS目标的优化设计 |
5.4 性能测试 |
5.4.1 实验环境 |
5.4.2 R-MRC与 MRC的对比 |
5.4.3 命中率实验结果 |
5.4.4 I/O延迟实验结果 |
5.5 本章小结 |
第六章 结论与展望 |
6.1 工作总结 |
6.2 研究展望 |
致谢 |
参考文献 |
作者在学期间取得的学术成果 |
(7)分布式金融量化分析系统研究与实现(论文提纲范文)
摘要 |
英文摘要 |
第一章 绪论 |
1.1 研究背景 |
1.2 现有相关工作及其不足 |
1.2.1 传统单机金融量化分析系统 |
1.2.2 人工智能金融量化分析系统 |
1.2.3 现有金融量化分析系统在大数据场景下的不足 |
1.3 本文主要研究内容 |
1.4 相关系统简介 |
1.4.1 Hadoop HDFS简介 |
1.4.2 Hadoop YARN简介 |
1.4.3 Apache Spark简介 |
1.4.4 Apache HBase简介 |
1.5 本文组织结构 |
第二章 分布式金融量化分析编程模型与框架 |
2.1 基于流水线模式的金融量化分析编程模型与接口 |
2.1.1 量化分析作业的流水线工作流模型 |
2.1.2 基于流水线工作流模型的金融量化分析编程接口 |
2.2 基于Spark的分布式金融量化分析编程框架 |
2.2.1 任务元数据抽象模型 |
2.2.2 分布式函数计算 |
2.3 量化分析作业示例 |
2.3.1 MACD模型量化分析作业示例 |
2.3.2 多因子模型量化分析作业示例 |
2.4 本章小结 |
第三章 分布式金融量化分析系统设计与实现 |
3.1 系统架构与模块概览 |
3.2 量化分析系统的作业执行机制 |
3.2.1 量化分析作业执行流程 |
3.2.2 底层源数据ETL |
3.2.3 多维度任务元数据索引构建 |
3.2.4 任务元数据的分布式函数计算 |
3.2.5 多文件的分布式级联合并 |
3.3 量化分析系统的容错处理与安全机制 |
3.3.1 量化分析作业的异常处理 |
3.3.2 基于gRPC的远程日志收集 |
3.3.3 基于沙盒的代码安全检测 |
3.4 量化分析系统的底层性能优化 |
3.4.1 源数据缓存优化 |
3.4.2 基于随机采样的任务元数据索引优化 |
3.4.3 基于Data Frame索引的分布式文件合并优化 |
3.5 本章小结 |
第四章 性能评估与分析 |
4.1 实验环境配置 |
4.2 数据集与性能测试指标 |
4.3 与单机金融量化分析系统RQAlpha对比 |
4.4 系统底层性能优化实验 |
4.4.1 源数据缓存优化实验 |
4.4.2 基于随机采样的任务元数据索引优化实验 |
4.4.3 基于Data Frame索引的分布式文件合并优化实验 |
4.5 可扩展性实验 |
4.6 本章小结 |
第五章 证券企业量化分析编程平台应用 |
5.1 应用背景 |
5.2 华泰证券量化分析编程平台的设计实现 |
5.2.1 系统架构 |
5.2.2 证券数据的存储与访问 |
5.2.3 量化分析作业的并行化处理 |
5.3 性能评估 |
5.3.1 实验环境配置 |
5.3.2 并行化计算性能评估 |
5.3.3 源数据缓存实验 |
5.3.4 量化分析编程平台节点可扩展性实验 |
5.4 本章小结 |
第六章 总结与展望 |
6.1 工作总结 |
6.2 进一步工作 |
参考文献 |
致谢 |
附录 |
(8)基于GeoTrellis的栅格大数据分布式计算研究(论文提纲范文)
摘要 |
ABSTRACT |
第一章 绪论 |
1.1 研究背景 |
1.2 国内外研究现状 |
1.2.1 栅格大数据的存储现状 |
1.2.2 栅格大数据的计算现状 |
1.3 研究目标与内容 |
1.4 论文章节安排 |
第二章 系统架构设计与搭建 |
2.1 基于GeoTrellis 的栅格大数据处理分布式架构设计 |
2.1.1 分布式计算 |
2.1.2 Spark分布式计算框架 |
2.1.3 基于GeoTrellis的栅格大数据处理四层分布式架构设计 |
2.2 系统搭建 |
2.3 本章小结 |
第三章 分布式存储设计与数据加载 |
3.1 基于GeoTrellis的栅格大数据分布式存储设计 |
3.1.1 分布式存储 |
3.1.2 HDFS分布式文件系统 |
3.1.3 基于GeoTrellis实现栅格数据分块 |
3.1.4 基于GeoTrellis空间索引保持空间邻近性 |
3.2 栅格数据加载 |
3.2.1 分布式内存对象Tile Layer RDD |
3.2.2 栅格数据入库 |
3.2.3 影像金字塔构建 |
3.3 本章小结 |
第四章 Web测试系统设计与实现 |
4.1 栅格数据计算可并行化分析 |
4.2 Web测试系统架构设计 |
4.2.1 系统分析 |
4.2.2 系统架构 |
4.3 Web测试系统功能设计 |
4.4 Web测试系统功能实现 |
4.4.1 浏览器端功能实现 |
4.4.2 服务端功能实现 |
4.5 本章小结 |
第五章 性能分析 |
5.1 计算节点数量对系统性能的影响 |
5.1.1 实验数据 |
5.1.2 实验结果 |
5.2 栅格数据量对系统性能的影响 |
5.2.1 实验数据 |
5.2.2 实验结果 |
5.3 硬件资源对系统性能的影响 |
5.4 问题与讨论 |
5.5 本章小结 |
第六章 总结与展望 |
致谢 |
参考文献 |
攻读硕士学位期间发表的论文及科研成果 |
(9)基于数据内容的消息中间件技术研究(论文提纲范文)
摘要 |
ABSTRACT |
符号对照表 |
缩略语对照表 |
第一章 绪论 |
1.1 研究背景与意义 |
1.2 国内外研究现状 |
1.3 本文主要研究内容 |
1.4 本文内容安排 |
第二章 消息中间件相关理论与技术 |
2.1 消息中间件技术体系 |
2.1.1 消息中间件组成原理 |
2.1.2 消息中间件的消息模型 |
2.1.3 消息中间件的性能评价指标 |
2.2 自编码压缩技术 |
2.2.1 自编码器技术简介 |
2.2.2 适用于数据压缩的自编码器 |
2.3 消息存储技术 |
2.3.1 基于关系型数据库的消息存储 |
2.3.2 基于文件的消息存储 |
2.3.3 KV存储 |
2.4 分布式计算技术 |
2.4.1 概述 |
2.4.2 系统相关组件 |
2.5 本章小结 |
第三章 基于数据内容的消息中间件技术 |
3.1 消息中间件性能分析 |
3.2 消息中间件的传统性能优化方法 |
3.3 基于数据内容的消息中间件性能优化方法 |
3.3.2 基于自编码器的吞吐率优化 |
3.3.3 基于分级消息的时延优化 |
3.4 本章小结 |
第四章 基于数据内容的消息中间件的设计与实现 |
4.1 系统设计需求分析 |
4.2 系统架构设计 |
4.2.1 总体架构设计 |
4.2.2 系统工作流程 |
4.3 核心模块设计与实现 |
4.3.1 全局协调模块 |
4.3.2 编码器训练模块 |
4.3.3 消息队列模块 |
4.3.4 消息分区模块 |
4.3.5 消息客户端 |
4.4 本章小结 |
第五章 系统部署与测试 |
5.1 测试环境 |
5.2 系统可用性测试 |
5.2.1 消息传输测试 |
5.2.2 高可用性测试 |
5.3 系统性能测试 |
5.3.1 系统吞吐率测试 |
5.3.2 消息时延测试 |
5.4 本章小结 |
第六章 总结与展望 |
6.1 本文研究总结 |
6.2 未来展望 |
参考文献 |
致谢 |
作者简介 |
(10)基于分布式账本的去中心化存储系统框架(论文提纲范文)
摘要 |
abstract |
第一章 绪论 |
1.1 研究工作的背景与意义 |
1.2 国内外研究现状 |
1.2.1 云存储发展现状研究 |
1.2.2 去中心化存储技术分析 |
1.2.3 去中心化存储研究进展分析 |
1.2.4 分布式账本技术研究 |
1.2.5 分布式账本在存储领域的应用 |
1.3 本文的主要贡献与创新 |
1.4 本论文的结构安排 |
第二章 基于分布式账本的去中心化存储系统研究与设计 |
2.1 系统设计需求分析 |
2.1.1 存储设计需求 |
2.1.2 分布式账本设计需求 |
2.1.3 整体系统性能需求 |
2.2 系统角色模型 |
2.3 系统框架研究和设计 |
2.4 系统功能模块设计 |
2.4.1 存储服务交易市场功能模块 |
2.4.2 分布式文件系统功能模块 |
2.4.3 用户端功能模块 |
2.5 系统交易流程 |
2.5.1 系统整体交易流程 |
2.5.2 链上交易流程 |
2.6 本章小结 |
第三章 去中心化存储系统冗余备份方案研究与设计 |
3.1 冗余备份技术研究 |
3.1.1 冗余备份常用技术手段 |
3.1.2 冗余备份技术利弊和适用场景 |
3.1.3 常用数据安全性指标 |
3.2 冗余备份方案设计模型 |
3.2.1 冗余备份方案设计原则 |
3.2.2 冗余备份方案设计模型 |
3.3 冗余备份方案的实现 |
3.3.1 冗余备份量设计 |
3.3.2 冗余备份分配策略 |
3.3.3 冗余备份方案小结 |
3.4 本章小结 |
第四章 去中心化存储系统存储服务交易市场研究与设计 |
4.1 存储服务交易市场研究 |
4.2 基于拍卖交易的服务方选择的原理与实现 |
4.2.1 拍卖交易的目的及意义 |
4.2.2 拍卖交易的实现 |
4.3 文件存储证明链上校验的原理与实现 |
4.3.1 文件存储证明研究 |
4.3.2 文件存储证明链上校验的实现 |
4.4 存储服务交易市场的实现 |
4.4.1 用户信息模块 |
4.4.2 存储服务模块 |
4.4.3 拍卖交易模块 |
4.4.4 证明校验模块 |
4.5 本章小结 |
第五章 系统功能测试和数据对比 |
5.1 系统测试环境 |
5.2 系统功能测试 |
5.3 系统性能测试 |
5.3.1 交易市场性能 |
5.3.2 存储服务性能 |
5.3.3 文件证明时间 |
5.4 本章小结 |
第六章 全文总结与展望 |
6.1 全文总结 |
6.2 展望 |
致谢 |
参考文献 |
附录A 交易市场测试结果截图 |
四、WindowsNT分布式文件系统服务及应用(论文参考文献)
- [1]云平台下基于GlusterFS的多客户端文件管理系统[D]. 李鹤鸣. 电子科技大学, 2021(01)
- [2]面向分布式存储系统Ceph的遥感影像瓦片存储及其关键技术[D]. 曹晓裴. 浙江大学, 2020(02)
- [3]基于Hadoop的云存储系统的设计与实现[D]. 程旺. 黑龙江大学, 2020(04)
- [4]智能监护数据统计及分析系统的设计与实现[D]. 赵宇晨. 北京邮电大学, 2020(05)
- [5]分布式传统民族服饰图案存储平台的设计与实现[D]. 陈孟祥. 北京邮电大学, 2020(05)
- [6]云计算平台虚拟机端缓存优化关键技术研究[D]. 付建宇. 国防科技大学, 2020(01)
- [7]分布式金融量化分析系统研究与实现[D]. 张志祥. 南京大学, 2020(02)
- [8]基于GeoTrellis的栅格大数据分布式计算研究[D]. 向虹锟. 西南交通大学, 2020(07)
- [9]基于数据内容的消息中间件技术研究[D]. 王屹. 西安电子科技大学, 2020(05)
- [10]基于分布式账本的去中心化存储系统框架[D]. 符纯浩. 电子科技大学, 2020(07)