《大数据管理概论》一3.2 大数据存储与管理方法-阿里云开发者社区

开发者社区> 华章出版社> 正文
登录阅读全文

《大数据管理概论》一3.2 大数据存储与管理方法

简介:

本节书摘来自华章出版社《大数据管理概论》一书中的第3章,第3.2节,作者 孟小峰,更多章节内容可以访问云栖社区“华章计算机”公众号查看

3.2 大数据存储与管理方法

闪存、PCM等新型存储介质的引入使得大数据存储架构有了多种选择。但由于新型存储介质在价格、寿命等方面与传统的磁盘相比不具优势,因此目前主流的观点是在大数据存储系统中同时使用新型存储介质和传统存储介质,由此产生了多种基于新型存储的大数据存储架构,如基于PCM的主存架构、基于闪存的主存扩展架构、基于多存储介质的分层存储架构等。

3.2.1 基于PCM的主存架构

由于PCM存储密度高、容量大、耗电低,而且访问速度接近内存,因此工业界和学术界都开展了将PCM作为主存系统的研究。与闪存相比,PCM存取延迟更短,而且可以直接按位存取,因此能够被CPU直接存取,更适合作为DRAM的扩展。与DRAM相比,PCM具有非易失性特点,因此适合存储文件等静态数据。
在利用PCM替代DRAM方面,目前的研究重点主要集中在利用DRAM减少对PCM的写操作以及负载均衡等项目。对于利用DRAM来减少对PCM写操作的方法,研究者往往借助DRAM缓存来延迟对PCM的写操作从而达到减少PCM写次数的目的[42]。负载均衡思想是通过增加一层地址映射,将PCM的写操作均匀地分配给所有的存储单元,以尽可能地达到PCM的最大使用寿命。
在针对大数据存储的集群架构中,负载均衡主要通过适合PCM的数据划分算法实现。PCM作为主存系统的思想对于大数据管理与分析有着重要的意义。虽然大数据应用中涉及的原始数据量非常大,但真正有价值的数据以及应用每次需要存取的数据量仍是有限的,因此我们可以利用PCM的高性能、非易失、按位存取等特性,将应用需要实时存取的高价值数据存储在PCM中,将PCM与DRAM混合形成高性能数据处理系统,同时将大规模的原始数据存储在磁盘和SSD中。因此,将PCM引入目前的存储架构中将有望解决大数据管理与分析中的性能问题。

3.2.2 基于闪存的主存扩展架构

与PCM相比,目前闪存的应用更为广泛。高速大容量SSD设备的不断出现,使得SSD在存储架构中的地位也得以提升。在大数据管理方面,目前SSD的存储容量还达不到大数据的PB级别存储需求,因此近年来主要的工作集中在利用高端SSD进行主存扩展的研究上。
普林斯顿大学的研究人员提出了一种利用SSD进行内存扩展的主存管理系统——SSDAlloc。SSDAlloc在存储体系中将SSD提升到一个更高的层次,它把SSD当作一个更大、稍慢的DRAM而不是将它当作磁盘的缓存。为了提高数据库系统的整体性能,研究者以NoSQL数据库系统Redis为基础平台,用SSD代替磁盘作为虚拟内存中的交换设备,扩大虚拟内存的同时帮助NoSQL数据库减少数据读延迟。考虑到当将SSD作为虚拟交换设备时,页面交换的代价依然较大,一种基于DRAM与SSD的混合主存架构被设计出来,其将SSD作为主存,将DRAM作为SSD的高速缓冲,并将这种混合主存结构融入Memcached,大幅提升了Memcached性能。

3.2.3 基于多存储介质的分层存储架构

基于不同存储介质的分层存储架构目前主要集中在DRAM、闪存、磁盘的混合存储上。一种观点是将闪存作为内存与磁盘之间的缓存。例如,FlashCache[43]是Facebook为innoDB设计的块缓存应用,它将闪存划分为一个逻辑集合,基于组相联映射的思想将磁盘上的块数据映射到闪存中。当I/O请求到达时,FlashCache会先在闪存中查找该数据是否已被缓存,如果有则直接进行读操作,否则访问磁盘。将闪存作为DRAM与磁盘之间的缓存进行数据预取[44]或者预写[45,46],可以充分发挥闪存读性能好的优点,减少对磁盘的写操作,同时减少系统能耗。另一种观点是将闪存与磁盘一样作为二级存储介质,手动或者自动地将不同类别的数据分配到闪存或磁盘上[47]。由于不同的存储分配策略以及存储介质组合方式对于此类系统的性能有着决定性影响。
在存储分配方面,已有研究倾向于根据I/O特性和数据的“冷热”程度来进行存储分配,将读倾向负载的数据或者热点数据存放在SSD上,而写倾向负载或非热点数据等则存放在磁盘上。IBM在其企业级存储设备DS8000上增加了EasyTier自动封存存储功能[48],将较大的逻辑卷进行划分,并对划分后的子卷进行热度检测,如果是热点卷,就将其迁移到SSD上,同时把SSD的非热点卷迁移到磁盘上。
此外,面向分层存储的存储分配方法还应用在大数据文件系统的元数据管理上。在面向大数据管理的分布式文件系统中,利用分层系统存储分配的思想进行元数据管理,可以提升元数据存取性能。其基本思路是采用在元数据服务器上使用SSD作为存储设备的方法来加速文件系统。
在存储介质用量组合方面,基本思想是将有限的闪存存储资源在复杂的工作负载下进行有效分配,在减少成本的同时满足系统的性能要求。在大数据环境中,存储介质用量组合研究需要考虑复杂的数据负载、系统的可靠性、能耗等多个方面的因素。
Google设计了一款基于Colossus文件系统的闪存分配推荐系统——Janus[49]。他们通过实验发现大数据存储中I/O访问主要集中于新建文件,故此系统将新建文件存储在闪存层,然后使用FIFO或者LRU算法将文件迁移到磁盘进行存储,他们还设计了缓存性评估方程、经济性评估方程来评估不同的负载需求,进而进行闪存用量推荐。其实验结果表明,经过Janus的优化,闪存层存储了1%的数据,服务了28%的读操作,显著提高了系统的读性能。
由于目前闪存、PCM等新型存储介质与DRAM、磁盘等传统存储介质处于共存的局面,预计在较长的时间内新型存储介质将与传统介质同时出现在存储系统中。尤其对于大数据存储环境,其数据的使用频率、规模等都不允许将所有数据都统一存储在集中式的存储设备上,因此基于分层存储的多介质混合存储技术将越来越受到研究者们的重视。但由于多种存储介质的分层存储存在着多种组合方式,哪种混合存储策略适合大数据应用、在多介质混合存储系统中如何有效地实现数据分配与迁移等仍有待进一步探索。

3.2.4 分布式存储与缓存架构

目前,基于分布式观点的数据管理是大数据存储与管理研究中的一个热点。一种观点是将闪存应用于分布式文件系统中进行元数据存储。元数据对于整个大数据管理系统的性能起着决定性作用,对于大数据解析、大数据统计、大数据操作优化等有着重要作用。基于闪存的分布式文件系统元数据管理的基本思路是在元数据服务器上使用SSD作为存储设备来加速文件系统。例如,在Lustre分布式文件系统架构中的元数据服务器(Metadata Server,MDS)上使用闪存作为存储介质,加速元数据的读写速度[50]。此外,基于Memcached的内存分布式缓存技术也被广泛用来加速大规模数据的访问,而在更为复杂的大数据环境下,其局限性主要体现在:一方面内存分布式缓存受限于集群内存容量,只能服务容量较小的热点数据,会造成性能下降;另一方面,如果采取扩大集群内存容量来满足更多数据缓存需求的话,会带来高额的成本和巨大的能耗。现阶段解决方法是将小容量、高I/O负载的缓存处理与大容量、中低等I/O负载的缓存处理分离,形成“热缓存”与“冷缓存”的缓存策略,其中在“冷缓存”方面主要采用了闪存技术。例如,Facebook设计了基于闪存的McDipper键-值存储系统[51],代替Memcached为大量访问频率较低的图片提供缓存服务,降低成本和能耗,为了减少闪存I/O延迟,将闪存层分成两个区域,一个区域存放数据,另一个区域配置了“散列桶”存放键值数据的指针,并将“散列桶”元数据放入了内存。

版权声明:本文内容由阿里云实名注册用户自发贡献,版权归原作者所有,阿里云开发者社区不拥有其著作权,亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容,填写侵权投诉表单进行举报,一经查实,本社区将立刻删除涉嫌侵权内容。

分享: