Hbase合并怎么操作?合并的大小是多少

简介: 关于Hbase合并问题

compact的作用
flush操作会将memstore的数据落地为一个个StoreFile(HFile),那么随着时间的增长在HDFS上面就会有很多的HFile文件,这样对读操作会产生比较大的影响(读操作会对HFile进行归并查询),并且对DataNode的压力也会比较大。为了降低对读操作的影响,可以对这些HFile进行compact操作,但是compact操作会产生大量的IO,所以可以看出compact的本质就是用IO操作换取后续读性能的提升。
minor compaction (小合并)
选取部分小的、相邻的HFile文件,形成一个较大的HFile文件。
小合并并不会进行过期数据的清除工作。
major compaction(大合并)
合并所有的HFile文件为一个大的HFile文件
大合并会清理TTL过期数据、超出设定版本号的数据以及delete标记的数据
一般是手动进行,将参数hbase.hregion.majorcompaction的值设为0,表示禁用major compaction。其默认值为7天,允许上下浮动hbase.hregion.majorcompaction * hbase.hregion.majorcompaction.jitter的值,后者默认是0.5。即[7 - 70.5, 7 + 70.5]
触发条件
一、memstore flush之后
memstore flush之后,都需要对当前Store的文件数量进行判断,一旦大于hbase.hstore.compactionThreshold(现在的版本中这个参数的名字为hbase.hstore.compaction.min)的值(默认3),触发合并操作。该参数一般需要调大。一次minor cmpaction最多合并hbase.hstore.compaction.max个文件(默认值10)。
二、定期compaction
后台线程CompactionChecker定期触发检查是否需要执行compaction,检查周期为:hbase.server.thread.wakefrequency * hbase.server.compactchecker.interval.multiplier,默认值为10s和1000
当文件大小小于参数hbase.hstore.compaction.min.size指定的值的时候(默认128M,单位字节),该文件会被加入到合并队列中,当合并队列中的StoreFile数量超过参数hbase.hstore.compaction.min(更早的版本中这个的参数的名字为hbase.hstore.compactionThreshold)的值(默认3)时会触发compaction操作。一次minor cmpaction最多合并hbase.hstore.compaction.max个文件(默认值10)。
如果一个文件的大小超过hbase.hstore.compaction.max.size的值(默认值LONG.MAX_VALUE),则会被compaction操作排除。
通过hbase.hstore.compaction.ratio参数(默认值1.2)确定大小超过hbase.hstore.compaction.min.size的文件是否需要进行compaction。如果一个文件的大小小于它后面(按文件产生的先后顺序,总是从新产生的文件开始选择即“老文件”)的hbase.hstore.compaction.max个StoreFile的大小之和乘以hbase.hstore.compaction.ratio,则该StoreFile文件也会加入到合并队列中。
三、手动触发major compaction
使用命令major_compact

相关实践学习
云数据库HBase版使用教程
  相关的阿里云产品:云数据库 HBase 版 面向大数据领域的一站式NoSQL服务,100%兼容开源HBase并深度扩展,支持海量数据下的实时存储、高并发吞吐、轻SQL分析、全文检索、时序时空查询等能力,是风控、推荐、广告、物联网、车联网、Feeds流、数据大屏等场景首选数据库,是为淘宝、支付宝、菜鸟等众多阿里核心业务提供关键支撑的数据库。 了解产品详情: https://cn.aliyun.com/product/hbase   ------------------------------------------------------------------------- 阿里云数据库体验:数据库上云实战 开发者云会免费提供一台带自建MySQL的源数据库 ECS 实例和一台目标数据库 RDS实例。跟着指引,您可以一步步实现将ECS自建数据库迁移到目标数据库RDS。 点击下方链接,领取免费ECS&RDS资源,30分钟完成数据库上云实战!https://developer.aliyun.com/adc/scenario/51eefbd1894e42f6bb9acacadd3f9121?spm=a2c6h.13788135.J_3257954370.9.4ba85f24utseFl
相关文章
|
4月前
|
Java Shell 分布式数据库
【大数据技术Hadoop+Spark】HBase数据模型、Shell操作、Java API示例程序讲解(附源码 超详细)
【大数据技术Hadoop+Spark】HBase数据模型、Shell操作、Java API示例程序讲解(附源码 超详细)
82 0
|
7月前
|
Shell 分布式数据库 Apache
Hbase常用shell操作
Hbase常用shell操作
316 1
|
7月前
|
Java Shell 分布式数据库
HBase高级操作
HBase高级操作
199 0
|
4月前
|
分布式计算 Hadoop Shell
|
4月前
|
存储 分布式计算 分布式数据库
对给定的数据利用MapReduce编程实现数据的清洗和预处理,编程实现数据存储到HBase数据库,实现数据的增删改查操作接口
对给定的数据利用MapReduce编程实现数据的清洗和预处理,编程实现数据存储到HBase数据库,实现数据的增删改查操作接口
27 0
|
4月前
|
SQL 存储 NoSQL
分布式NoSQL列存储数据库Hbase操作(二)
分布式NoSQL列存储数据库Hbase操作(二)
114 0
|
5月前
|
分布式计算 分布式数据库 Hbase
99 MapReduce操作Hbase
99 MapReduce操作Hbase
42 0
|
7月前
|
Shell 分布式数据库 Hbase
Hbase shell管理操作
Hbase shell管理操作
52 0
|
8月前
|
Shell 分布式数据库 数据库
Hbase Shell操作
Hbase Shell操作
133 0
|
9月前
|
存储 Java Shell
分布式数据库HBase的常用操作的基本Shell命令的表操作
HBase是一个分布式数据库系统,支持高性能、可伸缩、实时的数据存储和处理。在HBase中,我们可以使用Shell命令来进行常用的操作,如创建表、插入数据、查询数据、更新数据等。本文将介绍关于分布式数据库HBase的常用操作基本Shell命令的表操作。
130 0