玩好HBASE

简介:

什么事HBASE :

       HBase —— Hadoop Database的简称,Google BigTable的另一种开源实现方式,从问世之初,就为了解决用大量廉价的机器高速存取海量数据、实现数据分布式存储提供可靠的方案。从功能上来讲,HBase不折不扣是一个数据库,与我们熟悉的Oracle、MySQL、MSSQL等一样,对外提供数据的存储和读取服务。而从应用的角度来说,HBase与一般的数据库又有所区别,HBase本身的存取接口相当简单,不支持复杂的数据存取,更不支持SQL等结构化的查询语言;HBase也没有除了rowkey以外的索引,所有的数据分布和查询都依赖rowkey。所以,HBase在表的设计上会有很严格的要求。架构上,HBase是分布式数据库的典范,这点比较像MongoDB的sharding模式,能根据键值的大小,把数据分布到不同的存储节点上,MongoDB根据configserver来定位数据落在哪个分区上,HBase通过访问Zookeeper来获取-ROOT-表所在地址,通过-ROOT-表得到相应.META.表信息,从而获取数据存储的region位置

HBase设计与实践入门:

ROW Key:行健可以是任意字符串,在hbase内部,保存为字节数组,存储时,数据按照row key的字典序(byte order)排序存储,与NoSQL数据库一样,row key 是用来检索记录的主键,访问hbase table 中的行,三种访问方式:

1、通过单个row key 访问

2、通过row key 的range 

3、通过全表扫描

    rowkey是HBase实现分布式的基础,HBase通过rowkey范围划分不同的region,分布式系统的基本要求就是在任何时候,系统的访问都不要出现明显的热点现象,所以rowkey的设计至关重要,一般我们建议rowkey的开始部分以hash或者MD5进行散列,尽量做到rowkey的头部是均匀分布的。禁止采用时间、用户id等明显有分段现象的标志直接当作rowkey来使用。


列族(COLUMNS FAMILY):hbase表中的每个列,都归属与某个列族。列族是表的chema的一部分,必须在使用表之前定义。列名都以列族作为前缀

put 't1','r1','f1:c1','b1'

put 't1','r1','f1:c2','b2'

put 't1','r1','f1:c3','b3'  ##一个列族里多个列

     HBase的表设计时,根据不同需求有不同选择,需要做在线查询的数据表,尽量不要设计多个列簇,我们知道,不同的列簇在存储上是被分开的,多列簇设计会造成在数据查询的时候读取更多的文件,从而消耗更多的I/O

单元Cell:通过row和columns确定的为一个贮存单元为cell,CELL中的数据没有类型,全部是字节码形式存贮。


时间戳timestamp:每个cell都保存着同一份数据的多个版本,版本通过时间戳来索引,类型是64位整形,不同版本的数据按照时间倒叙排序,最新的数据排列在最前面

选择合适的数据过期时间也是表设计中需要注意的一点,HBase中允许列簇定义数据过期时间,数据一旦超过过期时间,可以被major compact进行清理。大量无用历史数据的残余,会造成region体积增大,影响查询效率。


HBASE shell 的常用操作:

1、创建表:create 't1','f1','f2','f3'  #t1为表名字,f1-f3为列族名

2、查看所有的表:list

3、查看表的结构:describe 't1'

4、增加一个列族:a、先disable "表名"

b、alter 't1',NAME=>'f4',VERSIONS =>3

c、enable 't1'

5、删除某个列族:alter 't1', {NAME => 'f1'}, {NAME => 'f2', METHOD => 'delete'} 

a、先disable "表名"

b、alter 't1',NAME=>'f4',METHOD =>'delete'

c、enable 't1'

6、查看表是否存在: exists 't1'

7、查看表是否允许修改:is_enable 't1'

8、删除表:

 a、disable 't1'

 b、drop 't1'

9、写入数据:put 't1','r1','f1:c1','value' #给t1表的r1行健的f1的列族的c1列插入一个值,列族的列事先可以先不存在

put 't1','r1','f1:c1','b1'

put 't1','r1','f1:c2','b2'

put 't1','r1','f1:c3','b3'  ##一个列族里多个列

10、查询数据:

get 't1','r1' #查询r1的所有值

get 't1','r1','f1:c1' #获取某列的值

get 't1','r1','f1','f2'  《==》get 't1','r1',"f1:c1","f2:c2" 

11、删除某行数据:deleteall 't1','r1'

12、获取表的所有行健值:scan 't1'  

        获取前几行的数据:scan 't1',{LIMIT=>1}

        获取表从指定的位置行开始:scan 't1',{STARTROW=>'rowkey',LIMIT=>1}

获取表指定列的所有行数据:scan 't1',{COLUMNS=>'f1:c1'}

 获取表从某一列根据时间来取:scan 't1′, {COLUMNS => 'c1', TIMERANGE => [1303668804, 1303668904]} 

13、清空表:truncate 't1'

14、统计行数:count 't1'

count 't1′, INTERVAL => 100000 

count 't1′, CACHE => 1000 

count 't1′, INTERVAL => 10, CACHE => 1000 #count一般会比较耗时,使用mapreduce进行统计,统计结果会缓存,默认是10行。统计间隔默认的是1000行(INTERVAL)。 


本文转自 DBAspace 51CTO博客,原文链接:http://blog.51cto.com/dbaspace/1950000


相关实践学习
lindorm多模间数据无缝流转
展现了Lindorm多模融合能力——用kafka API写入,无缝流转在各引擎内进行数据存储和计算的实验。
云数据库HBase版使用教程
  相关的阿里云产品:云数据库 HBase 版 面向大数据领域的一站式NoSQL服务,100%兼容开源HBase并深度扩展,支持海量数据下的实时存储、高并发吞吐、轻SQL分析、全文检索、时序时空查询等能力,是风控、推荐、广告、物联网、车联网、Feeds流、数据大屏等场景首选数据库,是为淘宝、支付宝、菜鸟等众多阿里核心业务提供关键支撑的数据库。 了解产品详情: https://cn.aliyun.com/product/hbase   ------------------------------------------------------------------------- 阿里云数据库体验:数据库上云实战 开发者云会免费提供一台带自建MySQL的源数据库 ECS 实例和一台目标数据库 RDS实例。跟着指引,您可以一步步实现将ECS自建数据库迁移到目标数据库RDS。 点击下方链接,领取免费ECS&RDS资源,30分钟完成数据库上云实战!https://developer.aliyun.com/adc/scenario/51eefbd1894e42f6bb9acacadd3f9121?spm=a2c6h.13788135.J_3257954370.9.4ba85f24utseFl
相关文章
|
6月前
|
Java 分布式数据库 Hbase
hbase系列
hbase系列
41 0
|
3月前
|
负载均衡 分布式数据库 Hbase
HBase
【8月更文挑战第8天】
35 5
|
4月前
|
分布式计算 Hadoop 大数据
Hbase一:Hbase介绍及特点
Hbase一:Hbase介绍及特点
47 0
|
6月前
|
存储 Java 分布式数据库
什么是HBase?它的特点是什么?
什么是HBase?它的特点是什么?
479 0
|
NoSQL 大数据 分布式数据库
【HBase】(1)-HBase的安装
【HBase】(1)-HBase的安装
153 0
【HBase】(1)-HBase的安装
|
存储 分布式计算 安全
第8章 HBase应用
第8章 HBase应用
417 0
|
SQL 缓存 NoSQL
HBase问题答疑汇总(2021)
HBase问题答疑汇总(2021)
|
存储 分布式计算 NoSQL
Hbase入门(一)——初识Hbase
本文将介绍大数据的知识和Hbase的基本概念,作为大数据体系中重要的一员,Hbase弥补了Hadoop只能离线批处理的不足,支持存储小文件,随机检索。而这种特性使得Hbase对于实时计算体系的事件存储有天然的较好的支持。这使得Hbase在实时流式计算中也扮演者重要的角色。
354 0
Hbase入门(一)——初识Hbase
|
存储 负载均衡 监控
从一无所知到5分钟快速了解HBase
从一无所知到5分钟快速了解HBase
254 0
从一无所知到5分钟快速了解HBase
|
存储 NoSQL Java
HBase特点
HBase特点
166 0
下一篇
无影云桌面