HBase 简介

本文涉及的产品
云原生网关 MSE Higress,422元/月
注册配置 MSE Nacos/ZooKeeper,118元/月
服务治理 MSE Sentinel/OpenSergo,Agent数量 不受限
简介: HBase 简介

1 HBase 定义


Apache HBase 是以 hdfs 为数据存储的,一种分布式、可扩展的 NoSQL 数据库。


2 HBase 数据模型


HBase 的设计理念依据 Google 的 BigTable 论文,论文中对于数据模型的首句介绍。

Bigtable 是一个 稀疏的、分布式的、持久的 多维排序 map。


之后对于映射的解释如下:


该映射由行键、列键和时间戳索引;映射中的每个值都是一个未解释的字节数组。


最终 HBase 关于数据模型和 BigTable 的对应关系如下:


HBase 使用与 Bigtable 非常相似的数据模型。用户将数据行存储在带标签的表中。数

据行具有可排序的键和任意数量的列。该表存储稀疏,因此如果用户喜欢,同一表中的行可

以具有疯狂变化的列。


最终理解 HBase 数据模型的关键在于 稀疏、分布式、多维、排序 的映射。其中映射 map指代非关系型数据库的 key-Value 结构。


2.1 HBase 逻辑结构


HBase 可以用于存储多种结构的数据,以 JSON 为例,存储的数据原貌为:

{
    "row_key1":{
        "personal_info":{
            "name":"zhangsan",
            "city":"北京",
            "phone":"131********"
        },
        "office_info":{
            "tel":"010-1111111",
            "address":"xx区"
        }
    },
    "row_key11":{
        "personal_info":{
            "city":"上海",
            "phone":"132********"
        },
        "office_info":{
            "tel":"010-1111111"
        } 
    },
    "row_key2":{
        ......
    }


HBase 逻辑结构

1673448559850.jpg


2.2 HBase 物理存储结构


物理存储结构即为数据映射关系,而在概念视图的空单元格,底层实际根本不存储。


HBase 物理存储结构

1673448570561.jpg


2.3 数据模型


1)Name Space

命名空间,类似于关系型数据库的 database 概念,每个命名空间下有多个表。HBase 两

个自带的命名空间,分别是 hbase 和 default,hbase 中存放的是 HBase 内置的表,default表是用户默认使用的命名空间。

2)Table

类似于关系型数据库的表概念。不同的是,HBase 定义表时只需要声明列族即可,不需

要声明具体的列。因为数据存储时稀疏的,所有往 HBase 写入数据时,字段可以 动态、按需指定。因此,和关系型数据库相比,HBase 能够轻松应对字段变更的场景。

3)Row

HBase 表中的每行数据都由一个 RowKey 和多个 Column(列)组成,数据是按照 RowKey

的字典顺序存储的,并且查询数据时只能根据 RowKey 进行检索,所以 RowKey 的设计十分重

要。

4)Column

HBase 中的每个列都由 Column Family(列族)和 Column Qualifier(列限定符)进行限

定,例如 info:name,info:age。建表时,只需指明列族,而列限定符无需预先定义。

5)Time Stamp

用于标识数据的不同版本(version),每条数据写入时,系统会自动为其加上该字段,

其值为写入 HBase 的时间。

6)Cell

由{rowkey, column Family:column Qualifier, timestamp} 唯一确定的单元。cell 中的数

据全部是字节码形式存贮。


3 HBase 基本架构


1673448587968.jpg

架构角色:


1)Master

实现类为 HMaster,负责监控集群中所有的 RegionServer 实例。主要作用如下:

 (1)管理元数据表格 hbase:meta,接收用户对表格创建修改删除的命令并执行

 (2)监控 region 是否需要进行负载均衡,故障转移和 region 的拆分。

通过启动多个后台线程监控实现上述功能:

 ①LoadBalancer 负载均衡器

 周期性监控 region 分布在 regionServer 上面是否均衡,由参数 hbase.balancer.period 控制周期时间,默认 5 分钟。

 ②CatalogJanitor 元数据管理器

 定期检查和清理 hbase:meta 中的数据。

 ③MasterProcWAL master 预写日志处理器

 把 master 需要执行的任务记录到预写日志 WAL 中,如果 master 宕机,让 backupMaster

读取日志继续干


2)Region Server

Region Server 实现类为 HRegionServer,主要作用如下:

 (1)负责数据 cell 的处理,例如写入数据 put,查询数据 get 等

 (2)拆分合并 region 的实际执行者,有 master 监控,有 regionServer 执行。


3)Zookeeper

 HBase 通过 Zookeeper 来做 master 的高可用、记录 RegionServer 的部署信息、并且存储

有 meta 表的位置信息。

 HBase 对于数据的读写操作时直接访问 Zookeeper 的,在 2.3 版本推出 Master Registry

模式,客户端可以直接访问 master。使用此功能,会加大对 master 的压力,减轻对Zookeeper的压力


4)HDFS

HDFS 为 Hbase 提供最终的底层数据存储服务,同时为 HBase 提供高容错的支持。

相关实践学习
lindorm多模间数据无缝流转
展现了Lindorm多模融合能力——用kafka API写入,无缝流转在各引擎内进行数据存储和计算的实验。
云数据库HBase版使用教程
  相关的阿里云产品:云数据库 HBase 版 面向大数据领域的一站式NoSQL服务,100%兼容开源HBase并深度扩展,支持海量数据下的实时存储、高并发吞吐、轻SQL分析、全文检索、时序时空查询等能力,是风控、推荐、广告、物联网、车联网、Feeds流、数据大屏等场景首选数据库,是为淘宝、支付宝、菜鸟等众多阿里核心业务提供关键支撑的数据库。 了解产品详情: https://cn.aliyun.com/product/hbase   ------------------------------------------------------------------------- 阿里云数据库体验:数据库上云实战 开发者云会免费提供一台带自建MySQL的源数据库 ECS 实例和一台目标数据库 RDS实例。跟着指引,您可以一步步实现将ECS自建数据库迁移到目标数据库RDS。 点击下方链接,领取免费ECS&RDS资源,30分钟完成数据库上云实战!https://developer.aliyun.com/adc/scenario/51eefbd1894e42f6bb9acacadd3f9121?spm=a2c6h.13788135.J_3257954370.9.4ba85f24utseFl
相关文章
|
1月前
|
存储 分布式计算 Hadoop
Hadoop-33 HBase 初识简介 项目简介 整体架构 HMaster HRegionServer Region
Hadoop-33 HBase 初识简介 项目简介 整体架构 HMaster HRegionServer Region
52 2
|
存储 分布式计算 Hadoop
92 hbase简介
92 hbase简介
65 0
|
存储 SQL 分布式计算
BigData之Hbase:Hbase数据管理的简介、下载、案例应用之详细攻略
BigData之Hbase:Hbase数据管理的简介、下载、案例应用之详细攻略
BigData之Hbase:Hbase数据管理的简介、下载、案例应用之详细攻略
|
SQL 分布式计算 大数据
BigData:大数据开发的简介、核心知识(linux基础+Java/Python编程语言+Hadoop{HDFS、HBase、Hive}+Docker)、经典场景应用之详细攻略
BigData:大数据开发的简介、核心知识(linux基础+Java/Python编程语言+Hadoop{HDFS、HBase、Hive}+Docker)、经典场景应用之详细攻略
BigData:大数据开发的简介、核心知识(linux基础+Java/Python编程语言+Hadoop{HDFS、HBase、Hive}+Docker)、经典场景应用之详细攻略
|
存储 SQL 分布式计算
BigData之Hbase:Hbase数据管理的简介、下载、案例应用之详细攻略
BigData之Hbase:Hbase数据管理的简介、下载、案例应用之详细攻略
BigData之Hbase:Hbase数据管理的简介、下载、案例应用之详细攻略
|
SQL 分布式计算 大数据
BigData:大数据开发的简介、核心知识(linux基础+Java/Python编程语言+Hadoop{HDFS、HBase、Hive}+Docker)、经典场景应用之详细攻略
BigData:大数据开发的简介、核心知识(linux基础+Java/Python编程语言+Hadoop{HDFS、HBase、Hive}+Docker)、经典场景应用之详细攻略
|
Java 分布式数据库 文件存储
|
存储 Java 大数据
HBase+SpringBoot分布式文件存储实战(二)-HBase简介与环境部署
1 HBase简介及其在大数据生态圈的位置 行列表举例 行 / 列式数据表,即把列放在一起 列式则适合于大批量查询 2 HBase数据存储模型及与关系型数据库的区别 ...
1902 0
|
分布式计算 分布式数据库 Apache