【HBase】(3)-HBase详细结构图

简介: 【HBase】(3)-HBase详细结构图

 简 介:HBase是谷歌BigData论文的一个代码实现,在大数据处理领域应用广泛。本文意在记录自己近期学习过程中的所学所得,如有错误,欢迎大家指正。

 

关键词:大数据组件、HBase、NoSQL

一、HBase详细架构图

从上面的图可以看出,整个HBase组件是建立在HDFS的基础之上,利用zookeeper进行管理整个集群

集群中存在一个HMaster和多个HRegionServer,HMaster是用来进行与zookeeper进行通信,管理整个HRegionServer的负载均衡,调整HRegion的分配。

如果说当前的HMaster死掉之后,剩余的机器会进行抢夺机会,谁拿到了谁就会成为下一个HMaster。

二、组件

HLog:每个HRegionServer可以看到里面维护着一个HLog,HLog的作用就是说将一系列的写操作进行保存,如果某一时刻服务器宕机,我们可以再次读取HLog中的操作进行数据还原,重新将数据写回HDFS。

HRegion:它可以理解为每张表的一部分,因为HBase是用来存储大数据的,所以我们的表一定会很大,如果表过于大不便于操作,效率较低,所以需要将大表进行切分,切分成多个HRegion,可以说包含多个rowKey的数据。

Store:HBase是NoSQL数据库,它不像mysql这种有着强烈的列关系,它是以列族进行区分,每个列族下包含着多个列,可以说每个Store就代表着一个列族。

Mem Store:它是内存缓冲区,我们在像HBase中写入数据时,有时会发现数据不能够实时的写入HDFS中,但是此时是可以扫描到的,原因是此时数据被写入到内存,还没有被刷写到HDFS系统中,只有当Mem Store中的数据达到一定阈值时,才会触发向HDFS中写数据的事件。

StoreFile:上面说Mem Store会一定时机地刷写一次数据,那么每一次刷写就会形成一个StoreFile文件,刷写多次就会形成多个文件,而StoreFile的地层是以HFile进行存储。

文件,而StoreFile的地层是以HFile进行存储。

HFile:HFile是一种数据存储格式,StoreFile就是以该形式进行存储,它是一种以keyValue的形式进行存储。


目录
相关文章
|
5月前
|
存储 关系型数据库 分布式数据库
【赵渝强老师】HBase的物理存储结构
本文介绍了HBase的存储结构,包括逻辑与物理存储结构。物理存储主要涉及StoreFile、HFile和HLog日志。HFile是HBase数据存储的核心格式,包含Data块、Meta块、File Info块等六部分,支持压缩以优化存储。HLog(预写日志)记录数据变更,确保数据可靠性,并在Region Server故障时用于恢复。最后,文章详细描述了HBase的写数据流程:先写入WAL日志,再写入MemStore,最终通过Flush操作将数据持久化到HFile中。
312 2
|
5月前
|
存储 关系型数据库 分布式数据库
【赵渝强老师】HBase的逻辑存储结构
HBase的逻辑存储结构包括命名空间、表和列族。命名空间类似关系型数据库中的数据库,用于逻辑划分和隔离数据;表以RowKey组织数据并按字典序排列,分为多个Region实现分布式存储;列族包含列且无需预先定义,由MemStore缓存写入数据,定期刷新生成Store File。文章通过视频和代码示例详细讲解了各部分的操作与功能。
178 2
|
存储 分布式计算 Hadoop
HBase基础结构
HBase基础结构
|
存储 人工智能 大数据
Hbase中表结构的设计
Hbase中表结构的设计
|
存储 分布式数据库 Hbase
一文讲清HBase的存储结构
讲清Hbase的存储结构。
5041 0
|
存储 算法 分布式数据库
HBase内部结构
之前有一篇文章已经大概的说了一下HBase的基本的概念和内部的一些构成的意思,比如表啊,列族啊之类的,这一篇再简单的说一下HBase的架构数据模型从大到小 namespace表空间:类似RDBMS中的库概念,当你想把一组表去统一的管理的时候可以使用得到,这种抽象为即将推出的多租户相关功能奠定了基础 配额管理:限制命名空间可以使用的资源量(即区域,表)。
1926 0
|
存储 分布式数据库 索引
|
存储 分布式数据库 API
|
5天前
|
分布式计算 Java Hadoop
java使用hbase、hadoop报错举例
java使用hbase、hadoop报错举例
48 6
|
5月前
|
分布式计算 Ubuntu Hadoop
Ubuntu22.04下搭建Hadoop3.3.6+Hbase2.5.6+Phoenix5.1.3开发环境的指南
呈上,这些步骤如诗如画,但有效且动人。仿佛一个画家在画布上描绘出一幅完美的画面,这就是你的开发环境。接下来,尽情去创造吧,祝编程愉快!
246 19

热门文章

最新文章