【赵渝强老师】HBase的体系架构

本文涉及的产品
云原生多模数据库 Lindorm,多引擎 多规格 0-4节点
云数据库 MongoDB,独享型 2核8GB
推荐场景:
构建全方位客户视图
云数据库 Tair(兼容Redis),内存型 2GB
简介: 本文介绍了HBase的体系架构,包括HMaster、RegionServer和ZooKeeper的主要功能。HMaster负责Region的分配和管理,RegionServer处理数据的读写操作,ZooKeeper维护集群状态并协调分布式系统的运行。文章还详细解释了Region、WAL预写日志、Block Cache读缓存和MemStore写缓存的作用。

b034.png

在学习HBase的体系架构之前,需要先了解一下HBase中的一些术语。这些术语如下表所示。



从体系架构的角度看,HBase是一种主从架构,包含:HBase HMaster、Regionserver和ZooKeeper。视频讲解如下:


下图展示了这一架构。



其中:

  • HBase HMaster负责Region的分配及数据库的创建和删除等操作。
  • Region server负责数据的读写服务。
  • ZooKeeper负责维护集群的状态。


下面详细讨论HBase体系架构中每一个组成部分的作用。


一、主节点HMaster


HMaster是整个HBase集群的主节点,它的职责主要体现在以下几方面:

  1. 负责在Region Server上分配和调控不同的Region。
  2. 根据恢复和负载均衡的策略,重新分配Region。
  3. 监控Region Server的状态。
  4. 管理和维护HBase的命名空间,即NameSpace。
  5. 接收客户端的请求,提供创建,删除或者更新表格的接口。


另一方面,如果整个集群中只存在一个HMaser,将造成单点故障的问题。因此也需要基于ZooKeeper来实现HBase的HA(高可用)。但是HBase实现HA非常简单,因为在其体系架构中已经包含了ZooKeeper,因此只需要手动再启动一个HMaster作为Backup HMaster即可。


二、从节点Region Server


Region Server负责数据的读写操作。一个Region Server可以包含多个Region,而一个Region只能属于一个Region Server。那么什么是Region呢?可以把Region理解成是列族,它与列族的关系是一对多的关系。HBase表中的列族是根据rowkey的值水平分割成所谓的Region的。在默认情况下,Region的大小是1G,其中包含8个HFile的数据文件。而每个数据文件的大小正好是128M,与HDFS数据块的大小保存一致。每一个Region server大约可以管理1000个Region。


Region Server除了包含Region以外,还包含WAL预写日志、Block Cache读缓存和MemStore写缓存三个部分。

(一)WAL预写日志

Write-Ahead Logging是一种高效的日志算法,相当于Oracle中的redo log,或者是MySQL中的binlog。基本原理是在数据写入之前首先顺序写入日志,然后再写入缓存,等到缓存写满之后统一进行数据的持久化。WAL将一次随机写转化为了一次顺序写加一次内存写,在提供性能的前提下又保证了数据的可靠性。如果在写入数据完成之后发生了宕机,即使所有写缓存中的数据都丢失了,也可以通过恢复WAL日志达到数据恢复的目的。写入的WAL日志会对应有一个HLog文件。

(二)Block Cache读缓存

HBase将经常需要读取的数据放入Block Cache中,来提供读取数据的效率。当Block Cache的空间被占满后,将采用LRU算法将其中被读取频率最低的数据从Block Cache中清除。

(三)MemStore写缓存

MemStore中主要存储了还未写入磁盘的数据,如果此时发生了宕机,这部分数据是会丢失的。HBase中的每一个列族对应一个MemStore,其中存储的是按键排好序的待写入硬盘的数据,数据也是按Rowkey排好序写入HFile中的,最终保存到HDFS中。


提示:HBase表中的数据最终保存在数据文件HFile中,并存储与HDFS的DataNode上。在将MemStore中的数据写入HFile中的时候,采用顺序写入的机制,避免了磁盘大量寻址的过程,从而大幅提高了性能。在读取HFile的时候,文件中包含的Rowkey信息会被加载到内存中,这样就可以保证数据检索只需一次硬盘查询操作。


三、HBase中的ZooKeeper


ZooKeeper在整个HBase集群中主要维护节点的状态并协调分布式系统的工作。主要体现在以下几方面:

  1. 监控HBase节点的状态,包括:HMaster和RegionServer。
  2. 通过ZooKeeper的Watcher机制提供节点故障和宕机的通知。
  3. 保证服务器之间的同步。
  4. 负责Master选举的工作


下图展示了HBase在ZooKeeper中保存的数据信息。




相关实践学习
lindorm多模间数据无缝流转
展现了Lindorm多模融合能力——用kafka API写入,无缝流转在各引擎内进行数据存储和计算的实验。
云数据库HBase版使用教程
  相关的阿里云产品:云数据库 HBase 版 面向大数据领域的一站式NoSQL服务,100%兼容开源HBase并深度扩展,支持海量数据下的实时存储、高并发吞吐、轻SQL分析、全文检索、时序时空查询等能力,是风控、推荐、广告、物联网、车联网、Feeds流、数据大屏等场景首选数据库,是为淘宝、支付宝、菜鸟等众多阿里核心业务提供关键支撑的数据库。 了解产品详情: https://cn.aliyun.com/product/hbase   ------------------------------------------------------------------------- 阿里云数据库体验:数据库上云实战 开发者云会免费提供一台带自建MySQL的源数据库 ECS 实例和一台目标数据库 RDS实例。跟着指引,您可以一步步实现将ECS自建数据库迁移到目标数据库RDS。 点击下方链接,领取免费ECS&RDS资源,30分钟完成数据库上云实战!https://developer.aliyun.com/adc/scenario/51eefbd1894e42f6bb9acacadd3f9121?spm=a2c6h.13788135.J_3257954370.9.4ba85f24utseFl
相关文章
|
3天前
|
存储 人工智能 弹性计算
阿里云弹性计算_加速计算专场精华概览 | 2024云栖大会回顾
2024年9月19-21日,2024云栖大会在杭州云栖小镇举行,阿里云智能集团资深技术专家、异构计算产品技术负责人王超等多位产品、技术专家,共同带来了题为《AI Infra的前沿技术与应用实践》的专场session。本次专场重点介绍了阿里云AI Infra 产品架构与技术能力,及用户如何使用阿里云灵骏产品进行AI大模型开发、训练和应用。围绕当下大模型训练和推理的技术难点,专家们分享了如何在阿里云上实现稳定、高效、经济的大模型训练,并通过多个客户案例展示了云上大模型训练的显著优势。
|
7天前
|
存储 人工智能 调度
阿里云吴结生:高性能计算持续创新,响应数据+AI时代的多元化负载需求
在数字化转型的大潮中,每家公司都在积极探索如何利用数据驱动业务增长,而AI技术的快速发展更是加速了这一进程。
|
4天前
|
人工智能 运维 双11
2024阿里云双十一云资源购买指南(纯客观,无广)
2024年双十一,阿里云推出多项重磅优惠,特别针对新迁入云的企业和初创公司提供丰厚补贴。其中,36元一年的轻量应用服务器、1.95元/小时的16核60GB A10卡以及1元购域名等产品尤为值得关注。这些产品不仅价格亲民,还提供了丰富的功能和服务,非常适合个人开发者、学生及中小企业快速上手和部署应用。
|
12天前
|
人工智能 弹性计算 文字识别
基于阿里云文档智能和RAG快速构建企业"第二大脑"
在数字化转型的背景下,企业面临海量文档管理的挑战。传统的文档管理方式效率低下,难以满足业务需求。阿里云推出的文档智能(Document Mind)与检索增强生成(RAG)技术,通过自动化解析和智能检索,极大地提升了文档管理的效率和信息利用的价值。本文介绍了如何利用阿里云的解决方案,快速构建企业专属的“第二大脑”,助力企业在竞争中占据优势。
|
14天前
|
自然语言处理 数据可视化 前端开发
从数据提取到管理:合合信息的智能文档处理全方位解析【合合信息智能文档处理百宝箱】
合合信息的智能文档处理“百宝箱”涵盖文档解析、向量化模型、测评工具等,解决了复杂文档解析、大模型问答幻觉、文档解析效果评估、知识库搭建、多语言文档翻译等问题。通过可视化解析工具 TextIn ParseX、向量化模型 acge-embedding 和文档解析测评工具 markdown_tester,百宝箱提升了文档处理的效率和精确度,适用于多种文档格式和语言环境,助力企业实现高效的信息管理和业务支持。
3935 2
从数据提取到管理:合合信息的智能文档处理全方位解析【合合信息智能文档处理百宝箱】
|
3天前
|
算法 安全 网络安全
阿里云SSL证书双11精选,WoSign SSL国产证书优惠
2024阿里云11.11金秋云创季活动火热进行中,活动月期间(2024年11月01日至11月30日)通过折扣、叠加优惠券等多种方式,阿里云WoSign SSL证书实现优惠价格新低,DV SSL证书220元/年起,助力中小企业轻松实现HTTPS加密,保障数据传输安全。
497 3
阿里云SSL证书双11精选,WoSign SSL国产证书优惠
|
10天前
|
安全 数据建模 网络安全
2024阿里云双11,WoSign SSL证书优惠券使用攻略
2024阿里云“11.11金秋云创季”活动主会场,阿里云用户通过完成个人或企业实名认证,可以领取不同额度的满减优惠券,叠加折扣优惠。用户购买WoSign SSL证书,如何叠加才能更加优惠呢?
985 3
|
7天前
|
机器学习/深度学习 存储 人工智能
白话文讲解大模型| Attention is all you need
本文档旨在详细阐述当前主流的大模型技术架构如Transformer架构。我们将从技术概述、架构介绍到具体模型实现等多个角度进行讲解。通过本文档,我们期望为读者提供一个全面的理解,帮助大家掌握大模型的工作原理,增强与客户沟通的技术基础。本文档适合对大模型感兴趣的人员阅读。
394 15
白话文讲解大模型| Attention is all you need
|
7天前
|
算法 数据建模 网络安全
阿里云SSL证书2024双11优惠,WoSign DV证书220元/年起
2024阿里云11.11金秋云创季火热进行中,活动月期间(2024年11月01日至11月30日),阿里云SSL证书限时优惠,部分证书产品新老同享75折起;通过优惠折扣、叠加满减优惠券等多种方式,阿里云WoSign SSL证书将实现优惠价格新低,DV SSL证书220元/年起。
559 5
|
3天前
|
安全 网络安全
您有一份网络安全攻略待领取!!!
深入了解如何保护自己的云上资产,领取超酷的安全海报和定制鼠标垫,随时随地提醒你保持警惕!
692 1
您有一份网络安全攻略待领取!!!