《CDP企业数据云平台从入门到实践》——HBase 迁移到 CDP(2)

简介: 《CDP企业数据云平台从入门到实践》——HBase 迁移到 CDP(2)

《CDP企业数据云平台从入门到实践》——HBase 迁移到 CDP(1) https://developer.aliyun.com/article/1226639?groupCode=ClouderaCDP


二、 HBase 迁移概览


1. 推荐的 HBase 迁移方案


将数据迁移到 CDP Private Cloud Base 部署时,必须使用 Apache HBase 复制和快照功能。


T0:设置 A 集群到 B 集群的 Replication,记录增量数据。

T1:A 集群生成快照,导出快照,获得 T1 时刻的全量数据。

T2:B 集群导入 T1 的全量快照,同时 T0 的 Replication 增量数据开始自动同步。

T3:Replication 增量数据逐渐消费完,业务面暂停写入。

T4:Replication 数据完全消费完,业务切换到 B 集群。

• 使用快照一次性导出/ExportSnapshot 到目的地/CloneSnapshot。

• 持续迁移:一次性方法+HBase Replication 设置。


2. 数据迁移先决条件


• 如果从 CDH 迁移,请在目标 CDP 集群中配置与现有 CDH 集群中的 HBase ACL对应的 Ranger ACL。

• 如果从 HDP 迁移,请在目标 CDP 集群中配置与现有 HDP 集群中的 HBase ACL或Ranger ACL 对应的 Ranger ACL。

• 迁移应用程序以使用新的 HBase-Spark Connector,因为 CDP 不再支持在 CDH或HDP 中使用的 Spark-HBase Connector。

• 查看从 HDP 2.x 或 CDH 5.x 升级到 CDP 时不推荐使用的 API 和不兼容(CDH6/HDP3 基本上没问题)。

• 确保升级前所有数据都迁移到支持的数据块编码类型。

• 确保手动升级任何外部的或第三方的协处理器,因为在升级期间它们不会自动升级。


3. HBase 数据迁移步骤


在迁移数据之前,必须在 CDP PvC Base 上创建一个 Apache HBase 集群。CDH 或HDP 集群是源集群,CDP PvC Base 集群是目标集群。


1) 在源集群和目标集群上部署 HBase Replication。


2) 通过对要在 HBase Shell 中复制的每个表运行以下命令,在源集群和目标集群上启用复制:


• 在源集群上

create 't1',{NAME=>'f1', REPLICATION_SCOPE=>1}

• 在目标集群上

create 't1',{NAME=>'f1', KEEP_DELETED_CELLS=>'true'}


注:建议在目标集群中的列族上启用 KEEP_DELETED_CELLS,其中源集群中的REPLICATION_SCOPE=1。


3) 在源集群的 HBase Shell 中运行 add_peer 命令,将目标集群添加为 peer:


add_peer 'ID', 'DESTINATION_CLUSTER_KEY'

注:可以从 Cloudera Manager(CM)访问的 HBase Master 用户界面获取

DESTINATION_CLUSTER_KEY 值。


4) 在源集群的 HBase Shell 中运行 disable_peer(“”)命令来禁用源集群中的 peer:


disable_peer("ID1")


5) 在 Cloudera Manager 中拍摄快照(UI/BDR/Hbase shell 命令行)。


6) 在源集群的 HBase Shell 中运行 ExportSnapshot 命令,将源集群的快照导出到


目标集群,必须以 HBase 用户或拥有文件的用户身份运行 ExportSnapshot 命令:

hbase org.apache.hadoop.hbase.snapshot.ExportSnapshot -snapshot

-copy-to hdfs://destination:hdfs_port/hbase -

mappers 16


注:必须在源集群和目标集群上启用快照。导出快照时,表的 HFile、日志和快照元

数据将从源集群复制到目标集群。


7) 在源集群的 HBase Shell 中运行 enable_peer(“”)以启用源集群和目标集群中的 peer:


enable_peer("ID1")


8) 在目标集群恢复快照:


restore_snapshot 'student_snapshot’


9) 后续增量数据会自动利用 replication 功能同步到目标集群中。


10) 数据同步完成后,需要将源端的 peer 给 disable 掉,这时数据就不再继续同步:


disable_peer("ID1")


4. HBase 数据迁移步骤(少量数据)


在源集群上运行 HashTable 命令,在目标集群上运行 SyncTable 命令,以验证表数据在源集群和目标集群之间是否同步:

• 在源集群上

HashTable [options]  

• 在目标集群上

SyncTable [options]  


《CDP企业数据云平台从入门到实践》——HBase 迁移到 CDP(3) https://developer.aliyun.com/article/1226634?groupCode=ClouderaCDP

相关实践学习
云数据库HBase版使用教程
  相关的阿里云产品:云数据库 HBase 版 面向大数据领域的一站式NoSQL服务,100%兼容开源HBase并深度扩展,支持海量数据下的实时存储、高并发吞吐、轻SQL分析、全文检索、时序时空查询等能力,是风控、推荐、广告、物联网、车联网、Feeds流、数据大屏等场景首选数据库,是为淘宝、支付宝、菜鸟等众多阿里核心业务提供关键支撑的数据库。 了解产品详情: https://cn.aliyun.com/product/hbase   ------------------------------------------------------------------------- 阿里云数据库体验:数据库上云实战 开发者云会免费提供一台带自建MySQL的源数据库 ECS 实例和一台目标数据库 RDS实例。跟着指引,您可以一步步实现将ECS自建数据库迁移到目标数据库RDS。 点击下方链接,领取免费ECS&RDS资源,30分钟完成数据库上云实战!https://developer.aliyun.com/adc/scenario/51eefbd1894e42f6bb9acacadd3f9121?spm=a2c6h.13788135.J_3257954370.9.4ba85f24utseFl
目录
相关文章
|
6月前
|
SQL 存储 分布式数据库
【通过Hive清洗、处理和计算原始数据,Hive清洗处理后的结果,将存入Hbase,海量数据随机查询场景从HBase查询数据 】
【通过Hive清洗、处理和计算原始数据,Hive清洗处理后的结果,将存入Hbase,海量数据随机查询场景从HBase查询数据 】
106 0
|
2月前
|
机器学习/深度学习 算法 数据可视化
基于Google Earth Engine云平台构建的多源遥感数据森林地上生物量AGB估算模型含生物量模型应用APP
基于Google Earth Engine云平台构建的多源遥感数据森林地上生物量AGB估算模型含生物量模型应用APP
105 0
|
3月前
|
分布式计算 分布式数据库 API
Spark与HBase的集成与数据访问
Spark与HBase的集成与数据访问
|
3月前
|
分布式数据库 Hbase
HBase的数据删除是如何进行的?
HBase的数据删除是如何进行的?
116 0
|
4月前
|
分布式数据库 Hbase
HBase 清空表数据
HBase 清空表数据
52 0
|
4月前
|
存储 分布式计算 分布式数据库
对给定的数据利用MapReduce编程实现数据的清洗和预处理,编程实现数据存储到HBase数据库,实现数据的增删改查操作接口
对给定的数据利用MapReduce编程实现数据的清洗和预处理,编程实现数据存储到HBase数据库,实现数据的增删改查操作接口
27 0
|
4月前
|
存储 JSON 监控
云上之旅:将内网网络监控软件迁移到AWS云平台
在当今数字化时代,企业对于网络监控的需求愈发迫切。为了更好地管理内网网络,许多企业选择将监控软件迁移到云平台。本文将介绍如何将内网网络监控软件迁移到AWS云平台,并探讨监控到的数据如何自动提交到网站。
217 0
|
7月前
|
存储 大数据 关系型数据库
大数据HBase入门
大数据HBase入门
77 1
大数据HBase入门
|
8月前
|
SQL 缓存 Java
【大数据】HBase入门学习 3
【大数据】HBase入门学习
86 0
|
8月前
|
存储 大数据 分布式数据库
【大数据】HBase入门学习 2
【大数据】HBase入门学习
82 0