《CDP企业数据云平台从入门到实践》——如何迁移CDH/HDP到CDP(4)

简介: 《CDP企业数据云平台从入门到实践》——如何迁移CDH/HDP到CDP(4)

《CDP企业数据云平台从入门到实践》——如何迁移CDH/HDP到CDP(3) https://developer.aliyun.com/article/1227913?groupCode=ClouderaCDP


3. 总体迁移方案


image.png

image.png


4. &增量数据迁移


image.png


5. 数据一致性校验


image.png


1) HDFS


HDFS 的一,可以通过 HDFS 文件数目,以两个确认数据的一性。


数比对


比对群,拷贝HDFS 文件的个数是。理上,完全一什么原因,进行解决


件数据量比对


逐一比对群,拷贝HDFS ,文件的数据。理全一致。如果差异大,该进行数据更新。


2) Hive


成数据拷贝,理上新群两的数据是一的,个时候,我们需要进行数据一性的对比认是数据是一的。挑选关键表格进行抽查一比对


数据量比对挑选关键表格比对群数据的大这里的数据并不会完全一原因为两hadoophive 等组件的版都不相同,在数据存储上面有细的变化,此最终的数据是不的。这里比对的是数据量级是否致。


Hive 表记比对


挑选关键表格 比对Hive 数。全一。如不一需要


关键 SQL 果比对


挑选分的关键 SQL,或者编SQL,分在新行,行结该完全一不一需要分析原因


Hive 表个对比


对比拷贝列表中的 hive 个数与群的 hive 个数是


目录
相关文章
|
7月前
|
监控 安全 数据可视化
java基于微服务的智慧工地管理云平台SaaS源码 数据大屏端 APP移动端
围绕施工现场人、机、料、法、环、各个环节,“智慧工地”将传统建筑施工与大数据物联网无缝结合集成多个智慧应用子系统,施工数据云端整合分析,提供专业、先进、安全的智慧工地解决方案。
167 1
|
7月前
|
机器学习/深度学习 算法 数据可视化
基于Google Earth Engine云平台构建的多源遥感数据森林地上生物量AGB估算模型含生物量模型应用APP
基于Google Earth Engine云平台构建的多源遥感数据森林地上生物量AGB估算模型含生物量模型应用APP
251 0
|
5月前
|
弹性计算 Linux 网络安全
使用阿里云服务器迁移中心SMC将其他云平台业务迁移至阿里云教程参考
现在越来越多的个人和企业用户选择将其他云平台或者服务商的业务迁移到阿里云,但是如何快速且安全完成迁移是很多用户比较关注的问题,我们可以选择使用阿里云提供的服务器迁移中心(Server Migration Center,简称SMC),这个产品是阿里云提供给您的迁移平台,专注于提供能力普惠、体验一致、效率至上的迁移服务,满足您在阿里云的迁移需求。本文为大家展示使用阿里云服务器迁移中心SMC将其他云平台业务迁移至阿里云的教程,以供参考。
使用阿里云服务器迁移中心SMC将其他云平台业务迁移至阿里云教程参考
|
7月前
|
安全 Linux 网络安全
其他云平台的业务迁移到阿里云最新优惠,使用服务器迁移中心SMC快速迁移简介
越来越多的个人和企业希望将部署在其他云平台或者IDC企业的业务迁移到阿里云上,对于这部分用户来说,最为关注的问题就是迁移到阿里云有没有什么优惠,迁移过程是否麻烦,针对这部分用户的需求,阿里云推出了5亿算力补贴,针对迁移用户做出补贴优惠,在迁移过程中,用户可以自行做数据传输迁移,也可以使用阿里云的服务器迁移中心,快速完成迁移。本文为大家介绍其他云服务商的业务迁移到阿里云最新优惠政策,以及使用服务器迁移中心实现快速迁移的方法。
其他云平台的业务迁移到阿里云最新优惠,使用服务器迁移中心SMC快速迁移简介
|
7月前
|
存储 JSON 监控
云上之旅:将内网网络监控软件迁移到AWS云平台
在当今数字化时代,企业对于网络监控的需求愈发迫切。为了更好地管理内网网络,许多企业选择将监控软件迁移到云平台。本文将介绍如何将内网网络监控软件迁移到AWS云平台,并探讨监控到的数据如何自动提交到网站。
273 0
|
消息中间件 运维 安全
带你读《2022龙蜥社区全景白皮书》——6.2.1 龙蜥社区助力全国首个政府采购云平台完成CentOS迁移 - 政采云
带你读《2022龙蜥社区全景白皮书》——6.2.1 龙蜥社区助力全国首个政府采购云平台完成CentOS迁移 - 政采云
132 3
|
SQL 安全 大数据
《CDP企业数据云平台从入门到实践》——Cloudera CDP 产品介绍 (1)
《CDP企业数据云平台从入门到实践》——Cloudera CDP 产品介绍 (1)
695 0
|
弹性计算 分布式计算 安全
《CDP企业数据云平台从入门到实践》——Cloudera CDP 产品介绍 (2)
《CDP企业数据云平台从入门到实践》——Cloudera CDP 产品介绍 (2)
318 0
|
大数据 定位技术
《CDP企业数据云平台从入门到实践》——Cloudera CDP 产品介绍 (3)
《CDP企业数据云平台从入门到实践》——Cloudera CDP 产品介绍 (3)
282 0
|
机器学习/深度学习 消息中间件 监控
《CDP企业数据云平台从入门到实践》——Cloudera CDP 产品介绍 (4)
《CDP企业数据云平台从入门到实践》——Cloudera CDP 产品介绍 (4)
295 0