开发者社区> 鸿初> 正文

自建hadoop集群迁移到EMR之数据迁移篇

简介: 自建集群要迁移到EMR集群,往往需要迁移已有数据。本文主要介绍hdfs数据和hive meta数据如何迁移。 前置 已按需求创建好EMR集群。 迁移hdfs数据 主要依靠distcp,核心是打通网络,确定hdfs参数和要迁移内容,测速,迁移。
+关注继续查看

自建集群要迁移到EMR集群,往往需要迁移已有数据。本文主要介绍hdfs数据和hive meta数据如何迁移。

前置

已按需求创建好EMR集群。

迁移hdfs数据

主要依靠distcp,核心是打通网络,确定hdfs参数和要迁移内容,测速,迁移。

网络

需要自建集群和EMR各个节点网络互通。同为VPC网络只需要同一个安全组,不同的安全组需要设置安全组互通。

如果自建集群是经典网络,EMR集群是vpc,网络访问需要设置CLASSICLINK.参见文档,详情可以咨询ECS客服。

设置后可以在新集群节点上ssh 老集群节点确定网络连通情况,distcp操作如果有xx 节点无法连接xx节点的异常,说明没有连通,需要继续设置。

hdfs权限配置确认

hdfs有权限设置,确定老集群是否有acl规则,是否要同步,检查dfs.permissions.enabled 和dfs.namenode.acls.enabled的配置新老集群是否一致,按照实际需要修改。

如果有acl规则要同步,distcp参数要加-p同步权限参数。如果distcp操作提示xx集群不支持acl,说明对应集群没配置。新集群没配置可以修改配置并重启NM。旧集群不支持,说明旧集群根本就没有acl方面的设置,也不需要同步。

同步参数

一般在新集群上运行同步,这样同步的作业可以在新集群上运行,对老集群影响较小。

distcp参数细节,一般命令格式如下:
hadoop distcp -Ddfs.replication=3 -pbugpcax -m 1000 -bandwidth 30 hdfs://oldclusterip:8020 /user/hive/warehouse /user/hive/
注意事项:

  1. hdfs://oldclusterip:8020写老集群nameode ip,多个namenode写当前active的。
  2. 指定了副本数3,如想保留原有副本数-p后加r如-prbugpcax。如果不同步权限和acl,-p后去掉p和a。
  3. -m指定map数,和集群规模,数据量有关。比如集群有2000核cpu,就可以指定2000个map。 -bandwidth指定单个map的同步速度,是靠控制副本复制速度实现的,是大概值。
    4.迁移整体速度受集群间带宽,集群规模影响。同时文件越多,checksum需要的时间越长。如果迁移数据量大,可以先试着同步几个目录评估一下整体时间。如果只能在指定时间段内同步,可以将目录切为几个小目录,依次同步。

5.如果迁移过程中老集群还有写入,可以用-udpate再将变化同步过来。
6.一般完全同步,需要有个短暂的业务停写,以启用双写双算或直接将业务切换到新集群上。

hive meta数据同步

hive meta数据同步,本质是hive meta db,一般是mysql db的数据同步。和一般的mysql数据同步相比,要注意location改变,和hive版本对齐。

meta db设置

meta数据较多时,一般推荐用rds作为meta db。自建集群可能已有一个rds db,由于location不同,一般需要新建一个数据库。最佳实践是跟EMR集群在一个可用区,一个vpc 安全组下新建一个rds 数据库。

登录新集群master节点(如果是ha集群两个master都需要),修改/usr/local/emr/emr-agent/run/meta_db_info.json,把里面的use_local_meta_db设置为false,meta数据库信息的链接地址、用户名和密码换成新建rds的信息。然后重启hive组件的metaserver。

初始化meta的表信息:
···
cd /usr/lib/hive-current/bin
./schematool - initSchema -dbType mysql
···

location

hive的表,分区等信息是有location信息的,带dfs nameservices前缀,如hdfs://mycluster:8020/,而EMR集群的nameservices前缀是统一的emr-cluster,所以需要订正。订正的最佳方式是先导出数据mysqldump --databases hivemeta --single-transaction -u root –p > hive_databases.sql,用sed替换hdfs://oldcluster:8020/为hdfs://emr-cluster/ ,再导入新db中。
mysql hivemeta -p < hive_databases.sql

版本对齐

EMR的hive版本一般是当前社区最新的稳定版,自建集群hive版本可能会更老,所以导入的旧版本数据可能不能直接使用。需要执行hive的升级脚本,地址。例如hive从1.2升级到2.3.0,需要依次执行upgrade-1.2.0-to-2.0.0.mysql.sql,upgrade-2.0.0-to-2.1.0.mysql.sql,upgrade-2.1.0-to-2.2.0.mysql.sql,upgrade-2.2.0-to-2.3.0.mysql.sql。脚本主要是建表,加字段,改内容,如有表已存在,字段已存在的异常可以忽略。

验证

meta数据全部订正后,就可以重启metaserver了。命令行hive,查询库和表,查询数据,验证正确性。

版权声明:本文内容由阿里云实名注册用户自发贡献,版权归原作者所有,阿里云开发者社区不拥有其著作权,亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容,填写侵权投诉表单进行举报,一经查实,本社区将立刻删除涉嫌侵权内容。

相关文章
阿里云服务器如何登录?阿里云服务器的三种登录方法
购买阿里云ECS云服务器后如何登录?场景不同,大概有三种登录方式:
9463 0
大数据||hadoop集群的时间同步
各大银行、证券、通讯集群内部时间同步,找一台机器作为时间基准,其他机器同步一次时间。 时间服务器配置 检测是否安装ntp工具 rpm -qa|grep ntp 修改vi /etc/ntp.conf 开启#restrict 192.168.1.0 mask 255.255.255.0 nomodify notrap并把192.168.1.0修改为192.168.57.0 去掉注解(本地网络上的主机限制较少。
1498 0
阿里云服务器怎么设置密码?怎么停机?怎么重启服务器?
如果在创建实例时没有设置密码,或者密码丢失,您可以在控制台上重新设置实例的登录密码。本文仅描述如何在 ECS 管理控制台上修改实例登录密码。
20130 0
Hadoop数据迁移MaxCompute最佳实践
本文向您详细介绍如何通过使用DataWorks数据同步功能,将Hadoop数据迁移到阿里云MaxCompute大数据计算服务上。您也可以参考本文进行MaxCompute数据到Hadoop的反向迁移。
9367 0
阿里云服务器端口号设置
阿里云服务器初级使用者可能面临的问题之一. 使用tomcat或者其他服务器软件设置端口号后,比如 一些不是默认的, mysql的 3306, mssql的1433,有时候打不开网页, 原因是没有在ecs安全组去设置这个端口号. 解决: 点击ecs下网络和安全下的安全组 在弹出的安全组中,如果没有就新建安全组,然后点击配置规则 最后如上图点击添加...或快速创建.   have fun!  将编程看作是一门艺术,而不单单是个技术。
18413 0
阿里云服务器如何登录?阿里云服务器的三种登录方法
购买阿里云ECS云服务器后如何登录?场景不同,阿里云优惠总结大概有三种登录方式: 登录到ECS云服务器控制台 在ECS云服务器控制台用户可以更改密码、更换系.
24957 0
[大数据新手上路]“零基础”系列课程--如何将ECS上的Hadoop数据迁移到阿里云数加·MaxCompute
 想用阿里云数加·大数据计算服务(MaxCompute),但是现在数据还在hadoop上,怎么办?   别烦恼,跟着我们走,来一次MaxCompute零基础数据迁移之旅~Let’s Go!
15087 0
SpringCloud迁移至EDAS微服务——Series3:在容器服务K8s集群中部署应用
SpringCloud迁移至EDAS微服务——Series3:在容器服务K8s集群中部署应用
2660 0
+关注
鸿初
阿里云-EMR团队成员,致力于推广开源大数据在云上的应用
21
文章
30
问答
来源圈子
更多
E-MapReduce是构建于阿里云ECS弹性虚拟机之上,利用开源大数据生态系统,包括Hadoop和Spark,为用户提供集群、作业、数据等管理的一站式大数据处理分析服务。加入钉钉群聊阿里云E-MapReduce交流2群,点击进入查看详情 https://qr.dingtalk.com/action/joingroup?code=v1,k1,cNBcqHn4TvG0iHpN3cSc1B86D1831SGMdvGu7PW+sm4=&_dt_no_comment=1&origin=11
+ 订阅
相关文档: E-MapReduce
文章排行榜
最热
最新
相关电子书
更多
JS零基础入门教程(上册)
立即下载
性能优化方法论
立即下载
手把手学习日志服务SLS,云启实验室实战指南
立即下载