Centos7 mysql和sqoop数据迁移

本文涉及的产品
RDS MySQL Serverless 基础系列,0.5-2RCU 50GB
云数据库 RDS MySQL,集群系列 2核4GB
推荐场景:
搭建个人博客
RDS MySQL Serverless 高可用系列,价值2615元额度,1个月
简介: Centos7 mysql和sqoop数据迁移

Centos7 mysql和sqoop数据迁移

准备工作
SQOOP
MYSQL

链接:https://pan.baidu.com/s/1bmZ1ZOw4NN8_U1N9ZLVcxg 
提取码:gykw

一、mysql安装

1.禁用加速组件

vi  /etc/yum/pluginconf.d/fastestmirror.conf

由enabled = 1修改为enabled = 0 意思是禁用它

2.禁用插件

vi /etc/yum.conf

修改为plugins=0 不使用插件

3.清除缓存并重新构建yum 源

yum clean all
yum clean dbcache
yum makecache

4.下载wget

yum -y install wget

5.配置国内镜像源

cd /etc/yum.repos.d
mv CentOS-Base.repo CentOS-Base.repo.bak
wget -O CentOS-Base.repo http://mirrors.aliyun.com/repo/Centos-7.repo

6.下载mysql

hostnamectl
下载网址:https://dev.mysql.com/downloads/
你可以直接通过我给的mysql来进行安装
上传文件之后
sudo rpm -Uvh  mysql80-community-release-el7-7.noarch.rpm
sudo yum install mysql-community-server
开启服务
systemctl start mysqld
查看状态
systemctl status mysqld

7.修改默认密码

1.取出默认密码
sudo grep 'temporary password' /var/log/mysqld.log
2.登录
mysql -uroot -p
3.改密码
ALTER USER 'root'@'localhost' IDENTIFIED BY 'MyNewPass4!';
4.查看你的密码组
SHOW VARIABLES LIKE 'validate_password%';
5.修改密码验证等级
set global validate_password.policy=LOW;
set global validate_password.length=6;
6.修改我们自己的密码
ALTER USER 'root'@'localhost' IDENTIFIED BY '123456';

8.创建远程访问用户

建用户
create user 'root'@'%' identified with mysql_native_password by '123456';
赋权限
grant all privileges on *.* to 'root'@'%' with grant option;
刷新用户权限
flush privileges;

9.如果有firewalld服务

没开启的话先开启服务
systemctl start firewalld
查看状态
systemctl status firewalld 
开启3306端口
firewall-cmd --zone=public --add-port=3306/tcp --permanent 
重新载入
firewall-cmd --reload

10.配置utf-8编码

vim /etc/my.cnf
#加进去
character_set_server=utf8
init_connect='SET NAMES utf8'
重启服务
systemctl restart mysqld

二、数据迁移

上传文件包
tar -zxvf sqoop-1.4.2.bin__had.gz
mv sqoop-1.4.2.bin__hadoop-2.0.0-alpha sqoop 
rm -rf sqoop-1.4.2.bin__hadoop-2.0.0-alpha sqoop 
cd conf
ls
复制文件
cp sqoop-env-template.sh sqoop-env.sh
配置.sh
export HADOOP_HOME=/software/hadoop
export HADOOP_COMMON_HOME=/software/hadoop
export HADOOP_MAPRED_HOME=/software/hadoop
修改配置文件
vi /etc/profile
export SQOOP_HOME=/software/sqoop
export PATH=.:$SQOOP_HOME/bin:$PATH
source /etc/profile
在这里要注意因为所提供的压缩包里面JAR不全,需要将其放入
mysql-connector-java放在这里

剩下两个放在外面

依据自己的来试一试吧
sqoop export --connect jdbc:mysql://192.168.2.125:3306/sqoop_db --username root --password 123456 --table test --export-dir /test/ --input-fields-terminated-by ','


相关实践学习
如何在云端创建MySQL数据库
开始实验后,系统会自动创建一台自建MySQL的 源数据库 ECS 实例和一台 目标数据库 RDS。
全面了解阿里云能为你做什么
阿里云在全球各地部署高效节能的绿色数据中心,利用清洁计算为万物互联的新世界提供源源不断的能源动力,目前开服的区域包括中国(华北、华东、华南、香港)、新加坡、美国(美东、美西)、欧洲、中东、澳大利亚、日本。目前阿里云的产品涵盖弹性计算、数据库、存储与CDN、分析与搜索、云通信、网络、管理与监控、应用服务、互联网中间件、移动服务、视频服务等。通过本课程,来了解阿里云能够为你的业务带来哪些帮助     相关的阿里云产品:云服务器ECS 云服务器 ECS(Elastic Compute Service)是一种弹性可伸缩的计算服务,助您降低 IT 成本,提升运维效率,使您更专注于核心业务创新。产品详情: https://www.aliyun.com/product/ecs
相关文章
|
17天前
|
关系型数据库 MySQL Linux
在 CentOS 7 中通过编译源码方式安装 MySQL 数据库的详细步骤,并与使用 RPM 包安装进行了对比
本文介绍了在 CentOS 7 中通过编译源码方式安装 MySQL 数据库的详细步骤,并与使用 RPM 包安装进行了对比。通过具体案例,读者可以了解如何准备环境、下载源码、编译安装、配置服务及登录 MySQL。编译源码安装虽然复杂,但提供了更高的定制性和灵活性,适用于需要高度定制的场景。
50 3
|
18天前
|
关系型数据库 MySQL Linux
在 CentOS 7 中通过编译源码安装 MySQL 数据库的详细步骤,并与使用 RPM 包安装进行了对比。
本文介绍了在 CentOS 7 中通过编译源码安装 MySQL 数据库的详细步骤,并与使用 RPM 包安装进行了对比。内容涵盖准备工作、下载源码、编译安装、配置服务、登录设置及实践心得,帮助读者根据需求选择最适合的安装方法。
32 2
|
20天前
|
关系型数据库 MySQL Linux
在 CentOS 7 中通过编译源码方式安装 MySQL 数据库的详细步骤,包括准备工作、下载源码、编译安装、配置 MySQL 服务、登录设置等。
本文介绍了在 CentOS 7 中通过编译源码方式安装 MySQL 数据库的详细步骤,包括准备工作、下载源码、编译安装、配置 MySQL 服务、登录设置等。同时,文章还对比了编译源码安装与使用 RPM 包安装的优缺点,帮助读者根据需求选择最合适的方法。通过具体案例,展示了编译源码安装的灵活性和定制性。
61 2
|
1月前
|
关系型数据库 MySQL Linux
在 CentOS 7 中通过编译源码方式安装 MySQL 数据库的详细步骤
本文介绍了在 CentOS 7 中通过编译源码方式安装 MySQL 数据库的详细步骤,包括准备工作、下载源码、编译安装、配置服务等,并与使用 RPM 包安装进行了对比,帮助读者根据需求选择合适的方法。编译源码安装虽然复杂,但提供了更高的定制性和灵活性。
226 2
|
1月前
|
关系型数据库 MySQL Linux
在 CentOS 7 中通过编译源码方式安装 MySQL 数据库的详细步骤
【10月更文挑战第7天】本文介绍了在 CentOS 7 中通过编译源码方式安装 MySQL 数据库的详细步骤,包括准备工作、下载源码、编译安装、配置 MySQL 服务、登录设置等。同时,文章还对比了编译源码安装与使用 RPM 包安装的优缺点,帮助读者根据自身需求选择合适的方法。
58 3
|
6月前
|
SQL 分布式计算 监控
Sqoop数据迁移工具使用与优化技巧:面试经验与必备知识点解析
【4月更文挑战第9天】本文深入解析Sqoop的使用、优化及面试策略。内容涵盖Sqoop基础,包括安装配置、命令行操作、与Hadoop生态集成和连接器配置。讨论数据迁移优化技巧,如数据切分、压缩编码、转换过滤及性能监控。此外,还涉及面试中对Sqoop与其他ETL工具的对比、实际项目挑战及未来发展趋势的讨论。通过代码示例展示了从MySQL到HDFS的数据迁移。本文旨在帮助读者在面试中展现Sqoop技术实力。
470 2
|
数据采集 SQL 分布式计算
数据处理 、大数据、数据抽取 ETL 工具 DataX 、Kettle、Sqoop
数据处理 、大数据、数据抽取 ETL 工具 DataX 、Kettle、Sqoop
1419 0
|
1月前
|
SQL 分布式计算 关系型数据库
Hadoop-21 Sqoop 数据迁移工具 简介与环境配置 云服务器 ETL工具 MySQL与Hive数据互相迁移 导入导出
Hadoop-21 Sqoop 数据迁移工具 简介与环境配置 云服务器 ETL工具 MySQL与Hive数据互相迁移 导入导出
51 3
|
1月前
|
SQL 分布式计算 关系型数据库
Hadoop-24 Sqoop迁移 MySQL到Hive 与 Hive到MySQL SQL生成数据 HDFS集群 Sqoop import jdbc ETL MapReduce
Hadoop-24 Sqoop迁移 MySQL到Hive 与 Hive到MySQL SQL生成数据 HDFS集群 Sqoop import jdbc ETL MapReduce
85 0
|
1月前
|
SQL 分布式计算 关系型数据库
Hadoop-23 Sqoop 数据MySQL到HDFS(部分) SQL生成数据 HDFS集群 Sqoop import jdbc ETL MapReduce
Hadoop-23 Sqoop 数据MySQL到HDFS(部分) SQL生成数据 HDFS集群 Sqoop import jdbc ETL MapReduce
37 0