Centos7 mysql和sqoop数据迁移

本文涉及的产品
RDS MySQL Serverless 基础系列,0.5-2RCU 50GB
云数据库 RDS MySQL,集群系列 2核4GB
推荐场景:
搭建个人博客
云数据库 RDS PostgreSQL,集群系列 2核4GB
简介: Centos7 mysql和sqoop数据迁移

Centos7 mysql和sqoop数据迁移

准备工作
SQOOP
MYSQL

链接:https://pan.baidu.com/s/1bmZ1ZOw4NN8_U1N9ZLVcxg 
提取码:gykw

一、mysql安装

1.禁用加速组件

vi  /etc/yum/pluginconf.d/fastestmirror.conf

由enabled = 1修改为enabled = 0 意思是禁用它

2.禁用插件

vi /etc/yum.conf

修改为plugins=0 不使用插件

3.清除缓存并重新构建yum 源

yum clean all
yum clean dbcache
yum makecache

4.下载wget

yum -y install wget

5.配置国内镜像源

cd /etc/yum.repos.d
mv CentOS-Base.repo CentOS-Base.repo.bak
wget -O CentOS-Base.repo http://mirrors.aliyun.com/repo/Centos-7.repo

6.下载mysql

hostnamectl
下载网址:https://dev.mysql.com/downloads/
你可以直接通过我给的mysql来进行安装
上传文件之后
sudo rpm -Uvh  mysql80-community-release-el7-7.noarch.rpm
sudo yum install mysql-community-server
开启服务
systemctl start mysqld
查看状态
systemctl status mysqld

7.修改默认密码

1.取出默认密码
sudo grep 'temporary password' /var/log/mysqld.log
2.登录
mysql -uroot -p
3.改密码
ALTER USER 'root'@'localhost' IDENTIFIED BY 'MyNewPass4!';
4.查看你的密码组
SHOW VARIABLES LIKE 'validate_password%';
5.修改密码验证等级
set global validate_password.policy=LOW;
set global validate_password.length=6;
6.修改我们自己的密码
ALTER USER 'root'@'localhost' IDENTIFIED BY '123456';

8.创建远程访问用户

建用户
create user 'root'@'%' identified with mysql_native_password by '123456';
赋权限
grant all privileges on *.* to 'root'@'%' with grant option;
刷新用户权限
flush privileges;

9.如果有firewalld服务

没开启的话先开启服务
systemctl start firewalld
查看状态
systemctl status firewalld 
开启3306端口
firewall-cmd --zone=public --add-port=3306/tcp --permanent 
重新载入
firewall-cmd --reload

10.配置utf-8编码

vim /etc/my.cnf
#加进去
character_set_server=utf8
init_connect='SET NAMES utf8'
重启服务
systemctl restart mysqld

二、数据迁移

上传文件包
tar -zxvf sqoop-1.4.2.bin__had.gz
mv sqoop-1.4.2.bin__hadoop-2.0.0-alpha sqoop 
rm -rf sqoop-1.4.2.bin__hadoop-2.0.0-alpha sqoop 
cd conf
ls
复制文件
cp sqoop-env-template.sh sqoop-env.sh
配置.sh
export HADOOP_HOME=/software/hadoop
export HADOOP_COMMON_HOME=/software/hadoop
export HADOOP_MAPRED_HOME=/software/hadoop
修改配置文件
vi /etc/profile
export SQOOP_HOME=/software/sqoop
export PATH=.:$SQOOP_HOME/bin:$PATH
source /etc/profile
在这里要注意因为所提供的压缩包里面JAR不全,需要将其放入
mysql-connector-java放在这里

剩下两个放在外面

依据自己的来试一试吧
sqoop export --connect jdbc:mysql://192.168.2.125:3306/sqoop_db --username root --password 123456 --table test --export-dir /test/ --input-fields-terminated-by ','


相关实践学习
如何在云端创建MySQL数据库
开始实验后,系统会自动创建一台自建MySQL的 源数据库 ECS 实例和一台 目标数据库 RDS。
全面了解阿里云能为你做什么
阿里云在全球各地部署高效节能的绿色数据中心,利用清洁计算为万物互联的新世界提供源源不断的能源动力,目前开服的区域包括中国(华北、华东、华南、香港)、新加坡、美国(美东、美西)、欧洲、中东、澳大利亚、日本。目前阿里云的产品涵盖弹性计算、数据库、存储与CDN、分析与搜索、云通信、网络、管理与监控、应用服务、互联网中间件、移动服务、视频服务等。通过本课程,来了解阿里云能够为你的业务带来哪些帮助     相关的阿里云产品:云服务器ECS 云服务器 ECS(Elastic Compute Service)是一种弹性可伸缩的计算服务,助您降低 IT 成本,提升运维效率,使您更专注于核心业务创新。产品详情: https://www.aliyun.com/product/ecs
相关文章
|
9天前
|
安全 关系型数据库 MySQL
Linux(CentOS6)安装MySQL5.6
Linux(CentOS 6)系统上安装MySQL 5.6版本的详细步骤,包括准备数据存放目录、创建用户、下载安装包、初始化数据库、配置服务脚本、设置环境变量等操作。
34 1
|
12天前
|
关系型数据库 MySQL Java
centos7安装mysql教程及Navicat平替软件
【8月更文挑战第17天】本教程详述CentOS 7上安装MySQL的过程。首先确保移除任何预装的MySQL组件,然后通过wget获取并安装MySQL的YUM源。可以选择安装特定版本如5.7或8.0。安装MySQL服务器后,启动服务并查找初始密码。登录MySQL后应立即更改密码,并可根据需要设置远程访问权限。此外,还推荐使用免费开源的DBeaver作为数据库管理工具,提供了安装步骤以方便管理和操作MySQL数据库。
|
1天前
|
弹性计算 关系型数据库 MySQL
centos7 mysql安装及配置
本文详细介绍了在阿里云服务器ECS上通过yum源安装MySQL 8.0.12的过程,包括更新yum源、下载并安装MySQL源、解决安装过程中可能遇到的问题等步骤。此外,还介绍了如何启动MySQL服务、设置开机自启、配置登录密码、添加远程登录用户以及处理远程连接异常等问题。适合初学者参考,帮助快速搭建MySQL环境。
15 8
centos7 mysql安装及配置
|
16天前
|
关系型数据库 MySQL Linux
在CentOS上使用yum安装与使用MySQL
在CentOS操作系统上使用yum包管理器安装和配置MySQL数据库的详细步骤,包括下载MySQL的yum源配置、安装MySQL服务、启动和停止服务、设置开机自启动、获取临时密码、修改root用户密码、授权用户以及处理相关问题。同时,文章还包含了一些操作的截图,帮助用户更直观地理解安装和配置过程。
113 0
在CentOS上使用yum安装与使用MySQL
|
16天前
|
关系型数据库 MySQL Linux
在CentOs7虚拟机Linux离线安装mysql5.6(亲测可用)
该博客文章详细记录了在CentOS 7虚拟机上离线安装MySQL 5.6版本的完整过程,包括下载安装包、导入虚拟机、卸载MariaDB、配置文件设置、服务启动和权限配置等步骤。
在CentOs7虚拟机Linux离线安装mysql5.6(亲测可用)
|
22天前
|
关系型数据库 MySQL Linux
【一键解锁神秘力量!】CentOS 7 通过编译源码方式安装 MySQL 数据库 —— 从零到英雄的数据库安装实战秘籍!
【8月更文挑战第9天】随着业务增长,对数据库的需求日益提高。在 CentOS 7 中,通过编译源码安装 MySQL 可提供更高定制性和灵活性。本文详细介绍从准备环境、下载源码、配置编译参数到安装 MySQL 的全过程,并对比 RPM 包安装方法,帮助读者根据需求选择合适方案。实践时需注意备份数据、选择合适版本、确保安全性和调优性能等要点。
73 1
|
4月前
|
SQL 分布式计算 监控
Sqoop数据迁移工具使用与优化技巧:面试经验与必备知识点解析
【4月更文挑战第9天】本文深入解析Sqoop的使用、优化及面试策略。内容涵盖Sqoop基础,包括安装配置、命令行操作、与Hadoop生态集成和连接器配置。讨论数据迁移优化技巧,如数据切分、压缩编码、转换过滤及性能监控。此外,还涉及面试中对Sqoop与其他ETL工具的对比、实际项目挑战及未来发展趋势的讨论。通过代码示例展示了从MySQL到HDFS的数据迁移。本文旨在帮助读者在面试中展现Sqoop技术实力。
238 2
|
数据采集 SQL 分布式计算
数据处理 、大数据、数据抽取 ETL 工具 DataX 、Kettle、Sqoop
数据处理 、大数据、数据抽取 ETL 工具 DataX 、Kettle、Sqoop
1306 0
|
3月前
|
SQL 关系型数据库 MySQL
基于Hive的天气情况大数据分析系统(通过hive进行大数据分析将分析的数据通过sqoop导入到mysql,通过Django基于mysql的数据做可视化)
基于Hive的天气情况大数据分析系统(通过hive进行大数据分析将分析的数据通过sqoop导入到mysql,通过Django基于mysql的数据做可视化)
|
4月前
|
SQL Java 数据库
Sqoop【付诸实践 02】Sqoop1最新版 全库导入 + 数据过滤 + 字段类型支持 说明及举例代码(query参数及字段类型强制转换)
【2月更文挑战第10天】Sqoop【付诸实践 02】Sqoop1最新版 全库导入 + 数据过滤 + 字段类型支持 说明及举例代码(query参数及字段类型强制转换)
64 0
下一篇
云函数