【数据采集与预处理】数据传输工具Sqoop

本文涉及的产品
云数据库 RDS MySQL,集群系列 2核4GB
推荐场景:
搭建个人博客
RDS MySQL Serverless 基础系列,0.5-2RCU 50GB
云原生大数据计算服务MaxCompute,500CU*H 100GB 3个月
简介: 【数据采集与预处理】数据传输工具Sqoop

一、Sqoop简介

       Sqoop 是一款开源的工具,主要用于在 Hadoop(Hive)与传统的数据库(mysql、postgresql...)间进行数据的传递,可以将一个关系型数据库(例如 : MySQL,Oracle,Postgres 等)中的数据导进到 Hadoop 的 HDFS 中,也可以将 HDFS 的数据导进到关系型数据库中。

       Sqoop 项目开始于 2009 年,最早是作为 Hadoop 的一个第三方模块存在,后来为了让使用者能够快速部署,也为了让开发人员能够更快速的迭代开发,Sqoop 独立成为一个 Apache 项目。

       Sqoop2 的最新版本是 1.99.7。请注意,2 与 1 不兼容,且特征不完整,它并不打算用于生产部署。


二、Sqoop原理

将导入或导出命令翻译成 mapreduce 程序来实现。

在翻译出的 mapreduce 中主要是对 inputformat 和 outputformat 进行定制。

三、Sqoop安装配置

安装 Sqoop 的前提是已经具备 Java 和 Hadoop 的环境。

我的环境:JDK1.8;Hadoop3.1.3

(一)下载Sqoop安装包并解压

下载地址:https://archive.apache.org/dist/sqoop/

并上传到虚拟机中。

解压缩到“/usr/local”目录下,执行如下命令:

[root@bigdata local]# cd /usr/local/uploads/
[root@bigdata uploads]# tar -zxvf sqoop-1.4.6.bin__hadoop-2.0.4-alpha.tar.gz -C /usr/local
[root@bigdata local]# mv sqoop-1.4.6.bin__hadoop-2.0.4-alpha.tar.gz sqoop

(二)修改配置文件

1、复制重命名配置文件

Sqoop的配置文件与大多数大数据框架类似,在sqoop根目录下的conf目录中。

[root@bigdata sqoop]# cd /usr/local/sqoop/conf
[root@bigdata conf]# cp sqoop-env-template.sh sqoop-env.sh

2、修改配置文件

[root@bigdata conf]# vi sqoop-env.sh
 
 
export HADOOP_COMMON_HOME=/usr/local/servers/hadoop
export HADOOP_MAPRED_HOME=/usr/local/servers/hadoop
export HIVE_HOME=/usr/local/hive
export ZOOKEEPER_HOME=/usr/local/servers/zookeeper
export ZOOCFGDIR=/usr/local/servers/zookeeper
export HBASE_HOME=/usr/local/servers/hbase

(三)拷贝JDBC驱动

拷贝jdbc驱动到sqoop的lib目录下:

[root@bigdata lib]# cp /usr/local/uploads/mysql-connector-java-5.1.40-bin.jar .

(四)验证Sqoop

我们可以通过某一个command来验证sqoop配置是否正确:

[root@bigdata sqoop]# bin/sqoop help

(五)测试Sqoop是否能够成功连接数据库

[root@bigdata sqoop]# bin/sqoop list-databases --connect jdbc:mysql://bigdata:3306?useSSL=false --username root --password MYsql123!

连接成功结果:

若上面命令中不加“?useSSL=false”,则可能会报如下错误:

可以将“useSSL=false”添加到连接字符串中以禁用SSL连接。

提示:若测试链接时出现如下类似的报错:

原因:集群没有安装HCatalog 和Accumulo

解决方法:修改sqoop安装目录bin文件夹下的configure-sqoop文件,找到如下位置并注释:

四、导入数据

       在Sqoop中,“导入”概念指:从非大数据集群(RDBMS)向大数据集群(HDFS,Hive,HBase)中传输数据,叫做:导入,即使用import关键字。

(一)RDBMS到HDFS

1、确定Mysql服务开启正常

[root@bigdata zhc]# systemctl start mysqld.service
[root@bigdata zhc]# systemctl status mysqld.service
[root@bigdata zhc]# mysql -u root -p

2、在Mysql中新建一张表并插入一些数据

mysql> create database company;
mysql> use company;
mysql> create table company.staff(id int(4) primary key not null auto_increment, name varchar(255), sex varchar(255));
mysql> insert into company.staff(name, sex) values('Thomas', 'Male');
mysql> insert into company.staff(name, sex) values('Catalina','FeMale');


3、启动Hadoop的组件

[root@bigdata sqoop]# start-all.sh

4、导入数据

[root@bigdata sqoop]# bin/sqoop import \
> --connect jdbc:mysql://bigdata:3306/company?useSSL=false \
> --username root \
> --password MYsql123! \
> --table staff \
> --target-dir /user/company \
> --delete-target-dir \
> --num-mappers 1 \
> --fields-terminated-by "\t"

查看并验证结果:

[root@bigdata servers]# hdfs dfs -ls /user/company/
[root@bigdata servers]# hdfs dfs -cat /user/company/part-m-00000

(二)RDBMS到HBase

[root@bigdata sqoop]# bin/sqoop import \
> --connect jdbc:mysql://bigdata:3306/company?useSSL=false \
> --username root \
> --password MYsql123! \
> --table staff \
> --columns "id,name,sex" \
> --column-family "info" \
> --hbase-create-table \
> --hbase-row-key "id" \
> --hbase-table "hbase_company" \
> --num-mappers 1 \
> --split-by id

提示:sqoop1.4.6 只支持 HBase1.0.1 之前的版本的自动创建 HBase 表的功能。

解决方案:手动创建 HBase 表

hbase:001:0> create 'hbase_staff,'info'

在 HBase 中 scan 这张表得到如下内容:

hbase:002:0> scan 'hbase_staff'

(三)RDBMS到Hive

[root@bigdata sqoop]# bin/sqoop import \
> --connect jdbc:mysql://bigdata:3306/company?useSSL=false \
> --username root \
> --password MYsql123! \
> --table staff \
> --num-mappers 1 \
> --hive-import \
> --fields-terminated-by "\t" \
> --hive-overwrite \
> --hive-table staff_hive

提示:该过程分为两步,第一步将数据导入到 HDFS,第二步将导入到 HDFS 的数据迁移到

Hive 仓库,第一步默认的临时目录是/user/atguigu/表名。

五、导出数据

       在Sqoop中,“导出”概念指:从大数据集群(HDFS,HIVE,HBASE)向非大数据集群(RDBMS)中传输数据,叫做:导出,即使用export关键字。

HDFS/Hive到RDBMS

1、先登录Mysql

mysql> use company;
mysql> show tables;
mysql> truncate table staff;      # 存在数据先把数据清空

2、运行脚本

[root@bigdata sqoop]# bin/sqoop export \
> --connect jdbc:mysql://bigdata:3306/company?useSSL=false \
> --username root \
> --password MYsql123! \
> --table staff \
> --num-mappers 1 \
> --export-dir /user/hive/warehouse/staff_hive \
> --input-fields-terminated-by "\t"

六、Sqoop常用命令及参数

(一)常用命令列举

序号 命令 说明
1 import ImportTool

将数据导入到集群

2 export ExportTool 将集群数据导出
3 codegen CodeGenTool 获取数据库中某张表数据生成Java并打包Jar
4 create-hive-table CreateHiveTableTool 创建Hive表
5 eval EvalSqlTool 查看SQL执行结果
6 import-all-tables ImportAllTablesTool 导入某个数据库下所有表到HDFS中
7 job JobTool 用来生成一个sqoop的任务,生成后,该任务并不执行,除非使用命令执行该任务。
8 list-databases ListDatabasesTool 列出所有数据库名
9 list-tables ListTablesTool 列出某个数据库下所有表
10 merge MergeTool 将HDFS中不同目录下面的数据合在一起,并存放在指定的目录中
11 metastore MetastoreTool

记录sqoop job的元数据信息,如果不启动metastore实例,则默认的元数据存储目

录为:~/.sqoop,如果要更改存储目录,可以在配置文件sqoop-site.xml中进行更改。

12 help HelpTool 打印sqoop帮助信息
13 version VersionTool 打印sqoop版本信息

(二)公用参数

1、公用参数:数据库连接

序号 参数 说明
1 –connect 连接关系型数据库的URL
2 –connection-manager 指定要使用的连接管理类
3 –driver Hadoop根目录
4 –help 打印帮助信息
5 –password 连接数据库的密码
6 –username 连接数据库的用户名
7 –verbose 在控制台打印出详细信息

2、公用参数:import

序号 参数 说明
1 –enclosed-by 给字段值前加上指定的字符
2 –escaped-by 对字段中的双引号加转义符
3 –fields-terminated-by 设定每个字段是以什么符号作为结束,默认为逗号
4 –lines-terminated-by 设定每行记录之间的分隔符,默认是\n
5 –mysql-delimiters Mysql默认的分隔符设置,字段之间以逗号分隔,行之间以\n分隔,默认转义符是\,字段值以单引号包裹。
6 –optionally-enclosed-by 给带有双引号或单引号的字段值前后加上指定字符。

3、公用参数:export

序号 参数 说明
1 –input-enclosed-by 对字段值前后加上指定字符
2 –input-escaped-by 对含有转移符的字段做转义处理
3 –input-fields-terminated-by 字段之间的分隔符
4 –input-lines-terminated-by 行之间的分隔符
5 –mysql-delimiters Mysql默认的分隔符设置,字段之间以逗号分隔,行之间以\n分隔,默认转义符是\,字段值以单引号包裹。

4、公用参数:hive

序号 参数 说明
1 –hive-delims-replacement 用自定义的字符串替换掉数据中的\r\n和\013 \010等字符
2 –hive-drop-import-delims 在导入数据到hive时,去掉数据中的\r\n\013\010这样的字符
3 –map-column-hive 生成hive表时,可以更改生成字段的数据类型
4 –hive-partition-key 创建分区,后面直接跟分区名,分区字段的默认类型为string
5 –hive-partition-value 导入数据时,指定某个分区的值
6 –hive-home hive的安装目录,可以通过该参数覆盖之前默认配置的目录
7 –hive-import 将数据从关系数据库中导入到hive表中
8 –hive-overwrite 覆盖掉在hive表中已经存在的数据
9 –create-hive-table 默认是false,即,如果目标表已经存在了,那么创建任务失败。
10 –hive-table 后面接要创建的hive表,默认使用MySQL的表名
11 –table 指定关系数据库的表名


相关实践学习
lindorm多模间数据无缝流转
展现了Lindorm多模融合能力——用kafka API写入,无缝流转在各引擎内进行数据存储和计算的实验。
云数据库HBase版使用教程
  相关的阿里云产品:云数据库 HBase 版 面向大数据领域的一站式NoSQL服务,100%兼容开源HBase并深度扩展,支持海量数据下的实时存储、高并发吞吐、轻SQL分析、全文检索、时序时空查询等能力,是风控、推荐、广告、物联网、车联网、Feeds流、数据大屏等场景首选数据库,是为淘宝、支付宝、菜鸟等众多阿里核心业务提供关键支撑的数据库。 了解产品详情: https://cn.aliyun.com/product/hbase   ------------------------------------------------------------------------- 阿里云数据库体验:数据库上云实战 开发者云会免费提供一台带自建MySQL的源数据库 ECS 实例和一台目标数据库 RDS实例。跟着指引,您可以一步步实现将ECS自建数据库迁移到目标数据库RDS。 点击下方链接,领取免费ECS&RDS资源,30分钟完成数据库上云实战!https://developer.aliyun.com/adc/scenario/51eefbd1894e42f6bb9acacadd3f9121?spm=a2c6h.13788135.J_3257954370.9.4ba85f24utseFl
目录
相关文章
|
6月前
|
SQL 分布式计算 监控
Sqoop数据迁移工具使用与优化技巧:面试经验与必备知识点解析
【4月更文挑战第9天】本文深入解析Sqoop的使用、优化及面试策略。内容涵盖Sqoop基础,包括安装配置、命令行操作、与Hadoop生态集成和连接器配置。讨论数据迁移优化技巧,如数据切分、压缩编码、转换过滤及性能监控。此外,还涉及面试中对Sqoop与其他ETL工具的对比、实际项目挑战及未来发展趋势的讨论。通过代码示例展示了从MySQL到HDFS的数据迁移。本文旨在帮助读者在面试中展现Sqoop技术实力。
470 2
|
6月前
|
网络协议 Linux 网络安全
curl(http命令行工具):Linux下最强大的网络数据传输工具
curl(http命令行工具):Linux下最强大的网络数据传输工具
190 0
|
1月前
|
SQL 分布式计算 关系型数据库
Hadoop-21 Sqoop 数据迁移工具 简介与环境配置 云服务器 ETL工具 MySQL与Hive数据互相迁移 导入导出
Hadoop-21 Sqoop 数据迁移工具 简介与环境配置 云服务器 ETL工具 MySQL与Hive数据互相迁移 导入导出
51 3
|
6月前
|
存储 分布式计算 NoSQL
DataX深度剖析:解读数据传输工具的设计理念与架构特点
DataX深度剖析:解读数据传输工具的设计理念与架构特点
404 5
DataX深度剖析:解读数据传输工具的设计理念与架构特点
|
6月前
|
数据采集 分布式计算 关系型数据库
Sqoop与Flume的集成:实时数据采集
Sqoop与Flume的集成:实时数据采集
|
6月前
|
JSON API 数据格式
网络数据传输工具 - curl
【1月更文挑战第18天】
83 0
|
6月前
|
分布式计算 Hadoop 关系型数据库
Sqoop数据传输中的常见挑战及其解决方法
Sqoop数据传输中的常见挑战及其解决方法
|
6月前
|
SQL 分布式计算 监控
在数据传输服务(DTS)中,要查看每个小时源端产生了多少条数据
【2月更文挑战第32天】在数据传输服务(DTS)中,要查看每个小时源端产生了多少条数据
66 6
|
6月前
|
存储 SQL NoSQL
数据传输DTS同步问题之同步失败如何解决
数据传输服务(DTS)是一项专注于数据迁移和同步的云服务,在使用过程中可能遇到多种问题,本合集精选常见的DTS数据传输问题及其答疑解惑,以助用户顺利实现数据流转。
|
6月前
|
Cloud Native NoSQL 关系型数据库
数据传输DTS校验问题之校验报错如何解决
数据传输服务(DTS)是一项专注于数据迁移和同步的云服务,在使用过程中可能遇到多种问题,本合集精选常见的DTS数据传输问题及其答疑解惑,以助用户顺利实现数据流转。