一、Sqoop简介
Sqoop 是一款开源的工具,主要用于在 Hadoop(Hive)与传统的数据库(mysql、postgresql...)间进行数据的传递,可以将一个关系型数据库(例如 : MySQL,Oracle,Postgres 等)中的数据导进到 Hadoop 的 HDFS 中,也可以将 HDFS 的数据导进到关系型数据库中。
Sqoop 项目开始于 2009 年,最早是作为 Hadoop 的一个第三方模块存在,后来为了让使用者能够快速部署,也为了让开发人员能够更快速的迭代开发,Sqoop 独立成为一个 Apache 项目。
Sqoop2 的最新版本是 1.99.7。请注意,2 与 1 不兼容,且特征不完整,它并不打算用于生产部署。
二、Sqoop原理
将导入或导出命令翻译成 mapreduce 程序来实现。
在翻译出的 mapreduce 中主要是对 inputformat 和 outputformat 进行定制。
三、Sqoop安装配置
安装 Sqoop 的前提是已经具备 Java 和 Hadoop 的环境。
我的环境:JDK1.8;Hadoop3.1.3
(一)下载Sqoop安装包并解压
下载地址:https://archive.apache.org/dist/sqoop/
并上传到虚拟机中。
解压缩到“/usr/local”目录下,执行如下命令:
[root@bigdata local]# cd /usr/local/uploads/ [root@bigdata uploads]# tar -zxvf sqoop-1.4.6.bin__hadoop-2.0.4-alpha.tar.gz -C /usr/local [root@bigdata local]# mv sqoop-1.4.6.bin__hadoop-2.0.4-alpha.tar.gz sqoop
(二)修改配置文件
1、复制重命名配置文件
Sqoop的配置文件与大多数大数据框架类似,在sqoop根目录下的conf目录中。
[root@bigdata sqoop]# cd /usr/local/sqoop/conf [root@bigdata conf]# cp sqoop-env-template.sh sqoop-env.sh
2、修改配置文件
[root@bigdata conf]# vi sqoop-env.sh export HADOOP_COMMON_HOME=/usr/local/servers/hadoop export HADOOP_MAPRED_HOME=/usr/local/servers/hadoop export HIVE_HOME=/usr/local/hive export ZOOKEEPER_HOME=/usr/local/servers/zookeeper export ZOOCFGDIR=/usr/local/servers/zookeeper export HBASE_HOME=/usr/local/servers/hbase
(三)拷贝JDBC驱动
拷贝jdbc驱动到sqoop的lib目录下:
[root@bigdata lib]# cp /usr/local/uploads/mysql-connector-java-5.1.40-bin.jar .
(四)验证Sqoop
我们可以通过某一个command来验证sqoop配置是否正确:
[root@bigdata sqoop]# bin/sqoop help
(五)测试Sqoop是否能够成功连接数据库
[root@bigdata sqoop]# bin/sqoop list-databases --connect jdbc:mysql://bigdata:3306?useSSL=false --username root --password MYsql123!
连接成功结果:
若上面命令中不加“?useSSL=false”,则可能会报如下错误:
可以将“useSSL=false”添加到连接字符串中以禁用SSL连接。
提示:若测试链接时出现如下类似的报错:
原因:集群没有安装HCatalog 和Accumulo
解决方法:修改sqoop安装目录bin文件夹下的configure-sqoop文件,找到如下位置并注释:
四、导入数据
在Sqoop中,“导入”概念指:从非大数据集群(RDBMS)向大数据集群(HDFS,Hive,HBase)中传输数据,叫做:导入,即使用import关键字。
(一)RDBMS到HDFS
1、确定Mysql服务开启正常
[root@bigdata zhc]# systemctl start mysqld.service [root@bigdata zhc]# systemctl status mysqld.service [root@bigdata zhc]# mysql -u root -p
2、在Mysql中新建一张表并插入一些数据
mysql> create database company; mysql> use company; mysql> create table company.staff(id int(4) primary key not null auto_increment, name varchar(255), sex varchar(255)); mysql> insert into company.staff(name, sex) values('Thomas', 'Male'); mysql> insert into company.staff(name, sex) values('Catalina','FeMale');
3、启动Hadoop的组件
[root@bigdata sqoop]# start-all.sh
4、导入数据
[root@bigdata sqoop]# bin/sqoop import \ > --connect jdbc:mysql://bigdata:3306/company?useSSL=false \ > --username root \ > --password MYsql123! \ > --table staff \ > --target-dir /user/company \ > --delete-target-dir \ > --num-mappers 1 \ > --fields-terminated-by "\t"
查看并验证结果:
[root@bigdata servers]# hdfs dfs -ls /user/company/ [root@bigdata servers]# hdfs dfs -cat /user/company/part-m-00000
(二)RDBMS到HBase
[root@bigdata sqoop]# bin/sqoop import \ > --connect jdbc:mysql://bigdata:3306/company?useSSL=false \ > --username root \ > --password MYsql123! \ > --table staff \ > --columns "id,name,sex" \ > --column-family "info" \ > --hbase-create-table \ > --hbase-row-key "id" \ > --hbase-table "hbase_company" \ > --num-mappers 1 \ > --split-by id
提示:sqoop1.4.6 只支持 HBase1.0.1 之前的版本的自动创建 HBase 表的功能。
解决方案:手动创建 HBase 表
hbase:001:0> create 'hbase_staff,'info'
在 HBase 中 scan 这张表得到如下内容:
hbase:002:0> scan 'hbase_staff'
(三)RDBMS到Hive
[root@bigdata sqoop]# bin/sqoop import \ > --connect jdbc:mysql://bigdata:3306/company?useSSL=false \ > --username root \ > --password MYsql123! \ > --table staff \ > --num-mappers 1 \ > --hive-import \ > --fields-terminated-by "\t" \ > --hive-overwrite \ > --hive-table staff_hive
提示:该过程分为两步,第一步将数据导入到 HDFS,第二步将导入到 HDFS 的数据迁移到
Hive 仓库,第一步默认的临时目录是/user/atguigu/表名。
五、导出数据
在Sqoop中,“导出”概念指:从大数据集群(HDFS,HIVE,HBASE)向非大数据集群(RDBMS)中传输数据,叫做:导出,即使用export关键字。
HDFS/Hive到RDBMS
1、先登录Mysql
mysql> use company; mysql> show tables; mysql> truncate table staff; # 存在数据先把数据清空
2、运行脚本
[root@bigdata sqoop]# bin/sqoop export \ > --connect jdbc:mysql://bigdata:3306/company?useSSL=false \ > --username root \ > --password MYsql123! \ > --table staff \ > --num-mappers 1 \ > --export-dir /user/hive/warehouse/staff_hive \ > --input-fields-terminated-by "\t"
六、Sqoop常用命令及参数
(一)常用命令列举
序号 | 命令 | 类 | 说明 |
1 | import | ImportTool | 将数据导入到集群 |
2 | export | ExportTool | 将集群数据导出 |
3 | codegen | CodeGenTool | 获取数据库中某张表数据生成Java并打包Jar |
4 | create-hive-table | CreateHiveTableTool | 创建Hive表 |
5 | eval | EvalSqlTool | 查看SQL执行结果 |
6 | import-all-tables | ImportAllTablesTool | 导入某个数据库下所有表到HDFS中 |
7 | job | JobTool | 用来生成一个sqoop的任务,生成后,该任务并不执行,除非使用命令执行该任务。 |
8 | list-databases | ListDatabasesTool | 列出所有数据库名 |
9 | list-tables | ListTablesTool | 列出某个数据库下所有表 |
10 | merge | MergeTool | 将HDFS中不同目录下面的数据合在一起,并存放在指定的目录中 |
11 | metastore | MetastoreTool | 记录sqoop job的元数据信息,如果不启动metastore实例,则默认的元数据存储目 录为:~/.sqoop,如果要更改存储目录,可以在配置文件sqoop-site.xml中进行更改。 |
12 | help | HelpTool | 打印sqoop帮助信息 |
13 | version | VersionTool | 打印sqoop版本信息 |
(二)公用参数
1、公用参数:数据库连接
序号 | 参数 | 说明 |
1 | –connect | 连接关系型数据库的URL |
2 | –connection-manager | 指定要使用的连接管理类 |
3 | –driver | Hadoop根目录 |
4 | –help | 打印帮助信息 |
5 | –password | 连接数据库的密码 |
6 | –username | 连接数据库的用户名 |
7 | –verbose | 在控制台打印出详细信息 |
2、公用参数:import
序号 | 参数 | 说明 |
1 | –enclosed-by | 给字段值前加上指定的字符 |
2 | –escaped-by | 对字段中的双引号加转义符 |
3 | –fields-terminated-by | 设定每个字段是以什么符号作为结束,默认为逗号 |
4 | –lines-terminated-by | 设定每行记录之间的分隔符,默认是\n |
5 | –mysql-delimiters | Mysql默认的分隔符设置,字段之间以逗号分隔,行之间以\n分隔,默认转义符是\,字段值以单引号包裹。 |
6 | –optionally-enclosed-by | 给带有双引号或单引号的字段值前后加上指定字符。 |
3、公用参数:export
序号 | 参数 | 说明 |
1 | –input-enclosed-by | 对字段值前后加上指定字符 |
2 | –input-escaped-by | 对含有转移符的字段做转义处理 |
3 | –input-fields-terminated-by | 字段之间的分隔符 |
4 | –input-lines-terminated-by | 行之间的分隔符 |
5 | –mysql-delimiters | Mysql默认的分隔符设置,字段之间以逗号分隔,行之间以\n分隔,默认转义符是\,字段值以单引号包裹。 |
4、公用参数:hive
序号 | 参数 | 说明 |
1 | –hive-delims-replacement | 用自定义的字符串替换掉数据中的\r\n和\013 \010等字符 |
2 | –hive-drop-import-delims | 在导入数据到hive时,去掉数据中的\r\n\013\010这样的字符 |
3 | –map-column-hive | 生成hive表时,可以更改生成字段的数据类型 |
4 | –hive-partition-key | 创建分区,后面直接跟分区名,分区字段的默认类型为string |
5 | –hive-partition-value | 导入数据时,指定某个分区的值 |
6 | –hive-home | hive的安装目录,可以通过该参数覆盖之前默认配置的目录 |
7 | –hive-import | 将数据从关系数据库中导入到hive表中 |
8 | –hive-overwrite | 覆盖掉在hive表中已经存在的数据 |
9 | –create-hive-table | 默认是false,即,如果目标表已经存在了,那么创建任务失败。 |
10 | –hive-table | 后面接要创建的hive表,默认使用MySQL的表名 |
11 | –table | 指定关系数据库的表名 |