0x00 教程内容
- Sqoop的获取与上传
- 安装并校验Sqoop
- 导入Mysql的movie表到Hive
0x01 Sqoop的获取与上传
1. 官网下载
a. 为了统一,此处下载sqoop-1.4.7.bin__hadoop-2.6.0.tar.gz版本:
http://mirrors.hust.edu.cn/apache/sqoop/1.4.7/
2. 上传安装包到节点
a. 上传到master的/home/hadoop-sny/software上,没有目录则创建:
mkdir ~/software
0x02 安装并校验Sqoop
1. 解压Sqoop安装包
a. 解压/home/hadoop-sny/software
到bigdata目录
tar -zxvf sqoop-1.4.7.bin__hadoop-2.6.0.tar.gz -C ~/bigdata/
2. 配置Sqoop
a. 配置环境变量
vi ~/.bash_profile
export SQOOP_HOME=/home/hadoop-sny/bigdata/sqoop-1.4.7.bin__hadoop-2.6.0 PATH=PATH:$SQOOP_HOME/bin
source ~/.bash_profile
b. 将mysql的jdbc驱动jar包扔到$SQOOP_HOME/lib下
3. 校验Sqoop是否安装成功
a. 执行:
sqoop help
说明安装成功。
0x03 导入Mysql的movie表到Hive
1. 启动HDFS与YARN
a. 命令:
start-dfs.sh
start-yarn.sh
2. 执行Sqoop操作
a. 简单的sqoop例子
sqoop import --connect jdbc:mysql://master:3306/movie --username root --password root --table movie --split-by id
说明:
master上已经装好了mysql,且建好了movie表,Mysql的账户与密码都是root
解释:
此操作为按id切割,导入Mysql的movie数据到Hive中。
0xFF 总结
- sqoop有1版本与2版本,此处是1版本,自行搜查1与2有哪些区别。