【Hadoop】Hadoop2.8编译

简介: 今天来讲【Hadoop】Hadoop2.8编译

Hadoop编译步骤:



1.解压Hadoop源码包

[root@hadoop000 ~]# mkdir -p /opt/sourcecode
[root@hadoop000 ~]# mkdir -p /opt/software
[root@hadoop000 sourcecode]# cd /opt/sourcecode
# 将hadoop-2.8.1-src.tar.gz下载(或者用rz上传)到sourcecode目录
[root@hadoop000 sourcecode]# ll
total 33756
-rw-r--r--. 1 root root 34523353 Aug 20 12:14 hadoop-2.8.1-src.tar.gz
# 解压
[root@hadoop000 sourcecode]# tar -xzvf hadoop-2.8.1-src.tar.gz
[root@hadoop000 sourcecode]# ll
total 33760
drwxr-xr-x. 17 root root     4096 Jun  2 14:13 hadoop-2.8.1-src
-rw-r--r--.  1 root root 34523353 Aug 20 12:14 hadoop-2.8.1-src.tar.gz
[root@hadoop000 sourcecode]# cd hadoop-2.8.1-src


2.JAVA安装

[root@hadoop000 ~]# mkdir -p /usr/java
[root@hadoop000 ~]# cd /usr/java
[root@hadoop000 java]# rz #上传jdk-8u45-linux-x64.gz
[root@hadoop000 java]# tar -xzvf jdk-8u45-linux-x64.gz
# 设置环境变量
[root@hadoop000 java]# vi /etc/profile
# 在最底下加入
export JAVA_HOME=/usr/java/jdk1.8.0_45
export PATH=$JAVA_HOME/bin:$PATH
# 生效
[root@hadoop000 java]# source /etc/profile


3.Maven安装

[root@hadoop000 ~]# cd /opt/software/
[root@hadoop000 software]# rz  #上传apache-maven-3.3.9-bin.zip
[root@hadoop000 software]# ll
total 8432
-rw-r--r--. 1 root root 8617253 Aug 20 12:35 apache-maven-3.3.9-bin.zip
# 解压
[root@hadoop000 software]# unzip apache-maven-3.3.9-bin.zip
# 设置环境变量
[root@hadoop000 software]# vi /etc/profile
export MAVEN_HOME=/opt/software/apache-maven-3.3.9
export MAVEN_OPTS="-Xms256m -Xmx512m"
export PATH=$MAVEN_HOME/bin:$JAVA_HOME/bin:$PATH
# 生效
[root@hadoop000 software]# source /etc/profile
# 查看
[root@hadoop000 software]# mvn -version
Apache Maven 3.3.9 (bb52d8502b132ec0a5a3f4c09453c07478323dc5; 2015-11-11T00:41:47+08:00)
Maven home: /opt/software/apache-maven-3.3.9
Java version: 1.8.0_45, vendor: Oracle Corporation
Java home: /usr/java/jdk1.8.0_45/jre
Default locale: en_US, platform encoding: UTF-8
OS name: "linux", version: "2.6.32-431.el6.x86_64", arch: "amd64", family: "unix"


4.Findbugs安装

[root@hadoop000 ~]# cd /opt/software/
[root@hadoop000 software]# rz #上传findbugs-1.3.9.zip
# 解压
[root@hadoop000 software]# unzip findbugs-1.3.9.zip
# 设置环境变量
[root@hadoop000 software]# vi /etc/profile
export FINDBUGS_HOME=/opt/software/findbugs-1.3.9
export PATH=$FINDBUGS_HOME/bin:$MAVEN_HOME/bin:$JAVA_HOME/bin:$PATH
# 生效
[root@hadoop000 software]# source /etc/profile
# 查看
[root@hadoop000 software]# findbugs -version
1.3.9


5.protobuf安装

[root@hadoop000 ~]# cd /opt/software/
[root@hadoop000 software]# rz #上传protobuf-2.5.0.tar.gz
# 解压
[root@hadoop000 software]# tar -xzvf protobuf-2.5.0.tar.gz
[root@hadoop000 software]# cd protobuf-2.5.0
[root@hadoop000 protobuf-2.5.0]# yum install -y gcc gcc-c++ make cmake
[root@hadoop000 protobuf-2.5.0]# ./configure --prefix=/usr/local/protobuf
[root@hadoop000 protobuf-2.5.0]# make && make install
# 设置环境变量
[root@hadoop000 java]# vi /etc/profile
export PROTOC_HOME=/usr/local/protobuf
export PATH=$PROTOC_HOME/bin:$FINDBUGS_HOME/bin:$MAVEN_HOME/bin:$JAVA_HOME/bin:$PATH
# 生效
[root@hadoop000 protobuf-2.5.0]# source /etc/profile
# 查看
[root@hadoop000 protobuf-2.5.0]# protoc --version
libprotoc 2.5.0


6.安装其他依赖

yum install -y openssl openssl-devel svn ncurses-devel zlib-devel libtool
yum install -y snappy snappy-devel bzip2 bzip2-devel lzo lzo-devel lzop autoconf automake


7.编译

[root@hadoop000 sourcecode]# cd hadoop-2.8.1-src
[root@hadoop000 hadoop-2.8.1-src]# mvn clean package -Pdist,native -DskipTests -Dtar
#稍等一段时间 出现以下信息即编译完成
[INFO] ------------------------------------------------------------------------
[INFO] BUILD SUCCESS
[INFO] ------------------------------------------------------------------------
[INFO] Total time: 13:38 min
[INFO] Finished at: 2018-05-16T15:18:47+08:00
[INFO] Final Memory: 173M/478M
[INFO] ------------------------------------------------------------------------


编译好的tar包路径

/opt/sourcecode/hadoop-2.8.1-src/hadoop-dist/target/hadoop-2.8.1.tar.gz

目录
相关文章
|
7月前
|
分布式计算 Hadoop Java
hadoop的基础设施-protobuf-2.5.0编译和安装
hadoop的基础设施-protobuf-2.5.0编译和安装
71 0
|
机器学习/深度学习 分布式计算 资源调度
Hadoop3 Centos 7编译安装和文件配置(内附编译好的包)
Hadoop3 Centos 7编译安装和文件配置(内附编译好的包)
302 1
|
分布式计算 Hadoop Java
spark编译:构建基于hadoop的spark安装包及遇到问题总结
spark编译:构建基于hadoop的spark安装包及遇到问题总结
381 0
spark编译:构建基于hadoop的spark安装包及遇到问题总结
|
分布式计算 Java Hadoop
X86系统基于Centos8的Hadoop3.x源码编译
X86系统基于Centos8的Hadoop3.x源码编译
292 0
X86系统基于Centos8的Hadoop3.x源码编译
|
分布式计算 Oracle Java
ARM64 环境利用 docker 编译 hadoop-2.7.7
ARM64 环境利用 docker 编译 hadoop-2.7.7
384 0
|
分布式计算 Hadoop
Hadoop 2.x本地库native lib及如何源码编译
执行命令bin/hdfs dfs -ls报错 image.png 报错原因 运行的代码与natvie中的代码版本不一致造成 image.
1002 0
|
分布式计算 Java Hadoop
|
分布式计算 Hadoop 测试技术
|
分布式计算 Java Hadoop
03【在线日志分析】之hadoop-2.7.3编译和搭建集群环境(HDFS HA,Yarn HA)
环境:CentOS6.5 1.下载hadoop2.7.3最新源码[root@sht-sgmhadoopnn-01 ~]# mkdir -p learnproject/compilesoft[root@sht-sgmhadoopnn-01 ~]# c...
1281 0

相关实验场景

更多