hadoop cdh4.6.0编译方法

简介:

最近因为要改hadoop的一些代码,需要重新编译,测试环境是用cdh4.6.0做debug,简单记录下hadoop的编译方法:

1)编译环境需要下面几个包

1
yum  install  lzo-devel zlib-devel gcc autoconf automake libtool ncurses-devel openssl-devel  cmake

2)需要mvn/ant环境

3)在src目录下运行

1
mvn  package  -DskipTests -Pdist, native  -Dtar -e -X

4)protobuf的版本要求,cdh4.6.0需要 *2.4*版本

如果protobuf版本不匹配会报如下错误,并导致hadoop-common无法编译完成:

1
2
3
4
5
      [exec] Required version of  'protoc'  is  2.4 .0a, reported libprotoc  2.5 . 0 
....
Caused by: 
/home/caiguangguang/hadoop- 2.0 . 0 -cdh4. 6.0 /src/hadoop-common-project/hadoop-common/target/antrun/build-main.xml: 33 :
  exec returned:  1

通过这个build-main.xml文件,可以看到是和protobuf有关

错误由下面脚本导致(也可以看出protobuf是2.4.x版本即可):

1
2
3
4
5
6
7
8
9
10
11
12
hadoop-common-project/hadoop-common/target/compile-proto.sh                                           
#!/bin/bash
PROTOC= "$HADOOP_PROTOC_CDH4_PATH"
if  "${PROTOC}X"  "X"  ]; then
   PROTOC= "protoc"
fi
PROTOC_VERSION=`${PROTOC} --version`
if  [[  "${PROTOC_VERSION}"  != * 2.4 * ]]; then
   echo  "Required version of 'protoc' is 2.4.0a, reported ${PROTOC_VERSION}"
   exit  1
fi
....

编译安装protobuf的方法:

1
./configure --prefix=/home/protobuf && make && make install  (安装完成后注意加载lib目录)

protoc  --version  #PATH增加这个/home/protobuf/bin目录



本文转自菜菜光 51CTO博客,原文链接:http://blog.51cto.com/caiguangguang/1588495,如需转载请自行联系原作者

相关文章
|
8月前
|
机器学习/深度学习 分布式计算 资源调度
Hadoop3 Centos 7编译安装和文件配置(内附编译好的包)
Hadoop3 Centos 7编译安装和文件配置(内附编译好的包)
152 1
|
分布式计算 Hadoop Java
spark编译:构建基于hadoop的spark安装包及遇到问题总结
spark编译:构建基于hadoop的spark安装包及遇到问题总结
308 0
spark编译:构建基于hadoop的spark安装包及遇到问题总结
|
分布式计算 Java Hadoop
X86系统基于Centos8的Hadoop3.x源码编译
X86系统基于Centos8的Hadoop3.x源码编译
217 0
X86系统基于Centos8的Hadoop3.x源码编译
|
分布式计算 Oracle Java
ARM64 环境利用 docker 编译 hadoop-2.7.7
ARM64 环境利用 docker 编译 hadoop-2.7.7
302 0
|
分布式计算 Hadoop
【Hadoop】Hadoop2.8编译
今天来讲【Hadoop】Hadoop2.8编译
106 0
|
分布式计算 Hadoop
Hadoop 2.x本地库native lib及如何源码编译
执行命令bin/hdfs dfs -ls报错 image.png 报错原因 运行的代码与natvie中的代码版本不一致造成 image.
952 0
|
分布式计算 Java Hadoop
|
分布式计算 Hadoop Java
|
分布式计算 Java Hadoop
03【在线日志分析】之hadoop-2.7.3编译和搭建集群环境(HDFS HA,Yarn HA)
环境:CentOS6.5 1.下载hadoop2.7.3最新源码[root@sht-sgmhadoopnn-01 ~]# mkdir -p learnproject/compilesoft[root@sht-sgmhadoopnn-01 ~]# c...
1260 0

相关实验场景

更多