Azkaban【部署 01】Linux环境 CentOS Linux release 7.5.1804安装配置azkaban-3.70.0编译阶段(附安装包及gradle-4.6资源)

简介: 【2月更文挑战第4天】Linux环境 CentOS Linux release 7.5.1804安装配置azkaban-3.70.0编译阶段(附安装包及gradle-4.6资源)

1. 资源分享

链接:https://pan.baidu.com/s/1Bz2Z5xgY9dJiTMdCeKB8KQ
提取码:f6s9
包含资源:azkaban-3.70.0.tar.gz 和 gradle-4.6-all.zip

2. 前置条件

1.JDK 1.8+【亲测JDK 11无法使用】

[root@aliyun ~]# java -version
openjdk version "11" 2018-09-25
OpenJDK Runtime Environment 18.9 (build 11+28)
OpenJDK 64-Bit Server VM 18.9 (build 11+28, mixed mode)
# 构建报错
FAILURE: Build failed with an exception.
* What went wrong:
Could not determine java version from '11'.
# 只好换成安装JDK1.8的另一台服务器
[root@tcloud ~]# java -version
java version "1.8.0_251"
Java(TM) SE Runtime Environment (build 1.8.0_251-b08)
Java HotSpot(TM) 64-Bit Server VM (build 25.251-b08, mixed mode)

2.Gradle
用于源码编译【资源分享里有 gradle-4.6-all.zip】

3.Git
Azkaban 的编译过程需要用Git下载部分JAR包,所以需要预先安装:

[root@tcloud ~]# yum install git

4.其他依赖安装

# 否则会报 Could not find Linker 'g++' in system path.
[root@tcloud ~]# yum install gcc-c++*

3. 源码获取

Azkaban在3.0版本之后就不提供对应的安装包,需要自己下载源码进行编译。可以在GitHub :snail:上下载【网络不好,或不追求最新版本4.0.0的,可以使用我分享的百度网盘资源】,也可以使用 wget直接下载对应release版本的 tar.gz 文件:

# 下载
[root@tcloud ~]# wget https://github.com/azkaban/azkaban/archive/3.70.0.tar.gz

4. 编译环境

Azkaban 3.70.0 编译需要依赖 gradle-4.6-all.zip 。Gradle 是一个项目自动化构建开源工具,类似于 Maven。需要注意的是不同版本的 Azkaban 依赖 Gradle 版本不同,可以在解压后查看 ${AZKABAN_HOME}/gradle/wrapper/gradle-wrapper.properties 文件获取。

[root@tcloud azkaban]# tar -zxvf azkaban-3.70.0.tar.gz
[root@tcloud azkaban]# cat ./azkaban-3.70.0/gradle/wrapper/gradle-wrapper.properties
# 省略部分无关信息
distributionBase=GRADLE_USER_HOME
distributionPath=wrapper/dists
zipStoreBase=GRADLE_USER_HOME
zipStorePath=wrapper/dists
distributionUrl=https\://services.gradle.org/distributions/gradle-4.6-all.zip

在编译时程序会自动去 distributionUrl 定义的地址进行下载,但是下载可能会很慢。为避免影响编译过程,建议先手动下载至 /gradle/wrapper/ 目录下,可以通过wget下载 :snail:【当然也可以使用我分享的百度云盘资源 :rocket:】:

[root@tcloud ~]# wget https://services.gradle.org/distributions/gradle-4.6-all.zip
# 复制 gradle-4.6-all.zip 文件,我用的不是wget下载的。
[root@tcloud ~]# cp /home/azkaban/gradle-4.6-all.zip \
/home/azkaban/azkaban-3.70.0/gradle/wrapper/

此时需要修改 gradle-wrapper.properties 中的 distributionUrl 属性,指明使用本地的gradle。

[root@tcloud ~]# vim ./azkaban-3.70.0/gradle/wrapper/gradle-wrapper.properties
    # 修改 distributionUrl
    distributionUrl=gradle-4.6-all.zip

5. 项目编译

在${AZKABAN_HOMW}目录下执行编译命令【要下载构建项目需要的大量jar包,应该有好几百个,所以时间较久 :clock11: 我的用时23分59秒】:

[root@tcloud azkaban-3.70.0]# ./gradlew build installDist -x test

编译过程中需要注意以下问题:

  • jar 包下载速度根据网络情况而定,通常都不会很快,这个阶段也耐心;
  • 如果出现网络问题而导致 jar无法下载,编译可能会被强行终止,这时候重复执行编译命令即可,gradle 会把已经下载的 jar 包缓存到本地,所以不用担心会重复下载。

编译成功后:

BUILD SUCCESSFUL in 23m 59s
83 actionable tasks: 83 executed

查看一下都编译出什么文件了:

[root@tcloud azkaban-3.70.0]# find /home/azkaban/azkaban-3.70.0/ -name '*SNAPSHOT.tar.gz'
# 为了更直观 删掉了路径信息 调整了一下顺序
# solo server model 安装文件
azkaban-solo-server-0.1.0-SNAPSHOT.tar.gz
# multiple-executor 安装文件
azkaban-exec-server-0.1.0-SNAPSHOT.tar.gz
azkaban-web-server-0.1.0-SNAPSHOT.tar.gz
# 其他文件【有知道怎么用的小伙伴可以分享一下】
azkaban-db-0.1.0-SNAPSHOT.tar.gz
az-crypto-0.1.0-SNAPSHOT.tar.gz
az-jobsummary-0.1.0-SNAPSHOT.tar.gz
az-hdfs-viewer-0.1.0-SNAPSHOT.tar.gz
azkaban-hadoop-security-plugin-0.1.0-SNAPSHOT.tar.gz
az-reportal-0.1.0-SNAPSHOT.tar.gz
az-hadoop-jobtype-plugin-0.1.0-SNAPSHOT.tar.gz

曾经的踩坑记录【这次安装没有遇到 :lollipop:】:

# 报错
# unzipping /root/.gradle/wrapper/dists/gradle-4.6-all/eia1fevtc8usrd8sjmiodfisd/gradle-3.3-all.zip to /root/.gradle/wrapper/dists/gradle-4.6-all/eia1fevtc8usrd8sjmiodfisd 

# 解决方法
cd /root/.gradle/wrapper/dists/gradle-4.6-all/eia1fevtc8usrd8sjmiodfisd/
# 删除此文件夹里面的文件,将下载好的 gradle-4.6-all.zip 复制到这里。继续进行编译。
目录
相关文章
|
6天前
|
JavaScript Linux 数据安全/隐私保护
如何在CentOS7部署Wiki.js知识库并实现分享好友公网远程使用【内网穿透】
如何在CentOS7部署Wiki.js知识库并实现分享好友公网远程使用【内网穿透】
|
12天前
|
存储 Linux Shell
centos 部署docker容器 安装 、基本使用方法(一)
centos 部署docker容器 安装 、基本使用方法(一)
22 0
|
12天前
|
分布式计算 Hadoop Java
centos 部署Hadoop-3.0-高性能集群(一)安装
centos 部署Hadoop-3.0-高性能集群(一)安装
13 0
|
23天前
|
Linux Shell 开发工具
CentOS8中Docker安装及部署
CentOS8中Docker安装及部署
67 0
|
1月前
|
存储 监控 Linux
Flume【部署 02】Flume监控工具Ganglia的安装与配置(CentOS 7.5 在线安装系统监控工具Ganglia + 权限问题处理 + Flume接入监控配置 + 图例说明)
【2月更文挑战第17天】Flume【部署 02】Flume监控工具Ganglia的安装与配置(CentOS 7.5 在线安装系统监控工具Ganglia + 权限问题处理 + Flume接入监控配置 + 图例说明)
28 1
Flume【部署 02】Flume监控工具Ganglia的安装与配置(CentOS 7.5 在线安装系统监控工具Ganglia + 权限问题处理 + Flume接入监控配置 + 图例说明)
|
8月前
|
存储 Linux Shell
虚拟机安装(安装(克隆)虚拟机 配置网络 安装Centos7 配置(修改)虚拟机的静态IP 修改网卡的配置文件 测试网络是否互通外部工具 连接linux系统 设置服务器时间 修改主机名)(下)
虚拟机安装(安装(克隆)虚拟机 配置网络 安装Centos7 配置(修改)虚拟机的静态IP 修改网卡的配置文件 测试网络是否互通外部工具 连接linux系统 设置服务器时间 修改主机名)
367 0
|
8月前
|
分布式计算 Hadoop Linux
虚拟机安装(安装(克隆)虚拟机 配置网络 安装Centos7 配置(修改)虚拟机的静态IP 修改网卡的配置文件 测试网络是否互通外部工具 连接linux系统 设置服务器时间 修改主机名)(上)
虚拟机安装(安装(克隆)虚拟机 配置网络 安装Centos7 配置(修改)虚拟机的静态IP 修改网卡的配置文件 测试网络是否互通外部工具 连接linux系统 设置服务器时间 修改主机名)
275 0
|
1月前
|
Linux 网络安全 数据安全/隐私保护
如何在 VM 虚拟机中安装 CentOS Linux 9 操作系统保姆级教程(附链接)
如何在 VM 虚拟机中安装 CentOS Linux 9 操作系统保姆级教程(附链接)
153 0
|
2月前
|
关系型数据库 MySQL Linux
centos7.0环境下安装MySql_8.0.12
centos7.0环境下安装MySql_8.0.12