Azkaban【部署 01】Linux环境 CentOS Linux release 7.5.1804安装配置azkaban-3.70.0编译阶段(附安装包及gradle-4.6资源)

简介: 【2月更文挑战第4天】Linux环境 CentOS Linux release 7.5.1804安装配置azkaban-3.70.0编译阶段(附安装包及gradle-4.6资源)

1. 资源分享

链接:https://pan.baidu.com/s/1Bz2Z5xgY9dJiTMdCeKB8KQ
提取码:f6s9
包含资源:azkaban-3.70.0.tar.gz 和 gradle-4.6-all.zip

2. 前置条件

1.JDK 1.8+【亲测JDK 11无法使用】

[root@aliyun ~]# java -version
openjdk version "11" 2018-09-25
OpenJDK Runtime Environment 18.9 (build 11+28)
OpenJDK 64-Bit Server VM 18.9 (build 11+28, mixed mode)
# 构建报错
FAILURE: Build failed with an exception.
* What went wrong:
Could not determine java version from '11'.
# 只好换成安装JDK1.8的另一台服务器
[root@tcloud ~]# java -version
java version "1.8.0_251"
Java(TM) SE Runtime Environment (build 1.8.0_251-b08)
Java HotSpot(TM) 64-Bit Server VM (build 25.251-b08, mixed mode)

2.Gradle
用于源码编译【资源分享里有 gradle-4.6-all.zip】

3.Git
Azkaban 的编译过程需要用Git下载部分JAR包,所以需要预先安装:

[root@tcloud ~]# yum install git

4.其他依赖安装

# 否则会报 Could not find Linker 'g++' in system path.
[root@tcloud ~]# yum install gcc-c++*

3. 源码获取

Azkaban在3.0版本之后就不提供对应的安装包,需要自己下载源码进行编译。可以在GitHub :snail:上下载【网络不好,或不追求最新版本4.0.0的,可以使用我分享的百度网盘资源】,也可以使用 wget直接下载对应release版本的 tar.gz 文件:

# 下载
[root@tcloud ~]# wget https://github.com/azkaban/azkaban/archive/3.70.0.tar.gz

4. 编译环境

Azkaban 3.70.0 编译需要依赖 gradle-4.6-all.zip 。Gradle 是一个项目自动化构建开源工具,类似于 Maven。需要注意的是不同版本的 Azkaban 依赖 Gradle 版本不同,可以在解压后查看 ${AZKABAN_HOME}/gradle/wrapper/gradle-wrapper.properties 文件获取。

[root@tcloud azkaban]# tar -zxvf azkaban-3.70.0.tar.gz
[root@tcloud azkaban]# cat ./azkaban-3.70.0/gradle/wrapper/gradle-wrapper.properties
# 省略部分无关信息
distributionBase=GRADLE_USER_HOME
distributionPath=wrapper/dists
zipStoreBase=GRADLE_USER_HOME
zipStorePath=wrapper/dists
distributionUrl=https\://services.gradle.org/distributions/gradle-4.6-all.zip

在编译时程序会自动去 distributionUrl 定义的地址进行下载,但是下载可能会很慢。为避免影响编译过程,建议先手动下载至 /gradle/wrapper/ 目录下,可以通过wget下载 :snail:【当然也可以使用我分享的百度云盘资源 :rocket:】:

[root@tcloud ~]# wget https://services.gradle.org/distributions/gradle-4.6-all.zip
# 复制 gradle-4.6-all.zip 文件,我用的不是wget下载的。
[root@tcloud ~]# cp /home/azkaban/gradle-4.6-all.zip \
/home/azkaban/azkaban-3.70.0/gradle/wrapper/

此时需要修改 gradle-wrapper.properties 中的 distributionUrl 属性,指明使用本地的gradle。

[root@tcloud ~]# vim ./azkaban-3.70.0/gradle/wrapper/gradle-wrapper.properties
    # 修改 distributionUrl
    distributionUrl=gradle-4.6-all.zip

5. 项目编译

在${AZKABAN_HOMW}目录下执行编译命令【要下载构建项目需要的大量jar包,应该有好几百个,所以时间较久 :clock11: 我的用时23分59秒】:

[root@tcloud azkaban-3.70.0]# ./gradlew build installDist -x test

编译过程中需要注意以下问题:

  • jar 包下载速度根据网络情况而定,通常都不会很快,这个阶段也耐心;
  • 如果出现网络问题而导致 jar无法下载,编译可能会被强行终止,这时候重复执行编译命令即可,gradle 会把已经下载的 jar 包缓存到本地,所以不用担心会重复下载。

编译成功后:

BUILD SUCCESSFUL in 23m 59s
83 actionable tasks: 83 executed

查看一下都编译出什么文件了:

[root@tcloud azkaban-3.70.0]# find /home/azkaban/azkaban-3.70.0/ -name '*SNAPSHOT.tar.gz'
# 为了更直观 删掉了路径信息 调整了一下顺序
# solo server model 安装文件
azkaban-solo-server-0.1.0-SNAPSHOT.tar.gz
# multiple-executor 安装文件
azkaban-exec-server-0.1.0-SNAPSHOT.tar.gz
azkaban-web-server-0.1.0-SNAPSHOT.tar.gz
# 其他文件【有知道怎么用的小伙伴可以分享一下】
azkaban-db-0.1.0-SNAPSHOT.tar.gz
az-crypto-0.1.0-SNAPSHOT.tar.gz
az-jobsummary-0.1.0-SNAPSHOT.tar.gz
az-hdfs-viewer-0.1.0-SNAPSHOT.tar.gz
azkaban-hadoop-security-plugin-0.1.0-SNAPSHOT.tar.gz
az-reportal-0.1.0-SNAPSHOT.tar.gz
az-hadoop-jobtype-plugin-0.1.0-SNAPSHOT.tar.gz

曾经的踩坑记录【这次安装没有遇到 :lollipop:】:

# 报错
# unzipping /root/.gradle/wrapper/dists/gradle-4.6-all/eia1fevtc8usrd8sjmiodfisd/gradle-3.3-all.zip to /root/.gradle/wrapper/dists/gradle-4.6-all/eia1fevtc8usrd8sjmiodfisd 

# 解决方法
cd /root/.gradle/wrapper/dists/gradle-4.6-all/eia1fevtc8usrd8sjmiodfisd/
# 删除此文件夹里面的文件,将下载好的 gradle-4.6-all.zip 复制到这里。继续进行编译。
目录
相关文章
|
11天前
|
Ubuntu Linux 测试技术
Linux系统之部署轻量级Markdown文本编辑器
【10月更文挑战第6天】Linux系统之部署轻量级Markdown文本编辑器
54 1
Linux系统之部署轻量级Markdown文本编辑器
|
6天前
|
搜索推荐 Linux 测试技术
Linux系统之部署homer静态主页
【10月更文挑战第11天】Linux系统之部署homer静态主页
64 41
Linux系统之部署homer静态主页
|
12天前
|
Web App开发 资源调度 网络协议
Linux系统之部署IP工具箱MyIP
【10月更文挑战第5天】使用Docker部署Radicale日历和联系人应用Linux系统之部署IP工具箱MyIP
43 1
Linux系统之部署IP工具箱MyIP
|
16天前
|
Linux Shell 异构计算
在linux上部署yolov5和安装miniconda3
这篇文章介绍了在Linux系统上部署YOLOv5并安装Miniconda3的步骤,包括使用wget命令下载Miniconda安装脚本、安装Miniconda、初始化Conda环境、添加镜像源等。
33 3
在linux上部署yolov5和安装miniconda3
|
18天前
|
前端开发 JavaScript 应用服务中间件
linux安装nginx和前端部署vue项目(实际测试react项目也可以)
本文是一篇详细的教程,介绍了如何在Linux系统上安装和配置nginx,以及如何将打包好的前端项目(如Vue或React)上传和部署到服务器上,包括了常见的错误处理方法。
36 0
linux安装nginx和前端部署vue项目(实际测试react项目也可以)
|
安全 Linux 测试技术
配置Goby工具环境(win,linux,macOS)
配置Goby工具环境(win,linux,macOS)
769 2
|
11天前
|
Linux 数据安全/隐私保护 Windows
命令方式:window向linux传文件
【10月更文挑战第6天】本文介绍了如何在Linux系统中通过命令`ip a`获取IP地址,并在Windows系统下使用CMD命令行工具和SCP命令实现文件传输。示例展示了如何将D盘中的`mm.jar`文件上传至IP地址为192.168.163.122的Linux系统的/up/目录下,最后在Linux系统中确认文件传输结果。
167 65
|
3天前
|
安全 Linux
Linux系统之lsof命令的基本使用
【10月更文挑战第14天】Linux系统之lsof命令的基本使用
25 2
Linux系统之lsof命令的基本使用