安装Ambari和HDP

本文涉及的产品
RDS MySQL Serverless 基础系列,0.5-2RCU 50GB
云数据库 RDS MySQL,高可用系列 2核4GB
云数据库 RDS PostgreSQL,高可用系列 2核4GB
简介: 安装Ambari和HDP

最新的CDH已经没有了社区版,也就是说以后使用新版本的Cloudera Manager和CDH都是要收费的,这对于很多小公司来说,可能无法承受。转向Ambari是他们的一个可选项。Ambari是Apache的一个顶级开源项目,开源是其最大的优势,开源也意味着Ambari可以灵活地进行扩展,集成更多的数据组件,对于需要定制化和二次开发的企业来说,Ambari也极具吸引力。

1、安装包准备

链接如下:

http://public-repo-1.hortonworks.com/ambari/centos7/2.x/updates/2.6.1.5/ambari-2.6.1.5-centos7.tar.gz
https://download.csdn.net/download/ljk168/10351315
http://public-repo-1.hortonworks.com/HDP-GPL/centos7/2.x/updates/2.6.4.0/HDP-GPL-2.6.4.0-centos7-rpm.tar.gz
http://public-repo-1.hortonworks.com/HDP-UTILS-1.1.0.22/repos/centos7/HDP-UTILS-1.1.0.22-centos7.tar.gz
http://public-repo-1.hortonworks.com/HDP/centos7/2.x/updates/2.6.4.0/HDP-2.6.4.0-centos7-rpm.tar.gz

2、主机准备。

本次Ambari环境基于三台2核8G的EC2服务器,操作系统为Centos7.6,三台主机如下

和安装Cloudera Manager、CDH类似,首先需要修改三台主机的网络设置、禁用SElinux、修改主机名、关闭防火墙、ssh免密、开启http服务、设置时钟同步、安装JDK,在此不作详细介绍,具体可以参考之前安装CDH7.1.1的文章。

由于AWS中国的EC2服务器没有开放80和8080端口,我们将Http服务的端口改为了8085,Ambari Web服务的端口改成了8086端口。

3、安装MariaDB,创建数据库

安装并启动

yum -y install mariadb-server
systemctl start mariadb.service
systemctl enable mariadb.service


设置密码123456,一路回车


mysql_secure_installation

配置数据库

登录MySQL


mysql -u root -p123456

创建所需数据库

# 创建ambari数据库
create database ambari;
CREATE USER 'ambari'@'%'IDENTIFIED BY '123456';
GRANT ALL PRIVILEGES ON *.* TO 'ambari'@'%';
FLUSH PRIVILEGES;
# 创建Hive数据库
create database hive;
CREATE USER 'hive'@'%'IDENTIFIED BY '123456';
GRANT ALL PRIVILEGES ON *.* TO 'hive'@'%';
FLUSH PRIVILEGES;
# 创建Oozie数据库
create database oozie;
CREATE USER 'oozie'@'%'IDENTIFIED BY '123456';
GRANT ALL PRIVILEGES ON *.* TO 'oozie'@'%';
FLUSH PRIVILEGES;

将Mysql驱动放置在 /usr/share/java目录

4、上传安装包,创建本地yum源,开始安装ambari

将ambari、HDP 、HDP-GPL 、HDP-UTILS包解压至 /var/www/html目录下

将各个目录最底层的repo文件移动至 /etc/yum.repo/下,并修改为

ambari.repo

[ambari-2.6.1.5]
name=ambari Version - ambari-2.6.1.5
baseurl=http://52.83.64.220:8085/ambari/centos7/2.6.1.5-3
gpgcheck=1
gpgkey=http://52.83.64.220:8085/ambari/centos7/2.6.1.5-3/RPM-GPG-KEY/RPM-GPG-KEY-Jenkins
enabled=1
priority=1

hdp.repo

[HDP-2.6-repo-1]
name=HDP-2.6-repo-1
baseurl=http://52.83.64.220:8085/HDP/centos7/2.6.4.0-91
gpgcheck=1
gpgkey=http://52.83.64.220:8085/HDP/centos7/2.6.4.0-91/RPM-GPG-KEY/RPM-GPG-KEY-Jenkins
priority=1
enabled=1
[HDP-UTILS-1.1.0.22-repo-1]
name=HDP-UTILS-1.1.0.22-repo-1
baseurl=http://52.83.64.220:8085/HDP-UTILS/centos7/1.1.0.22
gpgcheck=1
gpgkey=http://52.83.64.220:8085/HDP-UTILS/centos7/1.1.0.22/RPM-GPG-KEY/RPM-GPG-KEY-Jenkins
priority=1
enabled=1
[HDP-HDP-GPL-repo-1]
name=HDP-GPL
baseurl=http://52.83.64.220:8085/HDP-GPL/centos7/2.6.4.0-91
gpgcheck=1
gpgkey=http://52.83.64.220:8085/HDP-GPL/centos7/2.6.4.0-91/RPM-GPG-KEY/RPM-GPG-KEY-Jenkins
priority=1
enabled=1


开始安装ambari-server

# 安装
yum install -y ambari-server
# 配置
ambari-server setup


大都是常规的配置,其中提示输入 JAVA_HOMEambari元数据库的登录密码,需要输入之前设置的路径和密码

登录ambari数据库,对数据库进行初始化

mysql -uroot -p123456
use ambari
source /var/lib/ambari-server/resources/Ambari-DDL-MySQL-CREATE.sql
show tables;


完成数据库的初始化后,启动


ambari-server start

5、登录Ambari Web页面,配置HDP

admin/admin登录ambari界面ambari1.soundhearer.com:8086


create a cluster

select a version

confirm host    

此处可能会出现类似以下错误

NetUtil.py:96 - EOF occurred in violation of protocol (_ssl.c:579)
NetUtil.py:97 - SSLError: Failed to connect. Please check openssl library versions.

需要修改 ambari-agent 的配置文件


# 文件位置
 vim /etc/ambari-agent/conf/ambari-agent.ini
[security]中增加一项
 force_https_protocol=PROTOCOL_TLSv1_2

choose services

assign master

assign slaves and clients

customize services

review

Install, Start and Test

Summary

至此安装Ambari和HDP结束。



相关实践学习
每个IT人都想学的“Web应用上云经典架构”实战
本实验从Web应用上云这个最基本的、最普遍的需求出发,帮助IT从业者们通过“阿里云Web应用上云解决方案”,了解一个企业级Web应用上云的常见架构,了解如何构建一个高可用、可扩展的企业级应用架构。
MySQL数据库入门学习
本课程通过最流行的开源数据库MySQL带你了解数据库的世界。   相关的阿里云产品:云数据库RDS MySQL 版 阿里云关系型数据库RDS(Relational Database Service)是一种稳定可靠、可弹性伸缩的在线数据库服务,提供容灾、备份、恢复、迁移等方面的全套解决方案,彻底解决数据库运维的烦恼。 了解产品详情: https://www.aliyun.com/product/rds/mysql 
相关文章
|
SQL 分布式计算 Hadoop
Hadoop学习笔记(HDP)-Part.08 部署Ambari集群
01 关于HDP 02 核心组件原理 03 资源规划 04 基础环境配置 05 Yum源配置 06 安装OracleJDK 07 安装MySQL 08 部署Ambari集群 09 安装OpenLDAP 10 创建集群 11 安装Kerberos 12 安装HDFS 13 安装Ranger 14 安装YARN+MR 15 安装HIVE 16 安装HBase 17 安装Spark2 18 安装Flink 19 安装Kafka 20 安装Flume
447 0
Hadoop学习笔记(HDP)-Part.08 部署Ambari集群
|
SQL 关系型数据库 网络安全
ambari 安装及注意事项
ambari从无到有安装
197 0
|
SQL Java 关系型数据库
HDP 01.Ambari安装和配置
HDP 01.Ambari安装和配置
601 0
HDP 01.Ambari安装和配置
|
关系型数据库 Java 大数据
CentOS7下利用Ambari搭建HDP大数据平台(下)
CentOS7下利用Ambari搭建HDP大数据平台(下)
516 0
CentOS7下利用Ambari搭建HDP大数据平台(下)
|
域名解析 SQL 分布式计算
CentOS7下利用Ambari搭建HDP大数据平台(上)
CentOS7下利用Ambari搭建HDP大数据平台(上)
744 0
CentOS7下利用Ambari搭建HDP大数据平台(上)
|
SQL 分布式数据库 HIVE
ambari发布新服务(HDP自带的服务)流程简介
ambari发布新服务(HDP自带的服务)流程简介
219 0
ambari发布新服务(HDP自带的服务)流程简介
|
分布式计算 安全 大数据
ambari安装HDFS组件(一)
ambari安装HDFS组件(一)
395 0
ambari安装HDFS组件(一)
|
SQL 分布式计算 关系型数据库
ambari安装过程中的一些误区(跳坑指南)(ambari的两个bug修复)
ambari安装过程中的一些误区(跳坑指南)(ambari的两个bug修复)
727 0
ambari安装过程中的一些误区(跳坑指南)(ambari的两个bug修复)
安装 OushuDB Ambari 插件
我们假设用户已经安装了HDP Ambari,并且已经安装了HDFS和Zookeeper。安装步骤可以参考: ● https://docs.hortonworks.com/HDPDocuments/Ambari/Ambari-2.4.2.0/index.html ● https://docs.hortonworks.com/HDPDocuments/HDP2/HDP-2.5.3/index.html
201 0
安装 OushuDB Ambari 插件
|
数据安全/隐私保护
Ambari 2.7.3.0安装新组件
Ambari 2.7.3.0安装新组件和之前版本略有不同,本文将简述安装新组件的简单过程。 前提是大家已经安装好Ambari 2.7.3.0 这时候由于有一些组件没有添加,就需要安装新的组件。
394 0
Ambari 2.7.3.0安装新组件