CDH5部署三部曲之二:部署和设置

本文涉及的产品
云数据库 RDS MySQL Serverless,0.5-2RCU 50GB
简介: 本文是《CDH5部署三部曲》的第二篇,前文将集群所有机器做了必要的设置,今天一起来完成CDH的部署、启动、设置等操作

欢迎访问我的GitHub

这里分类和汇总了欣宸的全部原创(含配套源码): https://github.com/zq2599/blog_demos

系列文章链接

  1. 《CDH5部署三部曲之一:准备工作》
  2. 《CDH5部署三部曲之二:部署和设置》
  3. 《CDH5部署三部曲之三:问题总结》

master机器上的设置

  • SSH登录master机器,执行以下操作:
  • 安装mariadb:
yum install mariadb-server
  • 启动mariadb服务,并设置为开机启动:
systemctl start mariadb && systemctl enable mariadb
  • 初始化数据库配置:
mysql_secure_installation
  • 按照控制台提示进行设置,主要是设置root账号的密码,以及允许root账号远程登录;
  • 登录mariadb:
mysql -u root -p123456
  • 给root的远程操作开放所有权限,并且刷新:
GRANT ALL PRIVILEGES ON *.* TO 'root'@'%' IDENTIFIED BY '123456' WITH GRANT OPTION;
flush privileges;
  • 创建parcel的本地仓库的文件夹,并且设置所有者和群组:
mkdir -p /opt/cloudera/parcel-repo
chown cloudera-scm:cloudera-scm /opt/cloudera/parcel-repo
  • 将前面下载好的三个文件放入目录/opt/cloudera/parcel-repo,这三个文件是:CDH-5.7.6-1.cdh5.7.6.p0.6-el7.parcelmanifest.jsonCDH-5.7.6-1.cdh5.7.6.p0.6-el7.parcel.sha1
  • /opt/cloudera/parcel-repo目录下的CDH-5.7.6-1.cdh5.7.6.p0.6-el7.parcel.sha1文件改名为CDH-5.7.6-1.cdh5.7.6.p0.6-el7.parcel.sha(即:把后缀从sha1改成sha)
  • 接下来初始化CM数据,登录mariadb:
mysql -u root -p123456
  • 给temp账号赋予权限,并且刷新:
create user 'temp'@'%' identified by 'temp';
grant all on *.* to 'temp'@'%' identified by 'temp' with grant option;
flush privileges;
  • 退出mariadb交互;
  • 进入目录/opt/cloudera-manager/cm-5.7.2/share/cmf/schema/
cd /opt/cloudera-manager/cm-5.7.2/share/cmf/schema/
  • 执行以下命令即可初始化CM的数据:
./scm_prepare_database.sh mysql temp -h master -utemp -ptemp --scm-host master scm scm scm
  • 提示操作成功:

在这里插入图片描述

  • 至此,master设置完毕,接下来设置worker1和worker2

worker1机器上的设置(worker2也这样设置)

  • 创建本地parcel缓存文件夹:
mkdir -p /opt/cloudera/parcels
  • 给文件夹赋权限:
chown cloudera-scm:cloudera-scm /opt/cloudera/parcels
  • worker1和worker2都做上述设置,接下来就可以启动CDH了。

启动server(master机器)

  • SSH登录master;
  • 进入启动命令所在目录:
cd /opt/cloudera-manager/cm-5.7.2/etc/init.d/
  • 启动server:
./cloudera-scm-server start
  • 启动成功的提示信息如下:

5.

启动agent(worker1和worker2机器)

  • SSH登录worker1;
  • 进入启动命令所在目录:
cd /opt/cloudera-manager/cm-5.7.2/etc/init.d/
  • 启动agent:
./cloudera-scm-agent start
  • 启动成功的提示信息如下:

在这里插入图片描述

  • 然后登录worker2,重复上述操作;
  • 至此,CDH部署和启动完成,可以开始设置了;

设置CDH

在这里插入图片描述

  • 接下来的页面是许可条款,选择接受后进入选择版本的页面,我这里选择的是试用版,如下图:

在这里插入图片描述

  • 即将部署多个服务:

在这里插入图片描述

  • 进入选择机器的页面,如下图红框所示,将worker1和worker2都勾选上:

在这里插入图片描述

  • parcel设置,如下所示:

在这里插入图片描述

  • 由于之前已经将parcel文件下载到master机器上,因此下载安装包的进度一开始就是百分之百,耐心等待后面的分配、解压、激活等步骤自动完成:

在这里插入图片描述

  • 集群安装完成,如下图,可以按照提示进行优化:

在这里插入图片描述

  • 部署服务,这里我选择了所有服务:

在这里插入图片描述

  • 角色设置页面,将没有分配主机的服务分配到某一台机器上,我这里都选择了worker1:
    在这里插入图片描述
  • 数据库的设置页面,由于只在master安装了mysql,所有我这里全部填写的是master:

在这里插入图片描述

  • 详细的设置页面,请按照实际情况设置:

在这里插入图片描述

  • 开始启动各个服务,等待完成:

在这里插入图片描述

  • 所有服务正常后,状态页面如下图所示:

在这里插入图片描述

  • 至此,CDH5部署和启动都已完成,但实际的启动过程并非一帆风顺,HDFS、Hive等服务都可能启动失败,下一篇文章会将这些问题以及解决方法都列出来;

欢迎关注阿里云开发者社区博客:程序员欣宸

学习路上,你不孤单,欣宸原创一路相伴...
相关实践学习
基于CentOS快速搭建LAMP环境
本教程介绍如何搭建LAMP环境,其中LAMP分别代表Linux、Apache、MySQL和PHP。
全面了解阿里云能为你做什么
阿里云在全球各地部署高效节能的绿色数据中心,利用清洁计算为万物互联的新世界提供源源不断的能源动力,目前开服的区域包括中国(华北、华东、华南、香港)、新加坡、美国(美东、美西)、欧洲、中东、澳大利亚、日本。目前阿里云的产品涵盖弹性计算、数据库、存储与CDN、分析与搜索、云通信、网络、管理与监控、应用服务、互联网中间件、移动服务、视频服务等。通过本课程,来了解阿里云能够为你的业务带来哪些帮助     相关的阿里云产品:云服务器ECS 云服务器 ECS(Elastic Compute Service)是一种弹性可伸缩的计算服务,助您降低 IT 成本,提升运维效率,使您更专注于核心业务创新。产品详情: https://www.aliyun.com/product/ecs
相关文章
|
1月前
|
JavaScript jenkins 持续交付
Jenkins自动构建 CI/CD流水线学习笔记(从入门到入土,理论+示例)
Jenkins自动构建 CI/CD流水线学习笔记(从入门到入土,理论+示例)
60 0
|
9月前
|
Linux 虚拟化 Windows
嵌入式Linux开发环境搭建之三---网络的设置
嵌入式Linux开发环境搭建之三---网络的设置
121 0
|
9月前
|
Ubuntu Linux iOS开发
搭建Python开发环境详细步骤
搭建Python开发环境详细步骤
284 0
|
存储 前端开发 jenkins
实践:部署Jenkins服务并开发MERN应用的CI/CD构建管道
为了解决这个问题,我们可以创建一个 CI/CD流水线。因此,每当您添加功能或修复错误时,都会触发此管道。这会自动执行从测试到部署的所有步骤。
232 0
|
运维 jenkins 应用服务中间件
《小团队web技术搭建》(六)自动化部署方式(CI/CD)(一)
《小团队web技术搭建》(六)自动化部署方式(CI/CD)(一)
239 1
|
前端开发 JavaScript 测试技术
《小团队web技术搭建》(七)自动化部署方式(CI/CD)(二)
《小团队web技术搭建》(七)自动化部署方式(CI/CD)(二)
293 1
|
jenkins Java 应用服务中间件
【CI/CD技术专题】「Jenkins实战系列」总结归纳Jenkins的安装使用和配置流程介绍
【CI/CD技术专题】「Jenkins实战系列」总结归纳Jenkins的安装使用和配置流程介绍
303 0
【CI/CD技术专题】「Jenkins实战系列」总结归纳Jenkins的安装使用和配置流程介绍
|
安全 Java jenkins
(走过路过,不要错过)【CI/CD技术专题】「Jenkins实战系列」(1)全流程介绍Jenkins环境搭建+基础部署配置(Windows->Linux)
(走过路过,不要错过)【CI/CD技术专题】「Jenkins实战系列」(1)全流程介绍Jenkins环境搭建+基础部署配置(Windows->Linux)
249 0
(走过路过,不要错过)【CI/CD技术专题】「Jenkins实战系列」(1)全流程介绍Jenkins环境搭建+基础部署配置(Windows->Linux)
|
存储 分布式计算 Cloud Native
如何使用云容器搭建基于CentOS7的Hadoop2.x伪分布式环境(CSDN开发者云平台使用初体验)
CSDN 云容器通过深度融合新一代云原生技术,提供以容器为核心的高性能 Kubernetes 容器服务,助力用户快速构建学习、实验容器环境。同时有效控制使用成本,只需要支付远低于市场价的费用就可以全年不限次数使用10核10GB的容器资源。
135 0
如何使用云容器搭建基于CentOS7的Hadoop2.x伪分布式环境(CSDN开发者云平台使用初体验)
|
SQL 分布式计算 资源调度
CDH5部署三部曲之三:问题总结
启动CDH5之后,部分组件未能启动成功,将所有修复过程汇总再次,期待能给您一些参考
167 0
CDH5部署三部曲之三:问题总结