CDH 搭建_kudu|学习笔记

本文涉及的产品
日志服务 SLS,月写入数据量 50GB 1个月
简介: 快速学习 CDH 搭建_kudu

开发者学堂课程【2020版大数据实战项目之 DMP 广告系统(第二阶段)CDH 搭建_kudu】学习笔记,与课程紧密联系,让用户快速学习知识。

课程地址:https://developer.aliyun.com/learning/course/677/detail/11777


CDH 搭建_kudu


一、CDH 搭建_kudu

之前两次课介绍了 CDH 组建的安装虽然有些繁琐,但是是非常必要的。第一次安装要花费很久的时间。所以了解一些安装的内容以及步骤,甚至一些小细节是非常必要的。

安装 Kudu 依然使用已经配置好的 Yum 仓库来进行,整体步骤非常简单,但是安装上分为 Master 和T ablet server主是安装 Master server,从是安装 Tablet server。安装 Master server 的安装步骤是第一步安装软件包,第二步进行配置,第三步启动。安装 Tablet server 也是一样,第一步安装软件包,然后进行配置,最后启动。

1.集群规划

节点 职责 cdh01 Master servercdh02 Tablet servercdh03 Tablet server 应该在 cdh01上安装 Master,但是 cdh01上负载已经很高了,安装了 MySQL,hive 等特有的服务。后面还有可能要装 hue,使得 cdh01上的负载特别高,所以 cdho1只安装 master,将 Tablet server 装在 cdh02 和 cdh03上。在生产环境中 master一定要装多个,即01、02、03都需要有 master。

2、安装Master server的软件包

根据集群规划,尽量让 cdh01少一些负载,所以只在 cdh01上安装 Master server ,命令如下yum install -y kudu kudu -master kudu-client0 kudu-client-devel

进入 cdh01中,拷贝命令

[root@cdh01 lib]# yum install -y kudu kudu-master kudu-cliento kudu-client-devel

然后进入一个漫长的安装过程,安装过程可能会更加漫长,因为相关的包已经装到移动硬盘上了,本来硬盘的速度就有点慢,kudu 就安装完成了,对于 kudu,没有什么东西需要修改,但是一定要去确认一个地方。

image.png

3、配置 Master server

Kudu 的 Master server 没有太多可以配置的项目,默认的话日志和数据都会写入到/var目录下,只需要修改一下

BlockManager 的方式即可,在虚拟机上使用 Log 方式可能会带来一些问题,改为 File方式

--block_manager=file

但是有一点需要注意,一定确保 ntp 服务是开启的,可以使用 ntpstat 来查看,因为 Kudu 对时间同步的要求非常高, ntp 必须

可以自动同步

#查看时间是否是同步状态

ntpstat

[root@cdh01 lib]# ntpstat

Syncheonised 必须看到是这个状态,否则就会报错。

配置 ntpstat 只需要启动 ntp 服务。

[ root@cdhe1 lib]# vi /etc/ kudu/conf/master.gflagfile

进入后在最后一行修改

--block_manger=file

启动:

[ root@cdh01 lib]# service kudu-master startStarted Kudu Master Server ( kudu-master) :[oK ]

如果启动失败了,会显示 irror,启动失败第一印象要去查找哪里出错了,就要去查找相应的日志文件。

[ root@cdh01 lib]# cd /var /log

[ root@cdh01 lib]# ls

进去后安装的相应日志都在里面

[ root@cdh01 lib]# cd kudu

[ root@cdh01 lib]# ls

进去后里面就有对应的 kudu 日志。如果有出错就会有一个 kudu-master,irror的文件,去查看就可以。

4、运行 Master server

·运行 Master server

打开浏览器确认

输入:192.168.169.101:8051

image.png

进入以后显示为上图页面,说明是没有什么问题的。

5、安装 Tablet server 的软件包

根据集群规划,在 cdh02 , cdh03 中安装 Tablet server ,负责更为繁重的工作

yum install -y kudu kudu-tserver kudu-client0 kudu-client-devel

cdh02: [ root@cdh01 lib]# yum install -y kudu kudu-tserver kudu-client0 kudu-client-devel

cdh03: [ root@cdh01 lib]# yum install -y kudu kudu-tserver kudu-client0 kudu-client-devel

安装完成,Tablet server 是一个相当消耗资源的服务,是 kudu 中最主要的服务,

6、配置 Tablet server

Master server 相对来说没什么需要配置的,也无须知道各个 Tablet server 的位置,但是对于 Tablet server 来说,必须配置 Master server 的位置,因为一般都是从向主注册自己

在 cdh02 , cdh03 修改/etc/kudu/conf/tserver.gflagfile 为如下内容,如果有多个Master server 实例,用逗号分隔地址即可

--tserver_master_addrs=cdh01 :7051

同时 Tablet server 也需要设置 BlockManager

--block_manager=file

[ root@cdh02 lib]#  vi /etc/kudu/conf/tserver.gflagfile

第一个是配置 master,都不知道 master 是谁,如何加入集群,

--tserver_master_addrs=cdh01:7051

Master rpc 端口为7051,外部端口是8051,他 server rpc 端口是7050,外部端口是8050,如果有多个端口,用逗号连接;

第二个配置是—block-manager file

7、运行Tablet server

·启动

[ root@cdh02 lib]# service kudu-master startStarted Kudu Master Server ( kudu-master) :[oK ]

配置cdh03

[ root@cdh03 lib]#  vi /etc/kudu/conf/tserver.gflagfile

--tserver_master_addrs=cdh01:7051

—block-manager file

[ root@cdh03 lib]# service kudu-master startStarted Kudu Master Server ( kudu-master) :[oK ]

打开浏览器:发现其中有两个 tablet server

image.png

输入:192.168,169.102:8050

查看外部 ui,可以查看 kudu 的版本,已经 build id 的时间等的相关信息。

Kudu 搭建比较简单,搭建 master 以及 Tsever,二者都有三个步骤即安装、配置、启动。

相关实践学习
日志服务之使用Nginx模式采集日志
本文介绍如何通过日志服务控制台创建Nginx模式的Logtail配置快速采集Nginx日志并进行多维度分析。
相关文章
|
机器学习/深度学习 分布式计算 Java
Hbase入门(二)——安装与配置
本文讲述如何安装,部署,启停HBase集群,如何通过命令行对Hbase进行基本操作。 并介绍Hbase的配置文件。 在安装前需要将所有先决条件安装完成。
794 0
Hbase入门(二)——安装与配置
|
6月前
|
分布式计算 Hadoop Java
Hbase2.2.2在线安装配置(对应Hadoop 3.1.3)
Hbase2.2.2在线安装配置(对应Hadoop 3.1.3)
110 2
|
6月前
|
缓存 分布式计算 Java
Hbase快速入门(安装部署)
Hbase快速入门(安装部署)
221 0
|
监控 大数据 物联网
在CDH7.1.1中安装NiFi
在CDH7.1.1中安装NiFi
153 0
|
分布式计算 Hadoop Java
HBase搭建单机版
HBase搭建单机版
192 0
HBase搭建单机版
|
SQL 关系型数据库 MySQL
CDH 搭建_Hive_搭建完成|学习笔记
快速学习 CDH 搭建_Hive_搭建完成
227 0
CDH 搭建_Hive_搭建完成|学习笔记
|
存储 SQL 分布式计算
BigData之Hbase:Hbase数据管理的简介、下载、案例应用之详细攻略
BigData之Hbase:Hbase数据管理的简介、下载、案例应用之详细攻略
BigData之Hbase:Hbase数据管理的简介、下载、案例应用之详细攻略
|
分布式计算 Hadoop Shell
HBase 完全分布式搭建_2 | 学习笔记
快速学习 HBase 完全分布式搭建_2
|
分布式计算 Java Hadoop
HBase 完全分布式搭建_1 | 学习笔记
快速学习 HBase 完全分布式搭建_1
153 0
下一篇
无影云桌面