集群环境下zookeeper和kafka详细安装教程

本文涉及的产品
服务治理 MSE Sentinel/OpenSergo,Agent数量 不受限
简介: 集群环境下zookeeper和kafka详细安装教程

软件版本


  • JDK:1.8.0_181
  • 操作系统:
CentOS Linux release 7.8.2003 (Core)
Derived from Red Hat Enterprise Linux 7.8 (Source)
  • ZooKeeper:Apache ZooKeeper, version 3.6.2- 09/04/2020 12:44 GMT
  • kafka:2.6.1
  • 搭建环境:3台虚拟机(基于VMware Workstation16 Pro)


第零步,搭建3台虚拟机


每个虚拟机的操作系统为CentOS Linux release 7.8.2003,可以先配置好一台虚拟机,然后通过克隆的方式配置另外两台虚拟机。如图所示,是笔者自己搭建的三台虚拟机。具体配置步骤可参见该篇博客

image.png

配置过程中,遇到虚拟机不能连接外部网络,通过更改网络连接方式为NAT。详情参见该篇博客。虚拟机三种网络连接方式的区别在这篇博客里写的很清晰了。

1666101225929.jpg


第一步,编写集群分发文件脚本以及集群调用脚本


在运行脚本前,需要调通ssh免密登录,通过分发ssh公钥,完成ssh免密登录。否则在执行命令时需要输入密码。配置虚拟机主机名称,使得利用ping命令能够通达

image.png


1.集群分发文件脚本xsync

#!/bin/bash
#校验参数是否合法
if(($#==0))
then
        echo 请输入要分发的文件!
        exit;
fi
#获取分发文件的绝对路径
dirpath=$(cd `dirname $1`; pwd -P)
filename=`basename $1`
echo 要分发的文件的路径是:$dirpath/$filename
#循环执行rsync分发文件到集群的每条机器
#需要更改为自己的主机名称,在这里我的是zbk601:zbk602:zbk603
for((i=601;i<=603;i++))
do
        echo ---------------------zbk$i---------------------
        rsync -rvlt $dirpath/$filename  root@zbk$i:$dirpath
done

2.集群调用脚本xcall

#!/bin/bash
#在集群的所有机器上批量执行同一条命令
if(($#==0))
then
        echo 请输入您要操作的命令!
        exit
fi
echo 要执行的命令是$*
#循环执行此命令
#需要更改为自己的主机名称,在这里我的是zbk601:zbk602:zbk603
for((i=601;i<=603;i++))
do
        echo ---------------------zbk$i-----------------
        ssh zbk$i $*
done


第二步,下载ZooKeeper


登录官网下载即可,链接在此

1666101455247.jpg

1666101471752.jpg


解压后完成第一台的安装。另外两台通过xsync脚本分发即可。

遇到各种问题时,通过检查该博客中的配置要求来解决。


第三步,下载kafka


官方下载链接在此

image.png

其中QuorumPeerMain时zookeeper服务类,ConsoleConsumer时kafka消费者类。


思考


1,学习shell编程,有助于提高对Linux的理解

2,遇到问题,请坚持想下去


相关文章
|
2月前
|
消息中间件 安全 Kafka
2024年了,如何更好的搭建Kafka集群?
我们基于Kraft模式和Docker Compose同时采用最新版Kafka v3.6.1来搭建集群。
437 2
2024年了,如何更好的搭建Kafka集群?
|
1月前
|
消息中间件 Java Kafka
Kafka【环境搭建 01】kafka_2.12-2.6.0 单机版安装+参数配置及说明+添加到service服务+开机启动配置+验证+chkconfig配置说明(一篇入门kafka)
【2月更文挑战第19天】Kafka【环境搭建 01】kafka_2.12-2.6.0 单机版安装+参数配置及说明+添加到service服务+开机启动配置+验证+chkconfig配置说明(一篇入门kafka)
55 1
|
7天前
|
Linux
ZooKeeper的安装(Linux版)
ZooKeeper的安装(Linux版)
20 1
|
7天前
|
存储 Java 网络安全
ZooKeeper【搭建 03】apache-zookeeper-3.6.0 伪集群版(一台服务器实现三个节点的ZooKeeper集群)
【4月更文挑战第10天】ZooKeeper【搭建 03】apache-zookeeper-3.6.0 伪集群版(一台服务器实现三个节点的ZooKeeper集群)
12 1
|
28天前
|
算法 Java Linux
zookeeper单机伪集群集群部署
zookeeper单机伪集群集群部署
85 0
|
1月前
|
消息中间件 Kafka Linux
Kafka【付诸实践 03】Offset Explorer Kafka 的终极 UI 工具安装+简单上手+关键特性测试(一篇学会使用 Offset Explorer)
【2月更文挑战第21天】Kafka【付诸实践 03】Offset Explorer Kafka 的终极 UI 工具安装+简单上手+关键特性测试(一篇学会使用 Offset Explorer)
189 2
|
1月前
|
消息中间件 存储 缓存
Kafka【基础知识 02】集群+副本机制+数据请求+物理存储+数据存储设计(图片来源于网络)
【2月更文挑战第20天】Kafka【基础知识 02】集群+副本机制+数据请求+物理存储+数据存储设计(图片来源于网络)
43 1
|
1月前
|
消息中间件 存储 Kafka
Kafka【环境搭建 02】kafka_2.11-2.4.1 基于 zookeeper 搭建高可用伪集群(一台服务器实现三个节点的 Kafka 集群)
【2月更文挑战第19天】Kafka【环境搭建 02】kafka_2.11-2.4.1 基于 zookeeper 搭建高可用伪集群(一台服务器实现三个节点的 Kafka 集群)
140 1
|
2月前
|
消息中间件 Kafka Apache
【Kafka专栏】windows搭建Kafka环境 & 详细教程(01)
【Kafka专栏】windows搭建Kafka环境 & 详细教程(01)
|
2月前
|
消息中间件 Kafka Docker
【docker专题_04】docker搭建kafka与zookeeper
【docker专题_04】docker搭建kafka与zookeeper