kafka3.0集群环境搭建

本文涉及的产品
云原生网关 MSE Higress,422元/月
服务治理 MSE Sentinel/OpenSergo,Agent数量 不受限
注册配置 MSE Nacos/ZooKeeper,118元/月
简介: kafka3.0集群环境搭建

1.wsl安装jdk



下载


jdk1.8下载


解压


tar -xzvf jdk-8u311-linux-x64.tar.gz
复制代码


配置


vim /etc/profile
添加
export JAVA_HOME=/usr/share/java/jdk1.8.0_311
export PATH=$JAVA_HOME/bin:$PATH
export CLASSPATH=.:$JAVA_HOME/lib/dt.jar:$JAVA_HOME/lib/tools.jar
复制代码


网络异常,图片无法展示
|


sudo加载不了java命令或环境变量


sudo -E 保留原有的环境变量



sudo vim /etc/sudoers
在Defaults secure_path 中添加Java的路径
注意事项linux中用:分割的,win下使用;
复制代码


网络异常,图片无法展示
|


2.zookeeper安装



下载


zk3.7.0下载


配置修改


conf/zoo_sample.cfg重命名为 zoo.cfg
# 心跳检测
tickTime=2000
#leader和follower初始化连接时最长能忍受多少个心跳时间的间隔数
initLimit=10 
# leader和follower之间发送消息,请求和应达时间长度,最长不能超过多少个tickTime的时间长度
syncLimit=5
# Zookeeper 保存数据的目录.
dataDir=/usr/share/zookeeper/data
# 日志目录
dataDirLog=/usr/share/zookeeper/log
# 客户端链接的端口
clientPort=2181
复制代码


启动、停止、重启


./zkServer.sh start
 ./zkServer.sh stop
 ./zkServer.sh restart
复制代码


报错


Error: JAVA_HOME is not set and java could not be found in PATH.

linux在zkEnv.sh 指定 java_home


export JAVA_HOME=/usr/share/java/jdk1.8.0_311
复制代码


网络异常,图片无法展示
|


重新启动


网络异常,图片无法展示
|


客户端连下


./zkServer.sh status
或者
./zkCli.sh -server 127.0.0.1:2181
创建节点
create [-s] [-e] path data acl 
-s表示创建顺序节点 
-e表示创建临时节点 
data 数据
acl 权限
查看所有节点
ls /
ls /brokers/ids
删除节点
delete path [version]
有子目录
deleteall
复制代码


3.kafka安装



下载


kafka3.0下载


配置


conf/server.properties


listeners=PLAINTEXT://127.0.0.1:9092
log.dirs=/usr/share/kafka/log
zookeeper.connect=localhost:2181
复制代码


启动


./bin/kafka-server-start.sh  config/server.properties
守护线程启动 控制台没输出
./bin/kafka-server-start.sh -daemon config/server.properties
复制代码


报错


kafka-run-class.sh: line 342: exec: java: not found
参考上面java配置
复制代码


验证


创建个主题


./bin/kafka-topics.sh --create --bootstrap-server 127.0.0.1:9092 --replication-factor 1 --partitions 1 --topic hello
复制代码


查看主题


./bin/kafka-topics.sh --list  --bootstrap-server 127.0.0.1:9092
复制代码


启动生产者


./bin/kafka-console-producer.sh --bootstrap-server 127.0.0.1:9092 --topic hello
复制代码


启动消费者


./bin/kafka-console-consumer.sh --bootstrap-server 127.0.0.1:9092 --topic hello
复制代码


网络异常,图片无法展示
|


集群搭建


由于是本机的
复制配置文件,改下端口和日志路径多搞一份吧
broker.id=2
kafka-server-start.sh -daemon config/server2.properties
复制代码


集群节点 zk查看


网络异常,图片无法展示
|


集群主题创建


./bin/kafka-topics.sh --create --bootstrap-server 127.0.0.1:9092,127.0.0.1:9093,127.0.0.1:9094 --replication-factor 1 --partitions 1 --topic hello
--replication-factor 1 一个副本
--partitions 1 一个分区
复制代码


集群生产、消费


./bin/kafka-console-producer.sh --bootstrap-server 127.0.0.1:9092,127.0.0.1:9093,127.0.0.1:9094 --topic hello
./bin/kafka-console-consumer.sh --bootstrap-server 127.0.0.1:9092,127.0.0.1:9093,127.0.0.1:9094 --topic hello2 --from-beginning
复制代码


网络异常,图片无法展示
|


查看topic列表


./bin/kafka-topics.sh  --bootstrap-server 127.0.0.1:9092,127.0.0.1:9093,127.0.0.1:9094 --list
复制代码


查看topic信息


./bin/kafka-topics.sh --describe  --bootstrap-server 127.0.0.1:9092,127.0.0.1:9093,127.0.0.1:9094 --topic hello
复制代码


网络异常,图片无法展示
|


删除topic


./bin/kafka-topics.sh -delete --bootstrap-server 127.0.0.1:9092,127.0.0.1:9093,127.0.0.1:9094 --topic hello
复制代码


清数据


数据清理不仅要清理日志、还需要把zk的节点也要清理掉
复制代码


网络异常,图片无法展示
|


4.kafka-eagle安装



kafka-eagle下载


配置


网络异常,图片无法展示
|


启动


ke.sh [start|status|stop|restart|stats]
复制代码


网络异常,图片无法展示
|


报错


如果请求一直再加载,注意看下log


java.sql.SQLException: path to '/hadoop/kafka-eagle/db/ke.db': '/hadoop' does not exist
 修改数据库的位置:支持mysql和sqlit的 默认是sqlit 看下文件路径是否存在
 数据库信息是自动建立ke.db的
复制代码


网络异常,图片无法展示
|

相关文章
|
2月前
|
消息中间件 存储 监控
构建高可用性Apache Kafka集群:从理论到实践
【10月更文挑战第24天】随着大数据时代的到来,数据传输与处理的需求日益增长。Apache Kafka作为一个高性能的消息队列服务,因其出色的吞吐量、可扩展性和容错能力而受到广泛欢迎。然而,在构建大规模生产环境下的Kafka集群时,保证其高可用性是至关重要的。本文将从个人实践经验出发,详细介绍如何构建一个高可用性的Kafka集群,包括集群规划、节点配置以及故障恢复机制等方面。
110 4
|
3月前
|
消息中间件 监控 数据可视化
大数据-79 Kafka 集群模式 集群监控方案 JavaAPI获取集群指标 可视化监控集群方案: jconsole、Kafka Eagle
大数据-79 Kafka 集群模式 集群监控方案 JavaAPI获取集群指标 可视化监控集群方案: jconsole、Kafka Eagle
135 2
|
15天前
|
消息中间件 Java Kafka
【手把手教你Linux环境下快速搭建Kafka集群】内含脚本分发教程,实现一键部署多个Kafka节点
本文介绍了Kafka集群的搭建过程,涵盖从虚拟机安装到集群测试的详细步骤。首先规划了集群架构,包括三台Kafka Broker节点,并说明了分布式环境下的服务进程配置。接着,通过VMware导入模板机并克隆出三台虚拟机(kafka-broker1、kafka-broker2、kafka-broker3),分别设置IP地址和主机名。随后,依次安装JDK、ZooKeeper和Kafka,并配置相应的环境变量与启动脚本,确保各组件能正常运行。最后,通过编写启停脚本简化集群的操作流程,并对集群进行测试,验证其功能完整性。整个过程强调了自动化脚本的应用,提高了部署效率。
【手把手教你Linux环境下快速搭建Kafka集群】内含脚本分发教程,实现一键部署多个Kafka节点
|
19天前
|
消息中间件 存储 Kafka
2024最全Kafka集群方案汇总
Apache Kafka 是一个高吞吐量、可扩展、可靠的分布式消息系统,广泛应用于数据驱动的应用场景。Kafka 支持集群架构,具备高可用性和容错性。其核心组件包括 Broker(服务器实例)、Topic(消息分类)、Partition(有序消息序列)、Producer(消息发布者)和 Consumer(消息消费者)。每个分区有 Leader 和 Follower,确保数据冗余和高可用。Kafka 2.8+ 引入了不依赖 Zookeeper 的 KRaft 协议,进一步简化了集群管理。常见的集群部署方案包括单节点和多节点集群,后者适用于生产环境以确保高可用性。
48 0
|
2月前
|
消息中间件 存储 Prometheus
Kafka集群如何配置高可用性
Kafka集群如何配置高可用性
|
3月前
|
消息中间件 分布式计算 监控
大数据-78 Kafka 集群模式 集群的应用场景与Kafka集群的搭建 三台云服务器
大数据-78 Kafka 集群模式 集群的应用场景与Kafka集群的搭建 三台云服务器
123 6
|
5月前
|
消息中间件 Kafka 测试技术
【Kafka揭秘】Leader选举大揭秘!如何打造一个不丢失消息的强大Kafka集群?
【8月更文挑战第24天】Apache Kafka是一款高性能分布式消息系统,利用分区机制支持数据并行处理。每个分区含一个Leader处理所有读写请求,并可有多个副本确保数据安全与容错。关键的Leader选举机制保障了系统的高可用性和数据一致性。选举发生于分区创建、Leader故障或被手动移除时。Kafka提供多种选举策略:内嵌机制自动选择最新数据副本为新Leader;Unclean选举快速恢复服务但可能丢失数据;Delayed Unclean选举则避免短暂故障下的Unclean选举;Preferred选举允许基于性能或地理位置偏好指定特定副本为首选Leader。
111 5
|
5月前
|
消息中间件 监控 Java
联通实时计算平台问题之监控Kafka集群的断传和积压情况要如何操作
联通实时计算平台问题之监控Kafka集群的断传和积压情况要如何操作
|
5月前
|
消息中间件 监控 Java
【Kafka节点存活大揭秘】如何让Kafka集群时刻保持“心跳”?探索Broker、Producer和Consumer的生死关头!
【8月更文挑战第24天】在分布式系统如Apache Kafka中,确保节点的健康运行至关重要。Kafka通过Broker、Producer及Consumer间的交互实现这一目标。文章介绍Kafka如何监测节点活性,包括心跳机制、会话超时与故障转移策略。示例Java代码展示了Producer如何通过定期发送心跳维持与Broker的连接。合理配置这些机制能有效保障Kafka集群的稳定与高效运行。
117 2

热门文章

最新文章

下一篇
开通oss服务