kafka3.0集群环境搭建

本文涉及的产品
云原生网关 MSE Higress,422元/月
服务治理 MSE Sentinel/OpenSergo,Agent数量 不受限
注册配置 MSE Nacos/ZooKeeper,118元/月
简介: kafka3.0集群环境搭建

1.wsl安装jdk



下载


jdk1.8下载


解压


tar -xzvf jdk-8u311-linux-x64.tar.gz
复制代码


配置


vim /etc/profile
添加
export JAVA_HOME=/usr/share/java/jdk1.8.0_311
export PATH=$JAVA_HOME/bin:$PATH
export CLASSPATH=.:$JAVA_HOME/lib/dt.jar:$JAVA_HOME/lib/tools.jar
复制代码


网络异常,图片无法展示
|


sudo加载不了java命令或环境变量


sudo -E 保留原有的环境变量



sudo vim /etc/sudoers
在Defaults secure_path 中添加Java的路径
注意事项linux中用:分割的,win下使用;
复制代码


网络异常,图片无法展示
|


2.zookeeper安装



下载


zk3.7.0下载


配置修改


conf/zoo_sample.cfg重命名为 zoo.cfg
# 心跳检测
tickTime=2000
#leader和follower初始化连接时最长能忍受多少个心跳时间的间隔数
initLimit=10 
# leader和follower之间发送消息,请求和应达时间长度,最长不能超过多少个tickTime的时间长度
syncLimit=5
# Zookeeper 保存数据的目录.
dataDir=/usr/share/zookeeper/data
# 日志目录
dataDirLog=/usr/share/zookeeper/log
# 客户端链接的端口
clientPort=2181
复制代码


启动、停止、重启


./zkServer.sh start
 ./zkServer.sh stop
 ./zkServer.sh restart
复制代码


报错


Error: JAVA_HOME is not set and java could not be found in PATH.

linux在zkEnv.sh 指定 java_home


export JAVA_HOME=/usr/share/java/jdk1.8.0_311
复制代码


网络异常,图片无法展示
|


重新启动


网络异常,图片无法展示
|


客户端连下


./zkServer.sh status
或者
./zkCli.sh -server 127.0.0.1:2181
创建节点
create [-s] [-e] path data acl 
-s表示创建顺序节点 
-e表示创建临时节点 
data 数据
acl 权限
查看所有节点
ls /
ls /brokers/ids
删除节点
delete path [version]
有子目录
deleteall
复制代码


3.kafka安装



下载


kafka3.0下载


配置


conf/server.properties


listeners=PLAINTEXT://127.0.0.1:9092
log.dirs=/usr/share/kafka/log
zookeeper.connect=localhost:2181
复制代码


启动


./bin/kafka-server-start.sh  config/server.properties
守护线程启动 控制台没输出
./bin/kafka-server-start.sh -daemon config/server.properties
复制代码


报错


kafka-run-class.sh: line 342: exec: java: not found
参考上面java配置
复制代码


验证


创建个主题


./bin/kafka-topics.sh --create --bootstrap-server 127.0.0.1:9092 --replication-factor 1 --partitions 1 --topic hello
复制代码


查看主题


./bin/kafka-topics.sh --list  --bootstrap-server 127.0.0.1:9092
复制代码


启动生产者


./bin/kafka-console-producer.sh --bootstrap-server 127.0.0.1:9092 --topic hello
复制代码


启动消费者


./bin/kafka-console-consumer.sh --bootstrap-server 127.0.0.1:9092 --topic hello
复制代码


网络异常,图片无法展示
|


集群搭建


由于是本机的
复制配置文件,改下端口和日志路径多搞一份吧
broker.id=2
kafka-server-start.sh -daemon config/server2.properties
复制代码


集群节点 zk查看


网络异常,图片无法展示
|


集群主题创建


./bin/kafka-topics.sh --create --bootstrap-server 127.0.0.1:9092,127.0.0.1:9093,127.0.0.1:9094 --replication-factor 1 --partitions 1 --topic hello
--replication-factor 1 一个副本
--partitions 1 一个分区
复制代码


集群生产、消费


./bin/kafka-console-producer.sh --bootstrap-server 127.0.0.1:9092,127.0.0.1:9093,127.0.0.1:9094 --topic hello
./bin/kafka-console-consumer.sh --bootstrap-server 127.0.0.1:9092,127.0.0.1:9093,127.0.0.1:9094 --topic hello2 --from-beginning
复制代码


网络异常,图片无法展示
|


查看topic列表


./bin/kafka-topics.sh  --bootstrap-server 127.0.0.1:9092,127.0.0.1:9093,127.0.0.1:9094 --list
复制代码


查看topic信息


./bin/kafka-topics.sh --describe  --bootstrap-server 127.0.0.1:9092,127.0.0.1:9093,127.0.0.1:9094 --topic hello
复制代码


网络异常,图片无法展示
|


删除topic


./bin/kafka-topics.sh -delete --bootstrap-server 127.0.0.1:9092,127.0.0.1:9093,127.0.0.1:9094 --topic hello
复制代码


清数据


数据清理不仅要清理日志、还需要把zk的节点也要清理掉
复制代码


网络异常,图片无法展示
|


4.kafka-eagle安装



kafka-eagle下载


配置


网络异常,图片无法展示
|


启动


ke.sh [start|status|stop|restart|stats]
复制代码


网络异常,图片无法展示
|


报错


如果请求一直再加载,注意看下log


java.sql.SQLException: path to '/hadoop/kafka-eagle/db/ke.db': '/hadoop' does not exist
 修改数据库的位置:支持mysql和sqlit的 默认是sqlit 看下文件路径是否存在
 数据库信息是自动建立ke.db的
复制代码


网络异常,图片无法展示
|

相关文章
|
9天前
|
消息中间件 Java Kafka
"Kafka快速上手:从环境搭建到Java Producer与Consumer实战,轻松掌握分布式流处理平台"
【8月更文挑战第10天】Apache Kafka作为分布式流处理平台的领头羊,凭借其高吞吐量、可扩展性和容错性,在大数据处理、实时日志收集及消息队列领域表现卓越。初学者需掌握Kafka基本概念与操作。Kafka的核心组件包括Producer(生产者)、Broker(服务器)和Consumer(消费者)。Producer发送消息到Topic,Broker负责存储与转发,Consumer则读取这些消息。首先确保已安装Java和Kafka,并启动服务。接着可通过命令行创建Topic,并使用提供的Java API实现Producer发送消息和Consumer读取消息的功能。
31 8
|
23天前
|
消息中间件 Kafka
kafka 集群环境搭建
kafka 集群环境搭建
42 8
|
23天前
|
消息中间件 Java Kafka
kafka Linux环境搭建安装及命令创建队列生产消费消息
kafka Linux环境搭建安装及命令创建队列生产消费消息
36 4
|
7天前
|
消息中间件 Java Kafka
Linux——Kafka集群搭建
Linux——Kafka集群搭建
20 0
|
12天前
|
消息中间件 Kafka Apache
部署安装kafka集群
部署安装kafka集群
|
1月前
|
消息中间件 监控 Java
使用 JMX 监控 Kafka 集群性能指标
使用 JMX 监控 Kafka 集群性能指标
108 1
|
2月前
|
消息中间件 运维 数据管理
Kafka 如何基于 KRaft 实现集群最终一致性协调
Kafka 3.3.1 引入了 KRaft 元数据管理组件,替代 Zookeeper,以简化集群一致性维护,支持更大规模集群并减轻运维复杂性。在 Zookeeper 模式下,需同时运维 ZK 和 Broker,而 KRaft 模式仅需 3 个节点即可构成最小生产集群,且通信协调基于 Raft 协议,增强了一致性。KRaft 模式中,Controller 使用单线程处理请求,通过 KRaft 保持内存状态与多节点一致性。此外,Broker 根据 KRaft 记录更新元数据,实现声明式管理,提高集群协调效率。KRaft 的引入是集群协调机制的演进,采用事件驱动模型实现元数据的一致性。
88 1
Kafka 如何基于 KRaft 实现集群最终一致性协调
|
1月前
|
消息中间件 存储 负载均衡
Kafka高可用性指南:提高数据一致性和集群容错能力!
**Kafka高可用性概览** - 创建Topic时设置`--replication-factor 3`确保数据冗余和高可用。 - 分配角色:Leader处理读写,Follower同步数据,简化管理和客户端逻辑。 - ISR(In-Sync Replicas)保持与Leader同步的副本列表,确保数据一致性和可靠性。 - 设置`acks=all`保证消息被所有副本确认,防止数据丢失,增强一致性。 - 通过这些机制,Kafka实现了分布式环境中的数据可靠性、一致性及服务的高可用性。
153 0
|
1月前
|
消息中间件 监控 Kafka
查询Kafka集群中消费组(group)信息和对应topic的消费情况
查询Kafka集群中消费组(group)信息和对应topic的消费情况
275 0
|
2月前
|
消息中间件 数据可视化 Java
Kafka集群搭建可视化指南
Kafka集群搭建可视化指南
77 0

热门文章

最新文章