[kafka]部署安装单节点

本文涉及的产品
注册配置 MSE Nacos/ZooKeeper,118元/月
服务治理 MSE Sentinel/OpenSergo,Agent数量 不受限
云原生网关 MSE Higress,422元/月
简介: [kafka]部署安装单节点

前言

kafka 3.0之前的版本需要依赖zookeeper,3.0版本之后可不依赖zookeeper。

基于zookeeper的安装步骤

节点IP:172.50.13.103

kafka版本:2.7.0

  1. 下载安装包:
wget http://mirrors.ustc.edu.cn/apache/kafka/2.7.0/kafka_2.13-2.7.0.tgz
  1. 解压:
tar xf ./kafka_2.13-2.7.0.tgz
  1. 启动zookeeper:
/usr/local/kafka_2.13-2.7.0/bin/zookeeper-server-start.sh -daemon /usr/local/kafka_2.13-2.7.0/config/zookeeper.properties
  1. 启动kafka(注意修改IP
# 修改文件
sed -i "s@#listeners=PLAINTEXT://:9092@listeners=PLAINTEXT://172.50.13.103:9092@g" /usr/local/kafka_2.13-2.7.0/config/server.properties
# 启动
/usr/local/kafka_2.13-2.7.0/bin/kafka-server-start.sh -daemon /usr/local/kafka_2.13-2.7.0/config/server.properties
  1. 验证:(注意修改IP
# 启动消费者,消费名为test的topic
/usr/local/kafka_2.13-2.7.0/bin/kafka-console-consumer.sh --bootstrap-server 172.50.13.103:9092 --topic test --from-beginning
# 启动生产者,向名为test的topic生产数据
/usr/local/kafka_2.13-2.7.0/bin/kafka-console-producer.sh --broker-list 172.50.13.103:9092 --topic test
# 在生产者终端输入随意字符串,比如 `hello`,在消费者终端出现相应字符串,说明启动成功

基于kRaft的安装步骤

节点IP:192.168.3.23

kafka版本:3.4.0

  1. 下载安装包并解压,修改配置文件config/kraft/server.properties
  • node.id:默认为1,如果修改该值,需要同步修改controller.quorum.voters。例如node.id改为100,controller.quorum.voters需要改为100@xxx
  • advertised.listeners:默认为PLAINTEXT://locahost:9092,即只监听本机的9092端口,如果需要开放给其他服务器,则应该修改该参数为本机IP
  • log.dirs:日志目录路径,因为kafka的数据以日志形式存放,其实也就是数据存储目录,默认在/tmp目录。
  • log.retention.hours:日志保留时长,单位小时,默认168小时。
  • auto.create.topics.enable:自动创建topic,配置文件里面默认没有这个参数,默认为true。若需要关闭自动创建topic,可添加该参数并改为false
  1. 生成uuid。如果需要部署集群,各实例的UUID应统一。
KAFKA_CLUSTER_ID="$(bin/kafka-storage.sh random-uuid)"
  1. 初始化log目录(可以修改config/kraft/server.properties来修改log目录的路径)
bin/kafka-storage.sh format -t $KAFKA_CLUSTER_ID -c config/kraft/server.properties
  1. 启动
bin/kafka-server-start.sh -daemon config/kraft/server.properties
  1. 创建topic
./bin/kafka-topics.sh --create --topic quickstart-events --bootstrap-server 192.168.3.23:9092
  1. 查看topic的描述信息
./bin/kafka-topics.sh --describe --topic quickstart-events --bootstrap-server 192.168.3.23:9092
  1. 启动生产者向topic写数据
./bin/kafka-console-producer.sh --topic quickstart-events --bootstrap-server 192.168.3.23:9092
  1. 读取消息
./bin/kafka-console-consumer.sh --topic maxwell --from-beginning --bootstrap-server 192.168.3.23:9092

停止zookeeper和kafka

  1. 停止kafka
bin/kafka-server-stop.sh
  1. 停止zookeeper
bin/zookeeper-server-stop.sh
相关文章
|
7月前
|
消息中间件 存储 数据可视化
kafka高可用集群搭建
kafka高可用集群搭建
140 0
|
Java Linux
kafka3.0集群环境搭建
kafka3.0集群环境搭建
979 0
|
19小时前
|
消息中间件 存储 Kafka
2024最全Kafka集群方案汇总
Apache Kafka 是一个高吞吐量、可扩展、可靠的分布式消息系统,广泛应用于数据驱动的应用场景。Kafka 支持集群架构,具备高可用性和容错性。其核心组件包括 Broker(服务器实例)、Topic(消息分类)、Partition(有序消息序列)、Producer(消息发布者)和 Consumer(消息消费者)。每个分区有 Leader 和 Follower,确保数据冗余和高可用。Kafka 2.8+ 引入了不依赖 Zookeeper 的 KRaft 协议,进一步简化了集群管理。常见的集群部署方案包括单节点和多节点集群,后者适用于生产环境以确保高可用性。
9 0
|
5月前
|
消息中间件 Kafka
kafka 集群环境搭建
kafka 集群环境搭建
75 8
|
4月前
|
消息中间件 Kafka Apache
部署安装kafka集群
部署安装kafka集群
|
消息中间件 Kafka Linux
115 Kafka集群部署
115 Kafka集群部署
78 0
|
7月前
|
消息中间件 存储 Kafka
Kafka【环境搭建 02】kafka_2.11-2.4.1 基于 zookeeper 搭建高可用伪集群(一台服务器实现三个节点的 Kafka 集群)
【2月更文挑战第19天】Kafka【环境搭建 02】kafka_2.11-2.4.1 基于 zookeeper 搭建高可用伪集群(一台服务器实现三个节点的 Kafka 集群)
238 1
|
消息中间件 存储 分布式计算
Kafka集群部署
Kafka集群部署
Kafka集群部署
|
消息中间件 Java Kafka
Kafka单机版安装
Kafka单机版安装
|
消息中间件 Kafka
Kafka单机模式和集群模式环境搭建
Kafka单机模式和集群模式环境搭建
177 0

相关实验场景

更多
下一篇
DataWorks