[kafka]部署安装单节点

本文涉及的产品
任务调度 XXL-JOB 版免费试用,400 元额度,开发版规格
MSE Nacos/ZooKeeper 企业版试用,1600元额度,限量50份
服务治理 MSE Sentinel/OpenSergo,Agent数量 不受限
简介: [kafka]部署安装单节点

前言

kafka 3.0之前的版本需要依赖zookeeper,3.0版本之后可不依赖zookeeper。

基于zookeeper的安装步骤

节点IP:172.50.13.103

kafka版本:2.7.0

  1. 下载安装包:
wget http://mirrors.ustc.edu.cn/apache/kafka/2.7.0/kafka_2.13-2.7.0.tgz
  1. 解压:
tar xf ./kafka_2.13-2.7.0.tgz
  1. 启动zookeeper:
/usr/local/kafka_2.13-2.7.0/bin/zookeeper-server-start.sh -daemon /usr/local/kafka_2.13-2.7.0/config/zookeeper.properties
  1. 启动kafka(注意修改IP
# 修改文件
sed -i "s@#listeners=PLAINTEXT://:9092@listeners=PLAINTEXT://172.50.13.103:9092@g" /usr/local/kafka_2.13-2.7.0/config/server.properties
# 启动
/usr/local/kafka_2.13-2.7.0/bin/kafka-server-start.sh -daemon /usr/local/kafka_2.13-2.7.0/config/server.properties
  1. 验证:(注意修改IP
# 启动消费者,消费名为test的topic
/usr/local/kafka_2.13-2.7.0/bin/kafka-console-consumer.sh --bootstrap-server 172.50.13.103:9092 --topic test --from-beginning
# 启动生产者,向名为test的topic生产数据
/usr/local/kafka_2.13-2.7.0/bin/kafka-console-producer.sh --broker-list 172.50.13.103:9092 --topic test
# 在生产者终端输入随意字符串,比如 `hello`,在消费者终端出现相应字符串,说明启动成功

基于kRaft的安装步骤

节点IP:192.168.3.23

kafka版本:3.4.0

  1. 下载安装包并解压,修改配置文件config/kraft/server.properties
  • node.id:默认为1,如果修改该值,需要同步修改controller.quorum.voters。例如node.id改为100,controller.quorum.voters需要改为100@xxx
  • advertised.listeners:默认为PLAINTEXT://locahost:9092,即只监听本机的9092端口,如果需要开放给其他服务器,则应该修改该参数为本机IP
  • log.dirs:日志目录路径,因为kafka的数据以日志形式存放,其实也就是数据存储目录,默认在/tmp目录。
  • log.retention.hours:日志保留时长,单位小时,默认168小时。
  • auto.create.topics.enable:自动创建topic,配置文件里面默认没有这个参数,默认为true。若需要关闭自动创建topic,可添加该参数并改为false
  1. 生成uuid。如果需要部署集群,各实例的UUID应统一。
KAFKA_CLUSTER_ID="$(bin/kafka-storage.sh random-uuid)"
  1. 初始化log目录(可以修改config/kraft/server.properties来修改log目录的路径)
bin/kafka-storage.sh format -t $KAFKA_CLUSTER_ID -c config/kraft/server.properties
  1. 启动
bin/kafka-server-start.sh -daemon config/kraft/server.properties
  1. 创建topic
./bin/kafka-topics.sh --create --topic quickstart-events --bootstrap-server 192.168.3.23:9092
  1. 查看topic的描述信息
./bin/kafka-topics.sh --describe --topic quickstart-events --bootstrap-server 192.168.3.23:9092
  1. 启动生产者向topic写数据
./bin/kafka-console-producer.sh --topic quickstart-events --bootstrap-server 192.168.3.23:9092
  1. 读取消息
./bin/kafka-console-consumer.sh --topic maxwell --from-beginning --bootstrap-server 192.168.3.23:9092

停止zookeeper和kafka

  1. 停止kafka
bin/kafka-server-stop.sh
  1. 停止zookeeper
bin/zookeeper-server-stop.sh
相关文章
|
存储 Prometheus 监控
Prometheus 基本高可用架构
Prometheus 基本高可用架构
|
安全 Linux 网络安全
组网神器WireGuard安装与配置教程(超详细)
组网神器WireGuard安装与配置教程(超详细)
37661 2
|
数据安全/隐私保护 Docker 容器
docker版Minio接入LDAP
因为官网的LDAP文档接入写的过于分散,实在不利于新手部署,所以重新整理了一版,方便用户能一次部署完成
2547 1
docker版Minio接入LDAP
|
Oracle Ubuntu Java
Ubuntu安装JDK
一. Ubuntu 安装JDK的两种方式 1. 通过apt安装. 2. 通过官网下载安装包安装. 这里推荐第1种,因为可以通过 apt-get upgrade 方式方便获得jdk的升级 二. 通过apt安装(jdk有很多版本, 这里介绍两种: openjdk和oracle的JDK) 1.
71541 4
|
消息中间件 分布式计算 Hadoop
kafaka单节点安装部署kafaka多节点安装部署
kafaka单节点安装部署kafaka多节点安装部署
248 3
|
12月前
|
Kubernetes Linux Docker
容器化技术Docker入门与实践
容器化技术Docker入门与实践
187 20
|
监控
ThreeJs限制模型拖动的范围
这篇文章讲解了在Three.js中如何限制模型拖动的范围,确保模型在特定边界内移动,提供了实现拖动限制的代码示例和技术细节。
378 1
ThreeJs限制模型拖动的范围
|
Kubernetes 应用服务中间件 nginx
搭建Kubernetes v1.31.1服务器集群,采用Calico网络技术
在阿里云服务器上部署k8s集群,一、3台k8s服务器,1个Master节点,2个工作节点,采用Calico网络技术。二、部署nginx服务到k8s集群,并验证nginx服务运行状态。
3349 2
|
消息中间件 监控 Java
Docker安装Kafka(docker-compose)、EFAK监控
Docker安装Kafka(docker-compose)、EFAK监控
Docker安装Kafka(docker-compose)、EFAK监控
下一篇
开通oss服务