[kafka]部署安装单节点

简介: [kafka]部署安装单节点

前言

kafka 3.0之前的版本需要依赖zookeeper,3.0版本之后可不依赖zookeeper。

基于zookeeper的安装步骤

节点IP:172.50.13.103

kafka版本:2.7.0

  1. 下载安装包:
wget http://mirrors.ustc.edu.cn/apache/kafka/2.7.0/kafka_2.13-2.7.0.tgz
  1. 解压:
tar xf ./kafka_2.13-2.7.0.tgz
  1. 启动zookeeper:
/usr/local/kafka_2.13-2.7.0/bin/zookeeper-server-start.sh -daemon /usr/local/kafka_2.13-2.7.0/config/zookeeper.properties
  1. 启动kafka(注意修改IP
# 修改文件
sed -i "s@#listeners=PLAINTEXT://:9092@listeners=PLAINTEXT://172.50.13.103:9092@g" /usr/local/kafka_2.13-2.7.0/config/server.properties
# 启动
/usr/local/kafka_2.13-2.7.0/bin/kafka-server-start.sh -daemon /usr/local/kafka_2.13-2.7.0/config/server.properties
  1. 验证:(注意修改IP
# 启动消费者,消费名为test的topic
/usr/local/kafka_2.13-2.7.0/bin/kafka-console-consumer.sh --bootstrap-server 172.50.13.103:9092 --topic test --from-beginning
# 启动生产者,向名为test的topic生产数据
/usr/local/kafka_2.13-2.7.0/bin/kafka-console-producer.sh --broker-list 172.50.13.103:9092 --topic test
# 在生产者终端输入随意字符串,比如 `hello`,在消费者终端出现相应字符串,说明启动成功

基于kRaft的安装步骤

节点IP:192.168.3.23

kafka版本:3.4.0

  1. 下载安装包并解压,修改配置文件config/kraft/server.properties
  • node.id:默认为1,如果修改该值,需要同步修改controller.quorum.voters。例如node.id改为100,controller.quorum.voters需要改为100@xxx
  • advertised.listeners:默认为PLAINTEXT://locahost:9092,即只监听本机的9092端口,如果需要开放给其他服务器,则应该修改该参数为本机IP
  • log.dirs:日志目录路径,因为kafka的数据以日志形式存放,其实也就是数据存储目录,默认在/tmp目录。
  • log.retention.hours:日志保留时长,单位小时,默认168小时。
  • auto.create.topics.enable:自动创建topic,配置文件里面默认没有这个参数,默认为true。若需要关闭自动创建topic,可添加该参数并改为false
  1. 生成uuid。如果需要部署集群,各实例的UUID应统一。
KAFKA_CLUSTER_ID="$(bin/kafka-storage.sh random-uuid)"
  1. 初始化log目录(可以修改config/kraft/server.properties来修改log目录的路径)
bin/kafka-storage.sh format -t $KAFKA_CLUSTER_ID -c config/kraft/server.properties
  1. 启动
bin/kafka-server-start.sh -daemon config/kraft/server.properties
  1. 创建topic
./bin/kafka-topics.sh --create --topic quickstart-events --bootstrap-server 192.168.3.23:9092
  1. 查看topic的描述信息
./bin/kafka-topics.sh --describe --topic quickstart-events --bootstrap-server 192.168.3.23:9092
  1. 启动生产者向topic写数据
./bin/kafka-console-producer.sh --topic quickstart-events --bootstrap-server 192.168.3.23:9092
  1. 读取消息
./bin/kafka-console-consumer.sh --topic maxwell --from-beginning --bootstrap-server 192.168.3.23:9092

停止zookeeper和kafka

  1. 停止kafka
bin/kafka-server-stop.sh
  1. 停止zookeeper
bin/zookeeper-server-stop.sh
相关文章
|
开发工具 数据安全/隐私保护 git
Git报错 Incorrect username or password (access token) 的解决方式
Git报错 Incorrect username or password (access token) 的解决方式
4052 0
Git报错 Incorrect username or password (access token) 的解决方式
|
11月前
|
Java API Nacos
|
Java Linux
CentOS环境搭建Elasticsearch集群
至此,您已成功在CentOS环境下搭建了Elasticsearch集群。通过以上介绍和步骤,相信您对部署Elasticsearch集群有了充分的了解。最后祝您在使用Elasticsearch集群的过程中顺利开展工作!
624 22
|
消息中间件 分布式计算 Hadoop
kafaka单节点安装部署kafaka多节点安装部署
kafaka单节点安装部署kafaka多节点安装部署
407 3
|
关系型数据库 API Apache
Flink CDC:基于 Apache Flink 的流式数据集成框架
本文整理自阿里云 Flink SQL 团队研发工程师于喜千(yux)在 SECon 全球软件工程技术大会中数据集成专场沙龙的分享。
23849 11
Flink CDC:基于 Apache Flink 的流式数据集成框架
|
消息中间件 JSON 安全
Kafka常用命令归纳
本文档详细介绍了Kafka 2.2及以上版本中Topic的操作命令,包括创建、查看、修改及删除Topic,以及动态调整主题参数和限速。此外,还涵盖了数据生产和消费的相关命令与性能测试方法,并对内部Topic(如`__consumer_offsets`和`__transaction_state`)的操作进行了说明。最后,提供了常见错误处理方案及Kafka推荐配置,帮助用户更好地管理和优化Kafka集群。
|
存储 Kubernetes 开发工具
k8s学习--ConfigMap详细解释与应用
ConfigMap 是 Kubernetes 中用于管理非机密配置数据的 API 对象,可将应用配置与容器分离,便于动态管理和更新。它支持四种创建方式:命令行参数、多个文件、文件内的键值对以及 YAML 资源清单文件。ConfigMap 可通过环境变量或挂载为卷的方式传递给 Pod,并且当通过卷挂载时支持热更新。这使得配置管理更加灵活和安全,无需重新部署应用即可更新配置。
1237 0
|
算法 安全 网络安全
使用 Python 实现 RSA 加密
使用 Python 实现 RSA 加密
640 2
|
存储 Java 测试技术
阿里巴巴java开发手册
这篇文章是关于阿里巴巴Java开发手册的整理,内容包括编程规约、异常日志、单元测试、安全规约、MySQL数据库使用以及工程结构等方面的详细规范和建议,旨在帮助开发者编写更加规范、高效和安全的代码。