Kafka【环境搭建 01】kafka_2.12-2.6.0 单机版安装+参数配置及说明+添加到service服务+开机启动配置+验证+chkconfig配置说明(一篇入门kafka)

本文涉及的产品
云原生网关 MSE Higress,422元/月
任务调度 XXL-JOB 版免费试用,400 元额度,开发版规格
服务治理 MSE Sentinel/OpenSergo,Agent数量 不受限
简介: 【2月更文挑战第19天】Kafka【环境搭建 01】kafka_2.12-2.6.0 单机版安装+参数配置及说明+添加到service服务+开机启动配置+验证+chkconfig配置说明(一篇入门kafka)

使用的安装文件是kafka_2.12-2.6.0.tgz,以下内容均以此版本进行说明。

1.部署Kafka

安装文件kafka_2.12-2.6.0.tgz,前面的2.12就是该kafka所支持的Scala版本号,后面的2.6.0是Kafka自身的版本号,而kafka的运行依赖JDK和ZooKeeper,ZooKeeper的部署安装可参考《ZooKeeper 3.6.2 安装配置》

# JDK版本 官网【NOTE: Your local environment must have Java 8+ installed.】
[root@tcloud bin]# java -version
java version "1.8.0_251"
Java(TM) SE Runtime Environment (build 1.8.0_251-b08)
Java HotSpot(TM) 64-Bit Server VM (build 25.251-b08, mixed mode)

# ZooKeeper版本 官网【Note: Soon, ZooKeeper will no longer be required by Apache Kafka.】
[root@tcloud /]# zkCli.sh
[zk: localhost:2181(CONNECTED) 0] version
ZooKeeper CLI version: 3.6.0--b4c89dc7f6083829e18fae6e446907ae0b1f22d7, built on 02/25/2020 14:38 GMT

kafka安装:也可参考官网《kafka_2.13-2.8.0 quickstart》官网网速可不 quick :snail:

1.1 安装

# 在安装文件目录解压并移动到/usr/local/kafka目录下
tar -zxvf kafka_2.12-2.6.0.tgz
mv ./kafka_2.12-2.6.0/ /usr/local/kafka

1.2 配置

配置环境变量:配置环境变量的方法比较多,这里统一将环境变量放在 /etc/profile.d/my_env.sh 内。

vim /etc/profile.d/my_env.sh
# 添加 KAFKA_HOME和bin
export KAFKA_HOME=/usr/local/kafka
export PATH=$PATH:$KAFKA_HOME/bin
# 使得配置的环境变量立即生效:
    # 首先是要赋权限【只操作一次就行】
    chmod +x /etc/profile.d/my_env.sh
source /etc/profile.d/my_env.sh
# 3.验证是否生效
echo ${KAFKA_HOME}
/usr/local/kafka

kafka配置文件:进入${KAFKA_HOME}/config/,修改server.properties配置文件。

vim ${KAFKA_HOME}/config/server.properties

# 内网配置(不需要配置 advertised.listeners)
listeners=PLAINTEXT://localhost:9092

# 外网配置(advertised.listeners 对外暴露端口)
listeners=PLAINTEXT://localhost:9092
advertised.listeners=LAINTEXT://ip:port

1.3 启动

命令启动:

# kafka服务命令
kafka-server-start.sh [-daemon] server.properties [--override property=value]*
# 要保证zookeeper服务已启动再启动kafka服务
kafka-server-start.sh /usr/local/kafka/config/server.properties

1.4 添加到系统服务并配置开机启动:

# 1.添加文件
vim /etc/rc.d/init.d/kafka
# ------------文件内容------------
# chkconfig的配置参数启动服务的优先等级要低于zookeeper停止服务的优先等级要高于zookeeper
#!/bin/bash
# chkconfig: 3456 30 70
# description: service kafka
# processname: kafka
export JAVA_HOME=/usr/local/java
KAFKA_HOME=/usr/local/kafka
case $1 in
    start) ${KAFKA_HOME}/bin/kafka-server-start.sh -daemon ${KAFKA_HOME}/config/server.properties;;
    stop) ${KAFKA_HOME}/bin/kafka-server-stop.sh;;
    status) ${JAVA_HOME}/bin/jps | grep Kafka;;
    restart) ${KAFKA_HOME}/bin/kafka-server-stop.sh
             ${KAFKA_HOME}/bin/kafka-server-start.sh -daemon ${KAFKA_HOME}/config/server.properties;;
    *) echo "require start|stop|status|restart";;
esac

# 2.赋执行权并添加开启开机自启
chmod +x /etc/rc.d/init.d/kafka
chkconfig --add /etc/rc.d/init.d/kafka
chkconfig kafka on
# 查看kafka是否添加成功
chkconfig --list kafka
kafka           0:off   1:off   2:on    3:on    4:on    5:on    6:off

# 3.服务命令
service kafka start
service kafka stop
...

# 如果防火墙未关闭则需要开启外网端口
firewall-cmd --zone=public --add-port=9092/tcp --permanent && firewall-cmd --reload

kafka安装结束,是不是很惊讶!就是这么 quick :zap:

2.启动Kafka【需要一个终端窗口】

  1. 首先要启动zookeeper服务端
    ```shell
    [root@tcloud ~]# zkServer.sh start

查看是否启动

[root@tcloud ~]# jps -l
26180 org.apache.zookeeper.server.quorum.QuorumPeerMain

2. 启动Kafka服务
```shell
# 修改config/server.properties配置文件【默认配置 也可以不修改】
listeners=PLAINTEXT://:9092
advertised.listeners=LAINTEXT://tcloud:9092

# 启动kafka服务【不要关闭这个终端窗口 一旦关闭Kafka服务也就停止了 这个终端暂命名为A】
[root@tcloud ~]# kafka-server-start.sh /usr/local/kafka/config/server.properties 

# 【打开新的终端窗口 这个终端暂命名为B】查看是否启动
[root@tcloud ~]# jps -l
28496 kafka.Kafka

3.测试kafka是否正常工作【需要两个终端窗口】

在终端窗口B或新打开的窗口【只要不关闭终端窗口A就行】,输入下面命令创建一个自定义名称的topic:

# 创建主题
[root@tcloud ~]# kafka-topics.sh --zookeeper localhost:2181 --create --topic yuan --replication-factor 1 --partitions 1
Created topic yuan.

# 查看主题列表
[root@tcloud ~]# kafka-topics.sh --zookeeper localhost:2181 --list
yuan

# 查看主题的详情信息
[root@tcloud ~]# kafka-topics.sh --zookeeper localhost:2181 --describe --topic yuan
Topic: yuan     PartitionCount: 1       ReplicationFactor: 1    Configs:
        Topic: yuan     Partition: 0    Leader: 0       Replicas: 0     Isr: 0

--zookeeper: 指定Kafka所连接的zookeeper服务地址

--create:创建主题的动作指令

--topic:指定创建主题的名称

--replicate-factor:指定副本因子

--partitions:指定分区个数

【在终端窗口B】用生产者(Producer)来产生一些数据,命令如下:

[root@tcloud ~]# kafka-console-producer.sh --broker-list tcloud:9092 --topic yuan
>hello
>kafka

【打开新的终端窗口 暂命名为C】启动消费者,来查看刚才生产者产生的数据,命令如下:

[root@tcloud ~]# kafka-console-consumer.sh --bootstrap-server tcloud:9092 --topic yuan --from-beginning --property print.key=true
null    hello
null    kafka

至此,kafka的单机版部署成功。

4.chkconfig配置说明

Linux chkconfig 命令用于检查,设置系统的各种服务。这是 Red Hat 公司遵循 GPL 规则所开发的程序,它可查询操作系统在每一个执行等级中会执行哪些系统服务,其中包括各类常驻服务。

# 语法
chkconfig [--add][--del][--list][系统服务]chkconfig [--level <等级代号>][系统服务][on/off/reset]
  • --add  增加所指定的系统服务,让 chkconfig 指令得以管理它,并同时在系统启动的叙述文件内增加相关数据。
  • --del  删除所指定的系统服务,不再由 chkconfig 指令管理,并同时在系统启动的叙述文件内删除相关数据。
  • --level<等级代号>  指定读系统服务要在哪一个执行等级中开启或关毕。
# 列出 chkconfig 所有的服务的情况或serviceName的服务情况
chkconfig --list [serviceName]
# 开启服务
chkconfig serviceName on 
# 关闭服务
chkconfig serviceName off

系统服务配置文件里的# chkconfig: 2345 10 90三个参数说明:

第一个参数,指定服务的运行级别。

0 关机
1 单用户模式
2 无网络支持的多用户模式
3 有网络支持的多用户模式
4 保留,未使用
5 有网络支持有X-Window支持的多用户模式
6 重新引导系统,即重启

第二个参数,指定启动服务的优先等级。第三个参数,指定停止服务的优先等级。特别注意:数值越大等级越低。

目录
相关文章
|
7月前
|
消息中间件 监控 Ubuntu
大数据-54 Kafka 安装配置 环境变量配置 启动服务 Ubuntu配置 ZooKeeper
大数据-54 Kafka 安装配置 环境变量配置 启动服务 Ubuntu配置 ZooKeeper
221 3
大数据-54 Kafka 安装配置 环境变量配置 启动服务 Ubuntu配置 ZooKeeper
|
6月前
|
消息中间件 存储 Prometheus
Kafka集群如何配置高可用性
Kafka集群如何配置高可用性
114 1
|
7月前
|
消息中间件 SQL 分布式计算
大数据-62 Kafka 高级特性 主题 kafka-topics相关操作参数 KafkaAdminClient 偏移量管理
大数据-62 Kafka 高级特性 主题 kafka-topics相关操作参数 KafkaAdminClient 偏移量管理
83 6
|
7月前
|
消息中间件 存储 负载均衡
大数据-60 Kafka 高级特性 消息消费01-消费组图例 心跳机制图例 附参数详解与建议值
大数据-60 Kafka 高级特性 消息消费01-消费组图例 心跳机制图例 附参数详解与建议值
136 3
|
7月前
|
消息中间件 分布式计算 Java
大数据-73 Kafka 高级特性 稳定性-事务 相关配置 事务操作Java 幂等性 仅一次发送
大数据-73 Kafka 高级特性 稳定性-事务 相关配置 事务操作Java 幂等性 仅一次发送
82 2
|
7月前
|
消息中间件 Java 大数据
大数据-56 Kafka SpringBoot与Kafka 基础简单配置和使用 Java代码 POM文件
大数据-56 Kafka SpringBoot与Kafka 基础简单配置和使用 Java代码 POM文件
135 2
|
8月前
|
消息中间件 Kafka 测试技术
Kafka常用命令大全及kafka-console-consumer.sh及参数说明
该文章汇总了Kafka常用命令,包括集群管理、Topic操作、生产者与消费者的命令行工具使用方法等,适用于Kafka的日常运维和开发需求。
1940 3
|
7月前
|
消息中间件 NoSQL Kafka
大数据-116 - Flink DataStream Sink 原理、概念、常见Sink类型 配置与使用 附带案例1:消费Kafka写到Redis
大数据-116 - Flink DataStream Sink 原理、概念、常见Sink类型 配置与使用 附带案例1:消费Kafka写到Redis
445 0
|
9月前
|
消息中间件 Java 大数据
"深入理解Kafka单线程Consumer:核心参数配置、Java实现与实战指南"
【8月更文挑战第10天】在大数据领域,Apache Kafka以高吞吐和可扩展性成为主流数据流处理平台。Kafka的单线程Consumer因其实现简单且易于管理而在多种场景中受到欢迎。本文解析单线程Consumer的工作机制,强调其在错误处理和状态管理方面的优势,并通过详细参数说明及示例代码展示如何有效地使用KafkaConsumer类。了解这些内容将帮助开发者优化实时数据处理系统的性能与可靠性。
162 7
|
9月前
|
消息中间件 Kafka 网络安全
【Azure Developer】在Azure VM (Windows) 中搭建 kafka服务,并且通过本地以及远程验证 发送+消费 消息
【Azure Developer】在Azure VM (Windows) 中搭建 kafka服务,并且通过本地以及远程验证 发送+消费 消息

相关实验场景

更多