Kafka【环境搭建 01】kafka_2.12-2.6.0 单机版安装+参数配置及说明+添加到service服务+开机启动配置+验证+chkconfig配置说明(一篇入门kafka)

本文涉及的产品
注册配置 MSE Nacos/ZooKeeper,118元/月
服务治理 MSE Sentinel/OpenSergo,Agent数量 不受限
云原生网关 MSE Higress,422元/月
简介: 【2月更文挑战第19天】Kafka【环境搭建 01】kafka_2.12-2.6.0 单机版安装+参数配置及说明+添加到service服务+开机启动配置+验证+chkconfig配置说明(一篇入门kafka)

使用的安装文件是kafka_2.12-2.6.0.tgz,以下内容均以此版本进行说明。

1.部署Kafka

安装文件kafka_2.12-2.6.0.tgz,前面的2.12就是该kafka所支持的Scala版本号,后面的2.6.0是Kafka自身的版本号,而kafka的运行依赖JDK和ZooKeeper,ZooKeeper的部署安装可参考《ZooKeeper 3.6.2 安装配置》

# JDK版本 官网【NOTE: Your local environment must have Java 8+ installed.】
[root@tcloud bin]# java -version
java version "1.8.0_251"
Java(TM) SE Runtime Environment (build 1.8.0_251-b08)
Java HotSpot(TM) 64-Bit Server VM (build 25.251-b08, mixed mode)

# ZooKeeper版本 官网【Note: Soon, ZooKeeper will no longer be required by Apache Kafka.】
[root@tcloud /]# zkCli.sh
[zk: localhost:2181(CONNECTED) 0] version
ZooKeeper CLI version: 3.6.0--b4c89dc7f6083829e18fae6e446907ae0b1f22d7, built on 02/25/2020 14:38 GMT

kafka安装:也可参考官网《kafka_2.13-2.8.0 quickstart》官网网速可不 quick :snail:

1.1 安装

# 在安装文件目录解压并移动到/usr/local/kafka目录下
tar -zxvf kafka_2.12-2.6.0.tgz
mv ./kafka_2.12-2.6.0/ /usr/local/kafka

1.2 配置

配置环境变量:配置环境变量的方法比较多,这里统一将环境变量放在 /etc/profile.d/my_env.sh 内。

vim /etc/profile.d/my_env.sh
# 添加 KAFKA_HOME和bin
export KAFKA_HOME=/usr/local/kafka
export PATH=$PATH:$KAFKA_HOME/bin
# 使得配置的环境变量立即生效:
    # 首先是要赋权限【只操作一次就行】
    chmod +x /etc/profile.d/my_env.sh
source /etc/profile.d/my_env.sh
# 3.验证是否生效
echo ${KAFKA_HOME}
/usr/local/kafka

kafka配置文件:进入${KAFKA_HOME}/config/,修改server.properties配置文件。

vim ${KAFKA_HOME}/config/server.properties

# 内网配置(不需要配置 advertised.listeners)
listeners=PLAINTEXT://localhost:9092

# 外网配置(advertised.listeners 对外暴露端口)
listeners=PLAINTEXT://localhost:9092
advertised.listeners=LAINTEXT://ip:port

1.3 启动

命令启动:

# kafka服务命令
kafka-server-start.sh [-daemon] server.properties [--override property=value]*
# 要保证zookeeper服务已启动再启动kafka服务
kafka-server-start.sh /usr/local/kafka/config/server.properties

1.4 添加到系统服务并配置开机启动:

# 1.添加文件
vim /etc/rc.d/init.d/kafka
# ------------文件内容------------
# chkconfig的配置参数启动服务的优先等级要低于zookeeper停止服务的优先等级要高于zookeeper
#!/bin/bash
# chkconfig: 3456 30 70
# description: service kafka
# processname: kafka
export JAVA_HOME=/usr/local/java
KAFKA_HOME=/usr/local/kafka
case $1 in
    start) ${KAFKA_HOME}/bin/kafka-server-start.sh -daemon ${KAFKA_HOME}/config/server.properties;;
    stop) ${KAFKA_HOME}/bin/kafka-server-stop.sh;;
    status) ${JAVA_HOME}/bin/jps | grep Kafka;;
    restart) ${KAFKA_HOME}/bin/kafka-server-stop.sh
             ${KAFKA_HOME}/bin/kafka-server-start.sh -daemon ${KAFKA_HOME}/config/server.properties;;
    *) echo "require start|stop|status|restart";;
esac

# 2.赋执行权并添加开启开机自启
chmod +x /etc/rc.d/init.d/kafka
chkconfig --add /etc/rc.d/init.d/kafka
chkconfig kafka on
# 查看kafka是否添加成功
chkconfig --list kafka
kafka           0:off   1:off   2:on    3:on    4:on    5:on    6:off

# 3.服务命令
service kafka start
service kafka stop
...

# 如果防火墙未关闭则需要开启外网端口
firewall-cmd --zone=public --add-port=9092/tcp --permanent && firewall-cmd --reload

kafka安装结束,是不是很惊讶!就是这么 quick :zap:

2.启动Kafka【需要一个终端窗口】

  1. 首先要启动zookeeper服务端
    ```shell
    [root@tcloud ~]# zkServer.sh start

查看是否启动

[root@tcloud ~]# jps -l
26180 org.apache.zookeeper.server.quorum.QuorumPeerMain

2. 启动Kafka服务
```shell
# 修改config/server.properties配置文件【默认配置 也可以不修改】
listeners=PLAINTEXT://:9092
advertised.listeners=LAINTEXT://tcloud:9092

# 启动kafka服务【不要关闭这个终端窗口 一旦关闭Kafka服务也就停止了 这个终端暂命名为A】
[root@tcloud ~]# kafka-server-start.sh /usr/local/kafka/config/server.properties 

# 【打开新的终端窗口 这个终端暂命名为B】查看是否启动
[root@tcloud ~]# jps -l
28496 kafka.Kafka

3.测试kafka是否正常工作【需要两个终端窗口】

在终端窗口B或新打开的窗口【只要不关闭终端窗口A就行】,输入下面命令创建一个自定义名称的topic:

# 创建主题
[root@tcloud ~]# kafka-topics.sh --zookeeper localhost:2181 --create --topic yuan --replication-factor 1 --partitions 1
Created topic yuan.

# 查看主题列表
[root@tcloud ~]# kafka-topics.sh --zookeeper localhost:2181 --list
yuan

# 查看主题的详情信息
[root@tcloud ~]# kafka-topics.sh --zookeeper localhost:2181 --describe --topic yuan
Topic: yuan     PartitionCount: 1       ReplicationFactor: 1    Configs:
        Topic: yuan     Partition: 0    Leader: 0       Replicas: 0     Isr: 0

--zookeeper: 指定Kafka所连接的zookeeper服务地址

--create:创建主题的动作指令

--topic:指定创建主题的名称

--replicate-factor:指定副本因子

--partitions:指定分区个数

【在终端窗口B】用生产者(Producer)来产生一些数据,命令如下:

[root@tcloud ~]# kafka-console-producer.sh --broker-list tcloud:9092 --topic yuan
>hello
>kafka

【打开新的终端窗口 暂命名为C】启动消费者,来查看刚才生产者产生的数据,命令如下:

[root@tcloud ~]# kafka-console-consumer.sh --bootstrap-server tcloud:9092 --topic yuan --from-beginning --property print.key=true
null    hello
null    kafka

至此,kafka的单机版部署成功。

4.chkconfig配置说明

Linux chkconfig 命令用于检查,设置系统的各种服务。这是 Red Hat 公司遵循 GPL 规则所开发的程序,它可查询操作系统在每一个执行等级中会执行哪些系统服务,其中包括各类常驻服务。

# 语法
chkconfig [--add][--del][--list][系统服务]chkconfig [--level <等级代号>][系统服务][on/off/reset]
  • --add  增加所指定的系统服务,让 chkconfig 指令得以管理它,并同时在系统启动的叙述文件内增加相关数据。
  • --del  删除所指定的系统服务,不再由 chkconfig 指令管理,并同时在系统启动的叙述文件内删除相关数据。
  • --level<等级代号>  指定读系统服务要在哪一个执行等级中开启或关毕。
# 列出 chkconfig 所有的服务的情况或serviceName的服务情况
chkconfig --list [serviceName]
# 开启服务
chkconfig serviceName on 
# 关闭服务
chkconfig serviceName off

系统服务配置文件里的# chkconfig: 2345 10 90三个参数说明:

第一个参数,指定服务的运行级别。

0 关机
1 单用户模式
2 无网络支持的多用户模式
3 有网络支持的多用户模式
4 保留,未使用
5 有网络支持有X-Window支持的多用户模式
6 重新引导系统,即重启

第二个参数,指定启动服务的优先等级。第三个参数,指定停止服务的优先等级。特别注意:数值越大等级越低。

目录
相关文章
|
1月前
|
消息中间件 监控 Ubuntu
大数据-54 Kafka 安装配置 环境变量配置 启动服务 Ubuntu配置 ZooKeeper
大数据-54 Kafka 安装配置 环境变量配置 启动服务 Ubuntu配置 ZooKeeper
72 3
大数据-54 Kafka 安装配置 环境变量配置 启动服务 Ubuntu配置 ZooKeeper
|
16天前
|
消息中间件 Ubuntu Java
Ubuntu系统上安装Apache Kafka
Ubuntu系统上安装Apache Kafka
|
2月前
|
消息中间件 Java Kafka
windows服务器重装系统之后,Kafka服务如何恢复?
windows服务器重装系统之后,Kafka服务如何恢复?
30 8
|
2月前
|
消息中间件 Java Linux
linux 之centos7安装kafka;;;;;待补充,未完成
linux 之centos7安装kafka;;;;;待补充,未完成
|
3月前
|
消息中间件 域名解析 网络协议
【Azure 应用服务】部署Kafka Trigger Function到Azure Function服务中,解决自定义域名解析难题
【Azure 应用服务】部署Kafka Trigger Function到Azure Function服务中,解决自定义域名解析难题
|
3月前
|
消息中间件 Kafka 网络安全
【Azure Developer】在Azure VM (Windows) 中搭建 kafka服务,并且通过本地以及远程验证 发送+消费 消息
【Azure Developer】在Azure VM (Windows) 中搭建 kafka服务,并且通过本地以及远程验证 发送+消费 消息
|
3月前
|
消息中间件 Java Kafka
【Azure 事件中心】China Azure上是否有Kafka服务简答
【Azure 事件中心】China Azure上是否有Kafka服务简答
|
1月前
|
消息中间件 存储 运维
为什么说Kafka还不是完美的实时数据通道
【10月更文挑战第19天】Kafka 虽然作为数据通道被广泛应用,但在实时性、数据一致性、性能及管理方面存在局限。数据延迟受消息堆积和分区再平衡影响;数据一致性难以达到恰好一次;性能瓶颈在于网络和磁盘I/O;管理复杂性涉及集群配置与版本升级。
|
1月前
|
消息中间件 Java Kafka
Flink-04 Flink Java 3分钟上手 FlinkKafkaConsumer消费Kafka数据 进行计算SingleOutputStreamOperatorDataStreamSource
Flink-04 Flink Java 3分钟上手 FlinkKafkaConsumer消费Kafka数据 进行计算SingleOutputStreamOperatorDataStreamSource
46 1