Kafka Broker常用配置详解

本文涉及的产品
服务治理 MSE Sentinel/OpenSergo,Agent数量 不受限
简介:

    broker的配置文件位于kafka的config/server.properties文件。

    Broker基本配置

    broker.id:代理Id,必须是唯一的整数。可以是0,1,2,3这样的自定义编号,也可以是IP地址的最后一位,如23,24,25,建议使用后面的编码方式。

    auto.leader.rebalance.enable:是否允许leader节点自动分配,启用的话,会有后台进程定时检查并触发转移leader操作。默认启用。

    background.threads:后台处理任务的进程数,默认为10.


    Topic配置

    auto.create.topics.enable:是否允许自动创建主题,默认为true,建议设置为false。


    delete.topic.enable:是否允许删除主题,默认不允许,建议保持现状。

    Zookeeper配置

    zookeeper.connect:zookeeper服务器的地址和端口号,如果有多个的话,用逗号分开。如10.0.10.1:2181,10.0.10.2:2182。

    zookeeper.connection.timeout.ms:Zookeeper连接超时时间,单位为ms,默认值6000。


    Socket服务器设置


    listeners:监听服务器,端口号必须与port一致,PLAINTEXT://:9092


    port:监听端口


    host.name:broker绑定的主机地址,可以是主机名,也可以是ip地址。默认值localhost。如果不设置的话,通过客户端连接的话,会找不到服务器。


    advertised.host.name:代理广播给生产者和消费者的端口号,如果没有设置的话,默认值为host.name的值。


    num.network.threads:并发网络线程数,默认为3


    num.io.threads:并发IO线程数,默认为8


    socket.send.buffer.bytes:socket发送服务器的缓存区,默认102400字节


    socket.receive.buffer.bytes:socket接收服务器的缓存区,默认102400字节


    socket.request.max.bytes:socket每次请求的最大字节数,默认102857600字节


    日志配置


    log.dirs:日志的存放路径


    num.partitions:每个主题的默认分区数,默认值1。分区数越多,可并行的消费者越多,但会导致代理服务器处理更多的文件。


    num.recovery.threads.per.data.dir:每个数据目录的线程数量,在启动时恢复日志和关闭时冲洗使用。建议和RAID队列中的数据目录一同增加。


    日志写入磁盘策略


    log.flush.interval.messages:两条消息的写入磁盘的间隔时间,默认值10000,单位毫秒。


    log.flush.interval.ms:将消息强制写入磁盘前,消息占用日志文件的最大时间。


    

    日志保存策略


    log.retention.hours:日志最少保存时间,即超过某时间后才可能被删除,默认值168,单位小时。


    log.retention.bytes:日志文件的最大存储容量,默认1073741824,单位字节。


    log.segment.bytes:单个日志文件的最大存储容量,默认1073741824,单位字节。


    log.retention.check.interval.ms:日志可以删除的最早时间,默认为300000,单位毫秒。即日志只有在创建5分钟后才可以删除。


    

    Broker总共有130项配置,这里就不一一详解了,感兴趣的小伙伴请参考这里






本文转自 genuinecx 51CTO博客,原文链接:http://blog.51cto.com/favccxx/1764716,如需转载请自行联系原作者
目录
相关文章
|
1月前
|
消息中间件 Java Kafka
关于kafka消费者超时配置
关于kafka消费者超时配置
61 2
|
2月前
|
消息中间件 安全 Kafka
一文搞懂Kafka中的listeners配置策略
1. listeners中的plaintext controller external是什么意思? 2. Kraft模式下controller和broker有何区别? 3. 集群节点之间同步什么数据,通过哪个端口,是否可以自定义端口? 4. 客户端通过哪个端口连接到kafka,通过9092连接的是什么,broker还是controller? 5. 为controller配置了单独的端口有什么用? 6. control.plane.listener.name与controller.listener.names有何区别?
139 2
|
1月前
|
消息中间件 Java Kafka
Kafka【环境搭建 01】kafka_2.12-2.6.0 单机版安装+参数配置及说明+添加到service服务+开机启动配置+验证+chkconfig配置说明(一篇入门kafka)
【2月更文挑战第19天】Kafka【环境搭建 01】kafka_2.12-2.6.0 单机版安装+参数配置及说明+添加到service服务+开机启动配置+验证+chkconfig配置说明(一篇入门kafka)
46 1
|
8天前
|
消息中间件 存储 运维
Kafka重要配置参数全面解读(重要)
Kafka重要配置参数全面解读(重要)
37 0
|
6月前
|
消息中间件 Kafka API
Django中如何配置kafka消息队列
Django中如何配置kafka消息队列
|
2月前
|
消息中间件 缓存 Java
Kafka Consumer java api 配置
Kafka Consumer java api 配置
|
3月前
|
消息中间件 监控 负载均衡
Kafka高级应用:如何配置处理MQ百万级消息队列?
在大数据时代,Apache Kafka作为一款高性能的分布式消息队列系统,广泛应用于处理大规模数据流。本文将深入探讨在Kafka环境中处理百万级消息队列的高级应用技巧。
172 0
|
3月前
|
消息中间件 存储 缓存
Kafka - 3.x 图解Broker总体工作流程
Kafka - 3.x 图解Broker总体工作流程
66 0
|
3月前
|
消息中间件 Java Kafka
Apache Kafka-初体验Kafka(02)-Centos7下搭建单节点kafka_配置参数详解_基本命令实操
Apache Kafka-初体验Kafka(02)-Centos7下搭建单节点kafka_配置参数详解_基本命令实操
58 0
|
4月前
|
消息中间件 Java Shell
Linux【脚本 03】shell脚本离线安装配置集结JDK+InfluxDB+Zookeeper+Kafka(安装文件及脚本源码网盘分享)
Linux【脚本 03】shell脚本离线安装配置集结JDK+InfluxDB+Zookeeper+Kafka(安装文件及脚本源码网盘分享)
28 0

热门文章

最新文章