Kafka Broker常用配置详解

本文涉及的产品
云原生网关 MSE Higress,422元/月
服务治理 MSE Sentinel/OpenSergo,Agent数量 不受限
注册配置 MSE Nacos/ZooKeeper,118元/月
简介:

    broker的配置文件位于kafka的config/server.properties文件。

    Broker基本配置

    broker.id:代理Id,必须是唯一的整数。可以是0,1,2,3这样的自定义编号,也可以是IP地址的最后一位,如23,24,25,建议使用后面的编码方式。

    auto.leader.rebalance.enable:是否允许leader节点自动分配,启用的话,会有后台进程定时检查并触发转移leader操作。默认启用。

    background.threads:后台处理任务的进程数,默认为10.


    Topic配置

    auto.create.topics.enable:是否允许自动创建主题,默认为true,建议设置为false。


    delete.topic.enable:是否允许删除主题,默认不允许,建议保持现状。

    Zookeeper配置

    zookeeper.connect:zookeeper服务器的地址和端口号,如果有多个的话,用逗号分开。如10.0.10.1:2181,10.0.10.2:2182。

    zookeeper.connection.timeout.ms:Zookeeper连接超时时间,单位为ms,默认值6000。


    Socket服务器设置


    listeners:监听服务器,端口号必须与port一致,PLAINTEXT://:9092


    port:监听端口


    host.name:broker绑定的主机地址,可以是主机名,也可以是ip地址。默认值localhost。如果不设置的话,通过客户端连接的话,会找不到服务器。


    advertised.host.name:代理广播给生产者和消费者的端口号,如果没有设置的话,默认值为host.name的值。


    num.network.threads:并发网络线程数,默认为3


    num.io.threads:并发IO线程数,默认为8


    socket.send.buffer.bytes:socket发送服务器的缓存区,默认102400字节


    socket.receive.buffer.bytes:socket接收服务器的缓存区,默认102400字节


    socket.request.max.bytes:socket每次请求的最大字节数,默认102857600字节


    日志配置


    log.dirs:日志的存放路径


    num.partitions:每个主题的默认分区数,默认值1。分区数越多,可并行的消费者越多,但会导致代理服务器处理更多的文件。


    num.recovery.threads.per.data.dir:每个数据目录的线程数量,在启动时恢复日志和关闭时冲洗使用。建议和RAID队列中的数据目录一同增加。


    日志写入磁盘策略


    log.flush.interval.messages:两条消息的写入磁盘的间隔时间,默认值10000,单位毫秒。


    log.flush.interval.ms:将消息强制写入磁盘前,消息占用日志文件的最大时间。


    

    日志保存策略


    log.retention.hours:日志最少保存时间,即超过某时间后才可能被删除,默认值168,单位小时。


    log.retention.bytes:日志文件的最大存储容量,默认1073741824,单位字节。


    log.segment.bytes:单个日志文件的最大存储容量,默认1073741824,单位字节。


    log.retention.check.interval.ms:日志可以删除的最早时间,默认为300000,单位毫秒。即日志只有在创建5分钟后才可以删除。


    

    Broker总共有130项配置,这里就不一一详解了,感兴趣的小伙伴请参考这里






本文转自 genuinecx 51CTO博客,原文链接:http://blog.51cto.com/favccxx/1764716,如需转载请自行联系原作者
目录
相关文章
|
9天前
|
消息中间件 存储 Prometheus
Kafka集群如何配置高可用性
Kafka集群如何配置高可用性
|
1月前
|
消息中间件 监控 Ubuntu
大数据-54 Kafka 安装配置 环境变量配置 启动服务 Ubuntu配置 ZooKeeper
大数据-54 Kafka 安装配置 环境变量配置 启动服务 Ubuntu配置 ZooKeeper
66 3
大数据-54 Kafka 安装配置 环境变量配置 启动服务 Ubuntu配置 ZooKeeper
|
11天前
|
消息中间件 存储 负载均衡
Apache Kafka核心概念解析:生产者、消费者与Broker
【10月更文挑战第24天】在数字化转型的大潮中,数据的实时处理能力成为了企业竞争力的重要组成部分。Apache Kafka 作为一款高性能的消息队列系统,在这一领域占据了重要地位。通过使用 Kafka,企业可以构建出高效的数据管道,实现数据的快速传输和处理。今天,我将从个人的角度出发,深入解析 Kafka 的三大核心组件——生产者、消费者与 Broker,希望能够帮助大家建立起对 Kafka 内部机制的基本理解。
41 2
|
1月前
|
消息中间件 JSON 大数据
大数据-65 Kafka 高级特性 分区 Broker自动再平衡 ISR 副本 宕机恢复再重平衡 实测
大数据-65 Kafka 高级特性 分区 Broker自动再平衡 ISR 副本 宕机恢复再重平衡 实测
61 4
|
1月前
|
消息中间件 存储 分布式计算
大数据-53 Kafka 基本架构核心概念 Producer Consumer Broker Topic Partition Offset 基础概念了解
大数据-53 Kafka 基本架构核心概念 Producer Consumer Broker Topic Partition Offset 基础概念了解
61 4
|
1月前
|
消息中间件 分布式计算 Java
大数据-73 Kafka 高级特性 稳定性-事务 相关配置 事务操作Java 幂等性 仅一次发送
大数据-73 Kafka 高级特性 稳定性-事务 相关配置 事务操作Java 幂等性 仅一次发送
27 2
|
1月前
|
消息中间件 SQL 分布式计算
大数据-76 Kafka 高级特性 稳定性-消费重复 生产者、Broker、消费者 导致的重复消费问题
大数据-76 Kafka 高级特性 稳定性-消费重复 生产者、Broker、消费者 导致的重复消费问题
31 1
|
1月前
|
消息中间件 Java 大数据
大数据-56 Kafka SpringBoot与Kafka 基础简单配置和使用 Java代码 POM文件
大数据-56 Kafka SpringBoot与Kafka 基础简单配置和使用 Java代码 POM文件
62 2
|
1月前
|
消息中间件 NoSQL Kafka
大数据-116 - Flink DataStream Sink 原理、概念、常见Sink类型 配置与使用 附带案例1:消费Kafka写到Redis
大数据-116 - Flink DataStream Sink 原理、概念、常见Sink类型 配置与使用 附带案例1:消费Kafka写到Redis
109 0
|
3月前
|
消息中间件 监控 Java
【Kafka节点存活大揭秘】如何让Kafka集群时刻保持“心跳”?探索Broker、Producer和Consumer的生死关头!
【8月更文挑战第24天】在分布式系统如Apache Kafka中,确保节点的健康运行至关重要。Kafka通过Broker、Producer及Consumer间的交互实现这一目标。文章介绍Kafka如何监测节点活性,包括心跳机制、会话超时与故障转移策略。示例Java代码展示了Producer如何通过定期发送心跳维持与Broker的连接。合理配置这些机制能有效保障Kafka集群的稳定与高效运行。
66 2

热门文章

最新文章

下一篇
无影云桌面