Kafka高可用——replica分配方式

简介: Kafka的Replica概念kafka的replica指的是消息的备份,为了保证kafka的高可用(当leader节点挂了之后,kafka依然能提供服务)kafka提供了备份的功能。

Kafka的Replica

概念

kafka的replica指的是消息的备份,为了保证kafka的高可用(当leader节点挂了之后,kafka依然能提供服务)kafka提供了备份的功能。这个备份是针对partition的。

可以通过 default.replication.factor 对replica的数目进行配置,默认值为1,表示不对topic进行备份。如果配置为2,表示除了leader节点,对于topic里的每一个partition,都会有一个额外的备份。

replica分配

为了起到备份的效果,简单设想下,如果让我们来分配replica,我们会怎么分配?
1)replica与所备份的节点不能再一台机器上,否则就起不到备份的效果
2)replica尽量均匀的分布在集群机器上,如果replica全部都在某几台机器上,那么一旦这台机器挂了,会丢失多个partition的备份

假设有3个broker、一个topic1、topic1有3个partition,default.replication.factor被设置为2,可能会这样分配


img_7654f69f203c098f49c7054dc84fc1b9.png
简单的replica分配示意图(圆角矩形代表replica)

这种分配保证了,任何一台机器挂掉,kafka集群依然有备份可用。

replica分配算法

假设有5个broker,10个partitions,备份数设置为3

1、从一个集群的随机节点开始,轮询放置第一个replica

broker-0 broker-1 broker-2 broker-3 broker-4 replica
p0 p1 p2 p3 p4 1st replica
p5 p6 p7 p8 p9 1st replica

2、后面的replica增加一个偏移量,继续放置,比如这里的p0,从broker-0开始,下一个replica就从broker-1开始

broker-0 broker-1 broker-2 broker-3 broker-4 replica
p0(start) p1 p2 p3 p4 1st replica
p5(start) p6 p7 p8 p9 1st replica
p4 p0 (start) p1 p2 p3 2nd replica
p8 p9 p5(start) p6 p7 2nd replica
p3 p4 p0(start) p1 p2 3rd replica
p7 p8 p9 p5(start) p6 3rd replica

通过这种方式,replica尽可能的被均匀分配在多个broker上

多机房

上述方法,可以保证多个broker存在时,哪怕其中一个broker挂了,kafka依旧能提供服务。但是,当有多个机房时候,这种分配方式,不能保证,跨机房的高可用。

示例:4个broker,4个partition,每个partition有1个备份

img_02396440feae6ac94803a752265ab54a.png
备份(不考虑机房)

按照之前的算法,replica会按照上图所示设置备份。这样假设机房1因为某个原因挂掉了, partition0的数据就会丢失掉。同理,机房2挂了,partition2也会丢失掉。

replica分配算法考虑机房

kafka可以配置一个参数broker.rack说明当前broker在哪个机房。

如上图,配置
broker0 -> rack1
broker1 -> rack1
broker2 -> rack2
broker3 -> rack2

当进行replica排序时候,不会仅仅按照broker顺序进行排序,而是会保证机房错开。比如这种情况的排序可能是
broker0,broker2,broker1,broker3

这样子排序之后,再次按照上述replica分配算法分配。


img_c9baefe5fd0283d3d189d26558ba664d.png
replica分配(考虑不同机房)

这种分配方式,保证了不同机房之间拥有全部的topic,一个机房的数据挂掉,仍然有另一个机房的数据可以使用。(前提条件,replica数目大于或等于机房的数目)

总结

kafka通过replica分配的算法保证了当某台机器挂掉,甚至某个机房挂掉,依然有备份可用。这种分配备份的算法,可以套用在需要有备份的场景,比如hdfs(没研究过,不知道是不是一样的)。

参考资料

https://community.hortonworks.com/questions/71458/can-anyone-explain-kafka-rack-awareness-feature.html
kafka源码 kafka.admin.AdminUtils#assignReplicasToBrokers

目录
相关文章
|
4月前
|
消息中间件 存储 数据可视化
kafka高可用集群搭建
kafka高可用集群搭建
49 0
|
1月前
|
消息中间件 存储 负载均衡
【Kafka】Replica 的重要性
【4月更文挑战第11天】【Kafka】Replica 的重要性
|
1月前
|
消息中间件 存储 Kafka
【Kafka】Replica、Leader 和 Follower 三者的概念分析
【4月更文挑战第11天】【Kafka】Replica、Leader 和 Follower 三者的概念分析
|
1月前
|
消息中间件 存储 负载均衡
【Kafka】Kafka 的分区分配策略分析
【4月更文挑战第7天】【Kafka】Kafka 的分区分配策略分析
|
2月前
|
消息中间件 存储 Kafka
Kafka【环境搭建 02】kafka_2.11-2.4.1 基于 zookeeper 搭建高可用伪集群(一台服务器实现三个节点的 Kafka 集群)
【2月更文挑战第19天】Kafka【环境搭建 02】kafka_2.11-2.4.1 基于 zookeeper 搭建高可用伪集群(一台服务器实现三个节点的 Kafka 集群)
140 1
|
4月前
|
消息中间件 负载均衡 Kafka
Kafka - 3.x 分区分配策略及再平衡不完全指北
Kafka - 3.x 分区分配策略及再平衡不完全指北
90 0
|
5月前
|
消息中间件 存储 缓存
分布式实时消息队列Kafka(四)消费分配策略与存储机制
分布式实时消息队列Kafka(四)消费分配策略与存储机制
64 1
|
8月前
|
消息中间件 运维 算法
图解Kafka消费者客户端分区分配策略
图解Kafka消费者客户端分区分配策略
|
10月前
|
消息中间件 存储 监控
Kafka的高可用机制
Kafka是一个分布式流处理平台,提供高可用性和可靠性的消息传递机制。
145 0
|
10月前
|
消息中间件 存储 Kafka
Kafka的高可用机制
Kafka 提供了以下高可用机制来确保数据的持久性和故障恢复
201 0

热门文章

最新文章