面试题Kafka问题之Kafka保证系统的可用性如何解决

本文涉及的产品
服务治理 MSE Sentinel/OpenSergo,Agent数量 不受限
注册配置 MSE Nacos/ZooKeeper,118元/月
云原生网关 MSE Higress,422元/月
简介: 面试题Kafka问题之Kafka保证系统的可用性如何解决

问题一:Kafka如何保证系统的可用性?


Kafka如何保证系统的可用性?


参考回答:

Kafka通过多副本机制来保证系统的可用性。在创建Topic时,可以指定--replication-factor参数来设置副本数,例如设置为3表示每个分区都有3个副本。在Kafka中,只有Leader是负责读写的节点,Follower会定期从Leader上Pull数据以保持同步。ISR是Leader负责维护的与其保持同步的Replica列表。如果一个Follower落后太多,Leader会将它从ISR中移除。此外,通过设置acks=all,可以确保Leader在收到ISR中所有Replica的ACK后才向Producer发送ACK,从而进一步保证数据的可靠性和系统的可用性。


关于本问题的更多问答可点击原文查看:

https://developer.aliyun.com/ask/628393



问题二:ZooKeeper 的作用?详细说一下


ZooKeeper 的作用?详细说一下


参考回答:

目前,Kafka 使用 ZooKeeper 存放集群元数据、成员管理、Controller 选举,以及其他一些管理类任务。之后,等 KIP-500 提案完成后,Kafka 将完全不再依赖于 ZooKeeper。

• 存放元数据是指主题分区的所有数据都保存在 ZooKeeper 中,其他“人”都要与它保持对齐。

• 成员管理是指 Broker 节点的注册、注销以及属性变更等 。

• Controller 选举是指选举集群 Controller,包括但不限于主题删除、参数配置等。

一言以蔽之:KIP-500 ,是使用社区自研的基于 Raft 的共识算法,实现 Controller 自选举。

同样是存储元数据,这几年基于Raft算法的etcd认可度越来越高。

越来越多的系统开始用它保存关键数据。比如,秒杀系统经常用它保存各节点信息,以便控制消费 MQ 的服务数量。还有些业务系统的配置数据,也会通过 etcd 实时同步给业务系统的各节点,比如,秒杀管理后台会使用 etcd 将秒杀活动的配置数据实时同步给秒杀 API 服务各节点。


关于本问题的更多问答可点击原文查看:

https://developer.aliyun.com/ask/628394



问题三:Replica副本的作用?


Replica副本的作用?


参考回答:

Kafka 只有 Leader 副本才能 对外提供读写服务,响应 Clients 端的请求。Follower 副本只是采用拉(PULL)的方 式,被动地同步 Leader 副本中的数据,并且在 Leader 副本所在的 Broker 宕机后,随时准备应聘 Leader 副本。

• 自 Kafka 2.4 版本开始,社区可以通过配置参数,允许 Follower 副本有限度地提供读服务。

• 之前确保一致性的主要手段是高水位机制, 但高水位值无法保证 Leader 连续变更场景下的数据一致性,因此,社区引入了 Leader Epoch 机制,来修复高水位值的弊端。


关于本问题的更多问答可点击原文查看:

https://developer.aliyun.com/ask/628395



问题四:为什么Kafka不支持读写分离?


为什么Kafka不支持读写分离?


参考回答:

• 自 Kafka 2.4 之后,Kafka 提供了有限度的读写分离。

• 场景不适用。读写分离适用于那种读负载很大,而写操作相对不频繁的场景。

• 同步机制。Kafka 采用 PULL 方式实现 Follower 的同步,同时复制延迟较大。


关于本问题的更多问答可点击原文查看:

https://developer.aliyun.com/ask/628396



问题五:如何防止Kafka重复消费?


如何防止Kafka重复消费?


参考回答:

• 代码层面每次消费需提交offset;

• 通过Mysql的唯一键约束,结合Redis查看id是否被消费,存Redis可以直接使用set方法;

• 量大且允许误判的情况下,使用布隆过滤器也可以。


关于本问题的更多问答可点击原文查看:

https://developer.aliyun.com/ask/628400

相关文章
|
2月前
|
消息中间件 存储 负载均衡
Kafka面试题及答案
Kafka面试题及答案
|
3天前
|
消息中间件 JSON 大数据
大数据-65 Kafka 高级特性 分区 Broker自动再平衡 ISR 副本 宕机恢复再重平衡 实测
大数据-65 Kafka 高级特性 分区 Broker自动再平衡 ISR 副本 宕机恢复再重平衡 实测
19 4
|
3天前
|
消息中间件 SQL 分布式计算
大数据-74 Kafka 高级特性 稳定性 - 控制器、可靠性 副本复制、失效副本、副本滞后 多图一篇详解
大数据-74 Kafka 高级特性 稳定性 - 控制器、可靠性 副本复制、失效副本、副本滞后 多图一篇详解
13 2
|
10天前
|
C语言
经典面试题:嵌入式系统中经常要用到无限循环,怎么样用C编写死循环呢
在嵌入式系统开发中,无限循环常用于持续运行特定任务或监听事件。使用C语言实现死循环很简单,可以通过`while(1)`或`for(;;)`的结构来编写。例如:`while (1) { /* 循环体代码 */ }`,这种写法明确简洁,适用于需要持续执行的任务或等待中断的场景。
|
13天前
|
存储 消息中间件 缓存
系统设计面试参考-设计Spotify系统
【10月更文挑战第4天】支持用户将自己喜欢的音乐、专辑、播放列表等分享到社交媒体平台,如 Facebook、Twitter、Instagram 等。分享内容可以包括音乐链接、封面图片、简介等信息,吸引更多的用户来使用 Spotify 系统。同时,系统可以跟踪分享的效果,如点击量、转化率等,以便评估社交分享对系统推广的贡献。
|
1天前
|
消息中间件 存储 Kafka
面试题:Kafka如何保证高可用?有图有真相
面试题:Kafka如何保证高可用?有图有真相
|
2月前
|
消息中间件 算法 Java
面试官:Kafka中的key有什么用?
面试官:Kafka中的key有什么用?
72 3
面试官:Kafka中的key有什么用?
|
2月前
|
分布式计算 搜索推荐 物联网
大数据及AI典型场景实践问题之通过KafKa+OTS+MaxCompute完成物联网系统技术重构如何解决
大数据及AI典型场景实践问题之通过KafKa+OTS+MaxCompute完成物联网系统技术重构如何解决
|
2月前
|
消息中间件 存储 Kafka
ZooKeeper助力Kafka:掌握这四大作用,让你的消息队列系统稳如老狗!
【8月更文挑战第24天】Kafka是一款高性能的分布式消息队列系统,其稳定运行很大程度上依赖于ZooKeeper提供的分布式协调服务。ZooKeeper在Kafka中承担了四大关键职责:集群管理(Broker的注册与选举)、主题与分区管理、领导者选举机制以及消费者组管理。通过具体的代码示例展示了这些功能的具体实现方式。
64 2
|
2月前
|
消息中间件 监控 Kafka
Filebeat+Kafka+Logstash+Elasticsearch+Kibana 构建日志分析系统
【8月更文挑战第13天】Filebeat+Kafka+Logstash+Elasticsearch+Kibana 构建日志分析系统
112 3