开发者社区> 问答> 正文

kafka unclean 配置代表什么,会对 spark streaming 消费有什么影响?

kafka unclean 配置代表什么,会对 spark streaming 消费有什么影响?

展开
收起
芯在这 2021-12-12 09:04:34 421 0
1 条回答
写回答
取消 提交回答
  • unclean.leader.election.enable 为true的话,意味着非ISR集合的broker 也可以参与选举,这样有可能就会丢数据,spark streaming在消费过程中拿到的 end offset 会突然变小,导致 spark streaming job挂掉。如果unclean.leader.election.enable参数设置为true,就有可能发生数据丢失和数据不一致的情况,Kafka的可靠性就会降低;而如果unclean.leader.election.enable参数设置为false,Kafka的可用性就会降低。

    2021-12-12 09:06:42
    赞同 展开评论 打赏
问答排行榜
最热
最新

相关电子书

更多
Hybrid Cloud and Apache Spark 立即下载
Scalable Deep Learning on Spark 立即下载
Comparison of Spark SQL with Hive 立即下载