开发者社区 问答 正文

FlinkKafkaConsumer如何在不重启作业情况下动态感知新扩容的partition

已解决

FlinkKafkaConsumer如何在不重启作业情况下动态感知新扩容的partition

展开
收起
提个问题 2024-05-30 12:02:18 40 分享 版权
1 条回答
写回答
取消 提交回答
  • 开发者社区问答官方账号
    官方回答
    采纳回答
    需要在构建FlinkKafkaConsumer时的properties中设置 flink.partition-discovery.interval-millis参数为非负值,表示开启动态发现的开关,以及设置的时间间隔。此时 FlinkKafkaConsumer内部会启动一个单独的线程定期去kafka获取最新的meta信息。 为了保证数据的正确性,新发现的partition从最早的位置开始读取。
    2024-05-30 12:02:19
    赞同 展开评论