开发者社区> 问答> 正文

flink消费kafka得问题

Hi all,请教一个问题,我起了两个一模一样得flink程序,消费得同一个topic使用的同一个group id。根据程序得运行情况看,两个程序可以同时获取kakfa得全量数据。但我想要得情况是每个flink程序只消费一半得数据,既同一个group id应该做组内竞争得关系。我应该配置什么吗?*来自志愿者整理的flink邮件归档

展开
收起
EXCEED 2021-12-08 13:50:55 1462 0
1 条回答
写回答
取消 提交回答
  • 参考文档里, 两个flink可以消费不同的partitions.

    Map<KafkaTopicPartition, Long> specificStartOffsets = new

    HashMap<>();specificStartOffsets.put(new

    KafkaTopicPartition("myTopic", 0), 23L);specificStartOffsets.put(new

    KafkaTopicPartition("myTopic", 1), 31L);specificStartOffsets.put(new

    KafkaTopicPartition("myTopic", 2), 43L);

    myConsumer.setStartFromSpecificOffsets(specificStartOffsets);*来自志愿者整理的flink邮件归档

    2021-12-08 14:35:55
    赞同 展开评论 打赏
问答排行榜
最热
最新

相关电子书

更多
Java Spring Boot开发实战系列课程【第16讲】:Spring Boot 2.0 实战Apache Kafka百万级高并发消息中间件与原理解析 立即下载
MaxCompute技术公开课第四季 之 如何将Kafka数据同步至MaxCompute 立即下载
消息队列kafka介绍 立即下载