开发者社区> 问答> 正文

flinksql 输出到kafka用的fixed的方式 结果都输出到一个topic分区了

rt*来自志愿者整理的flink邮件归档

展开
收起
小阿怪 2021-12-07 10:46:21 773 0
1 条回答
写回答
取消 提交回答
  • 当 sink 的并发 小于 kafka partition 个数,同时 sink 并发只有一个时,FixPartitioner 会导致只会往一个分区发数据。 详见 FixPartitioner[1] 的实现,其中 parallelInstanceId 表示 subtask 的 编号,从0开始;partitions.length 表示该 topic 的分区个数, 最后返回该 subtask 应该往哪个分区发数据。

    [1] https://github.com/apache/flink/blob/d00941c77170b233c9fe599c7fb0003778eb3299/flink-connectors/flink-connector-kafka/src/main/java/org/apache/flink/streaming/connectors/kafka/partitioner/FlinkFixedPartitioner.java#L75*来自志愿者整理的flink邮件归档

    2021-12-07 11:35:24
    赞同 展开评论 打赏
问答排行榜
最热
最新

相关电子书

更多
Java Spring Boot开发实战系列课程【第16讲】:Spring Boot 2.0 实战Apache Kafka百万级高并发消息中间件与原理解析 立即下载
MaxCompute技术公开课第四季 之 如何将Kafka数据同步至MaxCompute 立即下载
消息队列kafka介绍 立即下载