开发者社区> 问答> 正文

Flink Client DAG是什么?

Flink Client DAG是什么?

展开
收起
芯在这 2021-12-12 11:41:44 325 0
1 条回答
写回答
取消 提交回答
  • 主要分了 5 部分,

    第一部分是 Kafka Streaming Source,主要用来接收Kafka数据并转换成 List 。

    第二个是 InstantGeneratorOperator,一个 Flink 算子, 用来生成全局唯一的 instant。

    第三是 KeyBy 分区操作,根据 partitionPath 分区避免多个子任务将数据写入同一个分区造成冲突。

    第四个是 WriteProcessOperator,这也是我们自定义的一个算子。这个算子是写操作实际发生的地方。

    第五个是 CommitSink,他会接受上游 WriteProcessOperator 发来的数据,根据上游数据判断是否提交事务。 image.png

    2021-12-12 11:42:20
    赞同 展开评论 打赏
问答排行榜
最热
最新

相关电子书

更多
Flink CDC Meetup PPT - 龚中强 立即下载
Flink CDC Meetup PPT - 王赫 立即下载
Flink CDC Meetup PPT - 覃立辉 立即下载