开发者社区> 问答> 正文

Flink kafka Consumer的Timestamp Extraction的生成是什么意思?

Flink kafka Consumer的Timestamp Extraction的生成是什么意思?

展开
收起
游客qzzytmszf3zhq 2021-12-07 20:18:41 471 0
1 条回答
写回答
取消 提交回答
  • 我们知道当flink作业内使用EventTime属性时,需要指定从消息中提取时戳和生成水位的函数。FlinkKakfaConsumer构造的source后直接调用assignTimestampsAndWatermarks函数设置水位生成器的好处是此时是每个partition一个watermark assigner,如下图。source生成的睡戳为多个partition时戳对齐后的最小时戳。此时在一个source读取多个partition,并且partition之间数据时戳有一定差距的情况下,因为在source端watermark在partition级别有对齐,不会导致数据读取较慢partition数据丢失。

    2021-12-07 20:18:53
    赞同 展开评论 打赏
问答排行榜
最热
最新

相关电子书

更多
Flink CDC Meetup PPT - 龚中强 立即下载
Flink CDC Meetup PPT - 王赫 立即下载
Flink CDC Meetup PPT - 覃立辉 立即下载