开发者社区> 问答> 正文

Flink kafka Consumer的Timestamp Extraction的生成是什么意思?

Flink kafka Consumer的Timestamp Extraction的生成是什么意思?

展开
收起
游客qzzytmszf3zhq 2021-12-07 20:18:41 491 0
1 条回答
写回答
取消 提交回答
  • 我们知道当flink作业内使用EventTime属性时,需要指定从消息中提取时戳和生成水位的函数。FlinkKakfaConsumer构造的source后直接调用assignTimestampsAndWatermarks函数设置水位生成器的好处是此时是每个partition一个watermark assigner,如下图。source生成的睡戳为多个partition时戳对齐后的最小时戳。此时在一个source读取多个partition,并且partition之间数据时戳有一定差距的情况下,因为在source端watermark在partition级别有对齐,不会导致数据读取较慢partition数据丢失。

    2021-12-07 20:18:53
    赞同 展开评论 打赏
问答排行榜
最热
最新

相关电子书

更多
Java Spring Boot开发实战系列课程【第16讲】:Spring Boot 2.0 实战Apache Kafka百万级高并发消息中间件与原理解析 立即下载
MaxCompute技术公开课第四季 之 如何将Kafka数据同步至MaxCompute 立即下载
消息队列kafka介绍 立即下载