开发者社区> 问答> 正文

关于直接设置Watermark和flatmap后再设置的疑问

env.addSource(flinkKafkaConsumer).assignTimestampsAndWatermarks(...)

env.addSource(flinkKafkaConsumer).flatMap(...).assignTimestampsAndWatermarks(...);

使用kafka进行消费,直接设置Watermark和经过flatMap()以后再设置,会产生什么样的区别和影响。

flatMap可能会将数据处理为1-N条。那么在这种情况下,还能够保证kafka的精确一次吗? *来自志愿者整理的flink邮件归档

展开
收起
EXCEED 2021-12-08 11:37:06 1371 0
1 条回答
写回答
取消 提交回答
  • flatmap 逻辑中,你是否对消息记录的时间处理了吗,watermark 的更新的逻辑是比前一次 watermark 的时间截要大同时非空。 *来自志愿者整理的flink邮件归档

    2021-12-08 14:25:34
    赞同 展开评论 打赏
问答排行榜
最热
最新

相关电子书

更多
低代码开发师(初级)实战教程 立即下载
冬季实战营第三期:MySQL数据库进阶实战 立即下载
阿里巴巴DevOps 最佳实践手册 立即下载