开发者社区 > 大数据与机器学习 > 实时计算 Flink > 正文

Flink CDC的source 多并发 会有时序问题吗?如何解决?

Flink CDC的source 多并发 会有时序问题吗?如何解决?增量数据呢,不是历史的,通过正则匹配 配了多张表 会有时序问题吗?分库分表以后 每个库有自己的 log

展开
收起
真的很搞笑 2023-12-05 20:36:49 60 0
2 条回答
写回答
取消 提交回答
  • 面对过去,不要迷离;面对未来,不必彷徨;活在今天,你只要把自己完全展示给别人看。

    Flink CDC的source多并发可能会导致时序问题,因为多个并行的source同时读取binlog,可能会出现数据重复或者丢失的情况。为了解决这个问题,可以使用以下方法:

    1. 使用分布式事务:在写入Hudi表之前,可以先将数据写入一个共享的缓冲区(如Kafka),然后使用分布式事务确保数据的一致性和完整性。

    2. 使用Watermark:在处理数据流时,可以使用Watermark来标记已经处理过的事件的时间戳。这样,在出现延迟的情况下,可以跳过已经处理过的事件,避免时序问题。

    对于增量数据,如果通过正则匹配配了多张表,也可能会出现时序问题。解决方法与上述类似,可以使用分布式事务或者Watermark来确保数据的一致性和完整性。

    2023-12-06 14:40:27
    赞同 展开评论 打赏
  • 历史数据不需要考虑这个问题,增量数据都是1 ,此回答整理自钉群“Flink CDC 社区”

    2023-12-06 13:29:52
    赞同 展开评论 打赏

实时计算Flink版是阿里云提供的全托管Serverless Flink云服务,基于 Apache Flink 构建的企业级、高性能实时大数据处理系统。提供全托管版 Flink 集群和引擎,提高作业开发运维效率。

相关产品

  • 实时计算 Flink版
  • 相关电子书

    更多
    Flink CDC Meetup PPT - 龚中强 立即下载
    Flink CDC Meetup PPT - 王赫 立即下载
    Flink CDC Meetup PPT - 覃立辉 立即下载