开发者社区 > 大数据与机器学习 > 实时计算 Flink > 正文

Flink CDC订阅关系不断增加的表同步怎么做比较好?

Flink CDC订阅关系不断增加的表同步怎么做比较好,就是有两个表a,b,订阅字段为m,b订阅a的m=2的数据,就这一部分数据进行同步,以后订阅关系不断增加m=1,2,3,4.........这种不断变化的怎么做同步比较好?订阅关系增加m=4的时候,a表中可能存在m=4的历史数据,要保持a和b表在订阅关系上数据最终一致,image.png
这是那个包的问题?

展开
收起
真的很搞笑 2023-12-05 20:36:49 51 0
1 条回答
写回答
取消 提交回答
  • 面对过去,不要迷离;面对未来,不必彷徨;活在今天,你只要把自己完全展示给别人看。

    在处理订阅关系不断增加的表同步问题时,如A表和B表,其中B表订阅A表的m=2的数据,可以采用Flink CDC进行数据的实时同步。随着订阅关系不断增加,例如新增m=1,2,3,4等,你可以结合Flink SQL的方式来完成。需要注意的是,对于每增加一个订阅关系,就需要为这个关系启动一个新的作业,因为Flink CDC基于API的方式,无法在同一个作业中新增表。

    此外,Flink CDC在处理数据同步时,会先同步全量历史数据,然后无缝切换到同步增量数据。如果遇到新增的插入数据,会追加到实时一致性快照中;如果是更新的数据,则会在已有历史数据里做更新。因此,无论A表中是否存在新增订阅关系的历史数据,通过Flink CDC都能够保证A表和B表在订阅关系上的数据最终一致。

    同时,Flink CDC对分库分表做了非常完善的支持,在声明CDC表时支持使用正则表达式匹配库名和表名,这意味着可以匹配多个库以及这多个库下的多张表。所以无论数据库是mysql还是数据湖表,Flink CDC都可以很好地满足需求。

    2023-12-06 14:40:28
    赞同 展开评论 打赏

实时计算Flink版是阿里云提供的全托管Serverless Flink云服务,基于 Apache Flink 构建的企业级、高性能实时大数据处理系统。提供全托管版 Flink 集群和引擎,提高作业开发运维效率。

相关产品

  • 实时计算 Flink版
  • 相关电子书

    更多
    Flink CDC Meetup PPT - 龚中强 立即下载
    Flink CDC Meetup PPT - 王赫 立即下载
    Flink CDC Meetup PPT - 覃立辉 立即下载