Flink CDC订阅关系不断增加的表同步怎么做比较好,就是有两个表a,b,订阅字段为m,b订阅a的m=2的数据,就这一部分数据进行同步,以后订阅关系不断增加m=1,2,3,4.........这种不断变化的怎么做同步比较好?订阅关系增加m=4的时候,a表中可能存在m=4的历史数据,要保持a和b表在订阅关系上数据最终一致,
这是那个包的问题?
在处理订阅关系不断增加的表同步问题时,如A表和B表,其中B表订阅A表的m=2的数据,可以采用Flink CDC进行数据的实时同步。随着订阅关系不断增加,例如新增m=1,2,3,4等,你可以结合Flink SQL的方式来完成。需要注意的是,对于每增加一个订阅关系,就需要为这个关系启动一个新的作业,因为Flink CDC基于API的方式,无法在同一个作业中新增表。
此外,Flink CDC在处理数据同步时,会先同步全量历史数据,然后无缝切换到同步增量数据。如果遇到新增的插入数据,会追加到实时一致性快照中;如果是更新的数据,则会在已有历史数据里做更新。因此,无论A表中是否存在新增订阅关系的历史数据,通过Flink CDC都能够保证A表和B表在订阅关系上的数据最终一致。
同时,Flink CDC对分库分表做了非常完善的支持,在声明CDC表时支持使用正则表达式匹配库名和表名,这意味着可以匹配多个库以及这多个库下的多张表。所以无论数据库是mysql还是数据湖表,Flink CDC都可以很好地满足需求。
版权声明:本文内容由阿里云实名注册用户自发贡献,版权归原作者所有,阿里云开发者社区不拥有其著作权,亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容,填写侵权投诉表单进行举报,一经查实,本社区将立刻删除涉嫌侵权内容。
实时计算Flink版是阿里云提供的全托管Serverless Flink云服务,基于 Apache Flink 构建的企业级、高性能实时大数据处理系统。提供全托管版 Flink 集群和引擎,提高作业开发运维效率。