flinkcdc在同步分库分表的时候,如果在flinkcdc里面只声明mysql,数据会是正确的吗?

请教各位,flinkcdc在同步分库分表的时候,mysql的primary key在每个库/表里面会重复。此时,如果在flinkcdc里面只声明mysql的primary key,数据会是正确的吗?特别是开启scan.incremental.snapshot.enabled的情况下,数据还正确吗?如果不正确,cdc的pk应该声明成什么?

展开
收起
wenti 2023-01-29 18:08:19 197 分享 版权
1 条回答
写回答
取消 提交回答
  • 否,在 Flink CDC 中只声明 MySQL 时,如果同步分库分表,数据将不正确。

    Flink CDC 需要知道分库分表的信息,以便正确读取和处理数据。如果在 Flink CDC 配置中只声明 MySQL,而不指定分库分表信息,则 Flink CDC 将把所有数据库的所有表都当作一个表来处理,这会导致数据不正确。

    2024-02-27 17:40:50
    赞同 展开评论

实时计算Flink版是阿里云提供的全托管Serverless Flink云服务,基于 Apache Flink 构建的企业级、高性能实时大数据处理系统。提供全托管版 Flink 集群和引擎,提高作业开发运维效率。

收录在圈子:
实时计算 Flink 版(Alibaba Cloud Realtime Compute for Apache Flink,Powered by Ververica)是阿里云基于 Apache Flink 构建的企业级、高性能实时大数据处理系统,由 Apache Flink 创始团队官方出品,拥有全球统一商业化品牌,完全兼容开源 Flink API,提供丰富的企业级增值功能。
还有其他疑问?
咨询AI助理