Flink CDC有同学碰到过删除已经同步的表之后再创建这张表时,历史数据不同步的问题么?

Flink CDC有同学碰到过删除已经同步的表之后再创建这张表时,历史数据不同步的问题么?

展开
收起
真的很搞笑 2023-10-23 14:52:33 223 分享 版权
1 条回答
写回答
取消 提交回答
  • 是的,这是Flink CDC的一个已知问题。当表被删除并重创建时,Flink CDC无法恢复已经同步的数据。这是因为Flink CDC依赖于表的结构信息来解析数据,而当表被删除并重创建时,表的结构信息会发生改变,导致Flink CDC无法正确解析数据。

    目前,解决这个问题的一种方法是使用Flink CDC的"recovery mode"。在"recovery mode"下,Flink CDC会尝试从旧表中恢复数据,然后再从新表中同步数据。但是,这种方法并不能保证能够完全恢复所有的数据,特别是对于那些在旧表中被删除的数据。

    另一种可能的解决方案是使用Flink CDC的"incremental mode"。在"incremental mode"下,Flink CDC只会同步自上次同步以来发生的数据变化。但是,这种方法需要你确保你的数据在表被删除和重创建期间没有发生变化,否则可能会导致数据的不一致。

    2023-10-23 16:45:49
    赞同 展开评论

实时计算Flink版是阿里云提供的全托管Serverless Flink云服务,基于 Apache Flink 构建的企业级、高性能实时大数据处理系统。提供全托管版 Flink 集群和引擎,提高作业开发运维效率。

还有其他疑问?
咨询AI助理