开发者社区 > 大数据与机器学习 > 实时计算 Flink > 正文

请问flink cdc 中oracle cdc在表快照期间是不是不能创建checkpoint?

请问flink cdc 中oracle cdc在表快照期间是不是不能创建checkpoint?我看checkpoint文件夹子里面是空的而且数量太大的话还会oom。

展开
收起
十一0204 2023-07-19 16:02:33 44 0
2 条回答
写回答
取消 提交回答
  • 北京阿里云ACE会长

    在 Flink CDC 中,如果您使用的是 Oracle CDC,那么在表快照期间是不能创建 checkpoint 的。这是由于在表快照期间,Oracle CDC 会对指定的表进行全量同步,以获取当前表中的所有数据。在全量同步期间,Flink CDC 会暂停数据捕获和处理,直到全量同步完成。如果此时创建 checkpoint,就会导致 Flink CDC 状态和 offset 的不一致,从而影响数据捕获和处理的正确性。

    因此,在 Oracle CDC 进行表快照期间,Flink CDC 会自动禁用 checkpoint。具体来说,Flink CDC 会在启动时检查当前是否处于表快照期间,如果是,则会自动将 checkpoint 的间隔时间设置为 -1,即禁用 checkpoint。等到表快照完成后,Flink CDC 会自动恢复 checkpoint 的间隔时间,以便进行正常的 checkpoint。

    2023-07-29 21:10:13
    赞同 展开评论 打赏
  • 意中人就是我呀!

    我这边是不生成的 不知道新版本怎么样。是的 我都不敢用他的这个快照 大表速度也很慢 都是自己离线初始化 。此回答整理至钉群“Flink CDC 社区”。

    2023-07-19 17:22:35
    赞同 展开评论 打赏

实时计算Flink版是阿里云提供的全托管Serverless Flink云服务,基于 Apache Flink 构建的企业级、高性能实时大数据处理系统。提供全托管版 Flink 集群和引擎,提高作业开发运维效率。

相关产品

  • 实时计算 Flink版
  • 相关电子书

    更多
    Flink CDC Meetup PPT - 覃立辉 立即下载
    Flink CDC Meetup PPT - 孙家宝 立即下载
    Flink CDC Meetup PPT - 徐榜江 立即下载

    相关镜像