开发者社区 > 大数据与机器学习 > 实时计算 Flink > 正文

Flink CDC用mysql-cdc做多表的 全量+增量 同步,请问这正常吗?

Flink CDC用mysql-cdc做多表的 全量+增量 同步,发现任务完成全量进入增量同步后,所使用的内存空间并没有下降(我以为进入增量阶段内存使用会下降)。请问这正常吗?

展开
收起
cuicuicuic 2023-12-11 13:42:50 58 0
2 条回答
写回答
取消 提交回答
  • 面对过去,不要迷离;面对未来,不必彷徨;活在今天,你只要把自己完全展示给别人看。

    Flink CDC在全量同步和增量同步过程中对内存的使用情况可能会有所不同。在全量同步阶段,为了读取源数据库中的全部数据,可能需要占用较大的内存空间。而进入增量同步阶段后,由于只需要处理变化的数据,所以理论上内存使用应该会有所下降。

    然而,你观察到的内存使用并未下降可能与多个因素有关。首先,Flink CDC的实现机制可能会影响到内存的使用。例如,如果在全量同步阶段未能有效地释放不再需要的内存资源,或者增量同步阶段的数据处理方式导致了额外的内存消耗,那么即使在增量同步阶段,内存使用也可能会维持在较高水平。其次,具体的任务配置和数据特性也可能对内存使用产生影响。如果任务设置中包含了某些会增加内存消耗的参数,或者要同步的数据本身具有较高的复杂性,那么内存使用就可能会在增量同步阶段仍然保持较高。

    2023-12-12 15:46:27
    赞同 展开评论 打赏
  • 这是正常的,但是你可以配在增量阶段配置空闲reader关闭 ,此回答整理自钉群“Flink CDC 社区”

    2023-12-11 22:12:35
    赞同 展开评论 打赏

实时计算Flink版是阿里云提供的全托管Serverless Flink云服务,基于 Apache Flink 构建的企业级、高性能实时大数据处理系统。提供全托管版 Flink 集群和引擎,提高作业开发运维效率。

相关产品

  • 实时计算 Flink版
  • 相关电子书

    更多
    Flink CDC Meetup PPT - 龚中强 立即下载
    Flink CDC Meetup PPT - 王赫 立即下载
    Flink CDC Meetup PPT - 覃立辉 立即下载