开发者社区 > 大数据与机器学习 > 实时计算 Flink > 正文

Flink CDC只关联一张cdc维表checkpoint不会越来越大,这个是什么情况?

Flink CDC只关联一张cdc维表checkpoint不会越来越大,实际上还是会越来越大,这个是什么情况?

展开
收起
真的很搞笑 2023-10-04 07:42:41 102 0
2 条回答
写回答
取消 提交回答
  • 通常是为了减少数据处理的复杂性,使得数据处理更加简单。但是,这并不意味着Checkpoint不会越来越大。
    Checkpoint是Flink在处理数据时保存的一种状态,用于恢复任务的执行状态。在Flink CDC中,每次处理数据时,都需要将处理的结果保存到Checkpoint中。如果只关联一张CDC维表,那么每次处理数据时,需要保存的Checkpoint数据就会减少。但是,由于Flink CDC需要处理的数据量通常较大,因此随着时间的推移,Checkpoint的大小仍然可能会越来越大。

    2023-10-12 17:49:18
    赞同 展开评论 打赏
  • 没设置ttl吧,我一张cdc,两张维表,我ckp一直就没大过image.png
    ,改成jdbc链接就行了,jdbc也可以拉缓存到内存,除非pgsql这张表特别大,此回答整理自钉群“Flink CDC 社区”

    2023-10-04 08:08:43
    赞同 展开评论 打赏

实时计算Flink版是阿里云提供的全托管Serverless Flink云服务,基于 Apache Flink 构建的企业级、高性能实时大数据处理系统。提供全托管版 Flink 集群和引擎,提高作业开发运维效率。

相关产品

  • 实时计算 Flink版
  • 相关电子书

    更多
    Flink CDC Meetup PPT - 龚中强 立即下载
    Flink CDC Meetup PPT - 王赫 立即下载
    Flink CDC Meetup PPT - 覃立辉 立即下载