开发者社区 > 大数据与机器学习 > 实时计算 Flink > 正文

求助Flink CDC开窗,分组汇聚,ckp越来越大,需要配置啥参数么,除了配置ttl,ttl没用?

求助Flink CDC开窗,分组汇聚,ckp越来越大,需要配置啥参数么,除了配置ttl,ttl没用addcca3e2a6bd533d8654042ed4e09b0.jpg

展开
收起
真的很搞笑 2023-08-22 17:01:04 81 0
1 条回答
写回答
取消 提交回答
  • 在使用Flink CDC进行开窗分组汇聚时,可以考虑以下配置:

    将数据量大的表拆分为多个表,并在每个表上进行分组汇聚。这样可以减少每个表的数据量,减轻ckp的压力。
    对于数据量特别大的表,可以考虑使用离线计算的方式进行处理,例如使用Hadoop或Spark等大数据处理框架进行离线汇聚。
    通过设置分组的粒度,可以减少开窗过程中产生的数据量。例如,可以设置分组的粒度为一天或一周,这样就可以减少数据量,减少ckp的压力。
    对于ckp文件过大,可以考虑使用分片的方式进行存储。例如,可以将ckp文件分成多个子文件,这样每个子文件都不会过大,可以方便地进行管理和传输。
    通过设置CKP的滚动时间窗口,可以减少ckp文件的大小。例如,可以设置滚动时间窗口为一天,这样就可以将一天内的数据保存在一个ckp文件中,减少ckp文件的大小。
    除了配置ttl,还可以通过调整上述参数来优化ckp文件的大小,减少ckp存储空间和传输压力。

    2023-09-19 10:50:14
    赞同 展开评论 打赏

实时计算Flink版是阿里云提供的全托管Serverless Flink云服务,基于 Apache Flink 构建的企业级、高性能实时大数据处理系统。提供全托管版 Flink 集群和引擎,提高作业开发运维效率。

相关产品

  • 实时计算 Flink版
  • 相关电子书

    更多
    Flink CDC Meetup PPT - 龚中强 立即下载
    Flink CDC Meetup PPT - 王赫 立即下载
    Flink CDC Meetup PPT - 覃立辉 立即下载