开发者社区 > 大数据与机器学习 > 实时计算 Flink > 正文

Flink CDC全量同步阶段的时候, chunk size 是计算所有表的吗?

Flink CDC全量同步阶段的时候, chunk size 是计算所有表的吗. 看了日志, 还没算完直接OOM了?

展开
收起
真的很搞笑 2023-09-20 13:17:48 99 0
1 条回答
写回答
取消 提交回答
  • Flink CDC 全量同步阶段的 chunk size 不是计算所有表的。Flink CDC 会为每个表单独计算 chunk size。chunk size 的大小取决于表的大小和数据的更新频率。

    如果表比较小,并且数据更新频率比较高,那么 chunk size 可以设置得比较小。这样,Flink CDC 可以更频繁地扫描表,从而保证数据的一致性。

    如果表比较大,并且数据更新频率比较低,那么 chunk size 可以设置得比较大。这样,Flink CDC 可以减少对表的扫描次数,从而提高性能。

    您可以根据自己的实际情况来调整 chunk size 的大小。建议您先从一个较小的值开始,然后逐步调整,直到找到最适合您的情况的值。

    2023-10-19 09:45:00
    赞同 展开评论 打赏

实时计算Flink版是阿里云提供的全托管Serverless Flink云服务,基于 Apache Flink 构建的企业级、高性能实时大数据处理系统。提供全托管版 Flink 集群和引擎,提高作业开发运维效率。

相关产品

  • 实时计算 Flink版
  • 热门讨论

    热门文章

    相关电子书

    更多
    Flink CDC Meetup PPT - 龚中强 立即下载
    Flink CDC Meetup PPT - 王赫 立即下载
    Flink CDC Meetup PPT - 覃立辉 立即下载