开发者社区 > 大数据与机器学习 > 实时计算 Flink > 正文

Flink CDC里全量阶段,heap内存一直涨,其他大部分是默认可能的原因会是啥呢?

Flink CDC里source:mysql(3kw左右数据)->sink:clickhouse,全量阶段,heap内存一直涨,最后导致pod oomkilled参数:replicas: 1,"parallelism.default", "1",其他大部分是默认可能的原因会是啥呢?6baa8285af7d8d73ca87f341c6428f5d.png2036deed6b8089a59d82a9e96d793bd4.pngd9b25ebb1d0f4b39d0d7a65e07daa716.png47bdcc23e1958c7d0a8177b32b729fbb.png

展开
收起
小小鹿鹿鹿 2024-02-01 16:13:26 96 0
2 条回答
写回答
取消 提交回答
  • 面对过去,不要迷离;面对未来,不必彷徨;活在今天,你只要把自己完全展示给别人看。

    可能的原因有以下几点:

    1. 数据量过大,导致内存占用持续增加。你可以尝试分批次处理数据,每次处理一部分数据,避免一次性加载所有数据到内存中。

    2. 没有正确地释放内存。在处理完数据后,确保及时释放不再使用的内存。可以使用Python的gc.collect()手动触发垃圾回收。

    3. 检查是否存在内存泄漏。如果代码中存在内存泄漏,可能导致内存持续增加。可以使用内存分析工具(如Python的memory_profiler)来检查代码中的内存使用情况。

    4. 考虑增加Pod的内存限制。如果确实需要处理大量数据,可以考虑增加Pod的内存限制,以避免OOM(内存不足)的问题。但这种方法只是治标不治本,最好还是优化代码以减少内存使用。

    2024-02-02 14:36:45
    赞同 展开评论 打赏
  • 并行度调高点试试 是不是积压了。d499c19dd4b04977d8f38edaaa65510a.png此回答来自钉群Flink CDC 社区。

    2024-02-01 18:18:27
    赞同 展开评论 打赏

实时计算Flink版是阿里云提供的全托管Serverless Flink云服务,基于 Apache Flink 构建的企业级、高性能实时大数据处理系统。提供全托管版 Flink 集群和引擎,提高作业开发运维效率。

相关产品

  • 实时计算 Flink版
  • 相关电子书

    更多
    Flink CDC Meetup PPT - 龚中强 立即下载
    Flink CDC Meetup PPT - 王赫 立即下载
    Flink CDC Meetup PPT - 覃立辉 立即下载