开发者社区 > 大数据与机器学习 > 实时计算 Flink > 正文

Flink CDC我们也有遇到,后面把作业包的依赖放到lib后提交一次作业增加很少了?

Flink CDC我们也有遇到,meataspace是持续增加,每提交一次作业增加20M;后面把作业包的依赖放到lib后提交一次作业增加很少了?

展开
收起
真的很搞笑 2023-10-23 14:33:47 41 0
2 条回答
写回答
取消 提交回答
  • 打个镜像就好了,所有依赖打个镜像,此回答整理自钉群“Flink CDC 社区”

    2023-10-24 08:11:17
    赞同 展开评论 打赏
  • 这个情况看起来像是你的Flink Job在执行过程中产生了大量的临时数据,这些临时数据被存储在Metaspace中,导致了Metaspace的持续增长。

    Metaspace是Java虚拟机用于存储类元数据、字段和方法数据、以及一些常量池的区域。如果你的Flink Job在执行过程中频繁地创建和销毁对象,或者频繁地加载和卸载类,那么这些操作可能会产生大量的临时数据,从而导致Metaspace的增长。

    将作业的依赖放在lib目录下可以减少JVM在运行时需要加载的类和资源的数量,从而减少Metaspace的使用。这是因为Flink Job在执行过程中会动态地加载许多类和资源,而这些资源和类通常都在lib目录下的jar文件中。

    然而,这只是一个可能的解释。实际上,Metaspace的增长可能由多种因素引起,包括JVM参数设置、Flink Job的实现方式、以及硬件资源限制等。为了更准确地找出问题的原因,你可能需要进行一些性能分析和调优工作。

    2023-10-23 16:41:38
    赞同 展开评论 打赏

实时计算Flink版是阿里云提供的全托管Serverless Flink云服务,基于 Apache Flink 构建的企业级、高性能实时大数据处理系统。提供全托管版 Flink 集群和引擎,提高作业开发运维效率。

相关产品

  • 实时计算 Flink版
  • 热门讨论

    热门文章

    相关电子书

    更多
    Flink CDC Meetup PPT - 龚中强 立即下载
    Flink CDC Meetup PPT - 王赫 立即下载
    Flink CDC Meetup PPT - 覃立辉 立即下载