开发者社区 > 大数据与机器学习 > 实时计算 Flink > 正文

flink on yarn的应用模式,我提交一个程序最少都要占用4G内存吗?

flink on yarn的应用模式,我提交一个程序最少都要占用4G内存吗?task manager占至少2G,job manager占2G。

展开
收起
真的很搞笑 2023-12-18 08:06:19 123 0
1 条回答
写回答
取消 提交回答
  • 面对过去,不要迷离;面对未来,不必彷徨;活在今天,你只要把自己完全展示给别人看。

    Flink on YARN的应用模式中,每个TaskManager的内存是由参数taskmanager.memory.process.size配置的。默认情况下,该参数的值是1GB。因此,如果你提交一个程序时没有显式地指定该参数的值,那么TaskManager将使用默认值1GB来启动。

    但是,需要注意的是,TaskManager在运行过程中可能会动态调整其内存使用量。例如,当TaskManager需要缓存大量的数据时,它可能会尝试增加其内存使用量。此外,如果TaskManager同时运行多个任务,则每个任务都需要一定的内存空间。因此,在实际使用中,TaskManager的内存使用量可能会超过1GB。

    总之,如果你提交一个程序时没有显式地指定TaskManager的内存大小,那么它将使用默认值1GB来启动。但是,由于各种原因,TaskManager的实际内存使用量可能会超过这个值。

    2023-12-18 14:35:08
    赞同 展开评论 打赏

实时计算Flink版是阿里云提供的全托管Serverless Flink云服务,基于 Apache Flink 构建的企业级、高性能实时大数据处理系统。提供全托管版 Flink 集群和引擎,提高作业开发运维效率。

相关产品

  • 实时计算 Flink版
  • 相关电子书

    更多
    云服务器ECS内存增强型实例re6全新发布 立即下载
    Docker on Yarn 微服务实践 立即下载
    深度学习+大数据-TensorFlow on Yarn 立即下载