开发者社区 > 大数据与机器学习 > 实时计算 Flink > 正文

flink部署yarn模式,怎么实现峰谷动态并行度扩容缩容?

flink部署yarn模式,怎么实现峰谷动态并行度扩容缩容?

展开
收起
真的很搞笑 2023-12-25 08:07:29 183 0
1 条回答
写回答
取消 提交回答
  • 在Flink中,通过YARN模式进行峰谷动态并行度扩容缩容可以使用 Flink 自带的动态调优功能。以下是一般的步骤:

    配置 Flink YARN 集群: 确保 Flink 集群已正确配置以在 YARN 上运行。你可以通过 Flink 的 flink-conf.yaml 文件进行配置,确保正确设置了 YARN 相关的参数,例如 yarn.application.name、yarn.application.queue 等。

    配置动态调优参数: 在 Flink 1.11 版本及以上,引入了动态调优功能。你可以通过以下配置来启用和配置动态调优:

    yaml
    Copy code
    jobmanager.dynamic-adjustment: true
    jobmanager.dynamic-adjustment.target: <目标并行度>
    jobmanager.dynamic-adjustment.scaling-up-operators: <逗号分隔的运算符 ID 列表>
    jobmanager.dynamic-adjustment.scaling-down-operators: <逗号分隔的运算符 ID 列表>
    jobmanager.dynamic-adjustment 启用或禁用动态调优。
    jobmanager.dynamic-adjustment.target 设置目标并行度。
    jobmanager.dynamic-adjustment.scaling-up-operators 和 jobmanager.dynamic-adjustment.scaling-down-operators 分别是需要扩容和缩容的运算符列表。
    启动 Flink 作业: 提交作业到 YARN 集群并监控其性能。

    监控和调整: Flink 提供了 Web UI 和 REST API,用于监控作业的性能。你可以通过这些界面来查看运算符的状态、吞吐量等信息。基于监控信息,系统会自动进行动态调整,也可以手动调整作业的并行度。

    请注意,确保 Flink 版本是支持动态调优功能的,并仔细阅读相关版本的文档,因为这些功能可能在不同的版本中有所不同。

    2023-12-25 08:53:16
    赞同 展开评论 打赏

实时计算Flink版是阿里云提供的全托管Serverless Flink云服务,基于 Apache Flink 构建的企业级、高性能实时大数据处理系统。提供全托管版 Flink 集群和引擎,提高作业开发运维效率。

相关产品

  • 实时计算 Flink版
  • 相关电子书

    更多
    深度学习+大数据 TensorFlow on Yarn 立即下载
    Docker on Yarn 微服务实践 立即下载
    深度学习+大数据-TensorFlow on Yarn 立即下载