开发者社区 > 大数据与机器学习 > 实时计算 Flink > 正文

Flink CDC yarn-per 模式提交flink任务,这个是什么情况?

Flink CDC yarn-per 模式提交flink任务,yarn上会给定一个application_id和url地址。但是我发现这个url地址某个时刻改变了,对应的job的启动时间也变了。感觉像是容器切换了,这个是什么情况?

展开
收起
真的很搞笑 2023-10-22 22:46:00 39 0
3 条回答
写回答
取消 提交回答
  • 在Flink CDC Yarn-per模式中,Yarn会为每个Flink任务分配一个单独的容器,并为每个容器分配一个唯一的application_id和url地址。当Yarn调度器需要重新分配资源或重启任务时,可能会导致这些application_id和url地址的变化。当application_id和url地址发生变化时,通常意味着Yarn调度器已经重新分配了资源或重启了任务。这可能是由于以下几种原因:

    1. 资源不足:当Yarn集群中的资源不足时,Yarn调度器可能会重新分配资源或重启任务,以优化资源使用。
    2. 任务失败:当Flink任务失败时,Yarn调度器可能会重新启动任务,以确保任务的成功运行。
    3. 调度策略更改:当Yarn调度策略更改时,可能会导致application_id和url地址的变化。
      当application_id和url地址发生变化时,您需要确保您的应用程序可以正确地处理这些变化。例如,您可以使用URL重定向或应用程序状态管理机制来处理这些变化。
      需要注意的是,不同的Yarn集群可能需要不同的方法来处理application_id和url地址的变化,因此在处理这些变化时,需要根据实际情况进行选择。
    2023-10-23 17:11:23
    赞同 展开评论 打赏
  • 面对过去,不要迷离;面对未来,不必彷徨;活在今天,你只要把自己完全展示给别人看

    如果你在使用Flink CDC Yarn-per模式提交Flink任务时,发现YARN上给定的URL地址某个时刻改变了,对应的job的启动时间也改变了,那么可能有以下几种可能的原因:

    1. YARN在运行Flink任务时,可能会因为资源调度等原因,将任务从一个节点移动到另一个节点。当你发现URL地址改变时,可能是因为Flink任务已经从一个节点移动到了另一个节点。这种情况下,你应该重新检查你的任务状态,以确认任务是否仍然在运行。
    2. YARN在运行Flink任务时,可能会因为资源限制等原因,将任务暂停一段时间,然后再重新启动。当你发现URL地址改变时,可能是因为Flink任务已经被暂停了一段时间,然后再被重新启动。这种情况下,你应该重新检查你的任务状态,以确认任务是否仍然在运行。
    3. YARN在运行Flink任务时,可能会因为资源调度等原因,将任务从一个容器移动到另一个容器。当你发现URL地址改变时,可能是因为Flink任务已经从一个容器移动到了另一个容器。这种情况下,你应该重新检查你的任务状态,以确认任务是否仍然在运行。

    如果你在使用Flink CDC Yarn-per模式提交Flink任务时,发现YARN上给定的URL地址某个时刻改变了,对应的job的启动时间也改变了,那么你可能需要重新检查你的任务状态,以确认任务是否仍然在运行。如果任务已经停止,那么你可能需要重新提交任务。如果任务仍然在运行,那么你应该重新检查你的任务状态,以确认任务是否遇到了问题。具体的解决方式可能会因你的具体环境而有所不同,建议你查阅相关的文档或寻求专业的技术支持。

    2023-10-23 14:17:17
    赞同 展开评论 打赏
  • 北京阿里云ACE会长

    Flink CDC 支持使用 YARN 作为分布式计算框架,通过 YARN 提供的资源和调度能力来运行 Flink 任务。在 YARN 模式下,Flink 任务会被划分为一个或多个应用(Application),每个应用都有一个唯一的 application_id。
    您提到的 yarn-per 模式应该是指 YARN 下的 per-application 模式,在这种模式下,每个应用程序都会在 YARN 集群中分配一个独立的资源容器。这种模式下,不同的应用程序之间是隔离的,互不干扰。
    关于 URL 地址的变化,这可能是因为 YARN 集群中的资源容器发生了变化。在 YARN 集群中,资源容器可能会因为故障、资源不足等原因被重新分配。当资源容器发生变更时,新分配的资源容器的地址(URL)可能会发生变化。这种情况下,Flink 任务的启动时间可能会受到影响,因为任务需要在新分配的资源容器上重新启动。
    如果您希望确保 Flink 任务的稳定性和可靠性,可以考虑使用 YARN 提供的其他调度策略,如 per-node 或者 fair-scheduler 等。这些策略

    2023-10-23 08:05:43
    赞同 展开评论 打赏

实时计算Flink版是阿里云提供的全托管Serverless Flink云服务,基于 Apache Flink 构建的企业级、高性能实时大数据处理系统。提供全托管版 Flink 集群和引擎,提高作业开发运维效率。

相关产品

  • 实时计算 Flink版
  • 热门讨论

    热门文章

    相关电子书

    更多
    深度学习+大数据 TensorFlow on Yarn 立即下载
    Docker on Yarn 微服务实践 立即下载
    深度学习+大数据-TensorFlow on Yarn 立即下载