开发者社区 > 大数据与机器学习 > 实时计算 Flink > 正文

Flink这种任务失败了,为什么还有1cu的任务在跑?

Flink这种任务失败了,为什么还有1cu的任务在跑?081e641e84139e8be34307f8e0828079.png
job重启后,还多额外占用1cu的任务a77b64711a0ac71f28609dd45df5676d.png

展开
收起
三分钟热度的鱼 2023-11-30 17:25:44 58 0
1 条回答
写回答
取消 提交回答
  • 面对过去,不要迷离;面对未来,不必彷徨;活在今天,你只要把自己完全展示给别人看。

    Apache Flink 是一个分布式流处理和批处理系统,它通过检查点机制来实现容错性。当Flink任务失败时,这通常意味着在执行过程中遇到了某种问题,比如节点故障、网络问题或者程序错误等。

    如果你看到有1CU的任务仍在运行,可能的原因包括:

    1. 部分恢复:Flink的容错机制使得它可以在出现故障时尝试恢复任务。如果只是部分任务失败,并且系统的其他部分仍然能够正常工作,那么整个任务可能不会完全停止,而是继续运行剩余的部分。这种情况下,你可能会看到仍有1CU的任务在运行。

    2. 资源分配:在一些集群管理器(如YARN或Kubernetes)中,一旦任务被提交并且分配了资源,即使任务本身已经失败,这些资源可能仍会被占用。这意味着虽然任务已经失败,但它们仍然显示为正在运行,因为从集群的角度来看,那些资源已经被分配出去了。

    3. 未正确关闭的任务:有时,由于各种原因(例如编程错误或异常),任务可能没有正确地关闭。在这种情况下,尽管任务已经不再执行任何有用的工作,但它可能仍然显示为活动状态。

    4. 监控延迟:你的监控工具可能存在一定的延迟,也就是说,实际的任务可能已经停止,但是监视界面还没有更新这个信息。

    5. JobManager内存调整导致的问题:之前的信息提到过,增大JobManager的内存可能导致任务失败和YARN宕机。这也可能是影响任务状态的一个因素。

    2023-11-30 21:08:26
    赞同 1 展开评论 打赏

实时计算Flink版是阿里云提供的全托管Serverless Flink云服务,基于 Apache Flink 构建的企业级、高性能实时大数据处理系统。提供全托管版 Flink 集群和引擎,提高作业开发运维效率。

相关产品

  • 实时计算 Flink版
  • 相关电子书

    更多
    Flink CDC Meetup PPT - 龚中强 立即下载
    Flink CDC Meetup PPT - 王赫 立即下载
    Flink CDC Meetup PPT - 覃立辉 立即下载