开发者社区 > 大数据与机器学习 > 实时计算 Flink > 正文

Flink1.15.3 standalone 模式,其中一个任务发生重启,导致集群都挂了 又遇到嘛?

Flink1.15.3 standalone 模式,其中一个任务发生重启,导致集群都挂了 又遇到嘛?

展开
收起
真的很搞笑 2023-08-09 11:09:57 125 0
2 条回答
写回答
取消 提交回答
  • 北京阿里云ACE会长

    Flink任务重启导致整个集群挂掉,可能的原因和解决方法:

    当一个slot失败或重启时,如果其他程序没有可用的slot,将导致整个作业也失败和停止。可增加TaskManager的并行槽数,为程序提供更多备用资源。

    如果有较大的状态,一个TaskManager失败会导致整个状态失效无法从Checkpoint恢复。分布状态以防止单点故障。

    单个Job占用了过多的整体资源或者资源调度不合理,一个TaskManager挂掉后没有足够资源给其他程序。优化资源配置和调度策略。

    使用了savepointcheckpoints并且savepoints存储在了本地磁盘,TaskManager失败后导致无法从保存点恢复。存储savepoints至分布式存储系统中。

    Flink版本问题,旧版本在重启机制或状态管理上存在bug。尝试升级到稳定版本。

    也有可能是底层 Mesos 或 YARN 集群的问题。

    2023-08-10 17:27:36
    赞同 展开评论 打赏
  • 2023-08-09 13:10:26
    赞同 展开评论 打赏

实时计算Flink版是阿里云提供的全托管Serverless Flink云服务,基于 Apache Flink 构建的企业级、高性能实时大数据处理系统。提供全托管版 Flink 集群和引擎,提高作业开发运维效率。

相关产品

  • 实时计算 Flink版
  • 热门讨论

    热门文章

    相关电子书

    更多
    Flink CDC Meetup PPT - 龚中强 立即下载
    Flink CDC Meetup PPT - 王赫 立即下载
    Flink CDC Meetup PPT - 覃立辉 立即下载