Flink这个启动状态恢复的机制是什么样的?

Flink这个启动状态恢复的机制是什么样的?请教大佬们一个问题,我使用checkpoint做状态恢复,任务里设置了configuration.set(SavepointConfigOptions.SAVEPOINT_PATH, file.getPath(),并且用了自己写的一个客户端以perjob模式提交到yarn上,发现我的状态没有恢复,isRestored是false4df1aff67204720dc8f6fef0c2006366.png
但是使用application模式提交的话是能正常读取我的状态的,后续我又测试了使用官方的flink-client提交,发现都可以正常读取状态。我debug源码发现JobGraph里有savepointRestoreSettings相关的配置,是在yarn-per-job模式提交代码必须有这个配置项吗?

展开
收起
三分钟热度的鱼 2023-08-22 20:43:23 100 分享 版权
1 条回答
写回答
取消 提交回答
  • Flink 的状态恢复是通过检查点实现的。检查点是 Flink 在运行时创建的快照,用于在 job 失败时恢复 job 的状态。当 job 失败时,Flink 会尝试从最近的检查点恢复 job 的状态。如果检查点不存在,Flink 会从历史记录中恢复 job 的状态。

    Flink 的检查点机制有以下特点:

    检查点是周期性创建的。
    检查点是可选的。
    检查点可以使用不同的策略进行管理。
    Flink 的状态恢复机制有以下特点:

    状态恢复是自动完成的。
    状态恢复可以从最近的检查点或历史记录中进行。
    状态恢复可以进行部分恢复。
    Flink 的状态恢复机制可以保证 job 在失败后可以恢复到失败之前的状态。这使得 Flink 非常适合用于处理长时间运行的流处理任务。

    2023-09-18 16:38:31
    赞同 展开评论

实时计算Flink版是阿里云提供的全托管Serverless Flink云服务,基于 Apache Flink 构建的企业级、高性能实时大数据处理系统。提供全托管版 Flink 集群和引擎,提高作业开发运维效率。

还有其他疑问?
咨询AI助理