开发者社区> 问答> 正文

流失计算中使用checkpoint的作用是什么?

流失计算中使用checkpoint的作用是什么?

展开
收起
芯在这 2021-12-06 01:03:27 239 0
1 条回答
写回答
取消 提交回答
  • 保存元数据,包括流式应用的配置、流式没崩溃之前定义的各种操作、未完成所有操作的batch。元数据被存储到容忍失败的存储系统上,如HDFS。这种ckeckpoint主要针对driver失败后的修复。

    保存流式数据,也是存储到容忍失败的存储系统上,如HDFS。这种ckeckpoint主要针对window operation、有状态的操作。无论是driver失败了,还是worker失败了,这种checkpoint都够快速恢复,而不需要将很长的历史数据都重新计算一遍(以便得到当前的状态)。

    2021-12-06 01:03:52
    赞同 展开评论 打赏
问答地址:
问答排行榜
最热
最新

相关电子书

更多
俞航翔|基于Log的通用增量Checkpoint 立即下载
《基于数据全生命周期的数据资产价值评估方法及应用》论文 立即下载
低代码开发师(初级)实战教程 立即下载