AI 助理
备案控制台
开发者社区 问答 正文

Spark中的Checkpoint是什么？

Spark中的Checkpoint是什么？

展开
收起
游客k7rjnht6hbtk6 2021-12-10 13:29:49 305 分享 版权

版权声明：本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。

1 条回答
写回答
取消 提交回答
  • 游客daliwbfb2wo66

    Checkpoint是Spark提供的一种缓存机制，当需要计算的RDD过多时，为了避免重新计算之前的RDD，可以对RDD做Checkpoint处理，检查RDD是否被物化或计算，并将结果持久化到磁盘或HDFS。

    2021-12-10 13:30:02
    赞同 展开评论
问答分类：
分布式计算 Spark
问答标签：
apache spark checkpoint
问答地址：
开发者社区 > 大数据 > 问答
相关问答
Flink 的 checkpoint 机制对比 spark 有到底什么不同和优势？
656
1
0
Flink Checkpoint与 Spark 的相比,Flink 有什么区别或优势吗？
750
1
0
Flink中 的 checkpoint 机制对比 spark 有什么不同和优势吗？
828
1
0
Flink 的 checkpoint 机制对比 spark 有什么不同和优势呢？
648
1
0
Spark的Cache和Checkpoint区别是什么？
491
1
0
spark提供的Checkpoint机制的作用是什么？
545
1
0
sparkstreaming，做了一个checkpoint，首次启动总能成功，第二次启动就报错了？
548
0
0
使用spark 2.3 structed streaming 时 checkpoint 频繁在HDFS写小文件，块数到达百万级别 ，这个怎么优化下
3530
1
0
spark任务想完整的部署，发布，执行调度，仅仅maxcompute组件权限够么，还需要datawo
892
1
0
Spark 读取Maxcompute 中的表进行处理，怎么弄？
911
1
0