开发者社区> 问答> 正文

spark中什么场景下要进行persist操作啊?

spark中什么场景下要进行persist操作啊?

展开
收起
游客vwuxaq6iqaowc 2021-12-06 21:24:59 328 0
1 条回答
写回答
取消 提交回答
  • 以下场景会使用persist

    某个步骤计算非常耗时或计算链条非常长,需要进行persist持久化 shuffle之后为什么要persist,shuffle要进性网络传输,风险很大,数据丢失重来,恢复代价很大 shuffle之前进行persist,框架默认将数据持久化到磁盘,这个是框架自动做的。

    2021-12-06 21:25:14
    赞同 展开评论 打赏
问答排行榜
最热
最新

相关电子书

更多
Hybrid Cloud and Apache Spark 立即下载
Scalable Deep Learning on Spark 立即下载
Comparison of Spark SQL with Hive 立即下载