开发者社区> 问答> 正文

hadoop和spark的shuffle不同之处是什么啊?

hadoop和spark的shuffle不同之处是什么啊?

展开
收起
游客vwuxaq6iqaowc 2021-12-06 21:13:19 367 0
1 条回答
写回答
取消 提交回答
  • Hadoop MapReduce 将处理流程划分出明显的几个阶段:map(), spilt, merge, shuffle, sort, reduce() Spark 没有这样功能明确的阶段,只有不同的 stage 和一系列的 transformation(),spill, merge, aggregate 等操作需要蕴含在 transformation() 中

    2021-12-06 21:13:44
    赞同 展开评论 打赏
问答分类:
问答地址:
问答排行榜
最热
最新

相关电子书

更多
Spark,GraphX,and blockchains 立即下载
# Apache Spark系列技术直播# 第五讲【 Spark RDD编程入门 】 立即下载
How to Integrate Spark Mllib 立即下载

相关实验场景

更多