开发者社区 问答 正文

hadoop和spark的shuffle过程具体是什么啊?

hadoop和spark的shuffle过程具体是什么啊?

展开
收起
游客vwuxaq6iqaowc 2021-12-06 21:14:22 419 分享 版权
1 条回答
写回答
取消 提交回答
  • hadoop:map端保存分片数据,通过网络收集到reduce端 spark:spark的shuffle是在DAGSchedular划分Stage的时候产生的,TaskSchedule要分发Stage到各个worker的executor,减少shuffle可以提高性能

    2021-12-06 21:15:57
    赞同 展开评论