AI 助理
备案控制台
开发者社区 问答 正文

hadoop和spark的shuffle过程是什么？

hadoop和spark的shuffle过程是什么？

展开
收起
芯在这 2021-12-06 23:42:07 359 分享
分享
 版权
举报

版权声明：本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。

1 条回答
写回答
取消 提交回答
  • 真的很搞笑

    hadoop：map端保存分片数据，通过网络收集到reduce端

    spark：spark的shuffle是在DAGSchedular划分Stage的时候产生的，TaskSchedule要分发Stage到各个worker的executor，减少shuffle可以提高性能

    2021-12-07 08:08:08 举报
    赞同 评论

    评论

    全部评论 (0)

    登录后可评论
问答分类：
分布式计算 Hadoop Spark
问答标签：
hadoop spark hadoop apache spark apache spark shuffle apache spark Hadoop hadoop shuffle
问答地址：
开发者社区 > 大数据 > 问答
相关问答
MaxCompute spark*.*.* hadoop-common用的是哪个版本
65
1
0
MaxCompute spark作业报错Class org.apache.hadoop.fs....
134
1
0
Flink CDC有信创要求的，能用hadoop flink spark 这些开源组件吗？
554
3
0
你觉得Hadoop和Spark的技术优缺点以及适用场景都有哪些？
728
1
0
spark on k8s，有使用without-hadoop版本的吗？
807
0
0
大数据系统（Hadoop/Spark）特点是什么？
593
1
0
spark 执行RDD操作的过程要注意什么吗？
2350
1
0
Storm&Spark中Hadoop包括什么呢？
674
1
0
spark任务想完整的部署，发布，执行调度，仅仅maxcompute组件权限够么，还需要datawo
853
1
0
Spark 读取Maxcompute 中的表进行处理，怎么弄？
871
1
0