开发者社区> 问答> 正文

MapReduce中ReduceTask工作机制中的Sort阶段的工作是什么?

MapReduce中ReduceTask工作机制中的Sort阶段的工作是什么?

展开
收起
游客daliwbfb2wo66 2021-12-04 20:44:44 334 0
1 条回答
写回答
取消 提交回答
  • Sort阶段:按照MapReduce语义,用户编写reduce()函数输入数据是按key进行聚集的一组数据。为了将key相同的数据聚在一起,Hadoop采用了基于排序的策略。由于各个MapTask已经实现对自己的处理结果进行了局部排序,因此,ReduceTask只需对所有数据进行一次归并排序即可。

    2021-12-04 20:44:59
    赞同 展开评论 打赏
问答排行榜
最热
最新

相关电子书

更多
Apache Flink 流式应用中状态的数据结构定义升级 立即下载
Flink中的两类新型状态存储 立即下载
Quanta:Quora的HBase分层计数系统 立即下载