AI 助理
备案控制台
开发者社区 问答 正文

编写MapReduce作业时，如何做到在Reduce阶段，先对key排序，再对value排序？

编写MapReduce作业时，如何做到在Reduce阶段，先对key排序，再对value排序？

展开
收起
芯在这 2021-12-05 21:50:57 396 分享 版权

版权声明：本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。

1 条回答
写回答
取消 提交回答
  • 真的很搞笑

    该问题通常称为“二次排序”，最常用的方法是将value放到key中，实现一个组合Key，然后自定义key排序规则（为key实现一个WritableComparable）。

    2021-12-05 21:51:08
    赞同 展开评论
问答分类：
分布式计算
问答标签：
mapreduce作业 mapreduce reduce 开源大数据平台 E-MapReduce排序 开源大数据平台 E-MapReduce reduce 开源大数据平台 E-MapReduce作业
问答地址：
开发者社区 > 大数据 > 问答
相关问答
SchedulerX手动停止mapreduce任务子任务没有全部执行完后reduce任务会执行吗？
140
2
0
MapReduce中提取年份和气温时和reduce函数读取什么？最后输出什么？
505
1
0
MapReduce中抽取年份和气温map和reduce分别是做什么的？
494
1
0
类中MapReduce的工作原理是什么？map阶段和reduce阶段共同点是什么？
596
1
0
MapReduce框架中为什么只对<key,value>进行操作？
411
1
0
MapReduce的reduce中Iterable<Text> value中数据的排序规则
702
1
0
MapReduce在Reduce阶段该如何优化方法呢？
842
1
0
E-MapReduce集群impala开启kerberos后服务报错Couldn't find...
90
1
0
E-MapReduce集群KAFKA指标介绍
80
1
0
E-MapReduce的StarRocks集群要实现Colocation join配置分桶信息...
110
1
0