请简述 hadoop 怎样实现二级排序（对 key 和 value 双排序）
请简述 hadoop 怎样实现二级排序（对 key 和 value 双排序）
展开
收起
版权声明：本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。
1
条回答
写回答
-
第一种方法是，Reducer 将给定 key 的所有值都缓存起来，然后对它们在 Reduce 内部做一个内排序。但是，由于 Reducer 需要缓存给定 key 的所有值，数据量多的话可能会导致内存不足。
第二种方法是，将值的一部分或整个值键入到原始 key 中，重新组合成一个新的 key 。这两种方法各有各的特点，第一种方法编写简单，但是需要较小的并发度，数据量大的话可能会造成内存耗尽卡死的状态。 第二种方法则是将排序的任务交给 MapReduce 框架进行 shuffle，更符合 Hadoop/Reduce 的设计思想。
2020-02-14 19:45:13赞同 展开评论
相关问答