AI 助理
备案控制台
开发者社区 问答 正文

Hadoop中在mapper端做局部聚合，把相同key的value合并在一起的好处是什么？

Hadoop中在mapper端做局部聚合，把相同key的value合并在一起的好处是什么？

展开
收起
游客fq2cv4o24bhvc 2021-12-04 19:35:25 290 分享 版权

版权声明：本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。

1 条回答
写回答
取消 提交回答
  • 游客zxdz7pcxbx2uc

    1、数据进行规约处理

    2、数据量变小了

    3、传送到reduce端的数据量变小了

    4、传输时间变短，作业的整体时间变短

    2021-12-04 19:36:53
    赞同 展开评论
问答分类：
分布式计算 Hadoop
问答标签：
hadoop聚合 hadoop mapper hadoop局部聚合 hadoop局部 hadoop key
问答地址：
开发者社区 > 大数据 > 问答
相关问答
hadoop中 -getmerge 合并下载到本地的主要操作方式和操作目的是什么呢？
563
1
0
Hadoop中Mapreduce操作的mapper和reducer阶段相当于spark中的哪个算子？
431
1
0
Hadoop中二次排序如何自定义key？
297
1
0
Hadoop shuffle的reduce端合并排序的过程是怎么样的？
404
1
0
Hadoop shuffle的合并过程是怎么样的？
248
1
0
Hadoop Reduce端的shuffle中合并因子默认为多少？
287
1
0
Hadoop shuffle中什么属性能够控制一次能合并的流？
338
1
0
Hadoop Combiner中如何设置Map的key和value输出？
350
1
0
Hadoop中 Combiner在什么时候进行聚合？
180
1
0
Hadoop中Mapper与Combiner的输出分别是什么？
213
1
0