AI 助理
备案控制台
开发者社区 问答 正文

Hadoop中什么情况要使用 combiner，什么情况不使用？

Hadoop中什么情况要使用 combiner，什么情况不使用？

展开
收起
芯在这 2021-12-05 17:37:45 785 分享 版权

版权声明：本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。

1 条回答
写回答
取消 提交回答
  • 真的很搞笑

    求平均数的时候就不需要用combiner，因为不会减少reduce执行数量。在其他的时候，可以依据情况，使用combiner，来减少map的输出数量，减少拷贝到reduce的文件，从而减轻reduce的压力，节省网络开销，提升执行效率

    2021-12-05 17:38:02
    赞同 展开评论
问答分类：
分布式计算 Hadoop
问答标签：
hadoop combiner
问答地址：
开发者社区 > 大数据 > 问答
相关问答
Hadoop中maptask的combiner阶段有什么过程？
320
1
0
Hadoop shuffle中combiner的本质是什么？
257
1
0
Hadoop shuffle map端运行combiner函数有什么好处？
340
1
0
Hadoop Combiner中如何设置Map的key和value输出？
351
1
0
Hadoop Combiner中如何设置Map和reduce?
353
1
0
Hadoop中 Combiner使用的位置在哪里？
270
1
0
Hadoop中 自定义Combiner实现的步骤是什么？
275
1
0
Hadoop中 Combiner组件能够应用的前提是什么？
337
1
0
Hadoop中 Combiner组件的父类和意义是什么？
308
1
0
Hadoop中 Combiner和reduce的区别是什么？
631
1
0