开发者社区 问答 正文

Hadoop优化Map 阶段是什么?

Hadoop优化Map 阶段是什么?

展开
收起
芯在这 2021-12-05 17:51:39 354 分享 版权
1 条回答
写回答
取消 提交回答
  • (1)增大环形缓冲区大小。由 100m 扩大到 200m

    (2)增大环形缓冲区溢写的比例。由 80%扩大到 90%

    (3)减少对溢写文件的 merge 次数。(10 个文件,一次 20 个 merge)

    (4)不影响实际业务的前提下,采用 Combiner 提前合并,减少 I/O。

    2021-12-05 17:51:58
    赞同 展开评论
问答分类:
问答地址: