开发者社区> 问答> 正文

Hadoop优化Map 阶段是什么?

Hadoop优化Map 阶段是什么?

展开
收起
芯在这 2021-12-05 17:51:39 347 0
1 条回答
写回答
取消 提交回答
  • (1)增大环形缓冲区大小。由 100m 扩大到 200m

    (2)增大环形缓冲区溢写的比例。由 80%扩大到 90%

    (3)减少对溢写文件的 merge 次数。(10 个文件,一次 20 个 merge)

    (4)不影响实际业务的前提下,采用 Combiner 提前合并,减少 I/O。

    2021-12-05 17:51:58
    赞同 展开评论 打赏
问答分类:
问答地址:
问答排行榜
最热
最新

相关电子书

更多
《构建Hadoop生态批流一体的实时数仓》 立即下载
零基础实现hadoop 迁移 MaxCompute 之 数据 立即下载
CIO 指南:如何在SAP软件架构中使用Hadoop 立即下载

相关实验场景

更多