开发者社区> 问答> 正文

MapReduce 编程模型是怎么处理数据的?

MapReduce 编程模型是怎么处理数据的?

展开
收起
Medusa 2022-01-13 18:00:05 868 0
1 条回答
写回答
取消 提交回答
  • MapReduce 编程模型将一个大的计算问题分解成多个小的计算问题,由多个 map() 函数对这些分解后的小问题进行并行计算,输出中间计算结果,然后由 reduce() 函数对 map()函数的输出结果进行进一步合并,得出最终的计算结果。

    如下图所示,Map 阶段将一个复杂的任务分解为多个简单的小任务,这些小任务会在多个 map() 函数中进行并行处理,然后每个 map() 函数将处理的中间结果输出。Reduce 阶段将对这些中间结果根据键做聚合处理,最终输出聚合后的结果数据。下面用 Java 伪代码描述 Map 阶段和 Reduce 阶段。

    配图6.png

    以上内容摘自《海量数据处理与大数据技术实战》电子书,点击https://developer.aliyun.com/topic/download?id=8205可下载完整版

    2022-01-13 20:05:41
    赞同 展开评论 打赏
来源圈子
更多
收录在圈子:
阿里云开发者社区官方技术圈,用户产品功能发布、用户反馈收集等。
问答排行榜
最热
最新

相关电子书

更多
HBase 基本知识介绍及典型案例分析 立即下载
HBase 基本知识介绍及典型案例分析 立即下载
HBase基本知识介绍及典型案例分析 立即下载