结构
一个完整的mapreduce程序在分布式运行时有三类实例进程:
MRAppMaster:负责整个程序的过程调度及状态协调 mapTask:负责map阶段的整个数据处理流程 ReduceTask:负责reduce阶段的整个数据处理流程
MR程序运行流程
1、一个mr
程序启动的时候,最先启动的是MRAppMaster
,MRAppMaster
启动后根据本次job的描述信息,计算出需要的maptask
实例数量,然后向集群申请机器启动相应数量的maptask
进程
2、maptask
进程启动之后,根据给定的数据切片范围进行数据处理,主体流程为:
- 利用客户指定的
inputformat
来获取RecordReader
读取数据,形成输入KV
对 - 将输入
KV
对传递给客户定义的map()
方法,做逻辑运算,并将map()
方法输出的KV对收集到缓存 - 将缓存中的KV对按照K分区排序后不断溢写到磁盘文件
3、MRAppMaster
监控到所有maptask进程任务完成之后,会根据客户指定的参数启动相应数量的reducetask
进程,并告知reducetask
进程要处理的数据范围(数据分区)
4、Reducetask
进程启动之后,根据MRAppMaster
告知的待处理数据所在位置,从若干台maptask
运行所在机器上获取到若干个maptask
输出结果文件,并在本地进行重新归并排序,然后按照相同key
的KV为一个组,调用客户定义的reduce()
方法进行逻辑运算,并收集运算输出的结果KV,然后调用客户指定的outputformat
将结果数据输出到外部存储