开发者社区> 问答> 正文

MapReduce中MapTask工作机制中的Collect收集阶段的工作是什么?

MapReduce中MapTask工作机制中的Collect收集阶段的工作是什么?

展开
收起
游客daliwbfb2wo66 2021-12-04 20:38:58 360 0
1 条回答
写回答
取消 提交回答
  • Collect收集阶段:在用户编写map()函数中,当数据处理完成后,一般会调用OutputCollector.collect()输出结果。在该函数内部,它会将生成的key/value分区(调用Partitioner),并写入一个环形内存缓冲区中。

    2021-12-04 20:39:16
    赞同 展开评论 打赏
问答排行榜
最热
最新

相关电子书

更多
Flink中的两类新型状态存储 立即下载
Apache Flink 流式应用中状态的数据结构定义升级 立即下载
HareQL:快速HBase查询工具的发展过程 立即下载