开发者社区> 问答> 正文

如何同时处理多个map任务的中间结果?

如何同时处理多个map任务的中间结果?

展开
收起
游客fbdr25iajcjto 2021-12-06 22:03:01 553 0
1 条回答
写回答
取消 提交回答
  • reduce任务的上游map任务可能有多个,根据之前的分析:

    知道这些中间结果的Block及数据缓存在ShuffleBlockFetcherIterator的results:new LinkedBlockingQueue[FetchResult]中。

    ShuffleBlockFetcherIterator作为迭代器,每次迭代ShuffleBlockFetcherIterator,会先从results:new LinkedBlockingQueue[FetchResult]中取出一个FetchResult,并构造此FetchResult的迭代器。

    2021-12-06 22:03:47
    赞同 展开评论 打赏
问答标签:
问答地址:
问答排行榜
最热
最新

相关电子书

更多
低代码开发师(初级)实战教程 立即下载
冬季实战营第三期:MySQL数据库进阶实战 立即下载
阿里巴巴DevOps 最佳实践手册 立即下载