开发者社区 问答 正文

调用SortShuffleWriter的write方法它实现的是什么功能?

调用SortShuffleWriter的write方法它实现的是什么功能?

展开
收起
游客fbdr25iajcjto 2021-12-06 21:15:27 593 分享 版权
1 条回答
写回答
取消 提交回答
  • 1) 创建ExternalSorter,然后调用insertAll将计算结果写入缓存。

    2) 调用shuffleBlockManager.getDataFile方法获取当前任务要输出的文件路径。

    3) 调用shuffleBlockManager.consolidateId创建blockId。

    4) 调用ExternalSorter的writePartitionedFile将中间结果持久化。

    5) 调用shuffleBlockManager.writeIndexFile方法创建索引文件。

    6) 创建MapStatus。

    2021-12-06 21:16:02
    赞同 展开评论
问答地址: