开发者社区> 问答> 正文

在Shuffle阶段中缓冲区的结果会发生什么呢?

已解决

在Shuffle阶段中缓冲区的结果会发生什么呢?

展开
收起
游客yr35xuqu7cwza 2022-08-02 18:57:03 246 0
1 条回答
写回答
取消 提交回答
  • 推荐回答

    缓冲区的结果会被阶段性的写入磁盘,这个过程叫溢写,当执行溢写操作时,数据会被分区,分区数量通常与后续的reduce任务数相同,每个分区按key排序,同时合并具有相同key的值,再写入磁盘。

    2022-08-02 23:21:44
    赞同 展开评论 打赏
问答地址:
问答排行榜
最热
最新

相关电子书

更多
低代码开发师(初级)实战教程 立即下载
冬季实战营第三期:MySQL数据库进阶实战 立即下载
阿里巴巴DevOps 最佳实践手册 立即下载