开发者社区> 问答> 正文

怎么理解partition的过程

怎么理解partition的过程

展开
收起
不语奈何 2020-01-09 19:15:46 475 0
1 条回答
写回答
取消 提交回答
  • 精于基础,广于工具,熟于业务。

    1).标记key value所属与的分区

    当map输出的时候,写入缓存之前,会调用partition函数,计算出数据所属的分区,并且把这个元 数据存储起来
    

    2).把属与同一分区的数据合并在一起

    当数据达到溢出的条件时(即达到溢出比例,启动线程准备写入文件前),读取缓存中的数据和分区元数据,然后把属与同一分区的数据合并到一起
    
    2020-01-09 19:16:08
    赞同 展开评论 打赏
问答地址:
问答排行榜
最热
最新

相关电子书

更多
低代码开发师(初级)实战教程 立即下载
冬季实战营第三期:MySQL数据库进阶实战 立即下载
阿里巴巴DevOps 最佳实践手册 立即下载