开发者社区> 问答> 正文

writPartitionedFile用于持久化计算结果,他的分支是什么?

writPartitionedFile用于持久化计算结果,他的分支是什么?

展开
收起
游客fbdr25iajcjto 2021-12-06 21:48:53 537 0
1 条回答
写回答
取消 提交回答
  • 溢出到分区文件后合并:

    将内存中缓存的多个partition的计算结果分别写入多个临时Block文件,然后将这些Block文件的内容全部写入正式的Block输出文件中。

    内存中排序合并:

    将缓存的中间计算结果按照partition分组后写入Block输出文件。此种方式还需要更新此任务与内存、磁盘有关的测量数据。

    2021-12-06 21:49:26
    赞同 展开评论 打赏
问答地址:
问答排行榜
最热
最新

相关电子书

更多
俞航翔|基于Log的通用增量Checkpoint 立即下载
低代码开发师(初级)实战教程 立即下载
阿里巴巴DevOps 最佳实践手册 立即下载