开发者社区 问答 正文

Facebook Riffle采用了什么方法来改进Shuffle性能?

Facebook Riffle采用了什么方法来改进Shuffle性能?

展开
收起
萝卜丝丸子 2024-07-29 15:44:55 69 分享 版权
1 条回答
写回答
取消 提交回答
  • Facebook Riffle在2018年采用了在Mapper端Merge的方法,通过物理节点上部署的Riffle服务,将节点上的Shuffle数据按照PartitionId做Merge,从而一定程度上将小粒度的随机读合并成较大粒度的读操作。

    2024-07-29 16:16:57
    赞同 2 展开评论
问答标签:
问答地址: