开发者社区 问答 正文

倾斜Join优化对Shuffle框架提出了什么新的需求?

倾斜Join优化对Shuffle框架提出了什么新的需求?

展开
收起
不吃核桃 2024-08-19 15:50:58 20 分享 版权
1 条回答
写回答
取消 提交回答
  • 倾斜Join优化对Shuffle框架提出的新需求是ShuffleReader要能支持范围MapId。综合Partition合并优化对范围Partition的需求,ShuffleReader的接口演化为支持多个参数的方法,如代码中所示:

    scala
        def getReader[K, C]( 
        handle: ShuffleHandle, 
        startMapIndex: Int, 
        endMapIndex: Int, 
        startPartition: Int, 
        endPartition: Int, 
        context: TaskContext, 
        metrics: ShuffleReadMetricsReporter): ShuffleReader[K, C]
    
    2024-08-19 20:15:52
    赞同 1 展开评论
问答地址: