开发者社区> 问答> 正文

MaxCompute SQL优化中动态分区Reshuffle影响是啥?

MaxCompute SQL优化中动态分区Reshuffle影响是啥?

展开
收起
bnbajjyhyjfty 2021-12-12 13:04:12 988 0
1 条回答
写回答
取消 提交回答
  • 有效减少小文件产生和写数据的task内存使用

    会多增加一级reduce处理,运行时间变长 ·消耗额外的计算资源,Disk/NetIOCPU,Memory·

    关注有无数据倾斜可能

    ·如果动态分区很少,可以关闭这个flag

    2021-12-12 13:05:11
    赞同 展开评论 打赏
问答排行榜
最热
最新

相关电子书

更多
SQL Server 2017 立即下载
GeoMesa on Spark SQL 立即下载
原生SQL on Hadoop引擎- Apache HAWQ 2.x最新技术解密malili 立即下载