AI 助理
备案控制台登录注册
开发者社区 问答 正文

MaxCompute SQL优化中动态分区Reshuffle影响是啥?

MaxCompute SQL优化中动态分区Reshuffle影响是啥?

展开
收起
bnbajjyhyjfty 2021-12-12 13:04:12 999 分享
分享
 版权
举报

版权声明：本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。

1 条回答
写回答
取消 提交回答
  • 游客5q6u2bzdfcir4

    有效减少小文件产生和写数据的task内存使用

    会多增加一级reduce处理，运行时间变长 ·消耗额外的计算资源，Disk/NetIOCPU,Memory·

    关注有无数据倾斜可能

    ·如果动态分区很少，可以关闭这个flag

    2021-12-12 13:05:11 举报
    赞同 评论

    评论

    全部评论 (0)

    登录后可评论
问答分类：
SQL 分布式计算 MaxCompute 云原生大数据计算服务 MaxCompute
问答标签：
SQL优化 云原生大数据计算服务 MaxCompute分区 云原生大数据计算服务 MaxCompute sql 云原生大数据计算服务 MaxCompute优化 云原生大数据计算服务 MaxCompute sql分区
问答地址：
开发者社区 > 大数据 > 问答
相关问答
大数据计算MaxCompute这种mapjoin构建hash table时间很长，有什么优化方向吗?
59
1
0
MaxCompute单个表的分区数上限是6万可以提高吗
49
1
0
大数据计算MaxCompute元仓m_table表的分区字段查出来的结果，有合适的方法吗？
58
1
0
在大数据计算MaxCompute中，有其他优化空间吗？
51
2
0
MaxCompute支持并行计算以加速数据处理任务。要优化并行度，如何调整参数？
33
0
0
这种子查询，在主查询中使用多次，在maxcompute里面有优化的方法吗？
37
1
0
RDMA技术的主要优势是什么？它如何帮助大数据分布式计算优化？
157
1
0
大数据计算MaxCompute按每天分区，一天多少条数据量建议做分区呢？
42
1
0
MaxCompute中的分区字段dt一般是用yyyy-mm-dd的日期格式还是yyyymmdd的格式
66
1
0
大数据计算MaxCompute用的 table 2.0的表 ，这个可以如何进行优化 ？
58
2
0
AI助理

你好，我是AI助理

可以解答问题、推荐解决方案等