MaxCompute手动设置reduce内存大小不可拆分,怎么解决?

282ed252932bafd0f2a0375a8fcf6872.png eda9a3f4c5abc728e424a5353ec0f925.png MaxCompute手动设置reduce 数量可以执行,但是手动设置reduce内存大小不可拆分,怎么解决? 我想设置每个reducer最大处理的数据量是1G,超过1G增大一个reduce数量

展开
收起
冰激凌甜筒 2023-04-30 21:41:14 258 分享 版权
1 条回答
写回答
取消 提交回答
  • redcer并发跟上游的worker并发相关,上游如果是直连mapper,mapper的并发跟split参数有关,可以通过split参数控制mapper并发,进而达到控制redcer并发的效果。但是并不是严格的一一对应,所以没法严格控制。 这个目前还没有特定的参数可以设置 ,此回答整理自钉群“MaxCompute开发者社区2群”

    2023-04-30 21:45:35
    赞同 展开评论

MaxCompute(原ODPS)是一项面向分析的大数据计算服务,它以Serverless架构提供快速、全托管的在线数据仓库服务,消除传统数据平台在资源扩展性和弹性方面的限制,最小化用户运维投入,使您经济并高效的分析处理海量数据。

还有其他疑问?
咨询AI助理