MaxCompute中如何处理small table exceeds memory limit(MB) xxx报错
MaxCompute中报错ODPS-0010000:System internal error - fuxi job failed, caused by: Hash Join Cursor ConditionalMapJoin1#0 small table exceeds, memory limit(MB) xxx, fixed memory used xxx, string memory used xxx, complex type memory used xxx为小表使用内存超过限制。常为两种场景:
1、使用了mapjoin hint:需要检查mapjoin对应的表的存储是否超过限制,可以通过调整odps.sql.mapjoin.memory.max(0 MB~8192 MB),若表内存超过8192 MB,则需要去除 mapjoin hint。
2、未使用mapjoin hint:产品侧优化SQL指定使用mapjoin,可通过set odps.optimizer.cbo.rule.filter.black=hj;关闭自动mapjoin。
版权声明:本文内容由阿里云实名注册用户自发贡献,版权归原作者所有,阿里云开发者社区不拥有其著作权,亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容,填写侵权投诉表单进行举报,一经查实,本社区将立刻删除涉嫌侵权内容。
MaxCompute(原ODPS)是一项面向分析的大数据计算服务,它以Serverless架构提供快速、全托管的在线数据仓库服务,消除传统数据平台在资源扩展性和弹性方面的限制,最小化用户运维投入,使您经济并高效的分析处理海量数据。