调节并发操作可以通过设置参数:
odps.stage.mapper.split.size的值来控制,可参考
文档内容。
1、另外,1M 是MaxCompute的最小粒度,ots sdk按照1M的大小split出来就是101个并发 ,如果已经设置了
odps.stage.mapper.split.size =1M 没有办法再调小split.size 来增大ots并发了。
2、如果作业中设置了 set odps.sql.executionengine.batch.rowcount=1; 这个参数建议去掉, 这个flag 一般是您的数据的字段size比较大,容易造成oom,才需要用到。
3、如果作业出现了online作业失败转offline作业,可以考虑关闭online,直接跑offline,session级别设置set odps.service.mode=off;