开发者社区> 问答> 正文

MaxCompute通过OTS外部表导入数据如何增加并发

已解决

MaxCompute通过OTS外部表导入数据如何增加并发

展开
收起
提个问题 2024-05-29 15:04:22 28 0
1 条回答
写回答
取消 提交回答
  • 开发者社区问答官方账号
    官方回答
    采纳回答
    调节并发操作可以通过设置参数: odps.stage.mapper.split.size的值来控制,可参考文档内容
    1、另外,1M 是MaxCompute的最小粒度,ots sdk按照1M的大小split出来就是101个并发 ,如果已经设置了 odps.stage.mapper.split.size =1M 没有办法再调小split.size 来增大ots并发了。
    2、如果作业中设置了 set odps.sql.executionengine.batch.rowcount=1; 这个参数建议去掉, 这个flag 一般是您的数据的字段size比较大,容易造成oom,才需要用到。
    3、如果作业出现了online作业失败转offline作业,可以考虑关闭online,直接跑offline,session级别设置set odps.service.mode=off;
    2024-05-29 15:04:23
    赞同 展开评论 打赏
问答排行榜
最热
最新

相关电子书

更多
Data+AI时代大数据平台应该如何建设 立即下载
大数据AI一体化的解读 立即下载
极氪大数据 Serverless 应用实践 立即下载