你好,想问一下由于文件数超过400个,数据量过大,数据集成超过24小时报错怎么搞?

你好,想问一下由于文件数超过400个,数据量过大,数据集成超过24小时报错怎么搞?

展开
收起
雪哥哥 2022-11-27 20:58:45 291 分享 版权
1 条回答
写回答
取消 提交回答
  • 天下风云出我辈,一入江湖岁月催,皇图霸业谈笑中,不胜人生一场醉。

    OSSreader插件读取OSS执行时间超过RDS侧允许的最大文件数datax本身没有限制,主要看任务配置的jvm参数,但是不建议object参数配置*,容易导致内存溢出。

    2023-01-12 16:58:52
    赞同 展开评论

DataWorks基于MaxCompute/Hologres/EMR/CDP等大数据引擎,为数据仓库/数据湖/湖仓一体等解决方案提供统一的全链路大数据开发治理平台。

收录在圈子:
+ 订阅
还有其他疑问?
咨询AI助理