开发者社区 > 大数据与机器学习 > 大数据计算 MaxCompute > 正文

dataWorks同步mongdb数据到ods曾的时候报这个问题,昨天的能跑出来超过1g的数据同步不

dataWorks同步mongdb数据到ods曾的时候报这个问题,昨天的能跑出来超过1g的数据同步不过来,设置了redaer的maxChunkSize也不好使
Through the intelligent analysis by DataX, the most likely error reason of this task is:
com.alibaba.datax.common.exception.DataXException: Code:[Framework-02], Description:[The DataX engine encountered an error during running. For the specific cause, refer to the error diagnosis after DataX stops running. ]. - com.mongodb.MongoCommandException: Command failed with error 72 (InvalidOptions): 'maxChunkSize must lie within the range [1MB, 1024MB]' on server dds-bp178135ab2d1b841.mongodb.rds.aliyuncs.com:3717. The full response is { "ok" : 0.0, "errmsg" : "maxChunkSize must lie within the range [1MB, 1024MB]", "code" : 72, "codeName" : "

展开
收起
真的很搞笑 2023-08-17 07:45:26 199 0
1 条回答
写回答
取消 提交回答
  • 可能是 dataWorks 的读取速率太快,导致 MongoDB 出现读取延迟,从而导致同步失败。

    你可以尝试以下方法来解决这个问题:

    降低 dataWorks 的读取速率。
    调整 MongoDB 的配置,提高读取性能。
    使用其他工具同步 MongoDB 数据。
    如果您需要更多帮助,可以联系 DataWorks 的技术支持。

    2023-09-28 10:38:44
    赞同 展开评论 打赏

MaxCompute(原ODPS)是一项面向分析的大数据计算服务,它以Serverless架构提供快速、全托管的在线数据仓库服务,消除传统数据平台在资源扩展性和弹性方面的限制,最小化用户运维投入,使您经济并高效的分析处理海量数据。

相关电子书

更多
DataWorks高效数据分析最佳实践-2020飞天大数据平台实战应用第一季 立即下载
DataWorks全链路数据质量解决方案-2020飞天大数据平台实战应用第一季 立即下载
MaxCompute技术公开课第四季 之 如何将Kafka数据同步至MaxCompute 立即下载

相关实验场景

更多