开发者社区 > 大数据与机器学习 > 大数据开发治理DataWorks > 正文

DataWorks数据集成任务长时间等待为什么?

DataWorks数据集成任务长时间等待为什么?

展开
收起
芯在这 2023-04-20 08:02:41 265 0
4 条回答
写回答
取消 提交回答
  • 进入到日志中,如果卡在调度资源,可以看正在运行的任务/正在等待的任务,看一下是否是在排队;如果看在任务执行,看是否处于wait状态,如果是,则是中途资源紧张了;如果一直在推送,速度也正常,说明量级大,你可以考虑打开分布式模式

    2023-04-21 14:05:50
    赞同 展开评论 打赏
  • 面对过去,不要迷离;面对未来,不必彷徨;活在今天,你只要把自己完全展示给别人看。

    应该是资源不足导致

    2023-04-20 17:00:00
    赞同 展开评论 打赏
  • 【数据集成任务执行状态】

    SUBMIT: 同步任务已经渲染完成提交状态 WAIT: 等待数据集成运行资源 RUN: 同步任务运行中 SUCCESS: 同步任务运行成功 FAIL: 同步任务运行失败

    【长时间wait状态排查】 当前数据集成资源组上执行的任务超过了机器支持的并发上限。请检查正在运行的任务并发数总和是否超过了机器支持的最大并发数。

    是否存在任务并发设置是否过大,检查日志(任务配置)中concurrent参数值。 如果单个任务并发设置超过了机器支持的最大并发数,请将这些大并发任务全都停掉,修改任务并发数后再去执行。【查看运行中的数据集成任务】

    控制台-资源组列表-使用率点击进去 image.png

    运维大屏-数据集成-下拉查看“同步任务执行详情”

    image.png

    【注意】

    任务并发配置需要结合机器支持的最大并发数,以及需要同时运行的任务数及并发和,来分配单个任务并发数配置。 若重保任务较多,可选择扩容独享数据集成资源组。,此回答整理自钉群“DataWorks交流群(答疑@机器人)”

    2023-04-20 12:47:04
    赞同 展开评论 打赏
  • 数据集成任务长时间等待可能有以下几个原因:

    数据量过大:如果数据量非常庞大,数据集成的过程需要更长时间来完成。

    网络带宽限制:在跨网络或云平台之间传输数据时,受限于网络带宽和稳定性,可能导致任务长时间等待。

    系统资源不足:如果系统资源(如CPU、内存、磁盘空间)不足,可能会导致数据集成任务长时间等待或失败。

    2023-04-20 10:55:14
    赞同 展开评论 打赏

DataWorks基于MaxCompute/Hologres/EMR/CDP等大数据引擎,为数据仓库/数据湖/湖仓一体等解决方案提供统一的全链路大数据开发治理平台。

相关产品

  • 大数据开发治理平台 DataWorks
  • 相关电子书

    更多
    DataWorks数据集成实时同步最佳实践(含内测邀请)-2020飞天大数据平台实战应用第一季 立即下载
    DataWorks商业化资源组省钱秘籍-2020飞天大数据平台实战应用第一季 立即下载
    基于DataWorks数据服务构建疫情大屏-2020飞天大数据平台实战应用第一季 立即下载