Dataworks写入任务一直无法结束原因及解决方案

已解决

Dataworks写入任务一直无法结束原因及解决方案

展开
收起
阿里云服务支持 2022-12-13 14:20:56 388 分享 版权
1 条回答
写回答
取消 提交回答
  • 推荐回答
    官方回答

    可以按照以下方式进行排查:

    【问题原因】reader stopWhenPollEmpty配置有问题,如下图:

    image.png

    0点实例的应该在 2022-10-25 00:01 读到448条数据后 没到endTime不会结束,到了endTime也没结束,是还要在endTime时间之后要读到数据才能结束。

    【解决方法】

    现在任务停止有两个方式:

    ● stopWhenPollEmpty 配置为false,读取到大于 endDateTime 的一条记录,确保数据不会丢 =》任务停止。

    ● stopWhenPollEmpty 配置为true,同时配置 maxPollTime + waitTime ,当上游一直没有数据时,超过maxPollTime * waitTime时间,任务停止。

    2022-12-13 14:27:35
    赞同 展开评论

DataWorks基于MaxCompute/Hologres/EMR/CDP等大数据引擎,为数据仓库/数据湖/湖仓一体等解决方案提供统一的全链路大数据开发治理平台。

收录在圈子:
作为全球云计算的领先者,阿里云为全球230万企业提供着云计算服务,服务范围覆盖200多个国家和地区。我们致力于为企业、政府等组织机构提供安全可靠的云计算服务,给用户带来极速愉悦的服务体验。
还有其他疑问?
咨询AI助理