你好,帮忙看下这个MaxCompute作业进度为什么重新跑了?

你好,帮忙看下这个MaxCompute作业进度为什么重新跑了? 8863bfc7be9e9e0b8d3581b669e0b35a.png 文本2023-05-06 11:06:38 INFO Current task status:RUNNING 2023-05-06 11:06:38 INFO Start execute shell on node oxs-base-biz-gateway011193215227.cm3. 2023-05-06 11:06:38 INFO Current working dir /home/admin/alisatasknode/taskinfo/20230506/phoenix/11/06/02/i0btzk78yua56nike19u7t70 2023-05-06 11:06:38 INFO Full Command .. 2023-05-06 11:06:38 INFO ------------------------- 2023-05-06 11:06:38 INFO /opt/taobao/tbdpapp/odpswrapper/odpswrapper.py /home/admin/alisatasknode/taskinfo//20230506/phoenix/11/06/02/i0btzk78yua56nike19u7t70//dwd_impression_log datetime=20230506 hour=10 2023-05-06 11:06:38 INFO ------------------------- 2023-05-06 11:06:38 INFO List of passing environment .. 2023-05-06 11:06:38 INFO ------------------------- 2023-05-06 11:06:38 INFO SKYNET_ENDPOINT=http://service.cn.maxcompute.aliyun-inc.com/api: 2023-05-06 11:06:38 INFO SKYNET_PTYPE=10: 2023-05-06 11:06:38 INFO SKYNET_ACTIONID=1: 2023-05-06 11:06:38 INFO SKYNET_RERUN_MODE=1: 2023-05-06 11:06:38 INFO SKYNET_FLOW_PARAVALUE=: 2023-05-06 11:06:38 INFO SKYNET_ONDUTY=205254774303286315: 2023-05-06 11:06:38 INFO SKYNET_SYSTEMID=: 2023-05-06 11:06:38 INFO ALISA_TASK_KILL_TIMEOUT=168: 2023-05-06 11:06:38 INFO CALC_ENGINE_IDENTIFIER=zhibo820190408: 2023-05-06 11:06:38 INFO SKYNET_SOURCEID=10000682: 2023-05-06 11:06:38 INFO SKYNET_PARAVALUE=datetime=20230506 hour=10: 2023-05-06 11:06:38 INFO SKYNET_TASKID=5692583558: 2023-05-06 11:06:38 INFO SKYNET_TENANT_ID=21255: 2023-05-06 11:06:38 INFO SKYNET_ID=1000544847: 2023-05-06 11:06:38 INFO SKYNET_JOBID=512055686: 2023-05-06 11:06:38 INFO SKYNET_NODENAME=dwd_impression_log: 2023-05-06 11:06:38 INFO SKYNET_CYCTYPE=1: 2023-05-06 11:06:38 INFO SKYNET_DSC_JOB_VERSION=18: 2023-05-06 11:06:38 INFO SKYNET_TASK_INPUT={}: 2023-05-06 11:06:38 INFO SKYNET_FLOWNAME=ATCLOUD_FLOW: 2023-05-06 11:06:38 INFO FILE_ID=1000544847: 2023-05-06 11:06:38 INFO SKYNET_TIMEZONE=GMT+8: 2023-05-06 11:06:38 INFO SKYNET_EXENAME=/opt/taobao/tbdpapp/odpswrapper/odpswrapper.py: 2023-05-06 11:06:38 INFO IS_NEW_SCHEDULE=true: 2023-05-06 11:06:38 INFO SKYNET_DAGTYPE=0: 2023-05-06 11:06:38 INFO FILE_VERSION=18: 2023-05-06 11:06:38 INFO SKYNET_SOURCENAME=group_21255: 2023-05-06 11:06:38 INFO SKYNET_SYSTEM_ENV=prod: 2023-05-06 11:06:38 INFO SKYNET_GMTDATE=20230506: 2023-05-06 11:06:38 INFO SKYNET_ENVTYPE=1: 2023-05-06 11:06:38 INFO SKYNET_BIZDATE=20230505: 2023-05-06 11:06:38 INFO SKYNET_CYCTIME=20230506110000: 2023-05-06 11:06:38 INFO SKYNET_FAILOVER_HANDLER=1: 2023-05-06 11:06:38 INFO SKYNET_DAG_INPUT={}: 2023-05-06 11:06:38 INFO SKYNET_ONDUTY_WORKNO=205254774303286315: 2023-05-06 11:06:38 INFO SKYNET_DSC_JOB_ID=1000544847: 2023-05-06 11:06:38 INFO SKYNET_APP_ID=4130: 2023-05-06 11:06:38 INFO SKYNET_APPNAME=zhibo820190408: 2023-05-06 11:06:38 INFO SKYNET_PRIORITY=1: 2023-05-06 11:06:38 INFO KILL_SIGNAL=SIGKILL: 2023-05-06 11:06:38 INFO SKYNET_RERUN_TIME=0: 2023-05-06 11:06:38 INFO SKYNET_REGION=cn-hangzhou: 2023-05-06 11:06:38 INFO TAS

展开
收起
冰激凌甜筒 2023-05-07 15:12:30 211 分享 版权
1 条回答
写回答
取消 提交回答
  • effe4a78c347291a17713c1d2dbba7f7.png,这里重跑了一下。 Fuxi Job的两种作业类型:Online Job(service mode)和Offline Job。对于Offline的作业而言,当每次提交作业时在Fuxi上都会有一个环境准备的时间,针对大数据量并且不需要返回查询结果的作业比较合适,而对小数据量并且实时作业要求比较高的作业是不合适的。所以Fuxi提供为什么ServiceMode这种准实时的作业形式,也是online,首先会有一个服务去预先申请计算一些资源并加载出来,比如会预先分配一 万个nstance,当有作业提交时会根据作业规模分配一些Instance进行执行,这样就省去环境准备的时间,所以就会比较快。online不等资源且不保证成功。如果service mode失败,比如instance个数超过1000,或者运行超过10分钟,就会退回以Offline模式重跑。可以set odps.service.mode=off;这样就直接跑完了,不会再跑online。此回答整理自钉群“MaxCompute开发者社区2群”

    2023-05-07 15:18:33
    赞同 展开评论

MaxCompute(原ODPS)是一项面向分析的大数据计算服务,它以Serverless架构提供快速、全托管的在线数据仓库服务,消除传统数据平台在资源扩展性和弹性方面的限制,最小化用户运维投入,使您经济并高效的分析处理海量数据。

还有其他疑问?
咨询AI助理