开发者社区> 问答> 正文

MaxCompute中一条odps命令运行作业(简易流程)的流程是啥呢?

MaxCompute中一条odps命令运行作业(简易流程)的流程是啥呢?

展开
收起
bnbajjyhyjfty 2021-12-11 14:05:07 851 0
1 条回答
写回答
取消 提交回答
  • Scheduler会把instance拆成多个Task,并生成任务流DAG图。 把可运行的Task 放入到优先级队列TaskPool中。

    Scheduler 有一个后台线程定时对TaskPool 中的任务进行排序。Scheduler 有一个后台线程定时查询计算集群的资源状况。Executor在资源未满的情况下,轮询TaskPool,请求Task。Scheduler判断计算资源。若集群有资源,就将该Task发给Executor。

    Executor调用SQL Parse Planner,生成SQL Plan。Executor 将 SQL Plan 转换成计算层的 FuXi Job 描述文件。Executor 将该描述文件提交给计算层运行,并查询 Task 执行状态。Task 执行完成后,Executor更新 OTS 中的 Task信息,并汇报给Scheudler。

    Schduler 判断 instance 结束,更新 OTS 中 instance 信息,置为 Terminated。

    2021-12-11 14:05:32
    赞同 展开评论 打赏
问答排行榜
最热
最新

相关电子书

更多
DataWorks数据集成实时同步最佳实践(含内测邀请)-2020飞天大数据平台实战应用第一季 立即下载
DataWorks商业化资源组省钱秘籍-2020飞天大数据平台实战应用第一季 立即下载
基于DataWorks数据服务构建疫情大屏-2020飞天大数据平台实战应用第一季 立即下载