开发者社区 > 大数据与机器学习 > 大数据计算 MaxCompute > 正文

DAG 调度的挑战是什么?

已解决

DAG 调度的挑战是什么?

展开
收起
游客lmkkns5ck6auu 2022-08-10 10:45:09 328 0
1 条回答
写回答
取消 提交回答
  • 推荐回答

    传统的分布式作业 DAG,一般是在作业提交前静态指定的,这种指定方式,使得作业的运行没有太多动态调整的空间。放在 DAG 的逻辑图与物理图的背景中来说,这要求分布式系统在运行作业前,必须事先了解作业逻辑和处理数据各种特性,并能够准确回答作业运行过程,各个节点和连接边的物理特性问题,然而在现实情况中,许多和运行过程中数据特性相关的问题,都只有个在执行过程中才能被最准确的获得。静态的 DAG 执行,可能导致选中的是非最优的执行计划,从而导致各种运行时的效率低下,甚至作业失败。

    以上内容摘自《“伏羲”神算》电子书,点击https://developer.aliyun.com/topic/download?id=873

    2022-08-10 17:46:14
    赞同 展开评论 打赏

MaxCompute(原ODPS)是一项面向分析的大数据计算服务,它以Serverless架构提供快速、全托管的在线数据仓库服务,消除传统数据平台在资源扩展性和弹性方面的限制,最小化用户运维投入,使您经济并高效的分析处理海量数据。

相关电子书

更多
Flink中的两类新型状态存储 立即下载
分布式流处理框架——功能对比和性能评估 立即下载
弹性云的核心--基于热迁移的弹性调度 立即下载