开发者社区> 问答> 正文

为什么需要 DAG 2.0 架构升级?

为什么需要 DAG 2.0 架构升级?

展开
收起
曦情兮 2022-05-09 22:29:12 364 0
1 条回答
写回答
取消 提交回答
  • 作为从阿里云飞天系统创建伊始就开始研发的伏羲分布式作业执行框架,DAG 1.0 在过去十年中支撑了阿里集团的大数据业务,在系统规模以及可靠性等方面都走在了业界领先。另外一方面,作为一个开发了十年的系统,虽然在这个期间不断的演进,DAG 1.0 在基本架构上秉承了比较明显的 Map-Reduce 执行框架的一些特点,逻辑图和物理图之间没有清晰的分层,这导致在这个基本架构上要继续向前走,支持更多 DAG 执行过程中的动态性,以及同时支持多种计算模式等方面,都比较困难。事实上今天在 MaxCompute SQL 线上,离线作业模式以及准实时作业模式 (smode) 两种执行模式,使用了两套完全分开的分布式执行框架,这也导致对于优化性能和优化系统资源使用之间的取舍,很多情况下只能走两个极端,而无法比较好的 tradeoff。

    2022-05-10 14:00:46
    赞同 展开评论 打赏
问答地址:
问答排行榜
最热
最新

相关电子书

更多
阿里云HBase产品体系架构及特性解析 立即下载
Serverless 下函数应用架构升级 立即下载
开源PolarDB总体架构和企业级特性 立即下载