开发者社区 > 大数据与机器学习 > 大数据计算 MaxCompute > 正文

当 project 之间的互相依赖集中在极少数几个作业上,并且作业的输入数据量远大于输出数据量时,比

已解决

当 project 之间的互相依赖集中在极少数几个作业上,并且作业的输入数据量远大于输出数据量时,比起数据缓存和 project 整体迁移,更好的办法是什么?

展开
收起
游客lmkkns5ck6auu 2022-08-10 10:44:14 331 0
1 条回答
写回答
取消 提交回答
  • 推荐回答

    将这些作业调度到数据所在的数据中心,再将作业的输出远程写回原数据中心,即作业粒度调度。如何在作业运行之前就预测到作业的输入输出数据量和资源消耗,另一方面当作业调度到 remote 数据中心后,如何保证作业运行不会变慢,不影响用户体验,这都是作业粒度调度要解决的问题。

    以上内容摘自《“伏羲”神算》电子书,点击https://developer.aliyun.com/topic/download?id=873

    2022-08-10 17:39:41
    赞同 展开评论 打赏

MaxCompute(原ODPS)是一项面向分析的大数据计算服务,它以Serverless架构提供快速、全托管的在线数据仓库服务,消除传统数据平台在资源扩展性和弹性方面的限制,最小化用户运维投入,使您经济并高效的分析处理海量数据。

相关电子书

更多
大批量处理excel文件到ODPS中方案 立即下载
Flink中的两类新型状态存储 立即下载
实战-如何基于HBase构建图片视频数据的统一存储检索方案 立即下载