开发者社区> 海清> 正文
阿里云
为了无法计算的价值
打开APP
阿里云APP内打开

MaxCompute Studio使用心得系列7——作业对比

简介: 在数据开发过程中,我们通常需要将两个作业进行对比从而定位作业运行性能或者结果有差异的问题,但是对比作业时需要同时打开两个studio 的tab页,或者两个Logview页,不停切换进行对比,使用起来非常的不方便。
+关注继续查看

在数据开发过程中,我们通常需要将两个作业进行对比从而定位作业运行性能或者结果有差异的问题,但是对比作业时需要同时打开两个studio 的tab页,或者两个Logview页,不停切换进行对比,使用起来非常的不方便。MaxCompute Studio从3.1.0版本开始支持作业对比,可以在一个页面同时比较两个作业,并且能自动标注出作业的差异点。

本文我以查找同个作业执行两次用时差别很大的原因为例,通过MaxCompute Studio的对比功能对两次执行的job进行对比,找出执行时间差别大的原因。

作业对比入口

MaxCompute Studio的Maxcompute 工具菜单中进入作业对比。

image

输入两个需要对比的job的logview url 地址,点击“OK”按钮就可以开始对比:

image

对比基本信息

作业一运行了01:11:08 ,作业二运行了00:45:59,想知道是什么导致了相差近半个小时。先看基本信息对比:

image

通过基本信息可以看到studio 标注出作业一的耗时明显上升,其他项目,如IO Bytes 等相差不多, 输入输出表完全相同。基本可以断定是同一作业,为了确保是同一个作业还可以对比执行计划和脚本。

对比执行图

打开执行图 Tab ,可以一目了然看到两个作业的执行计划,执行图无法进行标注,可以通过查看text diff查看。

image

点击text diff 后可以对比fuxi task 的执行时间, 输入输出等详细信息。可以比较绝对值,可以按比例比较,不一致的地方都会进行有效标注。

image

这里可以发现执行计划是完全一致的。

对比脚本

点击脚本对比Tab 后,可以对比settings 和script ,settings 非常关键,不同的参数可能会导致完全不同的结果。这里需要使用text diff 功能比较sql 脚本。

image

可以看到脚本对比功能很方便使用,即便是很复杂的sql 脚本都可以快速发现区别,这里发现只有分区日期不同,其他完全一致。

进一步分析执行计划

通过前面几个对比,确定两个作业完全一致, 再回到执行图中, 通过回放可以发现运行瓶颈在J4, 查看text diff 发现作业一的J4 用时52分, 作业二28分,由此判断作业一主要是J4用时长导致整体运行变慢。

image

接下来重点分析J4 ,打开J4的 Operation Graph, Studio 在Operation 层新添加了Metric 信息, 可以看到每个operation 的执行时间,inner_time_ms, 这个时间指Operation 执行完所有行的平均时间(每个fuxi instance 都会用这个operation执行, 当这个operation 处理完所有分配给他的数据后就得出一个时间,这里的inner_time_ms 指的是这些fuxi instance 对应的Operation 执行的平均时间) ,通过这个时间可以发现某个Operation 执行时间是否过长,例如自定义udf 是否有性能问题。

image

对比J4 的实际运行时间相差不多,并且执行的都比较快,由此可以考虑J4 是否存在等待资源情况, 导致fuxi instance 并没有及时开始运行。

对比分析Tab

打开作业分析tab的时序图子页面,可以明显发现作业一的J4_2_3 task 运行时间大于作业二的, 与前面看到的执行计划图一致。

image

鼠标放到J4上点击展开作业后,可以看出fuxi instance 开始执行时间非常晚,这进一步验证了资源不足导致作业等待情况。

image

小结

通过Studio 的作业对比功能,调查了资源等待导致的作业运行变慢情况, 并且排查的效率更高。作业对比还有很多其他功能,各位可以自行尝试。

使用MaxCompute和Studio有疑惑可以工单咨询,更多探讨可以加入对应钉钉群一起畅聊:

MaxCompute开发者社区 钉钉群号:11782920

MaxCompute Studio用户群 钉钉群号:21791804

版权声明:本文内容由阿里云实名注册用户自发贡献,版权归原作者所有,阿里云开发者社区不拥有其著作权,亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容,填写侵权投诉表单进行举报,一经查实,本社区将立刻删除涉嫌侵权内容。

相关文章
阿里云 MaxCompute 2020-8 月刊
MaxCompute商业化发布数据备份恢复和数据科学Mars两项重要功能,同时公测发布MaxCompute查询加速。秒级恢复误删除数据,分布式加速 Python 数据科学栈,自动识别短查询作业并加速处理,满足报表分析、即席查询场景的使用要求尽在8月刊。
9060 0
阿里云 MaxCompute 2020-6 月刊
MaxCompute备份与恢复功能(公测)发布,提供持续备份用户修改/删除历史数据,支持快速恢复,持续保护数据安全。 该功能适用于广泛的企业级客户,尤其适用于对数据保护有强需求、担心数据误删除以及担心数据被恶意删除的客户。
9320 0
阿里云 MaxCompute 2020-5 月刊
MaxCompute迁移工具MMA2.0新版本发布,MMA2.0不仅在技术架构上做了重构,在功能上也有重大升级,提升了迁移效率和运行稳定性的同时,在操作体验上也更加自动化和智能化。更多5月产品动态,欢迎阅读MaxCompute5月刊。
550 0
阿里云 MaxCompute 2020-4 月刊
4月MaxCompute审计日志发布,可通过历史事件及明细查询、实时行为事件分析,满足您实时审计、问题回溯分析等需求。同时,MaxCompute在支持实时消费监控告警的基础上新发布支持对按量付费单个SQL作业的消费进行控制,帮您更好的监控消费。更多4月的新功能与新解决方案,欢迎阅读4月刊。
1067 0
阿里云 MaxCompute 2020-3 月刊
MaxCompute3月新发功能,新增文档,精彩直播回放,尽在 MaxCompute 3月刊。
4639 0
阿里云 MaxCompute 2020-2 月刊
MaxCompute2020年2月刊为您带来Python UDF 支持Python 3 ,MaxCompute存储格式全面升级AliORC等九项最新发布功能。欢迎阅读。
367 0
阿里云 MaxCompute 2020-1 月刊
您好,MaxCompute 2020.1月刊如期而至,在疫情肆虐的日子里,祝福每一位开发者,平安健康,一切顺利。
1338 0
阿里云 MaxCompute 2019-12 月刊
2019年12月刊,您将了解到 MaxCompute推出更加灵活的预付费资源模型-非预留计算资源,让您在成本不变的情况下使用更多弹性的计算资源;同时,MaxCompute 支持使用开源地理空间函数,更多详情请阅读本月刊。
2604 0
阿里云 MaxCompute 2019-12 月刊
2019年12月刊中,您将了解到 MaxCompute推出更加灵活的预付费资源模型-非预留计算资源,让您在成本不变的情况下使用更多弹性的计算资源;同时,MaxCompute 支持使用开源地理空间函数,更多详情请阅读本月刊。
8052 0
阿里云 MaxCompute 2019-11 月刊
Tableau官方支持MaxCompute数据源,MaxCompute提供了对SQL查询任务结果的动态脱敏功能, 数据迁移工具全新发布等精彩内容尽在 11月刊,欢迎阅读。
10666 0
+关注
海清
阿里云数加培训讲师, 最擅长MaxCompute、大数据开发套件。
35
文章
1
问答
来源圈子
更多
MaxCompute(原ODPS)是一项面向分析的大数据计算服务,它以Serverless架构提供快速、全托管的在线数据仓库服务,消除传统数据平台在资源扩展性和弹性方面的限制,最小化用户运维投入,使您经济并高效的分析处理海量数据。
+ 订阅
相关文档: MaxCompute
文章排行榜
最热
最新
相关电子书
更多
低代码开发师(初级)实战教程
立即下载
阿里巴巴DevOps 最佳实践手册
立即下载
冬季实战营第三期:MySQL数据库进阶实战
立即下载