DataWorks百问百答55:如何使用DataWorks运行日志runlog排查问题?

本文涉及的产品
大数据开发治理平台 DataWorks,不限时长
简介: 如何使用DataWorks运行日志runlog排查问题?

生产环境的运维中心>周期实例>选中DAG图中失败的实例右键查看运行日志




根据日志文末初步查看报错信息,未解决可进入运行诊断


可以参考运行诊断官方文档链接

日志参数解读

 INFO Start execute shell on node sh-base-biz-gatewayXX.cloud.etXX.  //执行调度任务的机器
 INFO CALC_ENGINE_IDENTIFIER=odps_demo_XX:  //当前执行计算引擎的名字
 INFO SKYNET_PARAVALUE=bizdate=202004XX:  //调度配置中的参数,解析出来的值
 INFO SKYNET_TASKID=70703315XX:  //实例ID
 INFO SKYNET_ID=7000032111XX:  //节点id
 INFO SKYNET_JOBID=7001190381XX:  //JobID
 INFO SKYNET_NODENAME=tmp_tb3_sql:  //节点名字
 INFO SKYNET_DSC_JOB_VERSION=1:  //节点版本,节点更新一次,版本+1
 INFO SKYNET_TIMEZONE=GMT+8:  //时区 这里为东八区
 INFO SKYNET_SOURCENAME=group_28378948471XXXX:  //调度资源组名
 INFO SKYNET_SYSTEM_ENV=prod:  //dev开发环境  prod生产环境
 INFO SKYNET_GMTDATE=20200402:  //当前日期,格式为yyyymmdd。补数据时传入的是业务日期+1
 INFO SKYNET_BIZDATE=20200401:  //实例业务日期,格式为yyyymmdd
 INFO SKYNET_CYCTIME=202004020009XX:  //实例的定时运行时间,格式为yyyymmddhh24miss
 INFO SKYNET_APP_ID=1160XX:  //项目ID
 INFO SKYNET_APPNAME=onaliyun_workshXX:  //项目名
 INFO SKYNET_RERUN_TIME=0:  //重跑次数
 INFO SKYNET_REGION=cn-shanghai:  //Region
 INFO ALISA_TASK_EXEC_TARGET=group_28378948471XXXX:  //调度任务资源组
 INFO ALISA_TASK_PRIORITY=1:  //调度优先级 值越大优先级越高取值[1,3,5,7,8]
Log view:  //每一句sql提交到MaxCompute后产生的执行日志 节点中有多句sql就会有多个logview
http://logview.odps.aliyun.com/logview/?h=http://service.odps.aliyun.com/api&p......
inputs:
    onaliyun_workshXX.tmp_tb2/dt=20200401: 2 (531 bytes)  //读表的数据量
outputs:
    onaliyun_workshXX.tmp_tb3/dt_3=20200401: 2 (531 bytes)  //写表的数据量

根据参数解决问题思路案例:

以inputs/outputs参数为例:

问题:实例运行成功,但是目的表分区为空。
insert到A表2020801分区,实例已经执行成功,但是select语句查询的时候发现A表20200801分区数据为空。

解决:

  1. 查看日志中该insert语句下面的第一个outputs参数,看表、分区、数据量是否符合需求?

    • 符合,多半是查询验证的时候查错表或分区了,建议从outputs这里完整复制下来再查询。
    • 不符合,见2。
  2. 查看日志中该insert语句下面的第一个inputs参数,看读取的表数量以及分区数据是否符合需求?

    • 符合,没有数据基本是因为sql本身把数据过滤掉了。
    • 不符合,inputs中少表或者少数据,说明调度上少挂了依赖,或者挂错了依赖,该sql执行的时候业务上真实需要的上游表还未产出。

DataWorks百问百答历史记录 请点击这里查看>>

更多DataWorks技术和产品信息,欢迎加入【DataWorks钉钉交流群】

相关实践学习
简单用户画像分析
本场景主要介绍基于海量日志数据进行简单用户画像分析为背景,如何通过使用DataWorks完成数据采集 、加工数据、配置数据质量监控和数据可视化展现等任务。
一站式大数据开发治理平台DataWorks初级课程
DataWorks 从 2009 年开始,十ー年里一直支持阿里巴巴集团内部数据中台的建设,2019 年双 11 稳定支撑每日千万级的任务调度。每天阿里巴巴内部有数万名数据和算法工程师正在使用DataWorks,承了阿里巴巴 99%的据业务构建。本课程主要介绍了阿里巴巴大数据技术发展历程与 DataWorks 几大模块的基本能力。 课程目标  通过讲师的详细讲解与实际演示,学员可以一边学习一边进行实际操作,可以深入了解DataWorks各大模块的使用方式和具体功能,让学员对DataWorks数据集成、开发、分析、运维、安全、治理等方面有深刻的了解,加深对阿里云大数据产品体系的理解与认识。 适合人群  企业数据仓库开发人员  大数据平台开发人员  数据分析师  大数据运维人员  对于大数据平台、数据中台产品感兴趣的开发者
相关文章
|
1月前
|
SQL 分布式计算 DataWorks
DataWorks常见问题之dataworks自定义函数运行时报错如何解决
DataWorks是阿里云提供的一站式大数据开发与管理平台,支持数据集成、数据开发、数据治理等功能;在本汇总中,我们梳理了DataWorks产品在使用过程中经常遇到的问题及解答,以助用户在数据处理和分析工作中提高效率,降低难度。
|
1月前
|
分布式计算 DataWorks 调度
DataWorks常见问题之dataworks运行报错 system internal error 如何解决
DataWorks是阿里云提供的一站式大数据开发与管理平台,支持数据集成、数据开发、数据治理等功能;在本汇总中,我们梳理了DataWorks产品在使用过程中经常遇到的问题及解答,以助用户在数据处理和分析工作中提高效率,降低难度。
|
1月前
|
SQL 存储 运维
dataworks常见问题之作业运行超过10天报timeout如何解决
DataWorks是阿里云提供的一站式大数据开发与管理平台,支持数据集成、数据开发、数据治理等功能;在本汇总中,我们梳理了DataWorks产品在使用过程中经常遇到的问题及解答,以助用户在数据处理和分析工作中提高效率,降低难度。
41 5
|
1月前
|
SQL 运维 DataWorks
DataWorks常见问题之dataworks运维中心指定时间“运行到该节点”失败如何解决
DataWorks是阿里云提供的一站式大数据开发与管理平台,支持数据集成、数据开发、数据治理等功能;在本汇总中,我们梳理了DataWorks产品在使用过程中经常遇到的问题及解答,以助用户在数据处理和分析工作中提高效率,降低难度。
|
1月前
|
SQL 资源调度 Oracle
Flink CDC产品常见问题之sql运行中查看日志任务失败如何解决
Flink CDC(Change Data Capture)是一个基于Apache Flink的实时数据变更捕获库,用于实现数据库的实时同步和变更流的处理;在本汇总中,我们组织了关于Flink CDC产品在实践中用户经常提出的问题及其解答,目的是辅助用户更好地理解和应用这一技术,优化实时数据处理流程。
|
1月前
|
分布式计算 DataWorks 数据可视化
DataWorks常见问题之dataworks三个节点运行失败没法终止如何解决
DataWorks是阿里云提供的一站式大数据开发与管理平台,支持数据集成、数据开发、数据治理等功能;在本汇总中,我们梳理了DataWorks产品在使用过程中经常遇到的问题及解答,以助用户在数据处理和分析工作中提高效率,降低难度。
|
1月前
|
分布式计算 DataWorks 关系型数据库
DataWorks报错问题之报错“查询运行日志失败"如何解决
DataWorks是阿里云提供的一站式大数据开发与管理平台,支持数据集成、数据开发、数据治理等功能;在本汇总中,我们梳理了DataWorks产品在使用过程中经常遇到的问题及解答,以助用户在数据处理和分析工作中提高效率,降低难度。
|
1月前
|
分布式计算 DataWorks 调度
DataWorks常见问题之设置好调度时间的任务运行后查看运行日志报错如何解决
DataWorks是阿里云提供的一站式大数据开发与管理平台,支持数据集成、数据开发、数据治理等功能;在本汇总中,我们梳理了DataWorks产品在使用过程中经常遇到的问题及解答,以助用户在数据处理和分析工作中提高效率,降低难度。
38 0
|
1月前
|
分布式计算 DataWorks 关系型数据库
DataWorks常见问题之脚本运行失败计算费用如何解决
DataWorks是阿里云提供的一站式大数据开发与管理平台,支持数据集成、数据开发、数据治理等功能;在本汇总中,我们梳理了DataWorks产品在使用过程中经常遇到的问题及解答,以助用户在数据处理和分析工作中提高效率,降低难度。
31 4
|
1月前
|
SQL 分布式计算 DataWorks
DataWorks常见问题之运行官方提供的示例报错如何解决
DataWorks是阿里云提供的一站式大数据开发与管理平台,支持数据集成、数据开发、数据治理等功能;在本汇总中,我们梳理了DataWorks产品在使用过程中经常遇到的问题及解答,以助用户在数据处理和分析工作中提高效率,降低难度。
25 0

相关产品

  • 大数据开发治理平台 DataWorks