DataWorks这边有个需求,不知道是否能实现。我想拿到某条任务链的运行时间(ODS-CDM-ADS),然后将这个运行时间写入ads层的表中。有办法实现吗?
可以实现。在DataWorks中,可以通过以下步骤实现将任务链的运行时间写入ADS层的表中:
首先,在ODS层创建一个表,用于存储任务链的运行时间。例如,可以创建一个名为task_chain_runtime
的表,包含任务链ID、开始时间和结束时间等字段。
在CDM层创建一个视图,用于计算任务链的运行时间。例如,可以创建一个名为task_chain_runtime_view
的视图,通过连接ODS层的task_chain_runtime
表,计算每个任务链的运行时间。
在ADS层创建一个表,用于存储从CDM层获取的任务链运行时间。例如,可以创建一个名为ads_task_chain_runtime
的表,包含任务链ID和运行时间等字段。
创建一个ETL作业,用于将CDM层的task_chain_runtime_view
视图中的数据写入ADS层的ads_task_chain_runtime
表。在作业配置中,设置源表为task_chain_runtime_view
,目标表为ads_task_chain_runtime
,并设置相应的映射关系。
最后,运行ETL作业,将任务链的运行时间写入ADS层的表中。
通过以上步骤,可以实现将任务链的运行时间写入ADS层的表中。
可以看下openapi getinstance之类的 获取到实例日志 再从日志解析出开始和结束时间https://help.aliyun.com/zh/dataworks/developer-reference/api ,此回答整理自钉群“DataWorks交流群(答疑@机器人)”
版权声明:本文内容由阿里云实名注册用户自发贡献,版权归原作者所有,阿里云开发者社区不拥有其著作权,亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容,填写侵权投诉表单进行举报,一经查实,本社区将立刻删除涉嫌侵权内容。
DataWorks基于MaxCompute/Hologres/EMR/CDP等大数据引擎,为数据仓库/数据湖/湖仓一体等解决方案提供统一的全链路大数据开发治理平台。