【大数据开发套件调度配置实践】——调度任务各种周期配置和调度形态

简介: 数加·大数据开发套件目前支持任务调度周期有五种:天、周、月、分钟、小时。本文将介绍这五种周期的配置和调度形态。 调度规则——调度任务是否能运行起来要满足的条件: 上游任务实例是否都运行成功。若所有上游任务实例都运行成功则触发任务进入等待时间状态。

数加·大数据开发套件目前支持任务调度周期有五种:天、周、月、分钟、小时。本文将介绍这五种周期的配置和调度形态。

调度规则——调度任务是否能运行起来要满足的条件:

  1. 上游任务实例是否都运行成功。若所有上游任务实例都运行成功则触发任务进入等待时间状态。
  2. 任务实例定时时间是否已经到。任务实例进入等待时间状态后会check本身定时时间是否到,如果时间到了则进入等待资源状态;
  3. 当前调度资源是否充足。任务实例进入等待资源状态后,check当前本项目调度资源是否充足,若充足则可以运行起来。

天调度任务

天调度任务,即每天自动调度运行一次,运行时遵循调度规则。新建调度任务时,调度周期默认就是天调度。

image

具体时间默认是00:00:00,可自行指定,当然指定具体时间后依然需要遵循调度规则进行起调,不一定就能在指定的时间马上运行起来。

场景:3个任务——导入、统计加工、导出,都是天任务,具体时间如上图13点;统计加工任务依赖导入任务,导出任务依赖统计加工任务,依赖配置如下图(‘统计加工任务’的依赖属性配置上游任务为‘导入任务’):

image

这样的配置自动调度形态如下:

image

周调度任务

周调度任务,即每周周N那天会自动调度运行一次,运行时遵循调度规则;没指定的每天也都会生成自动调度实例但是是空跑实例,即调度到的时候直接返回成功状态不会真正执行任何逻辑,也不会占用资源。

image

如上图中,每周一、周五两天生成的实例会正常的调度执行,而周二、三、四、六以及周日5天都是生成空跑实例。

注意: 这个任务提交后,想进行调度测试,选择业务日期的时候,只有选择“周日”或“周四”的日期,生成的测试实例可以真正运行的实例,选择其他业务日期生成的实例都是空跑实例。

任务的自动调度形态如下:

image

月调度任务

周调度任务,即每月指定的日期那天会自动调度运行一次,运行时遵循调度规则;没指定的日期每天也都会生成自动调度实例但是是空跑实例,即调度到的时候直接返回成功状态不会真正执行任何逻辑,也不会占用资源。

image

如上图中,每月1日生成的实例会正常的调度执行,其他日期每天都是生成空跑实例。

注意:

  • 这个任务提交后,想进行调度测试,选择业务日期的时候,只有选择每个月最后一天的日期生成的测试实例才能真正运行,其他业务日期生成的实例都是空跑实例。
  • 目前系统不支持配置“每月最后一天”,调度周期—选择时间若选“每月31日”那么只有那个有31日的月份会有一天真正调度,其他都是空跑。若是需要统计汇总每个月的数据,正常情况就是配置每月一日调度,代码逻辑里写定义处理上个月的数据。

上图的配置,任务自动调度形态如下:

image

分钟调度任务

分钟调度任务,即每天指定的时间段内,每隔N(5的倍数)分钟自动调度运行一次,运行时遵循调度规则。

image

如上图,表示每天00点整到23点59分这个时间段内,每隔30分钟会自动调度一次。

开始时间、结束时间的“时”可以调整,比如可以调整为每天08点——20点59分,每隔30分钟执行一次。

上图的配置,调度形态如下:

image

小时调度任务

小时调度任务,即每天指定的时间段内,每隔N(1的倍数)分钟自动调度运行一次,运行时遵循调度规则。

image

如上图,表示每天00点整到23点59分这个时间段内,每隔6小时会自动调度一次。

开始时间、结束时间的“时”可以调整,比如可以调整为每天08点——20点59分,每隔1小时执行一次。

上图的配置,调度形态如下:

image

相关实践学习
基于MaxCompute的热门话题分析
Apsara Clouder大数据专项技能认证配套课程:基于MaxCompute的热门话题分析
目录
相关文章
|
7月前
|
资源调度 安全 Java
Java 大数据在智能教育在线实验室设备管理与实验资源优化配置中的应用实践
本文探讨Java大数据技术在智能教育在线实验室设备管理与资源优化中的应用。通过统一接入异构设备、构建四层实时处理管道及安全防护双体系,显著提升设备利用率与实验效率。某“双一流”高校实践显示,设备利用率从41%升至89%,等待时间缩短78%。该方案降低管理成本,为教育数字化转型提供技术支持。
203 1
|
6月前
|
存储 搜索推荐 算法
Java 大视界 -- Java 大数据在智能金融理财产品风险评估与个性化配置中的应用(195)
本文深入探讨了Java大数据技术在智能金融理财产品风险评估与个性化配置中的关键应用。通过高效的数据采集、存储与分析,Java大数据技术助力金融机构实现精准风险评估与个性化推荐,提升投资收益并降低风险。
Java 大视界 -- Java 大数据在智能金融理财产品风险评估与个性化配置中的应用(195)
|
分布式计算 大数据 Java
springboot项目集成大数据第三方dolphinscheduler调度器 执行/停止任务
springboot项目集成大数据第三方dolphinscheduler调度器 执行/停止任务
136 0
|
存储 分布式计算 druid
大数据-152 Apache Druid 集群模式 配置启动【下篇】 超详细!(一)
大数据-152 Apache Druid 集群模式 配置启动【下篇】 超详细!(一)
233 1
大数据-152 Apache Druid 集群模式 配置启动【下篇】 超详细!(一)
|
存储 分布式计算 监控
大数据增加分区减少单个任务的负担
大数据增加分区减少单个任务的负担
175 1
|
运维 监控 数据可视化
大数据-171 Elasticsearch ES-Head 与 Kibana 配置 使用 测试
大数据-171 Elasticsearch ES-Head 与 Kibana 配置 使用 测试
464 1
|
4月前
|
机器学习/深度学习 传感器 分布式计算
数据才是真救命的:聊聊如何用大数据提升灾难预警的精准度
数据才是真救命的:聊聊如何用大数据提升灾难预警的精准度
353 14
|
6月前
|
数据采集 分布式计算 DataWorks
ODPS在某公共数据项目上的实践
本项目基于公共数据定义及ODPS与DataWorks技术,构建一体化智能化数据平台,涵盖数据目录、归集、治理、共享与开放六大目标。通过十大子系统实现全流程管理,强化数据安全与流通,提升业务效率与决策能力,助力数字化改革。
230 4
|
5月前
|
机器学习/深度学习 运维 监控
运维不怕事多,就怕没数据——用大数据喂饱你的运维策略
运维不怕事多,就怕没数据——用大数据喂饱你的运维策略
204 0
|
4月前
|
传感器 人工智能 监控
数据下田,庄稼不“瞎种”——聊聊大数据如何帮农业提效
数据下田,庄稼不“瞎种”——聊聊大数据如何帮农业提效
169 14

相关产品

  • 云原生大数据计算服务 MaxCompute