阿里巴巴任务调度SchedulerX兼容XXL-JOB

简介: 阿里巴巴任务调度SchedulerX2.0兼容XXL-JOB任务接口,支持@XxlJob新注解和@JobHandler老注解方式,用户不需要修改一行代码,即可以将XXL-JOB任务在SchedulerX2.0平台上托管。

背景介绍

XXL-JOB是一个开箱即用的轻量级分布式任务调度系统,其核心设计目标是开发迅速、学习简单、轻量级、易扩展,在开源社区广泛流行,已在多家公司投入使用。


因为XXL-JOB开源协议是GPL,云厂商无法直接商业化托管该产品,各大中小企业需要自建,增加了学习成本、机器成本、人工运维成本。


阿里巴巴商业化任务调度平台SchedulerX2.0兼容XXL-JOB任务接口,支持@XxlJob新注解和@JobHandler老注解方式,用户不需要修改一行代码,即可以将XXL-JOB任务在SchedulerX2.0平台上托管。


托管XXL-JOB的优势

免运维、低成本

自建XXL-JOB至少需要2个server+1个数据库

托管XXL-JOB可以省去机器成本,省去人力运维成本


海量任务、精准调度

开源XXL-JOB基于竞争数据库锁保证只有一个节点执行任务,对于数据库有压力,据统计,当任务超过1万,都是分钟级别的任务时,就会有比较明显的调度延时,如果是秒级别任务,延时就更加明显。


SchedulerX2.0采用分布式架构,不同的server调度不同的任务,且无锁竞争,真正实现可以水平扩展,可以支持百万级别任务调度。针对秒级别任务低延时的特性,采用了专门的架构,占用资源极低,可以作为实时业务的秒级别调度场景。


另外,SchedulerX2.0还支持一次性任务,可以指定未来某个时刻执行一次任务,执行完任务自动销毁,可以作为定时通知、订单定时关闭等场景。


丰富的可视化

schedulerx拥有丰富的可视化能力,比如

  • 用户大盘

  • 查看任务历史执行记录

  • 查看任务运行日志

  • 查看任务运行堆栈

  • 查看任务操作记录


高级特性

  • 任务编排:支持工作流(DAG)进行任务编排,操作简单,前端直接单手操作拖拖拽拽即可。详细的任务状态图能一目了然看到下游任务为什么没跑。


  • 限流:常见场景是夜间离线报表业务,比如很多报表任务是晚上1、2点开始跑,要控制应用最大并发的任务数量(否则业务扛不住),达到并发上限的任务会在队列中等待。同时要求早上9点前必须把KPI报表跑出来,可以设置KPI任务高优先级,会抢占低优先级任务优先调度。

SchedulerX支持可抢占的任务优先级队列,只需要在控制台进行配置

  • 资源隔离:支持命名空间和应用级别资源隔离,支持多租户权限管理


企业级高可用

SchedulerX2.0采用高可用架构,任务多备份机制,经历阿里集团多年双十一、容灾演练,可以做到整个集群挂掉任意2个节点或者任意一个机房断电,任务调度都不会收到影响。


商业化报警运维

  • 报警:支持邮件、钉钉、短信、电话,其他报警方式在规划中。支持任务失败、超时、无可用机器报警。报警内容可以简单的看出任务失败的原因,以钉钉机器人为例

  • 运维操作:原地重跑、重刷数据、标记成功、查看堆栈、停止任务、指定机器等


与开源XXL-JOB区别

开源xxl-job

SchedulerX为底座的xxl-job任务

Bean模式

新版本@XxlJob注解,老版本@JobHandler注解,不兼容

同时兼容@XxlJob注解和@JobHandler注解

GLUE(JAVA)

支持

不支持(有计划)

Shell

支持

支持

Nodejs

支持

支持

http

不支持

支持

单机

支持

支持

分片广播

支持

支持

路由策略

第一个、最后一个、轮询、随机等

轮询

定时

cron

cron、fixed_rate、fixed_delay、one_time

工作流

不支持

支持

运维操作

运行一次

运行一次、原地重跑、重刷数据、标记成功、停止运行

报警

邮件

邮件、钉钉群、短信、电话


如何接入(有完整demo可供下载)

接入配置

将com.xuxueli:xxl-job-core的依赖去除,增加schedulerx客户端的依赖和com.aliyun:schedulerx2-plugin-xxljob这个插件,以schedulerx2-spring-boot-starter为例:


因为xxl-job在2.3.x版本重构了接口,请根据xxl-job版本选择不同的接入方式

  • 2.3.x版本接入,参考demo
<!-- 注释xxl-job-core --><!--<dependency><groupId>com.xuxueli</groupId><artifactId>xxl-job-core</artifactId><version>${project.parent.version}</version></dependency>--><dependency><groupId>com.aliyun.schedulerx</groupId><artifactId>schedulerx2-spring-boot-starter</artifactId><version>1.8.12</version></dependency><dependency><groupId>com.aliyun.schedulerx</groupId><artifactId>schedulerx2-plugin-xxljob</artifactId><version>2.3.1</version></dependency>
  • 2.3.0以下版本接入,参考demo
<!-- 注释xxl-job-core --><!--<dependency><groupId>com.xuxueli</groupId><artifactId>xxl-job-core</artifactId><version>${project.parent.version}</version></dependency>--><dependency><groupId>com.aliyun.schedulerx</groupId><artifactId>schedulerx2-spring-boot-starter</artifactId><version>1.8.12</version></dependency><dependency><groupId>com.aliyun.schedulerx</groupId><artifactId>schedulerx2-plugin-xxljob</artifactId><version>2.2.1</version></dependency>


application.properties增加配置

spring.schedulerx2.endpoint=xxxxxxx
spring.schedulerx2.namespace=xxxxxxx
spring.schedulerx2.groupId=xxxxxxxx
spring.schedulerx2.appKey=xxxxxxx


创建任务

@XxlJob方法注解

以xxl-job-2.2.1接口为例,参考开源xxl-job-executor-sample-springboot工程,新建方法任务


控制台新建任务


手动运行一次,可以打印任务参数


@JobHandler类注解

新建代码如下


控制台新建任务如下


成功打印任务参数:


分片广播

以XxlJob方法注解为例,新建代码如下


控制台新建任务


启动2个客户端实例,运行一次,分别打印


XXL-JOB批量迁移工具

导出xxl-job任务配置

  1. 下载工具,地址:https://schedulerx2.oss-cn-hangzhou.aliyuncs.com/tools/xxljob-export.tar.gz
  2. 解压工具包,在application.properties文件中进行导出配置

### xxl-job, datasource
datasource.url=jdbc:mysql://127.0.0.1:3306/xxl_job?useUnicode=true&characterEncoding=UTF-8&autoReconnect=true&serverTimezone=Asia/Shanghai
datasource.username=root
datasource.password=123456
datasource.driver-class-name=com.mysql.cj.jdbc.Driver
### 配置对应要导出的app-name(该步骤可选,不设置的情况下导出所有任务分组)
#xxl-job.app-name=xxl-job-executor-sample
  1. 执行./start.sh命令运行导出操作

  1. 执行完成后,在当前目录下获得 "xxljob_*******.json"的任务配置文件(仅Bean模式的任务配置信息)

任务导入SchedulerX

  1. 进入SchedulerX控制台,进入“任务管理”菜单,选择“应用”->“导入任务”

  1. 选择上节中导出的任务配置文件执行导入,即可完成xxl-job任务配置信息至SchedulerX任务配置信息同步。


目录
相关文章
|
6月前
|
负载均衡 Java 调度
xxl-job与其他调度框架比较与部署
xxl-job与其他调度框架比较与部署
xxl-job与其他调度框架比较与部署
|
SQL Java 调度
大师级教程: 零基础掌握xxl-job分布式任务调度 Job Scheduling
大师级教程: 零基础掌握xxl-job分布式任务调度 Job Scheduling
466 0
大师级教程: 零基础掌握xxl-job分布式任务调度 Job Scheduling
|
监控 Java 调度
xxl-Job分布式任务调度 1
xxl-Job分布式任务调度
103 0
|
SQL Java 调度
xxl-job(分布式任务调度平台)的使用
xxl-job(分布式任务调度平台)的使用
183 0
|
监控 IDE Java
XXL-JOB任务调度详解
XXL-JOB任务调度详解
783 0
|
资源调度 分布式计算 运维
阿里巴巴任务调度SchedulerX支持一次性任务
阿里巴巴任务调度SchedulerX2.0支持一次性任务
1234 2
|
资源调度 运维 DataWorks
阿里分布式任务调度SchedulerX2.0支持Dataworks任务
在实际业务场景中业务处理往往依赖前置数据准备,目前在分布式任务调度平台上可进行dataworks任务数据处理与业务数据处理任务依赖编排定时调度。
1217 1
|
资源调度 分布式计算 自然语言处理
EDAS之分布式任务调度SchedulerX系列文章
分布式任务调度SchedulerX2.0文章列表总览
597 1
|
运维 资源调度 监控
阿里巴巴任务调度SchedulerX兼容ElasticJob
阿里巴巴任务调度SchedulerX2.0兼容开源ElasticJob任务接口,用户不需要修改一行代码,即可以将ElasticJob任务在SchedulerX2.0平台上托管,享有低成本、免运维、可视化、报警监控等能力。
991 0
阿里巴巴任务调度SchedulerX兼容ElasticJob
|
缓存 资源调度 运维
SchedulerX 如何帮助用户解决分布式任务调度难题?
本文分别对任务调度平台的资源定义、可视化管控能力、分布式批处理能力进行了简述,并基于 SchedulerX 的能力结合实际业务场景提供了一些基础参考案例。希望通过上述内容能让大家方便地熟悉任务调度平台接入使用概况,对于现有用户也可结合自身团队特点进行平台资源管控隔离,以及在产品业务量增长后通过分布式批处理能力来提升处理效率。
SchedulerX 如何帮助用户解决分布式任务调度难题?

相关实验场景

更多