阿里巴巴任务调度SchedulerX兼容XXL-JOB

简介: 阿里巴巴任务调度SchedulerX2.0兼容XXL-JOB任务接口,支持@XxlJob新注解和@JobHandler老注解方式,用户不需要修改一行代码,即可以将XXL-JOB任务在SchedulerX2.0平台上托管。

背景介绍

XXL-JOB是一个开箱即用的轻量级分布式任务调度系统,其核心设计目标是开发迅速、学习简单、轻量级、易扩展,在开源社区广泛流行,已在多家公司投入使用。


因为XXL-JOB开源协议是GPL,云厂商无法直接商业化托管该产品,各大中小企业需要自建,增加了学习成本、机器成本、人工运维成本。


阿里巴巴商业化任务调度平台SchedulerX2.0兼容XXL-JOB任务接口,支持@XxlJob新注解和@JobHandler老注解方式,用户不需要修改一行代码,即可以将XXL-JOB任务在SchedulerX2.0平台上托管。


托管XXL-JOB的优势

免运维、低成本

自建XXL-JOB至少需要2个server+1个数据库

托管XXL-JOB可以省去机器成本,省去人力运维成本


海量任务、精准调度

开源XXL-JOB基于竞争数据库锁保证只有一个节点执行任务,对于数据库有压力,据统计,当任务超过1万,都是分钟级别的任务时,就会有比较明显的调度延时,如果是秒级别任务,延时就更加明显。


SchedulerX2.0采用分布式架构,不同的server调度不同的任务,且无锁竞争,真正实现可以水平扩展,可以支持百万级别任务调度。针对秒级别任务低延时的特性,采用了专门的架构,占用资源极低,可以作为实时业务的秒级别调度场景。


另外,SchedulerX2.0还支持一次性任务,可以指定未来某个时刻执行一次任务,执行完任务自动销毁,可以作为定时通知、订单定时关闭等场景。


丰富的可视化

schedulerx拥有丰富的可视化能力,比如

  • 用户大盘

  • 查看任务历史执行记录

  • 查看任务运行日志

  • 查看任务运行堆栈

  • 查看任务操作记录


高级特性

  • 任务编排:支持工作流(DAG)进行任务编排,操作简单,前端直接单手操作拖拖拽拽即可。详细的任务状态图能一目了然看到下游任务为什么没跑。


  • 限流:常见场景是夜间离线报表业务,比如很多报表任务是晚上1、2点开始跑,要控制应用最大并发的任务数量(否则业务扛不住),达到并发上限的任务会在队列中等待。同时要求早上9点前必须把KPI报表跑出来,可以设置KPI任务高优先级,会抢占低优先级任务优先调度。

SchedulerX支持可抢占的任务优先级队列,只需要在控制台进行配置

  • 资源隔离:支持命名空间和应用级别资源隔离,支持多租户权限管理


企业级高可用

SchedulerX2.0采用高可用架构,任务多备份机制,经历阿里集团多年双十一、容灾演练,可以做到整个集群挂掉任意2个节点或者任意一个机房断电,任务调度都不会收到影响。


商业化报警运维

  • 报警:支持邮件、钉钉、短信、电话,其他报警方式在规划中。支持任务失败、超时、无可用机器报警。报警内容可以简单的看出任务失败的原因,以钉钉机器人为例

  • 运维操作:原地重跑、重刷数据、标记成功、查看堆栈、停止任务、指定机器等


与开源XXL-JOB区别

开源xxl-job

SchedulerX为底座的xxl-job任务

Bean模式

新版本@XxlJob注解,老版本@JobHandler注解,不兼容

同时兼容@XxlJob注解和@JobHandler注解

GLUE(JAVA)

支持

不支持(有计划)

Shell

支持

支持

Nodejs

支持

支持

http

不支持

支持

单机

支持

支持

分片广播

支持

支持

路由策略

第一个、最后一个、轮询、随机等

轮询

定时

cron

cron、fixed_rate、fixed_delay、one_time

工作流

不支持

支持

运维操作

运行一次

运行一次、原地重跑、重刷数据、标记成功、停止运行

报警

邮件

邮件、钉钉群、短信、电话


如何接入(有完整demo可供下载)

接入配置

将com.xuxueli:xxl-job-core的依赖去除,增加schedulerx客户端的依赖和com.aliyun:schedulerx2-plugin-xxljob这个插件,以schedulerx2-spring-boot-starter为例:


因为xxl-job在2.3.x版本重构了接口,请根据xxl-job版本选择不同的接入方式

  • 2.3.x版本接入,参考demo
<!-- 注释xxl-job-core -->
<!--
<dependency>
  <groupId>com.xuxueli</groupId>
  <artifactId>xxl-job-core</artifactId>
  <version>${project.parent.version}</version>
</dependency>
-->

<dependency>
  <groupId>com.aliyun.schedulerx</groupId>
  <artifactId>schedulerx2-spring-boot-starter</artifactId>
  <version>1.13.1</version>
</dependency>

<dependency>
  <groupId>com.aliyun.schedulerx</groupId>
  <artifactId>schedulerx2-plugin-xxljob</artifactId>
  <version>2.3.5</version>
</dependency>
  • 2.3.0以下版本接入,参考demo
<!-- 注释xxl-job-core -->
<!--
<dependency>
  <groupId>com.xuxueli</groupId>
  <artifactId>xxl-job-core</artifactId>
  <version>${project.parent.version}</version>
</dependency>
-->

<dependency>
  <groupId>com.aliyun.schedulerx</groupId>
  <artifactId>schedulerx2-spring-boot-starter</artifactId>
  <version>1.13.1</version>
</dependency>

<dependency>
  <groupId>com.aliyun.schedulerx</groupId>
  <artifactId>schedulerx2-plugin-xxljob</artifactId>
  <version>2.2.5</version>
</dependency>


application.properties增加配置

spring.schedulerx2.endpoint=xxxxxxx
spring.schedulerx2.namespace=xxxxxxx
spring.schedulerx2.groupId=xxxxxxxx
spring.schedulerx2.appKey=xxxxxxx


创建任务

@XxlJob方法注解

以xxl-job-2.2.1接口为例,参考开源xxl-job-executor-sample-springboot工程,新建方法任务


控制台新建任务


手动运行一次,可以打印任务参数


@JobHandler类注解

新建代码如下


控制台新建任务如下


成功打印任务参数:


分片广播

以XxlJob方法注解为例,新建代码如下


控制台新建任务


启动2个客户端实例,运行一次,分别打印


XXL-JOB批量迁移工具

导出xxl-job任务配置

  1. 下载工具,地址:https://schedulerx2.oss-cn-hangzhou.aliyuncs.com/tools/xxljob-export.tar.gz
  2. 解压工具包,在application.properties文件中进行导出配置

image.png

### xxl-job, datasource
datasource.url=jdbc:mysql://127.0.0.1:3306/xxl_job?useUnicode=true&characterEncoding=UTF-8&autoReconnect=true&serverTimezone=Asia/Shanghai
datasource.username=root
datasource.password=123456
datasource.driver-class-name=com.mysql.cj.jdbc.Driver

### 配置对应要导出的app-name(该步骤可选,不设置的情况下导出所有任务分组)
#xxl-job.app-name=xxl-job-executor-sample
  1. 执行./start.sh命令运行导出操作,目前支持开源的三个阶段性版本数据表结构,执行start.sh时可带参数:无参数(2.3.x和2.4.x版本)、220(2.2.x版本)、180(1.8.x版本);例如:./start.sh 180  表示导出开源服务1.8.x版本表结构的任务配置

  1. 执行完成后,在当前目录下获得 "xxljob_*******.json"的任务配置文件(仅Bean模式的任务配置信息)

任务导入SchedulerX

  1. 进入SchedulerX控制台,进入“任务管理”菜单,选择“应用”->“导入任务”

  1. 选择上节中导出的任务配置文件执行导入,即可完成xxl-job任务配置信息至SchedulerX任务配置信息同步。


目录
相关文章
|
分布式计算 并行计算 数据库
Schedulerx2.0分布式计算原理&最佳实践
1. 前言 Schedulerx2.0的客户端提供分布式执行、多种任务类型、统一日志等框架,用户只要依赖schedulerx-worker这个jar包,通过schedulerx2.0提供的编程模型,简单几行代码就能实现一套高可靠可运维的分布式执行引擎。
28060 2
|
5月前
|
存储 人工智能 搜索推荐
不懂向量数据库?别怕!一文讲清8大主流工具,手把手教你做选择
向量数据库是AI应用的“超级记忆中枢”,能将文本、图像等转化为数学指纹并快速检索相似内容。本文通俗解析8大主流向量数据库,涵盖托管型、开源型与嵌入式三类,助你根据场景选型,轻松构建智能搜索、推荐系统与RAG应用。
5033 6
|
监控 安全 调度
彻底解决5大开源痛点,阿里云发布任务调度 XXL-JOB 版
阿里云任务调度XXL-JOB版 迎来重磅发布,以任务调度SchedulerX为内核,0代码改造,完全兼容开源XXL-JOB客户端接入,解决开源XXL-JOB痛点问题。
2231 123
|
8月前
|
Kubernetes 调度 微服务
无需接入执行器,0代码改造实现微服务任务调度
本文提出了一种基于云原生的任务调度新方案,不需要依赖SDK,不依赖语言,实现定时调度和分布式跑批
383 1
|
人工智能 API
新用户100万token免费额度!阿里云上线DeepSeek-R1满血版
阿里云推出DeepSeek-R1满血版,新用户可享100万免费Token额度。平台支持多种模型,包括671B参数的DeepSeek-R1和通义千问。结合开源工具Chatbox,用户能轻松对接API,体验高性能AI服务。访问[阿里云解决方案](https://www.aliyun.com/solution/tech-solution/deepseek-r1-for-platforms?utm_content=g_1000401616)了解更多详情并快速上手。
9125 36
|
SpringCloudAlibaba JavaScript Dubbo
【SpringCloud Alibaba系列】Dubbo dubbo-admin安装教程篇
本文介绍了 Dubbo-Admin 的安装和使用步骤。Dubbo-Admin 是一个前后端分离的项目,前端基于 Vue,后端基于 Spring Boot。安装前需确保开发环境(Windows 10)已安装 JDK、Maven 和 Node.js,并在 Linux CentOS 7 上部署 Zookeeper 作为注册中心。
4256 1
【SpringCloud Alibaba系列】Dubbo dubbo-admin安装教程篇
|
Linux Go 开发工具
Golang各平台环境搭建实战
这篇文章详细介绍了如何在Windows、Linux和Mac平台上搭建Golang开发环境,包括下载和安装Go SDK、配置环境变量、安装开发工具如Visual Studio Code和Go扩展,以及如何编写和运行第一个Go程序。
1414 3
|
运维 资源调度 监控
说说Spring定时任务如何大规模企业级运用
聊下java体系中Spring提供的定时任务方案的原理及其企业化运用过程中的一些问题,如何让现有的spring定时任务满足企业级运行需要。
1327 0
|
JSON Java 测试技术
必知的技术知识:Jmeter压测工具使用手册(完整版)
必知的技术知识:Jmeter压测工具使用手册(完整版)