阿里云分布式任务调度SchedulerX2.0正式商业化

本文涉及的产品
日志服务 SLS,月写入数据量 50GB 1个月
简介: Schedulerx2.0在公有云公测2年,服务超过1000家公司,积累了丰富的经验,稳定性也得到了足够的验证。为了提供更优质的服务,于2021.9.1正式商业化,同时也会带来更加强大的能力
+关注继续查看

前言

Schedulerx2.0是阿里中间件自研的基于Akka架构的新一代分布式任务调度平台,提供定时、任务编排、分布式跑批等功能,具有高可靠、海量任务、秒级调度等能力。

Schedulerx2.0在公有云公测2年,服务超过1000家公司,积累了丰富的经验,稳定性也得到了足够的验证。为了提供更优质的服务,于2021.9.1正式商业化,同时也会带来更加强大的能力。



强大功能

定时调度

Crontab

  • 支持可视化的crontab表达式
  • 支持时间偏移,可以通过数据时间做跨天的业务
  • 支持时区,可以做国际化的定时任务

image


Fixed rate

众所周知,crontab必须被60整除,比如想每隔40分钟跑一次,cron不支持。Fixed rate专门用来做定期轮询,表达式简单。

image


秒级别调度

通过second_delay表达式可以支持秒级别调度,适合不停执行的实时业务,业务不能中断。

image

任务编排

schedulerx2.0支持工作流(DAG)进行任务编排,操作简单,前端直拖拖拽拽即可。详细的任务状态图能一目了然看到下游任务为什么没跑,如下图:

image


schedulerx2.0的工作流还支持上下游数据传递


轻量级分布式编程模型

支持单机、广播、分片、MapReduce多种分布式执行模型。

  • 单机模型:业务多节点部署时,保证不重复执行。
  • 广播模型:所有节点都执行同一逻辑,全部执行完还可以由一台机器回调一次postProcess方法,常用在批量运维,批量清理日志、缓存。
  • 分片模型:支持类似elastic-job的分片模型,常用在分库分表的跑批。
  • MapReduce模型:Schedulerx2.0自创的轻量级分布式编程模型,只需要实现map和reduce方法,就可以将海量数据分布式到多台机器运行,相对于传统大数据跑批:
    • 成本低:直接复用在线应用的机器,不需要额外计算资源
    • 速度快:不需要数据导入导出,直接跑批线上数据库、oss等,可以作为实时业务的跑批
    • 学习简单:不需要大数据的知识,会java就行
    • 可以处理负责的业务:在线业务处理往往逻辑很复杂,传统大数据跑批sql无法满足,使用java高级语言可以处理复杂逻辑,还可以直接复用业务接口。


多语言

除了java语言,schedulerx还支持多种语言的任务类型

image


其中http任务是serverless,不需要注册客户端就能执行。Schedulerx的http任务支持签名认证,防止用户的http接口被恶意攻击。

丰富的任务运维能力

  • 支持对堵塞任务的手动停止、超时自动停止。
  • 支持对失败任务的原地重跑、标记成功。
  • 支持重刷数据:通过数据时间+重刷数据,可以重刷历史上的数据,把漏跑的任务重新执行。

商业化报警

  1. 报警通道支持短信、钉钉机器人、邮件

image

  1. 报警类型支持失败报警、超时报警、无可用机器报警等

image


  1. 每个任务都可以单独配置报警联系人,也可以使用应用的报警联系人组


全新的权限体系

本次商业化带来了全新的权限体系,支持阿里云RAM权限,支持读写等细粒度权限控制。



新增站点

本次商业化,新增了香港、新加坡、德国、美国、日本站点。

用户有其他站点的需求,可以提工单给我们,我们会尽量满足。


未来规划

日志收集

收集客户端的任务调度日志,甚至是应用日志,可以直接在控制台看到日志,分析任务失败的原因。


弹性扩缩容

离线任务分布式跑批的时候,可以动态扩容机器加快处理速度。跑批结束,可以缩容,节省机器成本。


一次性任务

一个任务只在未来某个时刻点执行一次,执行完自动销毁。

相关实践学习
日志服务之使用Nginx模式采集日志
本文介绍如何通过日志服务控制台创建Nginx模式的Logtail配置快速采集Nginx日志并进行多维度分析。
目录
相关文章
|
28天前
|
消息中间件 存储 NoSQL
阿里云国际站代理商:使用Redis实现一个分布式的全局ID怎么操作?
阿里云国际站代理商:使用Redis实现一个分布式的全局ID怎么操作?Redis(Remote Dictionary Server)是一款基于内存的高性能键值对(Key-Value)存储系统。它支持多种数据结构,如字符串、整数、浮点数等,具有高速读写、持久化、分布式等特点。在很多场景下,Redis可以作为数据库、缓存、消息队列等多种应用的数据存储方案。本文将介绍如何使用Redis实现一个分布式的全局ID生成器。
|
4月前
|
存储 关系型数据库 MySQL
|
6月前
|
存储 机器学习/深度学习 缓存
阿里云PAIx达摩院GraphScope开源基于PyTorch的GPU加速分布式GNN框架
阿里云机器学习平台 PAI 团队和达摩院 GraphScope 团队联合推出了面向 PyTorch 的 GPU 加速分布式 GNN 框架 GraphLearn-for-PyTorch(GLT) 。
阿里云PAIx达摩院GraphScope开源基于PyTorch的GPU加速分布式GNN框架
|
7月前
|
Cloud Native 关系型数据库 分布式数据库
阿里云开源数据库PolarDB分布式版入门训练营开营报名中!
阿里云开源数据库PolarDB分布式版入门训练营开营啦!本次训练营共有三个课程+四个任务,大家可根据自身情况灵活安排个人时间完成哦。
阿里云开源数据库PolarDB分布式版入门训练营开营报名中!
|
8月前
|
关系型数据库 分布式数据库 数据库
阿里云产品体系分为6大分类——云计算基础——数据库——关系型数据库——分布式关系型数据库服务 DRDS
阿里云产品体系分为6大分类——云计算基础——数据库——关系型数据库——分布式关系型数据库服务 DRDS自制脑图
90 1
阿里云产品体系分为6大分类——云计算基础——数据库——关系型数据库——分布式关系型数据库服务 DRDS
|
10月前
|
存储 弹性计算 人工智能
阿里云斩获2022全球分布式云大会两项大奖
阿里云弹性计算团队凭借在算力领域的创新突破与全面的分布式云产品矩阵布局,荣获“2022 年度中国算力先锋 TOP3”、“2022 年度分布式算力市场领导力企业”两项大奖。
阿里云斩获2022全球分布式云大会两项大奖
|
12月前
|
关系型数据库 中间件 分布式数据库
阿里云互联网中间件五剑客之——分布式关系型数据库服务DRDS
阿里云互联网中间件五剑客之——分布式关系型数据库服务DRDS自制脑图, Distribute Relational Database Service(DRDS)是分布式关系型数据库,它主要是一种水平拆分、可平滑扩容、读写分离的在线分布式数据库服务。
248 0
阿里云互联网中间件五剑客之——分布式关系型数据库服务DRDS
|
5G 调度 云计算
阿里云携手威尔视觉获评“2022年度分布式云与云边协同创新实践案例”
6月14日,由中国信息通信研究院联合中国通信标准化协会共同举办的“2022云边协同大会”以线上方式召开。会上阿里云联合深圳威尔视觉科技有限公司打造的云游戏行业应用实践,经过了自主申报、专家评审、实际调研与考察等环节的层层筛选,最终成功获评“2022年度分布式云与云边协同创新案例”。
547 0
阿里云携手威尔视觉获评“2022年度分布式云与云边协同创新实践案例”
|
运维 资源调度 分布式计算
阿里云实时数仓Hologres通过中国信通院分布式分析型数据库性能评测,8192个节点刷新现有参评记录
阿里云实时数仓Hologres通过中国信通院分布式分析型数据库性能评测,8192个节点刷新现有参评记录。
937 0
阿里云实时数仓Hologres通过中国信通院分布式分析型数据库性能评测,8192个节点刷新现有参评记录
|
新零售 边缘计算 数据处理
喜报!阿里云边缘云斩获2021全球分布式云大会三项大奖
12月15日2021全球分布式云大会·深圳站隆重召开。阿里云凭借在边缘云领域持续不断技术突破和业务创新,荣获“2021年度边缘云领导力企业”、“2021年度边缘计算领导力企业TOP5”以及“CDN优秀服务案例三项大奖,也进一步印证阿里云边缘云产品在技术架构、场景应用、创新实践、用户体验等多方面行业领先性。
407 0
喜报!阿里云边缘云斩获2021全球分布式云大会三项大奖
推荐文章
更多