「开源人说」第一期重磅上线!一起来看《十万亿条消息背后的故事》

本文涉及的产品
应用实时监控服务-应用监控,每月50GB免费额度
可观测可视化 Grafana 版,10个用户账号 1个月
性能测试 PTS,5000VUM额度
简介: 阿里每天近万亿级别的消息是如何完成实时消息传递的?几十万台服务器,成千上万个应用顺畅协作和消息实时传递都离不开分布式消息中间件RocketMQ。长久以来,RocketMQ 易于部署、高性能、高可用的架构,支撑了数十年来集团内外海量的业务场景。2016年,阿里巴巴宣布将开源分布式消息中间件RocketMQ捐赠给Apache,并一举成为Apache 顶级项目(TLP)。一个由中国开发者发起的项目,站在了一个世界的舞台上,受到全球的企业和开发者关注。RocketMQ深受开发者欢迎,多次斩获行业大奖,究竟是怎样的一群人让这一项目不断迸发出蓬勃的生命力?

视频连接:https://developer.aliyun.com/live/249109


这是一个从诞生第一天起就在GitHub上开发的开源项目,也是中国第一个非Hadoop生态的Apache顶级项目。它统一了阿里集团内部所有业务线的消息中间件,伴随着中国互联网发展数次迭代。


《十万亿条消息背后的故事》记录了从诞生、开源到发展至今,那些RocketMQ背后鲜为人知的创始故事。通过「开源人说」的娓娓道来,让我们一起来了解分布式消息中间件Apache RocketMQ背后的人与事!


双11,RocketMQ 抖一抖,上层业务“抖三抖”


早在2007年,阿里巴巴中间件团队就自主研发了 消息中间件Notify。作为RocketMQ的前身,在很长一段时间里,Notify 作为主要的消息中间件支撑着淘宝天猫业务。


Apache RocketMQ的创始人王小瑞于2011年加入到淘宝中间件。当时面临最大挑战是,每年“双11”Notify都会出问题,使得消息会延迟半天甚至一天以上,商家看不到买家已经购买了商品,这对于商家服务以及客户体验的影响非常大。在缜密研判后,发现问题核心就是如何能够实现高速读写,王小瑞所在的团队认为想要解决这一问题,就需要基于一个全新存储架构来解决这个问题。于是,RocketMQ诞生了。



RocketMQ诞生,一开始就是开源共建,3个月就出了第一个版本


王小瑞(Apache RocketMQ 创始人&作者)说:“阿里的文化特别开放,我是在食堂跟小邪(现阿里云基础产品事业部负责人)吃饭的时候,说我们希望这个产品名字叫RocketMQ,希望它可以一开始就是开源的。小邪当时就给予了支持。”淘宝的文化也是马上做,做精彩。如果你有想法,那你赶紧去做。所以我当时其实做梦的过程中都在想这些问题该怎么解决。老板没有定一个严格的时间点,说你必须在什么时间写完,但我的想法是,我已经想清楚了整个架构,需要把它快速实现出来。”


从第一天开始,RocketMQ就在Github完整展现,也就是说RocketMQ的第一行代码对用户就是开放的。在非常多国内外开发者的共同参与下。RocketMQ快速迭代,大概用了3个月时间就完成第一个版本。


2015年,中日韩开源论坛上,RocketMQ作为中国开源软件的代表,荣获CJK OSS大奖。



2016年“双11”当天,达到万亿级消息量,峰值TPS几千万,创造了国内乃至世界上最大的消息流转记录。



RocketMQ 捐赠,仅用一年,成为Apache顶级开源项目


在阿里巴巴建立之初,正是基于开源软件将整个电商平台的原型快速搭建起来。阿里巴巴感恩开源社区带来的巨大贡献与价值,也希望将自身经验分享出来、回馈社区,让更多的人受益。


2016年,阿里巴巴将分布式消息中间件RocketMQ捐赠给了Apache开源软件基金会。仅用10个月时间就从Apache毕业,并成为Apache顶级项目(TLP)。这也标志着中国拥有了第一个非Hadoop生态的顶级项目。


(2017年9月25日, 从孵化到毕业10个月左右的时间,Apache官方正式宣布阿里巴巴捐赠给Apache社区的RocketMQ从社区正式毕业,成为了Apache顶级的项目。)


Apache RocketMQ 社区运营负责人王荣刚说:“我们终于完成了一个阶段性的小目标,一个由中国开发者发起的项目,站在了一个世界的舞台上,受到全球的企业和开发者的关注,那种感觉还是非常自豪的。”


2021年,RocketMQ 5.0正式发布


2021年,在经历社区众多开发者的不断努力,RocketMQ 5.0 出现在行业视野中,并引发广泛讨论。新版本核心包括两大新亮点。首先,消息核心场景全面扩展,RocketMQ 5.0 不再局限于消息解耦场景,将全新布局事件驱动和消息流式处理场景;其次,技术架构不断演进,逐渐形成一站式融合处理的技术架构和趋势。


2022年,批量消息索引、逻辑队列发布RocketMQ-MQTT,RocketMQ-Connect、RocketMQ-Streams,完成从业务消息平台向『消息、事件、流』一体化融合处理平台的升级。开发者可以实现一份消息存储,支持流式计算、异步投递、集成驱动等多个场景。实现技术问题一站式解决,大大降低技术复杂度和运维成本,简化企业应用架构。


阿里巴巴开源委员会副主席丁宇表示:“未来,我们会加大RocketMQ的开源投入,构建更加繁荣的社区生态,希望与更多的开发者、贡献者一起,追求极致、开放共享,实现技术普惠。”


正是因为有这样一群热爱开源并愿意为它一直奋斗的开源人们,让中国的开源事业未来可期!




《开源人说》为阿里云开发者社区与InfoQ 联合出品的一档精品开源视频栏目。栏目围绕阿里四大开源领域:云原生、操作系统、数据库、大数据&AI,介绍优秀的开源软件:RocketMQ、Dubbo、Anolis OS(龙蜥操作系统)、Flink、PolarDB、OceanBase等背后的故事,记录传播阿里技术追求极致和开放共享的精神。

https://developer.aliyun.com/topic/opensourcefolkstalk

相关实践学习
消息队列RocketMQ版:基础消息收发功能体验
本实验场景介绍消息队列RocketMQ版的基础消息收发功能,涵盖实例创建、Topic、Group资源创建以及消息收发体验等基础功能模块。
消息队列 MNS 入门课程
1、消息队列MNS简介 本节课介绍消息队列的MNS的基础概念 2、消息队列MNS特性 本节课介绍消息队列的MNS的主要特性 3、MNS的最佳实践及场景应用 本节课介绍消息队列的MNS的最佳实践及场景应用案例 4、手把手系列:消息队列MNS实操讲 本节课介绍消息队列的MNS的实际操作演示 5、动手实验:基于MNS,0基础轻松构建 Web Client 本节课带您一起基于MNS,0基础轻松构建 Web Client
相关文章
|
数据安全/隐私保护
大咖说 X 智篆商业|未来五年:消费增长的“两大来源”与“四个方面”
随着消费升级,企业供给体系有哪些新变化?如何借助数字化技术调整经营策略?本期大咖说,看阿里研究院数字经济研究中心主任安琳为你解读品牌企业在存量时代的破局之道。
403 0
大咖说 X 智篆商业|未来五年:消费增长的“两大来源”与“四个方面”
|
数据采集 机器学习/深度学习 算法
重磅下载 | 6大技术方向 40+篇好文,高德如何做到日活过亿?
回首2019 年,作为首个日活过亿的国民出行平台,高德地图 to C 和 to B 的用户数都再攀新高。在背后支撑和驱动业务快速发展的,正是数千名日夜奋战的高德技术人。现在《高德技术2019年刊合辑》免费推出,6大章节全年盘点,为你揭晓有“温度”的科技!
42025 0
重磅下载 | 6大技术方向 40+篇好文,高德如何做到日活过亿?
|
应用服务中间件 Dubbo 容器
【干货】第四届中间件性能挑战赛启动,50万奖金、赛题分析、重磅资料为你而来!
Apache基金会联合创始人 Jim Jagielski 表示,Apache顶级项目RocketMQ是一个极其强大且具有变革性的软件项目,众多公司都是它的深度用户。Dubbo目前正在Apache软件基金会内孵化,具有巨大的潜力。
946 14
|
新零售 供应链 搜索推荐
通过阿里云数据中台读懂消费者,香飘飘实现新客增长3.5倍
从不同维度获取新客,成为香飘飘当下最主要的营销目标。从9月份开始,它就为此次双11进行营销蓄水,并通过与阿里云数据中台合作,形成一套全域数据中台解决方案,统一运营自身的全域消费者资产,最终在拉新上实现了3.5倍的增长。
336 0
通过阿里云数据中台读懂消费者,香飘飘实现新客增长3.5倍
|
中间件 双11 流计算
给你机会挑战双十一实时计算,你敢来吗?【阿里中间件性能挑战赛来袭】
由阿里中间件与天池平台联合举办的“阿里中间件性能挑战赛”,大赛不仅为选手们开放双十一实时交易真实场景,还提供了丰厚奖金、诱人激励,欢迎社会人才加入挑战。大赛主要考察选手的网络编程能力和性能调优能力。我们希望通过大赛吸引和沉淀优秀的编程高手,加强内外部技术人员的交流与碰撞,并让技术发声。
5473 9
|
Dubbo 中间件 应用服务中间件
第四届中间件性能挑战赛启动,50万奖金、赛题分析、重磅资料为你而来!
2018云栖大会南京峰会上,阿里巴巴研究员林昊正式发布了第四届阿里中间件性能挑战赛。挑战赛以开源项目为背景,核心技术为Dubbo和RocketMQ,目的是通过大赛向技术爱好者们传达开源精神。
3262 6
|
移动开发 算法 SEO
|
运维 监控 Kubernetes
【云栖号案例 | 新零售】三只松鼠2019年全平台双11用时19分23秒破亿的秘诀
大促服务节点负载压力大,难以快速补充资源!上云后资源限定优化,订单处理2527笔/分时效缩短36%,发现问题快速滚动迭代,整体感受快、稳、方便。
【云栖号案例 | 新零售】三只松鼠2019年全平台双11用时19分23秒破亿的秘诀
|
人工智能 自然语言处理 安全
2019年,支付宝4亿行代码背后的故事
每敲下一行代码,影响的都是十几亿人
2982 0
2019年,支付宝4亿行代码背后的故事