「开源人说」第一期重磅上线!一起来看《十万亿条消息背后的故事》

本文涉及的产品
服务治理 MSE Sentinel/OpenSergo,Agent数量 不受限
可观测可视化 Grafana 版,10个用户账号 1个月
简介: 阿里每天近万亿级别的消息是如何完成实时消息传递的?几十万台服务器,成千上万个应用顺畅协作和消息实时传递都离不开分布式消息中间件RocketMQ。长久以来,RocketMQ 易于部署、高性能、高可用的架构,支撑了数十年来集团内外海量的业务场景。2016年,阿里巴巴宣布将开源分布式消息中间件RocketMQ捐赠给Apache,并一举成为Apache 顶级项目(TLP)。一个由中国开发者发起的项目,站在了一个世界的舞台上,受到全球的企业和开发者关注。RocketMQ深受开发者欢迎,多次斩获行业大奖,究竟是怎样的一群人让这一项目不断迸发出蓬勃的生命力?

视频连接:https://developer.aliyun.com/live/249109


这是一个从诞生第一天起就在GitHub上开发的开源项目,也是中国第一个非Hadoop生态的Apache顶级项目。它统一了阿里集团内部所有业务线的消息中间件,伴随着中国互联网发展数次迭代。


《十万亿条消息背后的故事》记录了从诞生、开源到发展至今,那些RocketMQ背后鲜为人知的创始故事。通过「开源人说」的娓娓道来,让我们一起来了解分布式消息中间件Apache RocketMQ背后的人与事!


双11,RocketMQ 抖一抖,上层业务“抖三抖”


早在2007年,阿里巴巴中间件团队就自主研发了 消息中间件Notify。作为RocketMQ的前身,在很长一段时间里,Notify 作为主要的消息中间件支撑着淘宝天猫业务。


Apache RocketMQ的创始人王小瑞于2011年加入到淘宝中间件。当时面临最大挑战是,每年“双11”Notify都会出问题,使得消息会延迟半天甚至一天以上,商家看不到买家已经购买了商品,这对于商家服务以及客户体验的影响非常大。在缜密研判后,发现问题核心就是如何能够实现高速读写,王小瑞所在的团队认为想要解决这一问题,就需要基于一个全新存储架构来解决这个问题。于是,RocketMQ诞生了。



RocketMQ诞生,一开始就是开源共建,3个月就出了第一个版本


王小瑞(Apache RocketMQ 创始人&作者)说:“阿里的文化特别开放,我是在食堂跟小邪(现阿里云基础产品事业部负责人)吃饭的时候,说我们希望这个产品名字叫RocketMQ,希望它可以一开始就是开源的。小邪当时就给予了支持。”淘宝的文化也是马上做,做精彩。如果你有想法,那你赶紧去做。所以我当时其实做梦的过程中都在想这些问题该怎么解决。老板没有定一个严格的时间点,说你必须在什么时间写完,但我的想法是,我已经想清楚了整个架构,需要把它快速实现出来。”


从第一天开始,RocketMQ就在Github完整展现,也就是说RocketMQ的第一行代码对用户就是开放的。在非常多国内外开发者的共同参与下。RocketMQ快速迭代,大概用了3个月时间就完成第一个版本。


2015年,中日韩开源论坛上,RocketMQ作为中国开源软件的代表,荣获CJK OSS大奖。



2016年“双11”当天,达到万亿级消息量,峰值TPS几千万,创造了国内乃至世界上最大的消息流转记录。



RocketMQ 捐赠,仅用一年,成为Apache顶级开源项目


在阿里巴巴建立之初,正是基于开源软件将整个电商平台的原型快速搭建起来。阿里巴巴感恩开源社区带来的巨大贡献与价值,也希望将自身经验分享出来、回馈社区,让更多的人受益。


2016年,阿里巴巴将分布式消息中间件RocketMQ捐赠给了Apache开源软件基金会。仅用10个月时间就从Apache毕业,并成为Apache顶级项目(TLP)。这也标志着中国拥有了第一个非Hadoop生态的顶级项目。


(2017年9月25日, 从孵化到毕业10个月左右的时间,Apache官方正式宣布阿里巴巴捐赠给Apache社区的RocketMQ从社区正式毕业,成为了Apache顶级的项目。)


Apache RocketMQ 社区运营负责人王荣刚说:“我们终于完成了一个阶段性的小目标,一个由中国开发者发起的项目,站在了一个世界的舞台上,受到全球的企业和开发者的关注,那种感觉还是非常自豪的。”


2021年,RocketMQ 5.0正式发布


2021年,在经历社区众多开发者的不断努力,RocketMQ 5.0 出现在行业视野中,并引发广泛讨论。新版本核心包括两大新亮点。首先,消息核心场景全面扩展,RocketMQ 5.0 不再局限于消息解耦场景,将全新布局事件驱动和消息流式处理场景;其次,技术架构不断演进,逐渐形成一站式融合处理的技术架构和趋势。


2022年,批量消息索引、逻辑队列发布RocketMQ-MQTT,RocketMQ-Connect、RocketMQ-Streams,完成从业务消息平台向『消息、事件、流』一体化融合处理平台的升级。开发者可以实现一份消息存储,支持流式计算、异步投递、集成驱动等多个场景。实现技术问题一站式解决,大大降低技术复杂度和运维成本,简化企业应用架构。


阿里巴巴开源委员会副主席丁宇表示:“未来,我们会加大RocketMQ的开源投入,构建更加繁荣的社区生态,希望与更多的开发者、贡献者一起,追求极致、开放共享,实现技术普惠。”


正是因为有这样一群热爱开源并愿意为它一直奋斗的开源人们,让中国的开源事业未来可期!




《开源人说》为阿里云开发者社区与InfoQ 联合出品的一档精品开源视频栏目。栏目围绕阿里四大开源领域:云原生、操作系统、数据库、大数据&AI,介绍优秀的开源软件:RocketMQ、Dubbo、Anolis OS(龙蜥操作系统)、Flink、PolarDB、OceanBase等背后的故事,记录传播阿里技术追求极致和开放共享的精神。

https://developer.aliyun.com/topic/opensourcefolkstalk

相关实践学习
RocketMQ一站式入门使用
从源码编译、部署broker、部署namesrv,使用java客户端首发消息等一站式入门RocketMQ。
消息队列 MNS 入门课程
1、消息队列MNS简介 本节课介绍消息队列的MNS的基础概念 2、消息队列MNS特性 本节课介绍消息队列的MNS的主要特性 3、MNS的最佳实践及场景应用 本节课介绍消息队列的MNS的最佳实践及场景应用案例 4、手把手系列:消息队列MNS实操讲 本节课介绍消息队列的MNS的实际操作演示 5、动手实验:基于MNS,0基础轻松构建 Web Client 本节课带您一起基于MNS,0基础轻松构建 Web Client
相关文章
|
10月前
|
存储 机器学习/深度学习 人工智能
活动预告|周五晚,一起来看图数据库如何为构建行业大模型降本增效
本次活动将与 Llama Index 的 CEO 共同探讨如何通过图技术进一步提升 LLM 的语义检索能力,并展示如何结合知识图谱与向量数据库实操 Llama Index 上的复杂问答系统,分享悦数团队与 Llama Index 团队在图驱动的 in-context learning 的最新研究进展。
活动预告|周五晚,一起来看图数据库如何为构建行业大模型降本增效
|
11月前
|
机器学习/深度学习 人工智能 自然语言处理
最早2026?全球优质语言数据「存量」告急!网友:杞人忧天
最早2026?全球优质语言数据「存量」告急!网友:杞人忧天
|
前端开发 机器人
赛事比分直播系统程序 快至三天搭建上线开发解决方案
采用东莞梦幻网络科技独创研发体育比分直播系统平台,功能齐全,支持各类赛事直播/比分预测/赛程数据/比分数据/赛事情报/赛事社区/微短视频/新闻话题/会员中心等模块功能。采用PHP+JAVA+VUE+Object-c的技术语言开发,PC+H5+Android+IOS多端程序。
赛事比分直播系统程序 快至三天搭建上线开发解决方案
|
SQL 运维 负载均衡
【6月23日直播预告】携程OcenanBase 实践数据库发布和拟真压测
6月23日(周四)19:00,将线上播出《深入浅出OceanBase第五期》,将带来携程OceanBase实践数据库发布和拟真压测,欢迎大家及时关注。
|
人工智能 云栖大会
【云栖大会】在线零售增长引擎技术分论坛,等你参加~
10月22日上午9:00-12:00,云栖小镇D1-103,在线零售增长引擎技术分论坛线下线上同步举行
272 0
【云栖大会】在线零售增长引擎技术分论坛,等你参加~
|
运维 安全 容灾
12.10直播预告|2020双11,阿里集团数万数据库系统全面上云解密
议题内容:阿里集团数据库上云挑战;全面上云新打法,以MyBase for RDS构建超高效数据库管理体系
2173 0
12.10直播预告|2020双11,阿里集团数万数据库系统全面上云解密
|
Cloud Native 架构师 双11
【1109 - 1113直播导视 | PPT 下载】开源日再度来袭:实时计算技术的最新探索成果和实践、今年双11究竟有啥黑科技?
本周4个专题页重磅推荐,直播&前沿技术知识两不误,分别是双十一技术回顾&亚洲最大的开源关系型数据库生态大会PostgresConf.CN&数据库&开源日,块办好小板凳前来观看吧!
2758 0
|
运维 监控 Cloud Native
国货之光业务增长背后的技术支持 - 完美日记的云原生实践
利用 ACK 容器快速弹性扩缩容,节约服务器成本 50% 以上。
国货之光业务增长背后的技术支持 - 完美日记的云原生实践
|
弹性计算 Cloud Native NoSQL
阿里云新品发布会周刊第63期 丨 优秀技术人,如何做到高效沟通?
MaxCompute作为企业级云数据仓库,从底层基础设施、数据中心、网络、供电等,到中间的平台能力安全,再到向上的用户权限管理、隐私保护等共提供三级超过20项安全功能。敬请关注8月5日阿里云新品发布会,将为您详细解读云上大数据平台发展趋势及面临的安全挑战!
676 0
阿里云新品发布会周刊第63期 丨 优秀技术人,如何做到高效沟通?
|
存储 弹性计算 Kubernetes
【云栖号案例 | 互联网】跨年演讲《时间的朋友》如何扛得住百万级流量冲击
罗辑思维采用阿里双11备战核武器 - 全链路压测规划系统容量,不到三个月进行约七百次的单链路压测、十六轮完整形态全链路压测,吞吐量提升百倍。