发力IOT、大数据,Apache RocketMQ 构建云时代的新生态

简介: 摘要2018年9月1日,由阿里巴巴中间件举办的RocketMQ开发者沙龙在北京举行。这是RocketMQ今年举办的第二次大型线下技术交流活动,出席技术沙龙的嘉宾包括Apache RocketMQ布道师冯嘉、滴滴出行消息团队负责人江海挺、Apache RocketMQ PMC 刘振东、杜恒以及其他commiter和contributor。

摘要

2018年9月1日,由阿里巴巴中间件举办的RocketMQ开发者沙龙在北京举行。这是RocketMQ今年举办的第二次大型线下技术交流活动,出席技术沙龙的嘉宾包括Apache RocketMQ布道师冯嘉、滴滴出行消息团队负责人江海挺、Apache RocketMQ PMC 刘振东、杜恒以及其他commiter和contributor。嘉宾们详尽解读了RocketMQ的使用方式、概念模型、分布式事务等关键机制与原理,深入探讨了RocketMQ在大数据及IOT方面的生态布局、落地实践,并分享了在使用RocketMQ方面的经验以及从Kafka迁移到RocketMQ的具体方案。

11.jpg | center | 747x498

Apache RocketMQ Contributor 丁磊和阿里巴巴高级技术专家林佳梁作为主持人开场致辞,介绍了开发者沙龙的日程,回顾了RocketMQ的发展历程,同时介绍了OpenMessaging标准。OpenMessaging项目是由阿里巴巴发起,联合滴滴出行、雅虎、Streamlio等公司共同参与创立的国际消息标准,2017年10月14日宣布正式入驻Linux基金会,是国内首个在全球范围发起的分布式计算领域的国际标准。标准意在创立与厂商无关、平台无关的分布式消息及流处理领域的应用开发规范,以服务快速发展的互联网和云计算生态。

1. 开发指南及原理解读

首先由Apache RocketMQ PMC 刘振东进行了主题为《ApacheRocketMQ 101》的分享,帮助开发者从0开始学习 Apache RocketMQ,除了一些基础的入门内容外,还有很多是在社区未发表过的个人所感所悟,首次对外分享。分享内容包括RocketMQ的起源、RocketMQ概念模型、存储模型、部署模型和最佳实践总结。

E96W2413.JPG | center | 827x551

嘉宾杜恒分享了如何通过RocketMQ实现零外部依赖的最终一致性分布式事务解决方案。杜恒分析了XA、SAGA、TCC等传统的分布式事务解决方案,之后介绍了如何通过RocketMQ的事务消息机制解决微服务调用过程中产生的分布式事务问题,并给出了最佳实践。

E96W2769.JPG | center | 827x551

阿里巴巴高级技术专家林佳梁向大家介绍了流控软件Sentinel,Sentinel是由RocketMQ生态孵化出的开源项目,专注服务的限流、熔断降级、flow shaping、系统保护等。

E96W2551.JPG | center

2. 行业经验分享

本次沙龙邀请了滴滴出行消息队列负责人江海挺作了行业落地经验的分享。江海挺主要和大家探讨了滴滴如何通过RocketMQ构建消息基础设施。首先,阐述了选择RocketMQ替换原有消息队列kafka的初衷,之后介绍了如何基于RocketMQ构建新的基础设施,最后分享了从Kakfa到RocketMQ的在线迁移方案以及一些最佳实践的经验。

E96W2652.JPG | center

3. IOT和大数据探讨

IOT和大数据是RocketMQ未来的重点发展方向,本次沙龙也做了深入的探讨。Apache RocketMQ 的Contributor 肖宗阳进行了《MQTT Bridge for Apache RocektMQ》的主题分享。MQTT Bridge将成为RocketMQ承接上游海量IOT设备数据的核心组件,其具有支持热插拔、可扩展、可以动态扩缩容的特性。肖宗阳介绍了MQTT Bridge的使用场景、解决的核心问题以及总体的解决方案。

E96W2836.JPG | center | 747x498

嘉宾王鑫分享了RocketMQ在流计算方面的生态布局,并介绍了主流大数据分析框架Spark、Storm、Flink与RocketMQ的集成方式以及具体的使用案例。

E96W2922.JPG | center

​最后Q&A环节,所有嘉宾上台和到场的开发者就RocketMQ 跨机房延时问题、分布式事务问题、MQTT对互联网+的支持情况等进行了深入的交流。

E96W2954.JPG | center

E96W2961.JPG | center | 747x498

4. 调查问卷

Apache RocketMQ自2012年开源以来,受到了广大开发者的青睐。尤其是2016年成为Apache顶级项目后,受到了业界的巨大关注。在国内,RocketMQ已经应用于电商、新能源、互联网、金融、电力、物流、新零售、轨道交通等众多行业。在国外,新加坡、泰国、日本、德国、美国等很多国家的公司、开发者都在关注、使用RocketMQ。

为推动RocketMQ赋能到更多的企业,社区近期会推出一系列措施帮助企业使用RocketMQ、用好RocketMQ,比如技术培训、架构咨询、入厂指导等。社区非常渴望与使用RocketMQ的企业建立连接。我们希望和企业建立良好的互动机制,我们会搭建RocketMQ行业交流平台,深入推动RocketMQ在各行业的落地。无论来自传统行业还是互联网行业、无论是云厂商还是企业级用户,如果愿意,请通过调查问卷和我们建立连接。我们希望听到更多企业用户的声音、听到更多开发者的声音,希望和企业用户以及广大开发者一起把RocketMQ打造成中国为世界贡献的最好的开源项目!
(扫码二维码参与问卷调查)

_

相关实践学习
消息队列RocketMQ版:基础消息收发功能体验
本实验场景介绍消息队列RocketMQ版的基础消息收发功能,涵盖实例创建、Topic、Group资源创建以及消息收发体验等基础功能模块。
消息队列 MNS 入门课程
1、消息队列MNS简介 本节课介绍消息队列的MNS的基础概念 2、消息队列MNS特性 本节课介绍消息队列的MNS的主要特性 3、MNS的最佳实践及场景应用 本节课介绍消息队列的MNS的最佳实践及场景应用案例 4、手把手系列:消息队列MNS实操讲 本节课介绍消息队列的MNS的实际操作演示 5、动手实验:基于MNS,0基础轻松构建 Web Client 本节课带您一起基于MNS,0基础轻松构建 Web Client
相关文章
|
1月前
|
消息中间件 分布式计算 大数据
大数据-166 Apache Kylin Cube 流式构建 整体流程详细记录
大数据-166 Apache Kylin Cube 流式构建 整体流程详细记录
63 5
|
1月前
|
存储 SQL 分布式计算
大数据-162 Apache Kylin 全量增量Cube的构建 Segment 超详细记录 多图
大数据-162 Apache Kylin 全量增量Cube的构建 Segment 超详细记录 多图
57 3
|
1月前
|
Java 大数据 数据库连接
大数据-163 Apache Kylin 全量增量Cube的构建 手动触发合并 JDBC 操作 Scala
大数据-163 Apache Kylin 全量增量Cube的构建 手动触发合并 JDBC 操作 Scala
29 2
大数据-163 Apache Kylin 全量增量Cube的构建 手动触发合并 JDBC 操作 Scala
|
1月前
|
SQL 分布式计算 NoSQL
大数据-164 Apache Kylin Cube优化 案例1 定义衍生维度与对比 超详细
大数据-164 Apache Kylin Cube优化 案例1 定义衍生维度与对比 超详细
28 1
大数据-164 Apache Kylin Cube优化 案例1 定义衍生维度与对比 超详细
|
27天前
|
分布式计算 大数据 Apache
利用.NET进行大数据处理:Apache Spark与.NET for Apache Spark
【10月更文挑战第15天】随着大数据成为企业决策和技术创新的关键驱动力,Apache Spark作为高效的大数据处理引擎,广受青睐。然而,.NET开发者面临使用Spark的门槛。本文介绍.NET for Apache Spark,展示如何通过C#和F#等.NET语言,结合Spark的强大功能进行大数据处理,简化开发流程并提升效率。示例代码演示了读取CSV文件及统计分析的基本操作,突显了.NET for Apache Spark的易用性和强大功能。
34 1
|
1月前
|
SQL 分布式计算 大数据
大数据-160 Apache Kylin 构建Cube 按照日期构建Cube 详细记录
大数据-160 Apache Kylin 构建Cube 按照日期构建Cube 详细记录
41 2
|
1月前
|
存储 大数据 分布式数据库
大数据-165 Apache Kylin Cube优化 案例 2 定义衍生维度及对比 & 聚合组 & RowKeys
大数据-165 Apache Kylin Cube优化 案例 2 定义衍生维度及对比 & 聚合组 & RowKeys
33 1
|
1月前
|
SQL 消息中间件 大数据
大数据-159 Apache Kylin 构建Cube 准备和测试数据(一)
大数据-159 Apache Kylin 构建Cube 准备和测试数据(一)
50 1
|
1月前
|
SQL 大数据 Apache
大数据-159 Apache Kylin 构建Cube 准备和测试数据(二)
大数据-159 Apache Kylin 构建Cube 准备和测试数据(二)
75 1
|
1月前
|
SQL 存储 监控
大数据-161 Apache Kylin 构建Cube 按照日期、区域、产品、渠道 与 Cube 优化
大数据-161 Apache Kylin 构建Cube 按照日期、区域、产品、渠道 与 Cube 优化
49 0

推荐镜像

更多