RocketMQ高手之路系列之十一:RocketMQ如何实现高性能读写

简介: 一款性能强劲的MQ中间件不仅可以处理数以万计的客户端连接,同时在持久化上面也表现优异才能够实现千万级别消息吞吐量。今天就和大家一起看下阿里巴巴开源的RocketMQ消息中间件是如何实现高性能读写的。

引言

一款性能强劲的MQ中间件不仅可以处理数以万计的客户端连接,同时在持久化上面也表现优异才能够实现千万级别消息吞吐量。今天就和大家一起看下阿里巴巴开源的RocketMQ消息中间件是如何实现高性能读写的。


系列文章

https://blog.csdn.net/diamond_tao/category_8785927.html


传统IO读写

在分析RocketMQ高性能读写之前,我们先来看下传统的IO数据交互方式是怎样的?

image.png

从上图可知,一个看似简单的读数据、写数据的常规操作总共经历了以下的过程:


1、用户程序通过read()方法(实际会转化为CPU指令)向系统发起系统调用,此时系统上下文从用户态切换为内核态;

2、从硬盘中拷贝数据到内核态中的读缓冲区;

3、CPU通过调度把内核态读缓冲区的文件数据拷贝到用户态的用户缓冲区中,同时系统上下文切换为用户态;

4、经过逻辑处理后,用户程序需要将处理后的数据通过write()方法进行系统调用,此时系统上下文切换为内核态;

5、CPU通过调度将用户缓冲区的数据拷贝到socket缓冲区中;

6、将socket缓冲区中的数据拷贝至网卡io,系统上下文切换为用户态。


内核主要的作用总结起来就是对硬件来说进行统一对硬件管理,对上层应用来说提供统一对系统调用。由于硬件资源很敏感需要被保护起来,那么内核就起到了用户程序与硬件交互的桥梁作用。通过区分内核空间和用户空间的设计,隔离了操作系统代码与应用程序代码。


通过以上的分析我们可以看出来,传统的IO交互不仅有用户态内核态的多次切换,同时数据也是来回的复制,极其的繁琐以及耗费资源。

RocketMQ高性能读写的秘密

上文我们已经分析过传统的IO交互模型中涉及多次的用户态与内核态的切换以及多次的数据复制,交互性能不高,在大量文件读写的场景下这种交互方式必定会成为消息中间件的性能瓶颈。因此如果需要克服传统文件IO的缺点,必定要从减少数据复制等方面进行入手。那么RocketMQ到底是通过什么手段来操作的呢?


RocketMQ实现高性能读写,最主要的是其Broker针对持久化文件CommitLog以及ConsumerQueue进行高性能读写操作的。所谓的高性能实际是利用了mmap技术以及操作系统的PageCache来实现的,下面我们来具体分析下。


PageCache是操作系统对于文件的缓存机制,主要用于加速文件的读写,提升文件读写效率。PageCache其实是操作系统的一部分的内存,如果一次读取文件时出现未命中PageCache的情况,操作系统会从物理磁盘上访问加载读取新的文件的同时,会顺序对其他相邻块的数据文件进行预读取。这样只要下次访问的文件已经被加载至PageCache时,读取操作的速度基本等于访问内存,所以其访问性能很高。


那mmap技术又是一个什么鬼呢?mmap 把磁盘文件直接映射到用户空间里的虚拟内存,这样就省去了从内核缓冲区复制到用户空间的过程,文件中的位置在虚拟内存中有了对应的地址,可以像操作内存一样操作这个文件,相当于已经把整个文件放入内存,但在真正使用到这些数据前却不会消耗物理内存,也不会有读写磁盘的操作。实现文件物理地址和进程虚拟地址的一一映射关系。RocketMQ主要通过JDK NIO包下的MappedByteBuffer.map()函数来进行映射实现。

image.png

以上分析可知,mmap通过映射技术直接将磁盘文件映射到用户空间的内存中去,这样就减少了内核态到用户态的数据复制,提升了数据处理的效率。

1、数据写入

Broker进行数据写入的时候,举个例子,⽐如Broker要写⼊消息到CommitLog⽂件中,Broker首先将⼀个CommitLog⽂件通过MappedByteBuffer的map()函数映射其地址到操作系统的虚拟内存地址中。接着就可以对这个MappedByteBuffer执⾏写⼊操作了,写⼊的时候他会直接进⼊PageCache中。然后过⼀段时间之后,由操作系统的线程异步刷⼊磁盘中,如下图所示。因此数据写入的时候是和内存进行交互的,因此数据写入效率非常高。

image.png

2、数据读取

RocketMQ在进行数据读取的时候,首先从PageCache中进行数据获取。如果此时PageCache中有需要的数据则直接进行进行读取。如果PageCache中没有需要的数据,那么需要将磁盘中的文件拷贝到PageCache中。另外需要注意的是加载数据的时候,如CommtLog文件都是进行顺序写入的,会将相邻的数据一同进行加载,提升数据读取的效率。

image.png

总结

本文首先分析了传统IO操作的存在的效能问题,从而引出RocketMQ如何利用MMAP以及PageCache来实现高性能的文件读写。后续再继续分析RocketMQ如何保证消息数据可靠持久化。

相关实践学习
快速体验阿里云云消息队列RocketMQ版
本实验将带您快速体验使用云消息队列RocketMQ版Serverless系列实例进行获取接入点、创建Topic、创建订阅组、收发消息、查看消息轨迹和仪表盘。
消息队列 MNS 入门课程
1、消息队列MNS简介 本节课介绍消息队列的MNS的基础概念 2、消息队列MNS特性 本节课介绍消息队列的MNS的主要特性 3、MNS的最佳实践及场景应用 本节课介绍消息队列的MNS的最佳实践及场景应用案例 4、手把手系列:消息队列MNS实操讲 本节课介绍消息队列的MNS的实际操作演示 5、动手实验:基于MNS,0基础轻松构建 Web Client 本节课带您一起基于MNS,0基础轻松构建 Web Client
相关文章
|
消息中间件 存储 缓存
RocketMQ原理—4.消息读写的性能优化
本文详细解析了RocketMQ消息队列的核心原理与性能优化机制,涵盖Producer消息分发、Broker高并发写入、Consumer拉取消息流程等内容。重点探讨了基于队列的消息分发、Hash有序分发、CommitLog内存写入优化、ConsumeQueue物理存储设计等关键技术点。同时分析了数据丢失场景及解决方案,如同步刷盘与JVM OffHeap缓存分离策略,并总结了写入与读取流程的性能优化方法,为理解和优化分布式消息系统提供了全面指导。
RocketMQ原理—4.消息读写的性能优化
|
消息中间件 存储 设计模式
RocketMQ原理—5.高可用+高并发+高性能架构
本文主要从高可用架构、高并发架构、高性能架构三个方面来介绍RocketMQ的原理。
3699 21
RocketMQ原理—5.高可用+高并发+高性能架构
|
消息中间件 存储 监控
解析RocketMQ:高性能分布式消息队列的原理与应用
RocketMQ是阿里开源的高性能分布式消息队列,具备低延迟、高吞吐和高可靠性,广泛应用于电商、金融等领域。其核心概念包括Topic、Producer、Consumer、Message和Name Server/Broker。RocketMQ支持异步通信、系统解耦、异步处理和流量削峰。关键特性有分布式架构、顺序消息、高可用性设计和消息事务。提供发布/订阅和点对点模型,以及消息过滤功能。通过集群模式、存储方式、发送和消费方式的选择进行性能优化。RocketMQ易于部署,可与Spring集成,并与Kafka等系统对比各有优势,拥有丰富的生态系统。
1616 4
|
消息中间件 RocketMQ
在RocketMQ中,消息的读写与生产者消费者的数量以及Broker数量都有关
在RocketMQ中,消息的读写与生产者消费者的数量以及Broker数量都有关
1169 1
|
存储 消息中间件 缓存
从0到1 手把手搭建spring cloud alibaba 微服务大型应用框架(十三)rocketmq 篇(3): 消息读写队列,消息存储,消息发送,消息消费关联流程和原理
从0到1 手把手搭建spring cloud alibaba 微服务大型应用框架(十三)rocketmq 篇(3): 消息读写队列,消息存储,消息发送,消息消费关联流程和原理
从0到1 手把手搭建spring cloud alibaba 微服务大型应用框架(十三)rocketmq 篇(3): 消息读写队列,消息存储,消息发送,消息消费关联流程和原理
|
消息中间件 存储 负载均衡
高性能消息中间件 RocketMQ(三)
高性能消息中间件 RocketMQ(三)
|
消息中间件 存储 监控
高性能消息中间件 RocketMQ(二)
高性能消息中间件 RocketMQ(二)
|
消息中间件 存储 Java
高性能消息中间件 RocketMQ(一)
高性能消息中间件 RocketMQ(一)
|
消息中间件 Java
高性能消息中间件 RabbitMQ(六)
高性能消息中间件 RabbitMQ(六)