大家好，我是不才陈某~
RocketMQ作为阿里系的一款开源的MQ中间件，经历了双十一的高并发场景的消息流转，能够处理万亿级别的消息。
这篇文章将作为《RocketMQ 进阶》专栏的第一篇文章，介绍一下实际生产中如何搭建一个高可用的RocketMQ集群。集群整体架构图如下：
为什么要用MQ？
消息队列是一种“先进先出”的数据结构
其应用场景主要包含以下3个方面
1、应用解耦
系统的耦合性越高，容错性就越低。以电商应用为例，用户创建订单后，如果耦合调用库存系统、物流系统、支付系统，任何一个子系统出了故障或者因为升级等原因暂时不可用，都会造成下单操作异常，影响用户使用体验。
使用消息队列解耦合，系统的耦合性就会提高了。比如物流系统发生故障，需要几分钟才能来修复，在这段时间内，物流系统要处理的数据被缓存到消息队列中，用户的下单操作正常完成。当物流系统回复后，补充处理存在消息队列中的订单消息即可，终端系统感知不到物流系统发生过几分钟故障。
2、流量削峰
应用系统如果遇到系统请求流量的瞬间猛增，有可能会将系统压垮。有了消息队列可以将大量请求缓存起来，分散到很长一段时间处理，这样可以大大提到系统的稳定性和用户体验。
一般情况，为了保证系统的稳定性，如果系统负载超过阈值，就会阻止用户请求，这会影响用户体验，而如果使用消息队列将请求缓存起来，等待系统处理完毕后通知用户下单完毕，这样总不能下单体验要好。
处于经济考量目的：
业务系统正常时段的QPS如果是1000，流量最高峰是10000，为了应对流量高峰配置高性能的服务器显然不划算，这时可以使用消息队列对峰值流量削峰
3、数据分发
通过消息队列可以让数据在多个系统更加之间进行流通。数据的产生方不需要关心谁来使用数据，只需要将数据发送到消息队列，数据使用方直接在消息队列中直接获取数据即可
各种MQ产品的比较
常见的MQ产品包括Kafka、ActiveMQ、RabbitMQ、RocketMQ。
关于MQ技术选型详细可以看笔者之前的文章：聊聊 MQ 技术选型
RocketMQ中的几个重要角色
从上述的集群架构图中可以知道RocketMQ中涉及到的几个重要的角色：
- NameServer：相当于微服务中的注册中心，提供broker的服务发现和注册功能，各个节点之间无相互通信，一旦broker节点启动，将会主动上报信息给NameServer。
- producer：消息生产者，发送消息给broker；拥有同一个的groupId的producer为一个集群
- broker：消息暂存和传输，接收producer发送的消息，采用push/pull模式传递给consumer
- consumer：消息消费者，消费broker传递的消息，拥有同一个groupId的consumer为一个集群
以上四个是RocketMQ对外四种角色，另外内部还有一些重要角色，如下：
- Topic：消息主题，通过Topic对不同的业务消息进行分类。
- Tag：消息标签，用来进一步区分某个Topic下的消息分类，消息从生产者发出即带上的属性。
- Message Queue：队列，相当于Topic的分区，用于并行发送和消费消息，一个Topic中对应多个Queue
关于Topic和Tag的区别：比如电商中的下单、支付流程，为了提高并发量通常都会使用消息队列进行异步处理，那么可以定义消息的Topic为Topic_order，但是其中还涉及了创建订单、付款、完成订单这三类消息，如何去区分？
此时就该用到Tag去细分了，此时的对应关系如下图：
Topic和Message Queue的关系如下图：
一个Topic中包含多个Message Queue（队列）
RocketMQ下载
阿里将RocketMQ贡献给了Apache，所以要去Apache的官网去下载对应的版本；
我的《RocketMQ 进阶》这个专栏选用的版本是4.9.4
集群特点
针对RocketMQ对外的四种角色，集群部署有以下几点需要注意的地方：
- NameServer之间是不相互通信的，因此NameServer集群部署非常简单，直接启动多个服务
- broker部署分为master和slave节点，一个master对应多个slave节点，主从节点通过brokerId区分，主节点为0，从节点为1；每个broker与NameServer建立长连接，定时注册Topic信息到NameServer中。
- producer与NameServer中的任意一个节点建立长连接，定期获取Topic路由信息，并向提供Topic服务的Master建立长连接，且定时向Master发送心跳。Producer完全无状态，可集群部署。
- consumer与NameServer集群中的其中一个节点（随机选择）建立长连接，定期从NameServer取Topic路由信息，并向提供Topic服务的Master、Slave建立长连接，且定时向Master、Slave发送心跳。Consumer既可以从Master订阅消息，也可以从Slave订阅消息，订阅规则由Broker配置决定。
集群模式
注意这里说的集群模式是针对broker，因为涉及到broker的节点之间的数据同步问题。
NameServer各个节点间不互相通信，只需要启动多个服务便可实现一个集群
RocketMQ支持四种集群模式，如下：
1. 单Master模式
不建议使用，一旦服务重启或者宕机将导致整个服务不可用
2. 多Master模式
这个集群模式无slave节点，全部都是master节点，该模式如下图：
该模式的优缺点如下：
- 优点：该模式性能最高
- 缺点：一旦一台服务宕机了，那么在这台服务上的消息不能被订阅消费，消息实时性会受到影响
3. 多Master多Slave（同步）
每个master对应一个slave节点，有多对master-slave，主从之间的数据复制采用同步双写的形式，如下图：
主从同步双写是什么意思？
producer发送一条消息给broker的主节点，只有主节点将数据同步到从节点才会返回结果
此时的发送消息流程如下：
需要经过以上4步才能实现消息发送成功，此时如果主从数据复制阻塞，那么producer必须等待直到成功。
这种模式的优缺点如下：
- 优点：无单点故障，数据不会丢失，即使master宕机了，salve节点依然能够对外提供服务
- 缺点：由于是同步复制，性能比异步复制的模式低
4. 多Master多Slave（异步）
每个Master配置一个Slave，有多对master-slave，采用异步复制的方式，如下：
消息发送到的master后直接返回，不必等待主从复制，而是内部通过异步的方式进行复制。
该种模式的优缺点如下：
- 优点：无单点故障，消息无延迟，即使master宕机了，salve节点依然能够对外提供服务
- 性能比异步复制模式略低（大约低10%左右），发送单个消息的RT会略高。
主从同步集群搭建
根据上面的介绍，主从同步集群模式使用4个节点，分别是两个主节点、两个从节点。
笔者这里是使用两台机器将节点均摊，如下图：
在安装之前需要做些准备工作，如下：
- 准备两台服务器/虚拟机
- 安装好JDK1.8的环境
- 下载好rocketmq-all-4.9.4-bin-release
笔者使用的是Centos7的虚拟机进行演示，如下：
| 序号 | IP | 角色 | 架构模式 |
| 1 | 192.168.47.146 | nameserver、brokerserver | Master1、Slave2 |
| 2 | 192.168.47.145 | nameserver、brokerserver | Master2、Slave1 |
1. 添加环境变量
RocketMQ的启动需要依赖的一个环境变量：ROCKETMQ_HOME（RocketMQ的根目录）
export PATH=$JAVA_HOME/bin:$PATH export ROCKETMQ_HOME=/usr/local/rocketmq-all-4.9.4-bin-release export PATH=$PATH:$ROCKETMQ_HOME/bin
除了以上RocketMQ的环境变量配置，还需添加JDK的配置，省略...
配置保存之后，执行下述命令：
source /etc/profile
2. 创建消息存储路径
RocketMQ是将消息存储在磁盘，因此需要创建存储路径，如下：
mkdir -p /usr/local/rocketmq/store/master mkdir -p /usr/local/rocketmq/store/master/commitlog mkdir -p /usr/local/rocketmq/store/master/consumequeue mkdir -p /usr/local/rocketmq/store/master/index mkdir -p /usr/local/rocketmq/store/slave mkdir -p /usr/local/rocketmq/store/slave/commitlog mkdir -p /usr/local/rocketmq/store/slave/consumequeue mkdir -p /usr/local/rocketmq/store/slave/index
3. broker配置文件
总共四个节点，分别配置如下：
1、master1
这个配置文件是broker-a.properties，如下：
#所属集群名字 brokerClusterName=rocketmq-cluster #broker名字，注意此处不同的配置文件填写的不一样 brokerName=broker-a #0 表示 Master，>0 表示 Slave brokerId=0 #nameServer地址，分号分割 namesrvAddr=rocketmq-nameserver1:9876;rocketmq-nameserver2:9876 #在发送消息时，自动创建服务器不存在的topic，默认创建的队列数 defaultTopicQueueNums=4 #是否允许 Broker 自动创建Topic，建议线下开启，线上关闭 autoCreateTopicEnable=true #是否允许 Broker 自动创建订阅组，建议线下开启，线上关闭 autoCreateSubscriptionGroup=true #Broker 对外服务的监听端口 listenPort=10911 #删除文件时间点，默认凌晨 4点 deleteWhen=04 #文件保留时间，默认 48 小时 fileReservedTime=120 #commitLog每个文件的大小默认1G mapedFileSizeCommitLog=1073741824 #ConsumeQueue每个文件默认存30W条，根据业务情况调整 mapedFileSizeConsumeQueue=300000 #destroyMapedFileIntervalForcibly=120000 #redeleteHangedFileInterval=120000 #检测物理文件磁盘空间 diskMaxUsedSpaceRatio=88 #存储路径 storePathRootDir=/usr/local/rocketmq/store #commitLog 存储路径 storePathCommitLog=/usr/local/rocketmq/store/commitlog #消费队列存储路径存储路径 storePathConsumeQueue=/usr/local/rocketmq/store/consumequeue #消息索引存储路径 storePathIndex=/usr/local/rocketmq/store/index #checkpoint 文件存储路径 storeCheckpoint=/usr/local/rocketmq/store/checkpoint #abort 文件存储路径 abortFile=/usr/local/rocketmq/store/abort #限制的消息大小 maxMessageSize=65536 #flushCommitLogLeastPages=4 #flushConsumeQueueLeastPages=2 #flushCommitLogThoroughInterval=10000 #flushConsumeQueueThoroughInterval=60000 #Broker 的角色 #- ASYNC_MASTER 异步复制Master #- SYNC_MASTER 同步双写Master #- SLAVE brokerRole=SYNC_MASTER #刷盘方式 #- ASYNC_FLUSH 异步刷盘 #- SYNC_FLUSH 同步刷盘 flushDiskType=SYNC_FLUSH #checkTransactionMessageEnable=false #发消息线程池数量 #sendMessageThreadPoolNums=128 #拉消息线程池数量 #pullMessageThreadPoolNums=128
2、slave2
修改配置文件broker-b-s.properties，如下：
#所属集群名字 brokerClusterName=rocketmq-cluster #broker名字，注意此处不同的配置文件填写的不一样 brokerName=broker-b #0 表示 Master，>0 表示 Slave brokerId=1 #nameServer地址，分号分割 namesrvAddr=rocketmq-nameserver1:9876;rocketmq-nameserver2:9876 #在发送消息时，自动创建服务器不存在的topic，默认创建的队列数 defaultTopicQueueNums=4 #是否允许 Broker 自动创建Topic，建议线下开启，线上关闭 autoCreateTopicEnable=true #是否允许 Broker 自动创建订阅组，建议线下开启，线上关闭 autoCreateSubscriptionGroup=true #Broker 对外服务的监听端口 listenPort=11011 #删除文件时间点，默认凌晨 4点 deleteWhen=04 #文件保留时间，默认 48 小时 fileReservedTime=120 #commitLog每个文件的大小默认1G mapedFileSizeCommitLog=1073741824 #ConsumeQueue每个文件默认存30W条，根据业务情况调整 mapedFileSizeConsumeQueue=300000 #destroyMapedFileIntervalForcibly=120000 #redeleteHangedFileInterval=120000 #检测物理文件磁盘空间 diskMaxUsedSpaceRatio=88 #存储路径 storePathRootDir=/usr/local/rocketmq/store/slave #commitLog 存储路径 storePathCommitLog=/usr/local/rocketmq/store/slave/commitlog #消费队列存储路径存储路径 storePathConsumeQueue=/usr/local/rocketmq/store/slave/consumequeue #消息索引存储路径 storePathIndex=/usr/local/rocketmq/store/slave/index #checkpoint 文件存储路径 storeCheckpoint=/usr/local/rocketmq/store/slave/checkpoint #abort 文件存储路径 abortFile=/usr/local/rocketmq/store/slave/abort #限制的消息大小 maxMessageSize=65536 #flushCommitLogLeastPages=4 #flushConsumeQueueLeastPages=2 #flushCommitLogThoroughInterval=10000 #flushConsumeQueueThoroughInterval=60000 #Broker 的角色 #- ASYNC_MASTER 异步复制Master #- SYNC_MASTER 同步双写Master #- SLAVE brokerRole=SLAVE #刷盘方式 #- ASYNC_FLUSH 异步刷盘 #- SYNC_FLUSH 同步刷盘 flushDiskType=ASYNC_FLUSH #checkTransactionMessageEnable=false #发消息线程池数量 #sendMessageThreadPoolNums=128 #拉消息线程池数量 #pullMessageThreadPoolNums=128
3、master2
修改broker-b.properties，如下：
#所属集群名字 brokerClusterName=rocketmq-cluster #broker名字，注意此处不同的配置文件填写的不一样 brokerName=broker-b #0 表示 Master，>0 表示 Slave brokerId=0 #nameServer地址，分号分割 namesrvAddr=rocketmq-nameserver1:9876;rocketmq-nameserver2:9876 #在发送消息时，自动创建服务器不存在的topic，默认创建的队列数 defaultTopicQueueNums=4 #是否允许 Broker 自动创建Topic，建议线下开启，线上关闭 brokerClusterName=rocketmq-cluster #broker名字，注意此处不同的配置文件填写的不一样 brokerName=broker-b #0 表示 Master，>0 表示 Slave brokerId=0 #nameServer地址，分号分割 namesrvAddr=rocketmq-nameserver1:9876;rocketmq-nameserver2:9876 #在发送消息时，自动创建服务器不存在的topic，默认创建的队列数 defaultTopicQueueNums=4 #是否允许 Broker 自动创建Topic，建议线下开启，线上关闭 autoCreateTopicEnable=true #是否允许 Broker 自动创建订阅组，建议线下开启，线上关闭 autoCreateSubscriptionGroup=true #Broker 对外服务的监听端口 listenPort=10911 #删除文件时间点，默认凌晨 4点 deleteWhen=04 #文件保留时间，默认 48 小时 fileReservedTime=120 #commitLog每个文件的大小默认1G mapedFileSizeCommitLog=1073741824 #ConsumeQueue每个文件默认存30W条，根据业务情况调整 mapedFileSizeConsumeQueue=300000 #destroyMapedFileIntervalForcibly=120000 #redeleteHangedFileInterval=120000 #检测物理文件磁盘空间 diskMaxUsedSpaceRatio=88 #存储路径 storePathRootDir=/usr/local/rocketmq/store #commitLog 存储路径 storePathCommitLog=/usr/local/rocketmq/store/commitlog #消费队列存储路径存储路径 storePathConsumeQueue=/usr/local/rocketmq/store/consumequeue #消息索引存储路径 storePathIndex=/usr/local/rocketmq/store/index #checkpoint 文件存储路径 storeCheckpoint=/usr/local/rocketmq/store/checkpoint #abort 文件存储路径 abortFile=/usr/local/rocketmq/store/abort #限制的消息大小 maxMessageSize=65536 #flushCommitLogLeastPages=4 #flushConsumeQueueLeastPages=2 #flushCommitLogThoroughInterval=10000 #flushConsumeQueueThoroughInterval=60000 #Broker 的角色 #- ASYNC_MASTER 异步复制Master #- SYNC_MASTER 同步双写Master #- SLAVE brokerRole=SYNC_MASTER #刷盘方式 #- ASYNC_FLUSH 异步刷盘 #- SYNC_FLUSH 同步刷盘 flushDiskType=SYNC_FLUSH #checkTransactionMessageEnable=false #发消息线程池数量 #sendMessageThreadPoolNums=128 #拉消息线程池数量 #pullMessageThreadPoolNums=128
4、slave1
修改broker-a-s.properties，如下：
#所属集群名字 brokerClusterName=rocketmq-cluster #broker名字，注意此处不同的配置文件填写的不一样 brokerName=broker-a #0 表示 Master，>0 表示 Slave brokerId=1 #nameServer地址，分号分割 namesrvAddr=rocketmq-nameserver1:9876;rocketmq-nameserver2:9876 #在发送消息时，自动创建服务器不存在的topic，默认创建的队列数 defaultTopicQueueNums=4 #是否允许 Broker 自动创建Topic，建议线下开启，线上关闭 autoCreateTopicEnable=true #是否允许 Broker 自动创建订阅组，建议线下开启，线上关闭 autoCreateSubscriptionGroup=true #Broker 对外服务的监听端口 listenPort=11011 #删除文件时间点，默认凌晨 4点 deleteWhen=04 #文件保留时间，默认 48 小时 fileReservedTime=120 #commitLog每个文件的大小默认1G mapedFileSizeCommitLog=1073741824 #ConsumeQueue每个文件默认存30W条，根据业务情况调整 mapedFileSizeConsumeQueue=300000 #destroyMapedFileIntervalForcibly=120000 #redeleteHangedFileInterval=120000 #检测物理文件磁盘空间 diskMaxUsedSpaceRatio=88 #存储路径 storePathRootDir=/usr/local/rocketmq/store/slave #commitLog 存储路径 storePathCommitLog=/usr/local/rocketmq/store/slave/commitlog #消费队列存储路径存储路径 storePathConsumeQueue=/usr/local/rocketmq/store/slave/consumequeue #消息索引存储路径 storePathIndex=/usr/local/rocketmq/store/slave/index #checkpoint 文件存储路径 storeCheckpoint=/usr/local/rocketmq/store/slave/checkpoint #abort 文件存储路径 abortFile=/usr/local/rocketmq/store/slave/abort #限制的消息大小 maxMessageSize=65536 #flushCommitLogLeastPages=4 #flushConsumeQueueLeastPages=2 #flushCommitLogThoroughInterval=10000 #flushConsumeQueueThoroughInterval=60000 #Broker 的角色 #- ASYNC_MASTER 异步复制Master #- SYNC_MASTER 同步双写Master #- SLAVE brokerRole=SLAVE #刷盘方式 #- ASYNC_FLUSH 异步刷盘 #- SYNC_FLUSH 同步刷盘 flushDiskType=ASYNC_FLUSH #checkTransactionMessageEnable=false #发消息线程池数量 #sendMessageThreadPoolNums=128 #拉消息线程池数量 #pullMessageThreadPoolNums=128
关于上面的各个配置有什么用后面章节会详细介绍
4、开放端口
宿主机需要远程访问虚拟机的rocketmq服务和web服务，需要开放相关的端口号，简单粗暴的方式是直接关闭防火墙
# 关闭防火墙 systemctl stop firewalld.service # 查看防火墙的状态 firewall-cmd --state # 禁止firewall开机启动 systemctl disable firewalld.service
或者为了安全，只开放特定的端口号，RocketMQ默认使用3个端口：9876 、10911 、11011 。如果防火墙没有关闭的话，那么防火墙就必须开放这些端口：
nameserver默认使用 9876 端口master默认使用 10911 端口slave默认使用11011 端口
执行以下命令：
# 开放name server默认端口 firewall-cmd --remove-port=9876/tcp --permanent # 开放master默认端口 firewall-cmd --remove-port=10911/tcp --permanent # 开放slave默认端口 (当前集群模式可不开启) firewall-cmd --remove-port=11011/tcp --permanent # 重启防火墙 firewall-cmd --reload
5. Host添加信息
需要在hosts中添加信息，这样后面的配置就不用通过ip指定了。
执行如下命令进入hosts文件：
vim /etc/hosts
配置信息如下：
# nameserver 192.168.47.146 rocketmq-nameserver1 192.168.47.145 rocketmq-nameserver2 # broker 192.168.47.146 rocketmq-master1 192.168.47.146 rocketmq-slave2 192.168.47.145 rocketmq-master2 192.168.47.145 rocketmq-slave1
配置完成后, 重启网卡：
systemctl restart network
6. 修改启动脚本
内置RocketMQ启动对服务器内存要求较高，由于笔者本地测试的配置较低，因此需要修改JVM启动参数，以下两个脚本都在bin目录下。
1、runbroker.sh脚本修改：
根据自己服务器的配置进行修改
2、 runserver.sh 脚本修改：
7. 服务启动
RocketMQ启动分为两步：
- 启动NameServer
- 启动borker集群
1、启动NameServer
分别在两台服务器上启动，命令如下：
cd /usr/local/rocketmq-all-4.9.4-bin-release/bin nohup sh mqnamesrv &
2、启动broker集群
这里master和slave总计四个，均摊在两个服务器上，下面分别启动
master1启动，命令如下：
cd /usr/local/rocketmq-all-4.9.4-bin-release/bin nohup sh mqbroker -c ../conf/2m-2s-sync/broker-a.properties &
slave2启动，命令如下：
cd /usr/local/rocketmq-all-4.9.4-bin-release/bin nohup sh mqbroker -c ../conf/2m-2s-sync/broker-b-s.properties &
master1和slave2在同一台服务器上（192.168.47.146）
master2启动，命令如下：
cd /usr/local/rocketmq-all-4.9.4-bin-release/bin nohup sh mqbroker -c ../conf/2m-2s-sync/broker-b.properties &
slave1启动，命令如下：
cd /usr/local/rocketmq-all-4.9.4-bin-release/bin nohup sh mqbroker -c ../conf/2m-2s-sync/broker-a-s.properties &
master2和slave1在同一台服务器上（192.168.47.145）
8. 查看进程状态
第7步启动成功后，查询进程状态观察RocketMQ是否启动成功，命令如下：
9. 查看日志
同时也可以观察RocketMQ的日志看下是否异常，命令如下：
# 查看nameServer日志 tail -500f ~/logs/rocketmqlogs/namesrv.log # 查看broker日志 tail -500f ~/logs/rocketmqlogs/broker.log
集群监控平台
RocketMQ有一个对其扩展的开源项目rocketmq-dashboard，直接将该项目拉到本地，修改其中的几个参数编译打包即可
修改application.yml中的NameServer的配置，改成自己搭建的地址，如下：
然后打包运行，命令如下：
//打包 mvn clean package -Dmaven.test.skip=true //运行 java -jar target/rocketmq-dashboard-1.0.1-SNAPSHOT.jar
运行成功之后，浏览器访问：http://ip:8080
进入集群这一栏，看下自己搭建的集群信息，如下图：
总结
本节内容主要介绍了MQ的基本知识以及RocketMQ集群搭建过程，有兴趣的可以按照笔者的整个搭建过程尝试一遍，至于其中一些配置属性以及生产、消费消息将会在后文介绍。
