【实战】手把手教你从 0 到 1 搭建一套 RocketMQ 集群

简介: 大家好,我是君哥。今天来分享怎样搭建 RocketMQ 集群。

本文搭建集群使用的环境是 2 个云主机,架构如下:

微信图片_20221213120836.png在 47.xx.xx.xx 和 39.xx.xx.xx 上分别部署一个 Name Server 和 Broker 主节点,这里不搭建从节点。也就是官网介绍的 2m-noslave 构建模式。


注意:官网有三种配置模式:2m-2s-sync、2m-2s-async、2m-noslave。这三种配置都是使用异步刷盘策略:ASYNC_FLUSH。


集群搭建成功后,Broker 会向 Name Server 注册 Topic 路由信息,Producer 和 Consumer 则从 Name Server 获取路由信息,然后 Producer 根据路由信息向 Broker 发送消息,Consumer 则根据路由信息从 Broker 拉取消息。

1 准备工作

要安装 RocketMQ,首先需要在云主机上安装 Java 环境,Maven 环境。这里就不做详细介绍了。


Java 和 Maven 环境安装好以后,从官网下载最新版本,地址如下:

https://dlcdn.apache.org/rocketmq/4.9.4/rocketmq-all-4.9.4-bin-release.zip

下载完成后,进行解压和编译,执行如下命令:

> unzip rocketmq-all-4.9.4-source-release.zip
> cd rocketmq-all-4.9.4-source-release/
> mvn -Prelease-all -DskipTests clean install -U
> cd distribution/target/rocketmq-4.9.4/rocketmq-4.9.4

看到下图输出时,编译成功:

微信图片_20221213120901.png

2 启动

2.1 启动 Name Server

因为我的云主机内存比较小,而 RocketMQ 默认启动 Name Server 需要的 JVM 堆内存默认是 4g,所以需要修改默认堆内存。修改文件为:

rocketmq-all-4.9.4-source-release/distribution/target/rocketmq-4.9.4/rocketmq-4.9.4/bin/runserver.sh

修改后的配置如下:

JAVA_OPT="${JAVA_OPT} -server -Xms256m -Xmx256m -Xmn128m -XX:MetaspaceSize=128m -XX:MaxMetaspaceSize=320m"

修改完成后,执行下面命令:

nohup sh bin/mqnamesrv &

启动成功后,nohup.out 文件中打印如下日志:

The Name Server boot success. serializeType=JSON

搭建好一台机器后,用同样的方式搭建第二台机器。

2.2 启动 Broker

同样,RocketMQ 启动 Broker 需要的 JVM 堆内存默认是 8g,所以需要修改堆内存。修改文件为:

rocketmq-all-4.9.4-source-release/distribution/target/rocketmq-4.9.4/rocketmq-4.9.4/bin/runbroker.sh

修改后的配置如下:

JAVA_OPT="${JAVA_OPT} -server -Xms512m -Xmx512m"

创建 conf.properties 文件,内容如下:

brokerClusterName = MyTestCluster
brokerName = broker-a
brokerId = 0
deleteWhen = 04
fileReservedTime = 48
brokerRole = ASYNC_MASTER
flushDiskType = ASYNC_FLUSH
namesrvAddr=127.0.0.1:9876;47.xx.xx.xx:9876

配置好后,启动 broker-a 节点,启动 命令如下:

nohup bash bin/mqbroker -c conf/broker.properties &

Broker 启动成功后,Name Server 的日志如下图:

微信图片_20221213120926.png

用同样的方式启动 broker-b,conf.properties 文件配置如下:

#集群名称
brokerClusterName = MyTestCluster
#broker名称
brokerName = broker-b
brokerId = 0
#删除消息存储过期文件的时间为凌晨4点
deleteWhen = 04
#未发生更新的消息存储文件的保留时长为48小时,48小时后过期,将会被删除
fileReservedTime = 48
brokerRole = ASYNC_MASTER
flushDiskType = ASYNC_FLUSH
namesrvAddr=127.0.0.1:9876;xx.xx.xx.xx:9876

启动成功后,执行 mqadmin 命令查看集群信息:

[root@rocketmq-4.9.4]# ./bin/mqadmin topicList -n 127.0.0.1:9876
MyTestCluster
RMQ_SYS_TRANS_HALF_TOPIC
BenchmarkTest
OFFSET_MOVED_EVENT
iZ8vbfyc7hfzygtpgapblyZ
TBW102
SELF_TEST_TOPIC
DefaultCluster
iZ2ze4m2ri7irk6au5mbfgZ
SCHEDULE_TOPIC_XXXX
DefaultCluster_REPLY_TOPIC
broker-b
broker-a
MyTestCluster_REPLY_TOPIC

注意:执行上面命令需要修改 bin/tools.sh 中的 JVM 参数,配置如下:

JAVA_OPT="${JAVA_OPT} -server -Xms256m -Xmx256m -Xmn128m -XX:MetaspaceSize=128m -XX:MaxMetaspaceSize=128m"

3 dashboard

3.1 安装

安装 dashboard,需要编译源代码,源码 github 地址如下:

https://github.com/apache/rocketmq-dashboard

下载之后,修改 application.yml 参数,我这里只修改了 Name Server 地址:

rocketmq:
  config:
    namesrvAddrs:
      - 127.0.0.1:9876
      - 47.xx.xx.xx:9876

然后执行 Maven 打包命令,打出 jar 包:

mvn clean package -Dmaven.test.skip=true

打好 jar 包后上传到服务器,执行下面命令启动:

java -jar rocketmq-dashboard-1.0.1-SNAPSHOT.jar

启动成功后,输出下图的日志:

微信图片_20221213120954.png

3.2 测试

浏览器输入 http://39.xx.xx.xx:8080/ 界面如下:

微信图片_20221213121012.png

使用下面命令创建一个 Topic,名字叫 MyTestTopic:

sh bin/mqadmin updateTopic -n 127.0.0.1:9876\;47.92.71.246:9876  -c MyTestCluster  -t MyTestTopic

这是可以在界面上看到创建的 Topic,如下图:

微信图片_20221213121051.png

使用命令发送一条消息:

[root@rocketmq-4.9.4]# sh bin/mqadmin sendMessage -n 127.0.0.1:9876 -t MyTestTopic -p 'hello test message'
#Broker Name                      #QID  #Send Result            #MsgId
broker-a                          1     SEND_OK                 7F000001D3C3339097527B50D1740000

在界面上查看消息,如下图:

微信图片_20221213121112.png

4 总结

这篇文章主要讲述了 RocketMQ 集群的搭建,希望能对大家理解 RocketMQ 有所帮助。


相关实践学习
消息队列RocketMQ版:基础消息收发功能体验
本实验场景介绍消息队列RocketMQ版的基础消息收发功能,涵盖实例创建、Topic、Group资源创建以及消息收发体验等基础功能模块。
消息队列 MNS 入门课程
1、消息队列MNS简介 本节课介绍消息队列的MNS的基础概念 2、消息队列MNS特性 本节课介绍消息队列的MNS的主要特性 3、MNS的最佳实践及场景应用 本节课介绍消息队列的MNS的最佳实践及场景应用案例 4、手把手系列:消息队列MNS实操讲 本节课介绍消息队列的MNS的实际操作演示 5、动手实验:基于MNS,0基础轻松构建 Web Client 本节课带您一起基于MNS,0基础轻松构建 Web Client
相关文章
|
3月前
|
消息中间件 负载均衡 监控
【面试问题】RabbitMQ 的集群
【1月更文挑战第27天】【面试问题】RabbitMQ 的集群
|
10月前
|
消息中间件 存储 Kubernetes
k8s1.20版本部署RabbitMQ集群(持久化)——2023.05
k8s1.20版本部署RabbitMQ集群(持久化)——2023.05
520 1
|
21天前
|
消息中间件 Prometheus 监控
消息队列 MQ使用问题之如何将旧集群的store目录迁移到新集群
消息队列(MQ)是一种用于异步通信和解耦的应用程序间消息传递的服务,广泛应用于分布式系统中。针对不同的MQ产品,如阿里云的RocketMQ、RabbitMQ等,它们在实现上述场景时可能会有不同的特性和优势,比如RocketMQ强调高吞吐量、低延迟和高可用性,适合大规模分布式系统;而RabbitMQ则以其灵活的路由规则和丰富的协议支持受到青睐。下面是一些常见的消息队列MQ产品的使用场景合集,这些场景涵盖了多种行业和业务需求。
|
26天前
|
消息中间件 RocketMQ
MetaQ/RocketMQ 原理问题之当消费集群规模较大时,处理分配不到队列的Consumer的问题如何解决
MetaQ/RocketMQ 原理问题之当消费集群规模较大时,处理分配不到队列的Consumer的问题如何解决
|
21天前
|
消息中间件 存储 Java
消息队列 MQ使用问题之如何将RocketMQ中某个集群的topic迁移到另一个集群
消息队列(MQ)是一种用于异步通信和解耦的应用程序间消息传递的服务,广泛应用于分布式系统中。针对不同的MQ产品,如阿里云的RocketMQ、RabbitMQ等,它们在实现上述场景时可能会有不同的特性和优势,比如RocketMQ强调高吞吐量、低延迟和高可用性,适合大规模分布式系统;而RabbitMQ则以其灵活的路由规则和丰富的协议支持受到青睐。下面是一些常见的消息队列MQ产品的使用场景合集,这些场景涵盖了多种行业和业务需求。
|
21天前
|
消息中间件 安全 fastjson
消息队列 MQ使用问题之NameServer集群是什么结构
消息队列(MQ)是一种用于异步通信和解耦的应用程序间消息传递的服务,广泛应用于分布式系统中。针对不同的MQ产品,如阿里云的RocketMQ、RabbitMQ等,它们在实现上述场景时可能会有不同的特性和优势,比如RocketMQ强调高吞吐量、低延迟和高可用性,适合大规模分布式系统;而RabbitMQ则以其灵活的路由规则和丰富的协议支持受到青睐。下面是一些常见的消息队列MQ产品的使用场景合集,这些场景涵盖了多种行业和业务需求。
|
1月前
|
消息中间件 负载均衡 算法
【RocketMQ系列十二】RocketMQ集群核心概念之主从复制&生产者负载均衡策略&消费者负载均衡策略
【RocketMQ系列十二】RocketMQ集群核心概念之主从复制&生产者负载均衡策略&消费者负载均衡策略
48 2
|
1月前
|
消息中间件 存储 Java
【RocketMQ 系列三】RocketMQ集群搭建(2m-2s-sync)
【RocketMQ 系列三】RocketMQ集群搭建(2m-2s-sync)
124 1
|
1月前
|
消息中间件 NoSQL 关系型数据库
【RocketMQ系列十三】RocketMQ的集群核心概念之消费重试&死信队列&幂等消息的出现以及处理
【RocketMQ系列十三】RocketMQ的集群核心概念之消费重试&死信队列&幂等消息的出现以及处理
43 1
|
2月前
|
消息中间件 存储 Java
RocketMQ下载安装、集群搭建保姆级教程
RocketMQ下载安装、集群搭建保姆级教程
50 0