Apache RocketMQ 消息队列部署与可视化界面安装

简介: Apache RocketMQ是一个分布式、队列模型的消息中间件,具有低延迟、高性能和高可靠、万亿级容量和灵活的可扩展性。核心组件由四部分组成:Name Servers,Brokers,Producer 和 Consumer;它们中的每一个都可以水平扩展,而没有单一的故障节点。

封面.png

一、介绍

Apache RocketMQ是一个分布式、队列模型的消息中间件,具有低延迟、高性能和高可靠、万亿级容量和灵活的可扩展性。核心组件由四部分组成:Name ServersBrokersProducerConsumer;它们中的每一个都可以水平扩展,而没有单一的故障节点。

file

  1. NameServer:是一个几乎无状态的节点,可集群部署,节点之间无任何信息同步
  2. Broker:部署相对复杂,Broker分为Master与Slave,一个Master可以对应多个Slaver,但是一个Slaver只能对应一个Master,Master与Slaver的对应关系通过指定相同的BrokerName,不同的BrokerId来定义,BrokerId为0表示Master,非0表示Slaver。Master可以部署多个。每个Broker与NameServer集群中的所有节点建立长连接,定时注册Topic信息到所有的NameServer
  3. Producer:与NameServer集群中的其中一个节点(随机选择)建立长连接,定期从NameServer取Topic路由信息,并向提供Topic服务的Master建立长连接,且定时向Master发送心跳。Produce完全无状态,可集群部署
  4. Consumer:与NameServer集群中的其中一个节点(随机选择)建立长连接,定期从NameServer取Topic路由信息,并向提供Topic服务的Master、Slaver建立长连接,且定时向Master、Slaver发送心跳。Consumer即可从Master订阅消息,也可以从Slave订阅消息,订阅规则由Broker配置决定

二、MQ安装部署

2.1. 下载

直接找最新版下载后解压
http://rocketmq.apache.org/release_notes
file

2.2. 修改配置

修改 conf/broker.conf添加以下配置
file

brokerIP1:配置broker所在服务器的ip地址,以便Name Server连接

修改 runserver.shrunbroker.sh (可不改)
因为rocketMQ默认的启动参数内存占用非常大,如果环境没有这么多内存就必需修改JAVA_OPT参数

  • runserver.sh
    file
JAVA_OPT="${JAVA_OPT} -server -Xms256m -Xmx256m -Xmn125m -XX:MetaspaceSize=128m -XX:MaxMetaspaceSize=320m"
  • runbroker.sh
    file
JAVA_OPT="${JAVA_OPT} -server -Xms256m -Xmx256m -Xmn125m -XX:MetaspaceSize=128m -XX:MaxMetaspaceSize=320m"

2.3. 运行Name Server

nohup sh bin/mqnamesrv &

查看运行日志:tail -f ~/logs/rocketmqlogs/namesrv.log

2.4. 运行Broker

nohup sh bin/mqbroker -n localhost:9876 -c conf/broker.conf &

通过-c参数指定配置文件
查看运行日志:tail -f ~/logs/rocketmqlogs/broker.log

2.5. 停止服务的方式

如果需要停止RocketMQ的服务,在生产环境不建议直接用kill,应该使用以下命令

sh bin/mqshutdown broker

sh bin/mqshutdown namesrv

三、安装可视化管理界面

mvn clean package -Dmaven.test.skip=true
  • 运行
nohup java -jar \
    -Drocketmq.config.namesrvAddr=192.168.28.130:9876 \
    -Drocketmq.config.isVIPChannel=false \
    rocketmq-console-ng-1.0.0.jar &

file

四、常见异常处理

4.1. MQClientException: No route info of this topic, TopicTest1

4.1.1. 异常说明

在客户端的 Producer 运行起来准备发送消息时抛异常为 “ No route info of this topic ” 异常产生的原因可能是:

  1. Broker 禁止自动创建 Topic,且用户没有通过手工方式创建 Topic
  2. Broker 没有正确连接到 Name Server
  3. Producer 没有正确连接到 Name Server

4.1.2. 解决办法

  • 排查1Broker 禁止自动创建 Topic,且用户没有通过手工方式创建 Topic

    • 可以在rocketmq所在目录下执行 " sh bin/mqbroker -m " 来查看 broker 的配置参数
    • 如下所示,autoCreateTopicEnable=true 证明是没有问题的
      file
  • 排查2Broker 没有正确连接到 Name Server
    通过查看broker的日志 tail -f ~/logs/rocketmqlogs/broker.log 看看有没有错误信息
  • 排查3Producer 没有正确连接到 Name Server

    1. 检查程序连接 Name Server 的地址有没有错
    2. 如果在云服务器上,检查安全组的配置9876端口有没有开发
    3. 看看有没有打开防火墙,有的话设置防火墙开放9876端口

      [root@zlt rocketmq-all-4.5.0-bin-release]# firewall-cmd --zone=public --list-ports
      8090/tcp 80/tcp 8080/tcp
      [root@zlt rocketmq-all-4.5.0-bin-release]# firewall-cmd --zone=public --add-port=9876/tcp --permanent
      success
      [root@zlt rocketmq-all-4.5.0-bin-release]# firewall-cmd --reload
      success
      [root@zlt rocketmq-all-4.5.0-bin-release]# firewall-cmd --zone=public --list-ports
      9876/tcp 8090/tcp 80/tcp 8080/tcp

4.2. RemotingTooMuchRequestException: sendDefaultImpl call timeout

4.2.1. 异常说明

  • 在客户端的 Producer 运行起来准备发送消息时抛异常如下
  • 通常因为Name Server连接不上Broker
    file

4.2.2. 解决办法

检查 rocketmq-console 的集群页签,broker 的地址是否正确
file
broker地址的配置方式请参考 安装部署 中提到的步骤:

  1. 修改 broker.conf 的配置,添加 brokerIP1 参数
  2. 启动 broker 时加上 -c 参数指定配置文件

4.3. 消费/查看不了死信队列topic的消息

file

4.3.1. 异常说明

死信队列默认的 perm 值为2没有查看权限

4.3.2. 解决办法

在控制台把队列的 perm 改为6就可以了
主题点击 TOPIC配置
file
修改perm
file

相关实践学习
消息队列RocketMQ版:基础消息收发功能体验
本实验场景介绍消息队列RocketMQ版的基础消息收发功能,涵盖实例创建、Topic、Group资源创建以及消息收发体验等基础功能模块。
消息队列 MNS 入门课程
1、消息队列MNS简介 本节课介绍消息队列的MNS的基础概念 2、消息队列MNS特性 本节课介绍消息队列的MNS的主要特性 3、MNS的最佳实践及场景应用 本节课介绍消息队列的MNS的最佳实践及场景应用案例 4、手把手系列:消息队列MNS实操讲 本节课介绍消息队列的MNS的实际操作演示 5、动手实验:基于MNS,0基础轻松构建 Web Client 本节课带您一起基于MNS,0基础轻松构建 Web Client
目录
相关文章
|
7月前
|
消息中间件 人工智能 Apache
Apache RocketMQ 中文社区全新升级!
RocketMQ 中文社区升级发布只是起点,我们将持续优化体验细节,推出更多功能和服务,更重要的是提供更多全面、深度、高质量的内容。
678 19
|
1月前
|
消息中间件 存储 Apache
恭喜 Apache RocketMQ、Apache Seata 荣获 2024 开源创新榜单“年度开源项目”
近日,以“新纪天工、开物焕彩——致敬开源的力量”为活动主题的“重大科技成就发布会(首场)”在国家科技传播中心成功举办,并隆重揭晓了 2024 开源创新榜单,旨在致敬中国开源力量,传播推广开源科技成就,营造中国开源创新生态。2024 年开源创新榜单由中国科协科学技术传播中心、中国计算机学会、中国通信学会、中国科学院软件研究所共同主办,中国开发者社区承办,以王怀民院士为首组建评审委员会,进行研讨评审,面向中国开源行业领域,遴选具有创新性、贡献度和影响力的开源项目、社区、应用场景与开源事件。在评审出的 10 个年度开源项目中,Apache RocketMQ、Apache Seata 成功入选。
|
2月前
|
存储 消息中间件 缓存
独特架构打造新一代消息队列Apache Pulsar
Apache Pulsar 是一个开源的分布式消息流平台,由雅虎开发并于 2016 年开源,2018 年成为 Apache 顶级项目。Pulsar 通过独特的架构提供多租户、持久化存储和批处理等高级功能,支持高吞吐量、低延迟的消息传递。其核心组件包括 Broker、Apache BookKeeper 和 Apache ZooKeeper,分别负责消息处理、持久化存储和集群管理。
99 1
|
8月前
|
消息中间件 安全 API
《阿里云产品四月刊》—Apache RocketMQ ACL 2.0 全新升级(1)
阿里云瑶池数据库云原生化和一体化产品能力升级,多款产品更新迭代
341 1
《阿里云产品四月刊》—Apache RocketMQ ACL 2.0 全新升级(1)
|
8月前
|
消息中间件 安全 Apache
《阿里云产品四月刊》—Apache RocketMQ ACL 2.0 全新升级(4)
阿里云瑶池数据库云原生化和一体化产品能力升级,多款产品更新迭代
217 1
《阿里云产品四月刊》—Apache RocketMQ ACL 2.0 全新升级(4)
|
3月前
|
消息中间件 Java Kafka
初识Apache Kafka:搭建你的第一个消息队列系统
【10月更文挑战第24天】在数字化转型的浪潮中,数据成为了企业决策的关键因素之一。而高效的数据处理能力,则成为了企业在竞争中脱颖而出的重要武器。在这个背景下,消息队列作为连接不同系统和服务的桥梁,其重要性日益凸显。Apache Kafka 是一款开源的消息队列系统,以其高吞吐量、可扩展性和持久性等特点受到了广泛欢迎。作为一名技术爱好者,我对 Apache Kafka 产生了浓厚的兴趣,并决定亲手搭建一套属于自己的消息队列系统。
120 2
初识Apache Kafka:搭建你的第一个消息队列系统
|
8月前
|
消息中间件 安全 Apache
《阿里云产品四月刊》—Apache RocketMQ ACL 2.0 全新升级(2)
阿里云瑶池数据库云原生化和一体化产品能力升级,多款产品更新迭代
294 0
《阿里云产品四月刊》—Apache RocketMQ ACL 2.0 全新升级(2)
|
4月前
|
消息中间件
实践部署《云消息队列RabbitMQ实践》测评
《云消息队列RabbitMQ实践》解决方案原理清晰,尤其在异步通信和解耦方面解释详尽。对初学者而言,部分术语如消息持久化、确认机制及集群性能优化可更细致。部署过程文档详实,涵盖主要环节,但插件配置等细节存在环境问题,需查阅社区资料解决。该方案展示了RabbitMQ的高吞吐量、灵活路由和可靠消息传递能力,但在高可用性和消息丢失处理上可提供更深入配置建议。适用于高并发和解耦场景,如订单处理、日志收集,有助于提升系统可扩展性。总体部署体验良好,实用性较强。
63 0
|
7月前
|
消息中间件 安全 API
Apache RocketMQ ACL 2.0 全新升级
RocketMQ 作为一款流行的分布式消息中间件,被广泛应用于各种大型分布式系统和微服务中,承担着异步通信、系统解耦、削峰填谷和消息通知等重要的角色。随着技术的演进和业务规模的扩大,安全相关的挑战日益突出,消息系统的访问控制也变得尤为重要。然而,RocketMQ 现有的 ACL 1.0 版本已经无法满足未来的发展。因此,我们推出了 RocketMQ ACL 2.0 升级版,进一步提升 RocketMQ 数据的安全性。本文将介绍 RocketMQ ACL 2.0 的新特性、工作原理,以及相关的配置和实践。
13693 9
|
9月前
|
消息中间件 安全 API
Apache RocketMQ ACL 2.0 全新升级
RocketMQ ACL 2.0 不管是在模型设计、可扩展性方面,还是安全性和性能方面都进行了全新的升级。旨在能够为用户提供精细化的访问控制,同时,简化权限的配置流程。欢迎大家尝试体验新版本,并应用在生产环境中。
188911 170

相关产品

  • 云消息队列 MQ
  • 推荐镜像

    更多