MQ 学习日志(三) 保证消息队列的高可用性

简介: 保证消息队列的可靠性

如何保证消息队列的高可用性

RabbitMQ的高可用性

RabbitMQ是比较有代表性的,因为是基于主从做高可用性,RabbitMQ有三种模式,单机,普通集群,镜像集群模式

单机模式

就是Demo级别

普通集群模式

多台器上启动多个RabbitMQ实例,每个机器启动一个,但是创建的Queue只会放在一个RabbitMQ实例上,但是每个实例都同步queue的元数据,消费的时候如果连接到了另外一个实例,那么这个实例就会从queue所在的实例上拉取数据过来

这种方式确实很麻烦,也不好,没有做所谓的分布式,就是个普通集群,因为这导致你要么消费者每次随机连接一个实例然后拉取数据,要么固定连接那个queue所在的实例消费数据,前者有数据拉取的开销,后者导致单实力性能瓶颈

而且如果那个放queue的实例当寄了,会导致接下来其他的实例就无法从那个实例拉取,如果开启了消息持久化,,让RabbitMq落地存储消息的话,消息不一定会丢,得等这个实例恢复后,才能继续从这个queue中拉取数据

所以这个方案就没有什么高可用性而言,主要就是让急群众多个节点来服务某个queue的读写操作

镜像集群模式

这种模式才是所谓的RabbitMQ的高可用模式,跟普通集群模式不一样的是,你创建的queue无论元数据还是queue里的消息都会存在于多个实例上,然后每次写消息到queue的时候就会主动把消息到多个实例的queue里的消息进行同步

好处就是如果一个机器宕机了,其他的机器一样可以使用,坏处在于,性能开销太大,消息同步所有的机器,导致网络的带宽压力和消耗很重,第二,没有拓展性可言,如果某个queue负载很重,你加机器,新增的机器也包含了这个queue的所有数据,没有办法线性拓展你的queue

镜像集群开启方式

RabbitMQ有一个管理控制台,可以再后台新增一个策略,这个策略是惊喜那个集群模式的策略,指定的时候可以要求数据同步到所有的节点,也可以要求哦同步到指定数量的节点上,然后在创建queue的时候,应用这个策略,就会自动将数据同步到其他的节点上去了

kafka的高可用性

kafka是一个基本的架构认识,多个broker组成,每个broker是一个节点,你创建一个topic,这个topic可以划分为多个partition,每个partition可以存在于不同的broker上,每个partition就放一部分数据

这就是天然的分布式消息队列,就是说一个topic的数据,是分散放在多个机器上的,每个机器就放一部分数据

实际上rabbitMQ之类的,并不是分布式消息队列,也就是传统的消息队列,只不过提供了一些集群,HA的机制而已,因为无论怎么玩,RabbitMQ一个Queue的数据都是放在一个节点里的,镜像集群下,也是每个节点都放这个Queue的完整数据

kafka0.8以前,是没有HA机制的,就是任何一个broker当寄了,那个broker上的patition

Topic,Partition,Replication
topic

KafKa与其他的MQ的区别是在于,其他的MQ同时拥有Queue(点对点)和Topic(订阅/发布)两种模式,而KafKa只有Topic一种模式,topic可以理解为消息存储的虚拟空间,也就是一个集合

Partition

KafKa是一个标准的分布式MQ,其在每台设备上都会运行一个Broker进程,如果我们定义一个Topic有三个Partition,则这三个Partition就会在设备上创建三个Partition文件,再机器上物理保存,也就是说,Partition就是消息的物理存储,我们可以再KafKa的数据目录(/tmp/KafKa-log)下面找到,命名规则为:topic_name-partition_id 此目录可以自行配置

Replication

Replication是保证KafKa消息高可用且系统稳定的一个策略,也就是HA机制,及,每个partitation都会有至少一个对应的Replication,而KafKa会通过一取模算法保证每个broker的partition和对应的Replication再不同的机器上,具体的算法是第i个Partitation存放的Broker为 i mod n ,而第i个Partition的j个 Replication存放的位置为 (i + j) mod n

目录
相关文章
|
2月前
|
消息中间件 网络协议 JavaScript
MQTT常见问题之微消息队列mqtt支持ipv6失败如何解决
MQTT(Message Queuing Telemetry Transport)是一个轻量级的、基于发布/订阅模式的消息协议,广泛用于物联网(IoT)中设备间的通信。以下是MQTT使用过程中可能遇到的一些常见问题及其答案的汇总:
|
2月前
|
消息中间件 物联网 Java
MQTT常见问题之微消息队列配置失败如何解决
MQTT(Message Queuing Telemetry Transport)是一个轻量级的、基于发布/订阅模式的消息协议,广泛用于物联网(IoT)中设备间的通信。以下是MQTT使用过程中可能遇到的一些常见问题及其答案的汇总:
|
2月前
|
消息中间件 Java
springboot整合消息队列——RabbitMQ
springboot整合消息队列——RabbitMQ
76 0
|
20小时前
|
消息中间件 存储 运维
深入理解MQ消息队列的高可用与可靠性策略
深入理解MQ消息队列的高可用与可靠性策略
11 3
|
12天前
|
消息中间件 存储 监控
写了10000字:全面学习RocketMQ中间件
以上是 V 哥在授课时整理的全部 RocketMQ 的内容,在学习时重点要理解其中的含义,正所谓知其然知其所以然,希望这篇文章可以帮助兄弟们搞清楚RocketMQ的来龙去脉,必竟这是一个非常常用的分布式应用的中间件,好了,今天的内容就分享到这,我靠!已经 00:36分,建议收藏起来,慢慢消化,创作不易,喜欢请点赞转发。
|
12天前
|
SQL 监控 关系型数据库
【MySQL学习】MySQL的慢查询日志和错误日志
【MySQL学习】MySQL的慢查询日志和错误日志
|
16天前
|
消息中间件 大数据 Java
消息队列 MQ
消息队列 MQ
24 3
|
18天前
|
监控 Docker 容器
Docker从入门到精通:Docker log 命令学习
了解 Docker 日志管理对容器监控至关重要。`docker logs` 命令用于查看和管理容器日志,例如,`docker logs <container_name>` 显示容器日志,`-f` 或 `--follow` 实时跟踪日志,`--tail` 显示指定行数,`--timestamps` 添加时间戳,`--since` 按日期筛选。Docker 支持多种日志驱动,如 `syslog`,可通过 `--log-driver` 配置。有效管理日志能提升应用程序的稳定性和可维护性。
17 0
|
20天前
|
消息中间件 数据安全/隐私保护
MQTT微消息队列服务器连接报错:Error: Connection refused: Not authorized
使用MQTTX工具进行测试时,通过AccessKey创建了Client ID的用户名和密码。配置了公网接入点及端口1883,但尝试连接时出现错误。已附上工具截图:![](https://ucc.alicdn.com/pic/developer-ecology/3byii5uar64gg_36327474e991439da422f38c450ef153.png)。确认过用户名、密码和Client ID无误,问题仍未解决,期待回复!
|
1月前
|
消息中间件 存储 监控
解析RocketMQ:高性能分布式消息队列的原理与应用
RocketMQ是阿里开源的高性能分布式消息队列,具备低延迟、高吞吐和高可靠性,广泛应用于电商、金融等领域。其核心概念包括Topic、Producer、Consumer、Message和Name Server/Broker。RocketMQ支持异步通信、系统解耦、异步处理和流量削峰。关键特性有分布式架构、顺序消息、高可用性设计和消息事务。提供发布/订阅和点对点模型,以及消息过滤功能。通过集群模式、存储方式、发送和消费方式的选择进行性能优化。RocketMQ易于部署,可与Spring集成,并与Kafka等系统对比各有优势,拥有丰富的生态系统。
146 4

热门文章

最新文章