MQ 学习日志(三) 保证消息队列的高可用性

本文涉及的产品
日志服务 SLS,月写入数据量 50GB 1个月
简介: 保证消息队列的可靠性

如何保证消息队列的高可用性

RabbitMQ的高可用性

RabbitMQ是比较有代表性的,因为是基于主从做高可用性,RabbitMQ有三种模式,单机,普通集群,镜像集群模式

单机模式

就是Demo级别

普通集群模式

多台器上启动多个RabbitMQ实例,每个机器启动一个,但是创建的Queue只会放在一个RabbitMQ实例上,但是每个实例都同步queue的元数据,消费的时候如果连接到了另外一个实例,那么这个实例就会从queue所在的实例上拉取数据过来

这种方式确实很麻烦,也不好,没有做所谓的分布式,就是个普通集群,因为这导致你要么消费者每次随机连接一个实例然后拉取数据,要么固定连接那个queue所在的实例消费数据,前者有数据拉取的开销,后者导致单实力性能瓶颈

而且如果那个放queue的实例当寄了,会导致接下来其他的实例就无法从那个实例拉取,如果开启了消息持久化,,让RabbitMq落地存储消息的话,消息不一定会丢,得等这个实例恢复后,才能继续从这个queue中拉取数据

所以这个方案就没有什么高可用性而言,主要就是让急群众多个节点来服务某个queue的读写操作

镜像集群模式

这种模式才是所谓的RabbitMQ的高可用模式,跟普通集群模式不一样的是,你创建的queue无论元数据还是queue里的消息都会存在于多个实例上,然后每次写消息到queue的时候就会主动把消息到多个实例的queue里的消息进行同步

好处就是如果一个机器宕机了,其他的机器一样可以使用,坏处在于,性能开销太大,消息同步所有的机器,导致网络的带宽压力和消耗很重,第二,没有拓展性可言,如果某个queue负载很重,你加机器,新增的机器也包含了这个queue的所有数据,没有办法线性拓展你的queue

镜像集群开启方式

RabbitMQ有一个管理控制台,可以再后台新增一个策略,这个策略是惊喜那个集群模式的策略,指定的时候可以要求数据同步到所有的节点,也可以要求哦同步到指定数量的节点上,然后在创建queue的时候,应用这个策略,就会自动将数据同步到其他的节点上去了

kafka的高可用性

kafka是一个基本的架构认识,多个broker组成,每个broker是一个节点,你创建一个topic,这个topic可以划分为多个partition,每个partition可以存在于不同的broker上,每个partition就放一部分数据

这就是天然的分布式消息队列,就是说一个topic的数据,是分散放在多个机器上的,每个机器就放一部分数据

实际上rabbitMQ之类的,并不是分布式消息队列,也就是传统的消息队列,只不过提供了一些集群,HA的机制而已,因为无论怎么玩,RabbitMQ一个Queue的数据都是放在一个节点里的,镜像集群下,也是每个节点都放这个Queue的完整数据

kafka0.8以前,是没有HA机制的,就是任何一个broker当寄了,那个broker上的patition

Topic,Partition,Replication
topic

KafKa与其他的MQ的区别是在于,其他的MQ同时拥有Queue(点对点)和Topic(订阅/发布)两种模式,而KafKa只有Topic一种模式,topic可以理解为消息存储的虚拟空间,也就是一个集合

Partition

KafKa是一个标准的分布式MQ,其在每台设备上都会运行一个Broker进程,如果我们定义一个Topic有三个Partition,则这三个Partition就会在设备上创建三个Partition文件,再机器上物理保存,也就是说,Partition就是消息的物理存储,我们可以再KafKa的数据目录(/tmp/KafKa-log)下面找到,命名规则为:topic_name-partition_id 此目录可以自行配置

Replication

Replication是保证KafKa消息高可用且系统稳定的一个策略,也就是HA机制,及,每个partitation都会有至少一个对应的Replication,而KafKa会通过一取模算法保证每个broker的partition和对应的Replication再不同的机器上,具体的算法是第i个Partitation存放的Broker为 i mod n ,而第i个Partition的j个 Replication存放的位置为 (i + j) mod n

目录
相关文章
|
22天前
|
消息中间件 存储 Kafka
MQ 消息队列核心原理,12 条最全面总结!
本文总结了消息队列的12个核心原理,涵盖消息顺序性、ACK机制、持久化及高可用性等内容。关注【mikechen的互联网架构】,10年+BAT架构经验倾囊相授。
|
1月前
|
Arthas 监控 Java
JVM知识体系学习七:了解JVM常用命令行参数、GC日志详解、调优三大方面(JVM规划和预调优、优化JVM环境、JVM运行出现的各种问题)、Arthas
这篇文章全面介绍了JVM的命令行参数、GC日志分析以及性能调优的各个方面,包括监控工具使用和实际案例分析。
45 3
|
1月前
|
存储 Prometheus NoSQL
大数据-44 Redis 慢查询日志 监视器 慢查询测试学习
大数据-44 Redis 慢查询日志 监视器 慢查询测试学习
25 3
|
1月前
|
数据采集 监控 Java
SpringBoot日志全方位超详细手把手教程,零基础可学习 日志如何配置及SLF4J的使用......
本文是关于SpringBoot日志的详细教程,涵盖日志的定义、用途、SLF4J框架的使用、日志级别、持久化、文件分割及格式配置等内容。
142 0
SpringBoot日志全方位超详细手把手教程,零基础可学习 日志如何配置及SLF4J的使用......
|
2月前
|
Kubernetes API Docker
跟着iLogtail学习容器运行时与K8s下日志采集方案
iLogtail 作为开源可观测数据采集器,对 Kubernetes 环境下日志采集有着非常好的支持,本文跟随 iLogtail 的脚步,了解容器运行时与 K8s 下日志数据采集原理。
|
1月前
|
Python
log日志学习
【10月更文挑战第9天】 python处理log打印模块log的使用和介绍
35 0
|
4月前
|
消息中间件 C语言 RocketMQ
消息队列 MQ操作报错合集之出现"Connection reset by peer"的错误,该如何处理
消息队列(MQ)是一种用于异步通信和解耦的应用程序间消息传递的服务,广泛应用于分布式系统中。针对不同的MQ产品,如阿里云的RocketMQ、RabbitMQ等,它们在实现上述场景时可能会有不同的特性和优势,比如RocketMQ强调高吞吐量、低延迟和高可用性,适合大规模分布式系统;而RabbitMQ则以其灵活的路由规则和丰富的协议支持受到青睐。下面是一些常见的消息队列MQ产品的使用场景合集,这些场景涵盖了多种行业和业务需求。
|
4月前
|
消息中间件 Java C语言
消息队列 MQ使用问题之在使用C++客户端和GBase的ESQL进行编译时出现core dump,该怎么办
消息队列(MQ)是一种用于异步通信和解耦的应用程序间消息传递的服务,广泛应用于分布式系统中。针对不同的MQ产品,如阿里云的RocketMQ、RabbitMQ等,它们在实现上述场景时可能会有不同的特性和优势,比如RocketMQ强调高吞吐量、低延迟和高可用性,适合大规模分布式系统;而RabbitMQ则以其灵活的路由规则和丰富的协议支持受到青睐。下面是一些常见的消息队列MQ产品的使用场景合集,这些场景涵盖了多种行业和业务需求。
|
2月前
|
消息中间件
手撸MQ消息队列——循环数组
队列是一种常用的数据结构,类似于栈,但采用先进先出(FIFO)的原则。生活中常见的排队场景就是队列的应用实例。在数据结构中,队列通常用数组实现,包括入队(队尾插入元素)和出队(队头移除元素)两种基本操作。本文介绍了如何用数组实现队列,包括定义数组长度、维护队头和队尾下标(front 和 tail),并通过取模运算解决下标越界问题。此外,还讨论了队列的空与满状态判断,以及并发和等待机制的实现。通过示例代码展示了队列的基本操作及优化方法,确保多线程环境下的正确性和高效性。
42 0
手撸MQ消息队列——循环数组
|
3月前
|
消息中间件 存储 缓存
一个用过消息队列的人,竟不知为何要用 MQ?
一个用过消息队列的人,竟不知为何要用 MQ?
166 1
下一篇
无影云桌面