RabbitMQ之发布确认

本文涉及的产品
服务治理 MSE Sentinel/OpenSergo,Agent数量 不受限
简介: 【1月更文挑战第10天】生产者将信道设置成 confirm 模式,一旦信道进入 confirm 模式,所有在该信道上面发布的消息都将会被指派一个唯一的 ID(从 1 开始),一旦消息被投递到所有匹配的队列之后,broker就会发送一个确认给生产者(包含消息的唯一 ID),这就使得生产者知道消息已经正确到达目的队列了,如果消息和队列是可持久化的,那么确认消息会在将消息写入磁盘之后发出,broker 回传给生产者的确认消息中 delivery-tag 域包含了确认消息的序列号,此外 broker 也可以设置basic.ack 的 multiple 域,表示到这个序列号之前的所有消息都已经得到了处

文章目录

一、发布确认原理

二、发布确认的策略

2.1、开启发布确认的方法

2.2、单个确认发布

2.3、批量确认发布

2.4、异步确认发布

2.5、如何处理异步未确认消息

2.6、以上 3 种发布确认速度对比

总结


一、发布确认原理

生产者将信道设置成 confirm 模式,一旦信道进入 confirm 模式,所有在该信道上面发布的消息都将会被指派一个唯一的 ID(从 1 开始),一旦消息被投递到所有匹配的队列之后,broker就会发送一个确认给生产者(包含消息的唯一 ID),这就使得生产者知道消息已经正确到达目的队列了,如果消息和队列是可持久化的,那么确认消息会在将消息写入磁盘之后发出,broker 回传给生产者的确认消息中 delivery-tag 域包含了确认消息的序列号,此外 broker 也可以设置basic.ack 的 multiple 域,表示到这个序列号之前的所有消息都已经得到了处理。

confirm 模式最大的好处在于他是异步的,一旦发布一条消息,生产者应用程序就可以在等信道返回确认的同时继续发送下一条消息,当消息最终得到确认之后,生产者应用便可以通过回调方法来处理该确认消息,如果 RabbitMQ 因为自身内部错误导致消息丢失,就会发送一条 nack 消息,生产者应用程序同样可以在回调方法中处理该 nack 消息。


二、发布确认的策略

2.1、开启发布确认的方法

发布确认默认是没有开启的,如果要开启需要调用方法 confirmSelect,每当你要想使用发布确认,都需要在 channel 上调用该方法

2.2、单个确认发布

这是一种简单的确认方式,它是一种同步确认发布的方式,也就是发布一个消息之后只有它被确认发布,后续的消息才能继续发布,waitForConfirmsOrDie(long)这个方法只有在消息被确认的时候才返回,如果在指定时间范围内这个消息没有被确认那么它将抛出异常。

这种确认方式有一个最大的缺点就是:发布速度特别的慢,因为如果没有确认发布的消息就会阻塞所有后续消息的发布,这种方式最多提供每秒不超过数百条发布消息的吞吐量。当然对于某些应用程序来说这可能已经足够了。

publicstaticvoidpublishMessageIndividually() throwsException {
try (Channelchannel=RabbitMqUtils.getChannel()) {
StringqueueName=UUID.randomUUID().toString();
channel.queueDeclare(queueName, false, false, false, null);
//开启发布确认channel.confirmSelect();
longbegin=System.currentTimeMillis();
for (inti=0; i<MESSAGE_COUNT; i++) {
Stringmessage=i+"";
channel.basicPublish("", queueName, null, message.getBytes());
//服务端返回 false 或超时时间内未返回,生产者可以消息重发booleanflag=channel.waitForConfirms();
if(flag){
System.out.println("消息发送成功");
            }
         }
longend=System.currentTimeMillis();
System.out.println("发布"+MESSAGE_COUNT+"个单独确认消息,耗时"+ (end-begin) +"ms");
    }
}

2.3、批量确认发布

上面那种方式非常慢,与单个等待确认消息相比,先发布一批消息然后一起确认可以极大地提高吞吐量,当然这种方式的缺点就是:当发生故障导致发布出现问题时,不知道是哪个消息出现问题了,我们必须将整个批处理保存在内存中,以记录重要的信息而后重新发布消息。当然这种方案仍然是同步的,也一样阻塞消息的发布。

publicstaticvoidpublishMessageBatch() throwsException {
try (Channelchannel=RabbitMqUtils.getChannel()) {
StringqueueName=UUID.randomUUID().toString();
channel.queueDeclare(queueName, false, false, false, null);
//开启发布确认channel.confirmSelect();
//批量确认消息大小intbatchSize=100;
//未确认消息个数intoutstandingMessageCount=0;
longbegin=System.currentTimeMillis();
for (inti=0; i<MESSAGE_COUNT; i++) {
Stringmessage=i+"";
channel.basicPublish("", queueName, null, message.getBytes());
outstandingMessageCount++;
if (outstandingMessageCount==batchSize) {
channel.waitForConfirms();
outstandingMessageCount=0;
            }
        }
//为了确保还有剩余没有确认消息 再次确认if (outstandingMessageCount>0) {
channel.waitForConfirms();
        }
longend=System.currentTimeMillis();
System.out.println("发布"+MESSAGE_COUNT+"个批量确认消息,耗时"+ (end-begin) +"ms");
    }
}

2.4、异步确认发布

异步确认虽然编程逻辑比上两个要复杂,但是性价比最高,无论是可靠性还是效率都没得说,他是利用回调函数来达到消息可靠性传递的,这个中间件也是通过函数回调来保证是否投递成功,下面就让我们来详细讲解异步确认是怎么实现的。

publicstaticvoidpublishMessageAsync() throwsException {
try (Channelchannel=RabbitMqUtils.getChannel()) {
StringqueueName=UUID.randomUUID().toString();
channel.queueDeclare(queueName, false, false, false, null);
//开启发布确认channel.confirmSelect();
/*** 线程安全有序的一个哈希表,适用于高并发的情况* 1.轻松的将序号与消息进行关联* 2.轻松批量删除条目 只要给到序列号* 3.支持并发访问*/ConcurrentSkipListMap<Long, String>outstandingConfirms=newConcurrentSkipListMap<>();
/*** 确认收到消息的一个回调* 1.消息序列号* 2.true 可以确认小于等于当前序列号的消息* false 确认当前序列号消息*/ConfirmCallbackackCallback= (sequenceNumber, multiple) -> {
if (multiple) {
//返回的是小于等于当前序列号的未确认消息 是一个 mapConcurrentNavigableMap<Long, String>confirmed=outstandingConfirms.headMap(sequenceNumber, true);
//清除该部分未确认消息confirmed.clear();
            }else{
//只清除当前序列号的消息outstandingConfirms.remove(sequenceNumber);
            }
        };
ConfirmCallbacknackCallback= (sequenceNumber, multiple) -> {
Stringmessage=outstandingConfirms.get(sequenceNumber);
System.out.println("发布的消息"+message+"未被确认,序列号"+sequenceNumber);
        };
/*** 添加一个异步确认的监听器* 1.确认收到消息的回调* 2.未收到消息的回调*/channel.addConfirmListener(ackCallback, null);
longbegin=System.currentTimeMillis();
for (inti=0; i<MESSAGE_COUNT; i++) {
Stringmessage="消息"+i;
/*** channel.getNextPublishSeqNo()获取下一个消息的序列号* 通过序列号与消息体进行一个关联* 全部都是未确认的消息体*/outstandingConfirms.put(channel.getNextPublishSeqNo(), message);
channel.basicPublish("", queueName, null, message.getBytes());
        }
longend=System.currentTimeMillis();
System.out.println("发布"+MESSAGE_COUNT+"个异步确认消息,耗时"+ (end-begin) +"ms");
    }
}

2.5、如何处理异步未确认消息

最好的解决的解决方案就是把未确认的消息放到一个基于内存的能被发布线程访问的队列,比如说用 ConcurrentLinkedQueue 这个队列在 confirm callbacks 与发布线程之间进行消息的传递。

2.6、以上 3 种发布确认速度对比

  • 单独发布消息
  • 同步等待确认,简单,但吞吐量非常有限。
  • 批量发布消息
  • 批量同步等待确认,简单,合理的吞吐量,一旦出现问题但很难推断出是那条消息出现了问题。
  • 异步处理:
  • 最佳性能和资源使用,在出现错误的情况下可以很好地控制,但是实现起来稍微难些
publicstaticvoidmain(String[] args) throwsException {
//这个消息数量设置为 1000 好些 不然花费时间太长publishMessagesIndividually();
publishMessagesInBatch();
handlePublishConfirmsAsynchronously();
}
//运行结果发布1,000个单独确认消息耗时50,278ms发布1,000个批量确认消息耗时635ms发布1,000个异步确认消息耗时92ms

总结

以上就是RabbitMQ之发布确认的相关知识,希望对你有所帮助。

相关实践学习
RocketMQ一站式入门使用
从源码编译、部署broker、部署namesrv,使用java客户端首发消息等一站式入门RocketMQ。
消息队列 MNS 入门课程
1、消息队列MNS简介 本节课介绍消息队列的MNS的基础概念 2、消息队列MNS特性 本节课介绍消息队列的MNS的主要特性 3、MNS的最佳实践及场景应用 本节课介绍消息队列的MNS的最佳实践及场景应用案例 4、手把手系列:消息队列MNS实操讲 本节课介绍消息队列的MNS的实际操作演示 5、动手实验:基于MNS,0基础轻松构建 Web Client 本节课带您一起基于MNS,0基础轻松构建 Web Client
相关文章
|
4月前
|
消息中间件 Shell Linux
RabbitMQ部署指南
RabbitMQ部署指南
61 2
|
4月前
|
消息中间件 Java Maven
什么是RabbitMQ?它的主要功能是什么?
什么是RabbitMQ?它的主要功能是什么?
47 0
|
10月前
|
消息中间件
【RabbitMQ七】——RabbitMQ发布确认模式(Publisher Confirms)
【RabbitMQ七】——RabbitMQ发布确认模式(Publisher Confirms)
128 0
|
6月前
|
消息中间件 JSON 数据格式
RabbitMQ安装
RabbitMQ安装
46 0
|
8月前
|
消息中间件 弹性计算 监控
部署RabbitMQ
本场景带您体验如何在CentOS 7.7 64位操作系统的云服务器上部署RabbitMQ。
93 0
|
9月前
|
消息中间件 监控 关系型数据库
RabbitMQ安装说明
RabbitMQ安装说明
79 0
|
10月前
|
消息中间件 Linux Docker
阿里云部署rabbitmq
阿里云部署rabbitmq
|
10月前
|
消息中间件 存储 运维
RabbitMQ:基础篇
MQ:消息队列(message queue): 顾名思义,MQ本质是个队列,FIFO先入先出,只不过队列中存放的内容是message,还是一种跨进程的通信机制,用于上下游传递消息。在互联网架构中,MQ是一种非常常见的上下游“逻辑解耦+物理解耦”的消息通信服务。使用了MQ之后,消息发送上游只需要依赖MQ,不用依赖其他服务
115 2
RabbitMQ:基础篇
|
12月前
|
消息中间件 存储 网络协议
RabbitMQ基础
RabbitMQ入门
59 0
|
消息中间件 中间件
RabbitMQ学习(六):发布确认
confirm 模式最大的好处在于他是异步的,一旦发布一条消息,生产者应用程序就可以在等信 道返回确认的同时继续发送下一条消息,当消息最终得到确认之后,生产者应用便可以通过回调 方法来处理该确认消息,如果 RabbitMQ 因为自身内部错误导致消息丢失,就会发送一条 nack 消 息,生产者应用程序同样可以在回调方法中处理该 nack 消息。
112 0
RabbitMQ学习(六):发布确认