MQ发布确认

简介: 生产者将信道设置成confirm模式,一旦信道进入confirm模式,所有在该信道上面发布的消息都将会被指派一个唯一的ID(从1开始),一旦消息被投递到所有匹配的队列之后,broker就会发送一个确认给生产者(包含消息的唯一ID),这就使得生产者知道消息已经正确到达目的队列了,如果消息和队列是可持久化的,那么确认消息会在将消息写入磁盘之后发出,broker回传给生产者的确认消息中delivery-tag域包含了确认消息的序列号,此外broker也可以设置basic.ack的multiple域,表示到这个序列号之前的所有消息都已经得到了处理。

发布确认原理



 生产者将信道设置成confirm模式,一旦信道进入confirm模式,所有在该信道上面发布的消息都将会被指派一个唯一的ID(从1开始),一旦消息被投递到所有匹配的队列之后,broker就会发送一个确认给生产者(包含消息的唯一ID),这就使得生产者知道消息已经正确到达目的队列了,如果消息和队列是可持久化的,那么确认消息会在将消息写入磁盘之后发出,broker回传给生产者的确认消息中delivery-tag域包含了确认消息的序列号,此外broker也可以设置basic.ack的multiple域,表示到这个序列号之前的所有消息都已经得到了处理。


 confirm模式最大的好处在于他是异步的,一旦发布一条消息,生产者应用程序就可以在等信道返回确认的同时继续发送下一条消息,当消息最终得到确认之后,生产者应用便可以通过回调方法来处理该确认消息,如果RabbitMQ因为自身内部错误导致消息丢失,就会发送一条nack消息,生产者应用程序同样可以在回调方法中处理该nack消息


发布确认的策略  



开启发布确认的方法


发布确认默认是没有开启的,如果要开启需要调用方法confirmSelect,每当你要想使用发布确认,都需要在channel上调用该方法


cfbd55d1163c43868e522bbb42add35a.png


单个确认发布



这是一种简单的确认方式,它是一种同步确认发布的方式也就是发布一个消息之后只有它被确认发布,后续的消息才能继续发布,waitForConfirmsOrDie(long)这个方法只有在消息被确认的时候才返回,如果在指定时间范围内这个消息没有被确认那么它将抛出异常。


这种确认方式有一个最大的缺点就是:发布速度特别的慢,因为如果没有确认发布的消息就会阻塞所有后续消息的发布,这种方式最多提供每秒不超过数百条发布消息的吞吐量。当然对于某些应用程序来说这可能已经足够了。

代码实现:工具类获取信道


public class untils {
    public static Channel getChannel() throws IOException, TimeoutException {
        ConnectionFactory factory = new ConnectionFactory();
        factory.setHost("192.168.231.132");
        factory.setUsername("admin");
        factory.setPassword("123");
        Connection connection = factory.newConnection();
        Channel channel = connection.createChannel();
        return channel;
    }
}


实现:


 public static  void publishMessageIndivdually()throws Exception{
        String quequeName= UUID.randomUUID().toString();
        Channel channel = untils.getChannel();
        //开启发布确认
        channel.confirmSelect();
        long begin=System.currentTimeMillis();
        for(int i=0;i<1000;i++)
        {
            String message=i+"";
            channel.basicPublish("",quequeName,null,message.getBytes(StandardCharsets.UTF_8));
            //服务端返回false或者超时时间内未返回,生产者可以消息重发
            boolean flag=channel.waitForConfirms();
//            if(flag)
//            {
//                System.out.println("消息发送成功");
//            }
        }
        long end=System.currentTimeMillis();
        System.out.println("发布"+1000+"个单独确认的消息,耗时"+(end-begin)+"ms");
    }


批量确认发布



上面那种方式非常慢,与单个等待确认消息相比,先发布一批消息然后一起确认可以极大地提高吞吐量,当然这种方式的缺点就是:当发生故障导致发布出现问题时,不知道是哪个消息出现问题了,我们必须将整个批处理保存在内存中,以记录重要的信息而后重新发布消息。当然这种方案仍然是同步的,也一样阻塞消息的发布


public static  void publishMessageBatch()throws  Exception{
        String quequeName= UUID.randomUUID().toString();
        Channel channel = untils.getChannel();
        //开启发布确认
        channel.confirmSelect();
        //批量确认消息大小
        int batchSize = 100;
        // 未确认消息个数
        int outstandingMessageCount = 0;
        long begin=System.currentTimeMillis();
        for(int i=0;i<1000;i++)
        {
            String message=i+"";
            channel.basicPublish("",quequeName,null,message.getBytes(StandardCharsets.UTF_8));
            outstandingMessageCount++;
            if(outstandingMessageCount==batchSize)
            {
                channel.waitForConfirms();
                outstandingMessageCount=0;
            }
        }
        long end=System.currentTimeMillis();
        System.out.println("发布"+"1000个批量确认的消息,耗时"+(end-begin)+"ms");
    }



异步确认发布



异步确认虽然编程逻辑比上两个要复杂,但是性价比最高,无论是可靠性还是效率都没得说,他是利用回调函数来达到消息可靠性传递的,这个中间件也是通过函数回调来保证是否投递成功,下面就让我们来详细讲解异步确认是怎么实现的。



77d4dae105ad42089b440bda116f3fa7.png


如何处理异步未确认消息


最好的解决的解决方案就是把未确认的消息放到一个基于内存的能被发布线程访问的队列,比如说用ConcurrentLinkedQueue这个队列在confirm callbacks与发布线程之间进行消息的传递。

 

public static void publishMessaheAsync()throws  Exception{
        String quequeName= UUID.randomUUID().toString();
        Channel channel = untils.getChannel();
        channel.queueDeclare(quequeName,false,false,false,null);
        //开启发布确认
        channel.confirmSelect();
        /**
         * 线程安全有序的一个哈希表,适合高并发的情况
         *1.轻松的将序号与消息进行关联
         * 2.轻松的批量的删除条目,只要给到序列号
         * 3.支持并发的访问
         */
        ConcurrentSkipListMap<Long,String> outstandingConfirms=new ConcurrentSkipListMap<>();
        /**
         * 确认到消息的一个回调
         * 1.消息的序列号
         * 2.true可以确认小于等于当前序列号的消息
         * false确认当前序列号的消息
         */
        ConfirmCallback ackCallback=(sequenceNumber,multiple)->{
            if(multiple)
            {
                //返回的是小于等于当前序列号未确认的消息,是一个map
                ConcurrentNavigableMap<Long, String> confirmed = outstandingConfirms.headMap(sequenceNumber, true);
                //消除该部分未确认的消息
                confirmed.clear();
            }
            else
            {
                //只清楚当前序列号的消息
                outstandingConfirms.remove(sequenceNumber);
            }
        };
        ConfirmCallback nackCallback=(sequenceNumber,multiple)->{
            String message=outstandingConfirms.get(sequenceNumber);
            System.out.println("发布消息"+message+"未被确认,序列号"+sequenceNumber);
        };
        /**
         * 添加一个异步确认的监听器
         * 1.确认收到消息的回调
         * 2.未收到消息的回调
         */
        channel.addConfirmListener(ackCallback,nackCallback);
        long begin=System.currentTimeMillis();
        for(int i=0;i<1000;i++)
        {
            String message="消息"+i;
            /**
             * channel.getNextPublishSeqNo()获取下一个消息的序列号
             * 全部都是未确认的消息体
             */
             outstandingConfirms.put(channel.getNextPublishSeqNo(),message);
             channel.basicPublish("",quequeName,null,message.getBytes(StandardCharsets.UTF_8));
        }
        long end=System.currentTimeMillis();
        System.out.println("发布1000个异步确认的消息,耗时"+(end-begin)+"ms");
    }


结果:


9ffc122aeb8247b2a88ac681f1026009.png


单独发布消息

同步等待确认,简单,但吞吐量非常有限。

批量发布消息

批量同步等待确认,简单,合理的吞吐量,一旦出现问题但很难推断出是那条 消息出现了问题。

异步处理

最佳性能和资源使用,在出现错误的情况下可以很好地控制,但是实现起来稍微难些

相关实践学习
消息队列RocketMQ版:基础消息收发功能体验
本实验场景介绍消息队列RocketMQ版的基础消息收发功能,涵盖实例创建、Topic、Group资源创建以及消息收发体验等基础功能模块。
消息队列 MNS 入门课程
1、消息队列MNS简介 本节课介绍消息队列的MNS的基础概念 2、消息队列MNS特性 本节课介绍消息队列的MNS的主要特性 3、MNS的最佳实践及场景应用 本节课介绍消息队列的MNS的最佳实践及场景应用案例 4、手把手系列:消息队列MNS实操讲 本节课介绍消息队列的MNS的实际操作演示 5、动手实验:基于MNS,0基础轻松构建 Web Client 本节课带您一起基于MNS,0基础轻松构建 Web Client
相关文章
|
消息中间件 Java 中间件
秒懂消息队列MQ,万字总结带你全面了解消息队列MQ
消息队列是大型分布式系统不可缺少的中间件,也是高并发系统的基石中间件,所以掌握好消息队列MQ就变得极其重要。接下来我就将从零开始介绍什么是消息队列?消息队列的应用场景?如何进行选型?如何在Spring Boot项目中整合集成消息队列。
12061 7
秒懂消息队列MQ,万字总结带你全面了解消息队列MQ
|
2月前
|
消息中间件 测试技术 RocketMQ
消息队列 MQ使用问题之上线无法消费是什么导致的
消息队列(MQ)是一种用于异步通信和解耦的应用程序间消息传递的服务,广泛应用于分布式系统中。针对不同的MQ产品,如阿里云的RocketMQ、RabbitMQ等,它们在实现上述场景时可能会有不同的特性和优势,比如RocketMQ强调高吞吐量、低延迟和高可用性,适合大规模分布式系统;而RabbitMQ则以其灵活的路由规则和丰富的协议支持受到青睐。下面是一些常见的消息队列MQ产品的使用场景合集,这些场景涵盖了多种行业和业务需求。
|
3月前
|
消息中间件 存储 对象存储
消息队列 MQ产品使用合集之对于RocketMQ Proxy GRPC消息重发,该怎么解决
阿里云消息队列MQ(Message Queue)是一种高可用、高性能的消息中间件服务,它允许您在分布式应用的不同组件之间异步传递消息,从而实现系统解耦、流量削峰填谷以及提高系统的可扩展性和灵活性。以下是使用阿里云消息队列MQ产品的关键点和最佳实践合集。
|
4月前
|
消息中间件 Java
RabbitMQ中的消息发布-订阅模式是什么?如何实现?
RabbitMQ中的消息发布-订阅模式是什么?如何实现?
84 0
|
消息中间件 中间件
RibbitMQ学习笔记之MQ发布确认
RibbitMQ学习笔记之MQ发布确认
50 0
MQ9.0升级至9.1
MQ9.0升级至9.1
114 0
|
消息中间件 存储 负载均衡
【消息中间件】默认的RocketMQ消息消费者是如何启动的?(下)
在当下的分布式服务中,消息队列中间件是一个解决服务之间耦合的利器,今天我们来瞧一瞧开源的RocketMQ消息中间件,他的消费端是如何启动的,以及在使用他的过程中有哪些配置。
|
消息中间件 NoSQL 关系型数据库
实战:如何防止mq消费方消息重复消费、rocketmq理论概述、rocketmq组成、普通消息的发送
实战:如何防止mq消费方消息重复消费 如果因为网络延迟等原因,mq无法及时接收到消费方的应答,导致mq重试。(计算机网络)。在重试过程中造成重复消费的问题
2662 1
实战:如何防止mq消费方消息重复消费、rocketmq理论概述、rocketmq组成、普通消息的发送
|
消息中间件 Java API
RocketMQ Binder集成消息订阅
RocketMQ Binder集成消息订阅
336 0
|
消息中间件 存储 Java
MQ系列5:RocketMQ消息的发送模式
MQ系列5:RocketMQ消息的发送模式
386 0
MQ系列5:RocketMQ消息的发送模式