RabbitMQ学习(十):发布确认高级

简介: 在生产环境中由于一些不明原因,导致 RabbitMQ 重启,在 RabbitMQ 重启期间生产者消息投递失败导致消息丢失,需要手动处理和恢复。在这样比较极端的情况,当RabbitMQ 集群不可用的时候,无法投递的消息该如何处理呢?如何才能进行 RabbitMQ 的消息可靠投递呢?

一、概述



在生产环境中由于一些不明原因,导致 RabbitMQ 重启,在 RabbitMQ 重启期间生产者消息投递失败导致消息丢失,需要手动处理和恢复。在这样比较极端的情况,当RabbitMQ 集群不可用的时候,无法投递的消息该如何处理呢?如何才能进行 RabbitMQ 的消息可靠投递呢?


二、发布确认 springboot 版本


2.1 确认机制方案


2fae6d5bebcbfbbbfc68f878efafd2f7.png

即引入缓存,将消息缓存下来,由定时任务对未成功发送的消息重新投递。当交换机收到消息后,即可从缓存中清除。


2.2 代码架构图


c62f576707d76a150db252a31a236a85.png


2.3 配置文件


在配置文件当中需要添加


  • spring.rabbitmq.publisher-confirm-type=correlated
  • NONE 禁用发布确认模式,是默认值
  • CORRELATED 发布消息成功到交换器后会触发回调方法
  • SIMPLE 经测试有两种效果,其一效果和 CORRELATED 值一样会触发回调方法, 其二在发布消息成功后使用 rabbitTemplate 调用 waitForConfirms 或 waitForConfirmsOrDie 方法 等待 broker 节点返回发送结果,根据返回结果来判定下一步的逻辑,要注意的点是 waitForConfirmsOrDie 方法如果返回 false 则会关闭 channel,则接下来无法发送消息到 broker


spring.rabbitmq.host=182.92.234.71
spring.rabbitmq.port=5672
spring.rabbitmq.username=admin
spring.rabbitmq.password=123
spring.rabbitmq.publisher-confirm-type=correlated


2.4 配置类


@Configuration
public class ConfirmConfig {
     public static final String CONFIRM_EXCHANGE_NAME = "confirm.exchange";
     public static final String CONFIRM_QUEUE_NAME = "confirm.queue";
     //声明业务 Exchange
     @Bean("confirmExchange")
     public DirectExchange confirmExchange(){
         return new DirectExchange(CONFIRM_EXCHANGE_NAME);
     }
     // 声明确认队列
     @Bean("confirmQueue")
     public Queue confirmQueue(){
         return QueueBuilder.durable(CONFIRM_QUEUE_NAME).build();
     }
     // 声明确认队列绑定关系
     @Bean
     public Binding queueBinding(@Qualifier("confirmQueue") Queue queue,
     @Qualifier("confirmExchange") DirectExchange exchange){
         return BindingBuilder.bind(queue).to(exchange).with("key1");
     }
}


2.5 生产者


@RestController
@RequestMapping("/confirm")
@Slf4j
public class Producer {
     public static final String CONFIRM_EXCHANGE_NAME = "confirm.exchange";
     @Autowired
     private RabbitTemplate rabbitTemplate;
     @Autowired
     private MyCallBack myCallBack;
     //依赖注入 rabbitTemplate 之后再设置它的回调对象
     @PostConstruct
     public void init(){
         rabbitTemplate.setConfirmCallback(myCallBack);
     }
     @GetMapping("sendMessage/{message}")
     public void sendMessage(@PathVariable String message){
        //指定消息 id 为 1
        CorrelationData correlationData1=new CorrelationData("1");
        String routingKey="key1";        
        rabbitTemplate.convertAndSend(CONFIRM_EXCHANGE_NAME,routingKey,
                                         message+routingKey,correlationData1);
        CorrelationData correlationData2=new CorrelationData("2");
        routingKey="key2";        
        rabbitTemplate.convertAndSend(CONFIRM_EXCHANGE_NAME,routingKey,
                                        message+routingKey,correlationData2);
         log.info("发送消息内容:{}",message);
     }
}


2.6 回调接口


@Component
@Slf4j
public class MyCallBack implements RabbitTemplate.ConfirmCallback {
     /**
     * 交换机不管是否收到消息的一个回调方法
     * CorrelationData
     * 消息相关数据
     * ack
     * 交换机是否收到消息
     */
     @Override
     public void confirm(CorrelationData correlationData, boolean ack, String cause) {
         String id = correlationData!=null ? correlationData.getId() : "";
         if(ack){
             log.info("交换机已经收到 id 为:{}的消息",id);
         }else{
             log.info("交换机还未收到 id 为:{}消息,由于原因:{}",id,cause);
         }
     }
}


2.7 消费者


@Component
@Slf4j
public class ConfirmConsumer {
     public static final String CONFIRM_QUEUE_NAME = "confirm.queue";
     @RabbitListener(queues =CONFIRM_QUEUE_NAME)
     public void receiveMsg(Message message){
         String msg=new String(message.getBody());
         log.info("接受到队列 confirm.queue 消息:{}",msg);
     }
}


三、回退消息



3.1 Mandatory 参数


在仅开启了生产者确认机制的情况下,交换机接收到消息后,会直接给消息生产者发送确认消息,如 果发现该消息不可路由,那么消息会被直接丢弃,此时生产者是不知道消息被丢弃这个事件的。


通过设置 mandatory 参 数可以在当消息传递过程中不可达目的地时将消息返回给生产者。


3.2 生产者


@Slf4j
@Component
public class MessageProducer implements RabbitTemplate.ConfirmCallback, RabbitTemplate.ReturnCallback {
     @Autowired
     private RabbitTemplate rabbitTemplate;
     //rabbitTemplate 注入之后就设置该值
     @PostConstruct
     private void init() {
         rabbitTemplate.setConfirmCallback(this);
         /**
         * true:
         * 交换机无法将消息进行路由时,会将该消息返回给生产者
         * false:
         * 如果发现消息无法进行路由,则直接丢弃
         */
         rabbitTemplate.setMandatory(true);
         //设置回退消息交给谁处理
         rabbitTemplate.setReturnCallback(this);
     }
    @GetMapping("sendMessage")
    public void sendMessage(String message){
        //让消息绑定一个 id 值
        CorrelationData correlationData1 = 
                            new CorrelationData(UUID.randomUUID().toString());   
        rabbitTemplate.convertAndSend("confirm.exchange","key1",message+"key1",
                                        correlationData1);
        log.info("发送消息 id 为:{}内容为{}",correlationData1.getId(),message+"key1");    
        CorrelationData correlationData2 = 
                            new CorrelationData(UUID.randomUUID().toString());   
        rabbitTemplate.convertAndSend("confirm.exchange","key2",message+"key2",
                                        correlationData2);
        log.info("发送消息 id 为:{}内容为{}",correlationData2.getId(),message+"key2");
    }
    @Override
    public void confirm(CorrelationData correlationData, boolean ack, String cause) {
        String id = correlationData != null ? correlationData.getId() : "";
        if (ack) {
            log.info("交换机收到消息确认成功, id:{}", id);
        } else {
            log.error("消息 id:{}未成功投递到交换机,原因是:{}", id, cause);
        }
    }
    @Override
    public void returnedMessage(Message message, int replyCode, String replyText, 
                                    String exchange, String routingKey) {
        log.info("消息:{}被服务器退回,退回原因:{}, 交换机是:{}, 路由 key:{}",
        new String(message.getBody()),replyText, exchange, routingKey);
    }
}


3.3 回调接口


@Component
@Slf4j
public class MyCallBack implements
RabbitTemplate.ConfirmCallback,RabbitTemplate.ReturnCallback {
    /**
     * 交换机不管是否收到消息的一个回调方法
     * CorrelationData
     * 消息相关数据
     * ack
     * 交换机是否收到消息
    */
    @Override
    public void confirm(CorrelationData correlationData, boolean ack, String cause) {
        String id=correlationData!=null?correlationData.getId():"";
        if(ack){
            log.info("交换机已经收到 id 为:{}的消息",id);
        }else{
            log.info("交换机还未收到 id 为:{}消息,由于原因:{}",id,cause);
        }
    }
    //当消息无法路由的时候的回调方法
    @Override
    public void returnedMessage(Message message, int replyCode, String replyText, String
    exchange, String routingKey) {
    log.error(" 消 息 {}, 被交换机 {} 退回,退回原因 :{}, 路 由 key:{}",
                    new String(message.getBody()),exchange,replyText,routingKey);
    }
}


四、备份交换机



有了 mandatory 参数和回退消息,我们获得了对无法投递消息的感知能力,有机会在生产者的消息 无法被投递时发现并处理。但有时候,我们并不知道该如何处理这些无法路由的消息,最多打个日志,然 后触发报警,再来手动处理。而通过日志来处理这些无法路由的消息是很不优雅的做法,特别是当生产者 所在的服务有多台机器的时候,手动复制日志会更加麻烦而且容易出错。而且设置 mandatory 参数会增 加生产者的复杂性,需要添加处理这些被退回的消息的逻辑。如果既不想丢失消息,又不想增加生产者的 复杂性,该怎么做呢?


前面在设置死信队列的文章中,我们提到,可以为队列设置死信交换机来存储那些 处理失败的消息,可是这些不可路由消息根本没有机会进入到队列中,因此无法使用死信队列来保存消息。


在 RabbitMQ 中,有一种备份交换机的机制存在,可以很好的应对这个问题。什么是备份交换机呢?备份 交换机可以理解为 RabbitMQ 中交换机的“备胎”,当我们为某一个交换机声明一个对应的备份交换机时, 就是为它创建一个备胎,当交换机接收到一条不可路由消息时,将会把这条消息转发到备份交换机中,由 备份交换机来进行转发和处理,通常备份交换机的类型为 Fanout ,这样就能把所有消息都投递到与其绑 定的队列中,然后我们在备份交换机下绑定一个队列,这样所有那些原交换机无法被路由的消息,就会都 进入这个队列了。当然,我们还可以建立一个报警队列,用独立的消费者来进行监测和报警。


4.1 代码架构图


5b3a6043135220f0e7924143f0d4d9c0.png

无法投递的消息,将他们放进监控队列中进行监控,并放入报警队列中报警。


4.2 配置类


@Configuration
public class ConfirmConfig {
     public static final String CONFIRM_EXCHANGE_NAME = "confirm.exchange";
     public static final String CONFIRM_QUEUE_NAME = "confirm.queue";
     public static final String BACKUP_EXCHANGE_NAME = "backup.exchange";
     public static final String BACKUP_QUEUE_NAME = "backup.queue";
     public static final String WARNING_QUEUE_NAME = "warning.queue";
     // 声明确认队列
     @Bean("confirmQueue")
     public Queue confirmQueue(){
         return QueueBuilder.durable(CONFIRM_QUEUE_NAME).build();
     }
     //声明确认队列绑定关系
     @Bean
     public Binding queueBinding(@Qualifier("confirmQueue") Queue queue, @Qualifier("confirmExchange") DirectExchange exchange){
         return BindingBuilder.bind(queue).to(exchange).with("key1");
     }
     //声明备份 Exchange
     @Bean("backupExchange")
     public FanoutExchange backupExchange(){
         return new FanoutExchange(BACKUP_EXCHANGE_NAME);
     }
     //声明确认 Exchange 交换机的备份交换机
     @Bean("confirmExchange")
     public DirectExchange confirmExchange(){
         ExchangeBuilder exchangeBuilder = ExchangeBuilder
        .directExchange(CONFIRM_EXCHANGE_NAME).durable(true)
        //设置该交换机的备份交换机
        .withArgument("alternate-exchange", BACKUP_EXCHANGE_NAME);
        return (DirectExchange)exchangeBuilder.build();
     }
     // 声明警告队列
     @Bean("warningQueue")
     public Queue warningQueue(){
         return QueueBuilder.durable(WARNING_QUEUE_NAME).build();
     }
     // 声明报警队列绑定关系
     @Bean
     public Binding warningBinding(@Qualifier("warningQueue") Queue queue, @Qualifier("backupExchange") FanoutExchange backupExchange){
         return BindingBuilder.bind(queue).to(backupExchange);
     }
     // 声明备份队列
     @Bean("backQueue")
     public Queue backQueue(){
         return QueueBuilder.durable(BACKUP_QUEUE_NAME).build();
     }
     // 声明备份队列绑定关系
     @Bean
     public Binding backupBinding(@Qualifier("backQueue") Queue queue, @Qualifier("backupExchange") FanoutExchange backupExchange){
         return BindingBuilder.bind(queue).to(backupExchange);
     }
}

4.3 报警消费者


@Component
@Slf4j
public class WarningConsumer {
    public static final String WARNING_QUEUE_NAME = "warning.queue";
    @RabbitListener(queues = WARNING_QUEUE_NAME)
    public void receiveWarningMsg(Message message) {
        String msg = new String(message.getBody());
        log.error("报警发现不可路由消息:{}", msg);
    }
}

4.4 备份交换机与mandatory参数的优先级问题


mandatory 参数与备份交换机可以一起使用的时候,如果两者同时开启,经过结果显示:备份交换机优先级高。


相关实践学习
消息队列RocketMQ版:基础消息收发功能体验
本实验场景介绍消息队列RocketMQ版的基础消息收发功能,涵盖实例创建、Topic、Group资源创建以及消息收发体验等基础功能模块。
消息队列 MNS 入门课程
1、消息队列MNS简介 本节课介绍消息队列的MNS的基础概念 2、消息队列MNS特性 本节课介绍消息队列的MNS的主要特性 3、MNS的最佳实践及场景应用 本节课介绍消息队列的MNS的最佳实践及场景应用案例 4、手把手系列:消息队列MNS实操讲 本节课介绍消息队列的MNS的实际操作演示 5、动手实验:基于MNS,0基础轻松构建 Web Client 本节课带您一起基于MNS,0基础轻松构建 Web Client
相关文章
|
7月前
|
消息中间件 存储 Java
RabbitMQ之发布确认高级
【1月更文挑战第10天】 在生产环境中由于一些不明原因,导致 rabbitmq 重启,在 RabbitMQ 重启期间生产者消息投递失败,导致消息丢失,需要手动处理和恢复。于是,我们开始思考,如何才能进行 RabbitMQ 的消息可靠投递呢?特别是在这样比较极端的情况,RabbitMQ 集群不可用的时候,无法投递的消息该如何处理呢:
232 12
|
7月前
|
消息中间件 安全 Java
【RabbitMQ高级篇】消息可靠性问题
【RabbitMQ高级篇】消息可靠性问题
171 0
|
7月前
|
消息中间件 Java API
RocketMQ事务消息, 图文、源码学习探究~
介绍 RocketMQ是阿里巴巴开源的分布式消息中间件,它是一个高性能、低延迟、可靠的消息队列系统,用于在分布式系统中进行异步通信。 从4.3.0版本开始正式支持分布式事务消息~ RocketMq事务消息支持最终一致性:在普通消息基础上,支持二阶段的提交能力。将二阶段提交和本地事务绑定,实现全局提交结果的一致性。 原理、流程 本质上RocketMq的事务能力是基于二阶段提交来实现的 在消息发送上,将二阶段提交与本地事务绑定 本地事务执行成功,则事务消息成功,可以交由Consumer消费 本地事务执行失败,则事务消息失败,Consumer无法消费 但是,RocketMq只能保证本地事务
|
7月前
|
消息中间件 JSON 缓存
RabbitMQ快速学习之WorkQueues模型、三种交换机、消息转换器(SpringBoot整合)
RabbitMQ快速学习之WorkQueues模型、三种交换机、消息转换器(SpringBoot整合)
179 0
|
4月前
|
消息中间件 存储 数据库
深入学习RocketMQ的底层存储设计原理
文章深入探讨了RocketMQ的底层存储设计原理,分析了其如何通过将数据和索引映射到内存、异步刷新磁盘以及消息内容的混合存储来实现高性能的读写操作,从而保证了RocketMQ作为一款低延迟消息队列的读写性能。
|
7月前
|
消息中间件 存储 数据安全/隐私保护
深入学习RabbitMQ五种模式(一)
深入学习RabbitMQ五种模式(一)
79 0
|
6月前
|
消息中间件 IDE 数据库
RocketMQ事务消息学习及刨坑过程
RocketMQ事务消息学习及刨坑过程
|
7月前
|
消息中间件 存储 Java
RabbitMQ——高级篇
RabbitMQ——高级篇
60 0
|
7月前
|
消息中间件 存储 负载均衡
消息队列学习之RabbitMQ
【4月更文挑战第3天】消息队列学习之RabbitMQ,一种基于erlang语言开发的流行的开源消息中间件。
61 0
|
7月前
|
消息中间件 存储 Java
RabbitMQ高级
RabbitMQ高级
47 0