文章目录:
1.发布确认
有关发布确认初级部分可以参考我的这篇文章:https://blog.csdn.net/weixin_43823808/article/details/118367305
在生产环境中由于一些不明原因,导致rabbitmq重启,在 RabbitMQ 重启期间生产者消息投递失败,导致消息丢失,需要手动处理和恢复。于是,我们开始思考,如何才能进行 RabbitMQ 的消息可靠投递呢?特别是在这样比较极端的情况,RabbitMQ 集群不可用的时候,无法投递的消息该如何处理呢:
我们就参考上面的架构图来写,仍然是在整合了SpringBoot的基础上来完成,首先是pom文件。
<dependencies> <dependency> <groupId>org.springframework.boot</groupId> <artifactId>spring-boot-starter-web</artifactId> </dependency> <dependency> <groupId>org.springframework.boot</groupId> <artifactId>spring-boot-starter-amqp</artifactId> </dependency> <dependency> <groupId>com.alibaba</groupId> <artifactId>fastjson</artifactId> <version>1.2.28</version> </dependency> <dependency> <groupId>org.projectlombok</groupId> <artifactId>lombok</artifactId> </dependency> </dependencies>
在配置文件当中需要添加 spring.rabbitmq.publisher-confirm-type=correlated
· NONE:禁用发布确认模式,是默认值
· CORRELATED:发布消息成功到交换器后会触发回调方法
· SIMPLE:经测试有两种效果,其一效果和 CORRELATED 值一样会触发回调方法
spring.rabbitmq.host=192.168.40.130 spring.rabbitmq.port=5672 spring.rabbitmq.username=root spring.rabbitmq.password=root # 成功发送消息到交换机后会触发回调方法 spring.rabbitmq.publisher-confirm-type=correlated
接下来要在配置类中定义一下队列、交换机、Binding这些信息。
package com.szh.rabbitmq.config; import org.springframework.amqp.core.*; import org.springframework.beans.factory.annotation.Qualifier; import org.springframework.context.annotation.Bean; import org.springframework.context.annotation.Configuration; /** * */ @Configuration public class ConfirmConfig { //交换机 public static final String CONFIRM_EXCHANGE_NAME = "confirm_exchange"; //队列 public static final String CONFIRM_QUEUE_NAME = "confirm_queue"; //RoutingKey public static final String CONFIRM_ROUTING_KEY = "key1"; //声明交换机 @Bean("confirmExchange") public DirectExchange confirmExchange() { return new DirectExchange(CONFIRM_EXCHANGE_NAME); } //声明队列 @Bean("confirmQueue") public Queue confirmQueue() { return QueueBuilder.durable(CONFIRM_QUEUE_NAME).build(); } //绑定 @Bean public Binding queueBindingExchange(@Qualifier("confirmExchange") DirectExchange confirmExchange, @Qualifier("confirmQueue") Queue confirmQueue) { return BindingBuilder.bind(confirmQueue).to(confirmExchange).with(CONFIRM_ROUTING_KEY); } }
package com.szh.rabbitmq.controller; import com.szh.rabbitmq.config.ConfirmConfig; import lombok.extern.slf4j.Slf4j; import org.springframework.amqp.rabbit.connection.CorrelationData; import org.springframework.amqp.rabbit.core.RabbitTemplate; import org.springframework.beans.factory.annotation.Autowired; import org.springframework.web.bind.annotation.GetMapping; import org.springframework.web.bind.annotation.PathVariable; import org.springframework.web.bind.annotation.RequestMapping; import org.springframework.web.bind.annotation.RestController; /** * */ @Slf4j @RestController @RequestMapping(value = "/confirm") public class ProducerController { @Autowired private RabbitTemplate rabbitTemplate; @GetMapping(value = "/sendMessage/{message}") public void sendMessage(@PathVariable String message) { CorrelationData correlationData1 = new CorrelationData("1"); rabbitTemplate.convertAndSend(ConfirmConfig.CONFIRM_EXCHANGE_NAME, ConfirmConfig.CONFIRM_ROUTING_KEY,message,correlationData1); log.info("发送消息内容:{}",message); } }
package com.szh.rabbitmq.listener; import com.szh.rabbitmq.config.ConfirmConfig; import lombok.extern.slf4j.Slf4j; import org.springframework.amqp.core.Message; import org.springframework.amqp.rabbit.annotation.RabbitListener; import org.springframework.stereotype.Component; /** * */ @Slf4j @Component public class Consumer { @RabbitListener(queues = ConfirmConfig.CONFIRM_QUEUE_NAME) public void receiveConfirmMessage(Message message) { String msg = new String(message.getBody()); log.info("接收到队列中的消息:{}",msg); } }
1.3 回调接口
这里我们还需要一个回调接口,用于在交换机接收/未接收到消息时,触发该接口的方法。
package com.szh.rabbitmq.config; import lombok.extern.slf4j.Slf4j; import org.springframework.amqp.core.Message; import org.springframework.amqp.core.ReturnedMessage; import org.springframework.amqp.rabbit.connection.CorrelationData; import org.springframework.amqp.rabbit.core.RabbitTemplate; import org.springframework.beans.factory.annotation.Autowired; import org.springframework.stereotype.Component; import javax.annotation.PostConstruct; /** * */ @Component @Slf4j public class MyCallback implements RabbitTemplate.ConfirmCallback { @Autowired private RabbitTemplate rabbitTemplate; @PostConstruct public void init() { rabbitTemplate.setConfirmCallback(this); } /** * 交换机确认回调方法 * @param correlationData:保存回调消息的ID及相关信息 * @param ack:收到消息为true,反之为false * @param cause:失败的原因 */ @Override public void confirm(CorrelationData correlationData, boolean ack, String cause) { String id = correlationData != null ? correlationData.getId() : ""; if (ack) { log.info("交换机已经收到id为:{}的消息",id); } else { log.info("交换机还未收到id为:{}的消息,原因是:{}",id,cause); } } }
好了,下面我们就可以进行正常情况下的测试。
在测试结果中看到,首先我们向MQ中发送一条消息,当交换机成功接收到消息之后,就会触发那个回调接口中定义好的方法,根据Slf4j打印日志信息,最后我们的消费者就可以正常从队列中取消息进行消费了。
1.4 模拟交换机故障
接下来,我们要模拟一个错误,就是将交换机的名字修改一下(模拟交换机出现了异常),看看结果如何。
需要修改的地方就是生产者中交换机的名字。
package com.szh.rabbitmq.controller; import com.szh.rabbitmq.config.ConfirmConfig; import lombok.extern.slf4j.Slf4j; import org.springframework.amqp.rabbit.connection.CorrelationData; import org.springframework.amqp.rabbit.core.RabbitTemplate; import org.springframework.beans.factory.annotation.Autowired; import org.springframework.web.bind.annotation.GetMapping; import org.springframework.web.bind.annotation.PathVariable; import org.springframework.web.bind.annotation.RequestMapping; import org.springframework.web.bind.annotation.RestController; /** * */ @Slf4j @RestController @RequestMapping(value = "/confirm") public class ProducerController { @Autowired private RabbitTemplate rabbitTemplate; @GetMapping(value = "/sendMessage/{message}") public void sendMessage(@PathVariable String message) { CorrelationData correlationData1 = new CorrelationData("1"); rabbitTemplate.convertAndSend(ConfirmConfig.CONFIRM_EXCHANGE_NAME + "123", ConfirmConfig.CONFIRM_ROUTING_KEY,message,correlationData1); log.info("发送消息内容:{}",message); } }
从测试结果中看到,果然交换机出了故障之后,可以看到我们定义的回调接口就被触发了。
1.5 模拟队列故障
上面我们模拟了交换机出现故障的情况,下面我们再来模拟一下队列出故障的情况(说白了,只要RoutingKey匹配不成功,那队列绑定就不成功,不就故障了吗?)所以我们修改RoutingKey即可。
package com.szh.rabbitmq.controller; import com.szh.rabbitmq.config.ConfirmConfig; import lombok.extern.slf4j.Slf4j; import org.springframework.amqp.rabbit.connection.CorrelationData; import org.springframework.amqp.rabbit.core.RabbitTemplate; import org.springframework.beans.factory.annotation.Autowired; import org.springframework.web.bind.annotation.GetMapping; import org.springframework.web.bind.annotation.PathVariable; import org.springframework.web.bind.annotation.RequestMapping; import org.springframework.web.bind.annotation.RestController; /** * */ @Slf4j @RestController @RequestMapping(value = "/confirm") public class ProducerController { @Autowired private RabbitTemplate rabbitTemplate; @GetMapping(value = "/sendMessage/{message}") public void sendMessage(@PathVariable String message) { CorrelationData correlationData1 = new CorrelationData("1"); rabbitTemplate.convertAndSend(ConfirmConfig.CONFIRM_EXCHANGE_NAME, ConfirmConfig.CONFIRM_ROUTING_KEY,message + "key1",correlationData1); log.info("发送消息内容:{}",message + "key1"); CorrelationData correlationData2 = new CorrelationData("2"); rabbitTemplate.convertAndSend(ConfirmConfig.CONFIRM_EXCHANGE_NAME, ConfirmConfig.CONFIRM_ROUTING_KEY + "2",message + "key2",correlationData2); log.info("发送消息内容:{}",message + "key2"); } }
从测试结果中可以看到,我们向MQ中发送了两条消息,第一条消息的 RoutingKey 为"key1",第二条消息的 RoutingKey 为"key2",两条消息都成功被交换机接收,也收到了交换机的确认回调,但消费者只收到了一条消息,因为第二条消息的 RoutingKey 与队列的 BindingKey 不一致,也没有其它队列能接收这个消息,所有第二条消息被直接丢弃了。
根据上面队列出现故障的情况,我们在仅开启了生产者确认机制的情况下,交换机接收到消息后,会直接给消息生产者发送确认消息,如果发现该消息不可路由,那么消息会被直接丢弃,此时生产者是不知道消息被丢弃这个事件的。那么如何让无法被路由的消息帮我想办法处理一下?最起码通知我一声,我好自己处理啊。通过设置 mandatory 参数可以在当消息传递过程中不可达目的地时将消息返回给生产者。
这就需要下面要介绍了回退消息了。(这里需要将原先已经创建过的队列、交换机在MQ后台web管理界面中删除),配置类、生产者、消费者都没有改动,和上面的一样,改动的是回调接口的实现类、核心配置文件。
spring.rabbitmq.host=192.168.40.130 spring.rabbitmq.port=5672 spring.rabbitmq.username=root spring.rabbitmq.password=root # 成功发送消息到交换机后会触发回调方法 spring.rabbitmq.publisher-confirm-type=correlated spring.rabbitmq.publisher-returns=true
package com.szh.rabbitmq.config; import lombok.extern.slf4j.Slf4j; import org.springframework.amqp.core.Message; import org.springframework.amqp.core.ReturnedMessage; import org.springframework.amqp.rabbit.connection.CorrelationData; import org.springframework.amqp.rabbit.core.RabbitTemplate; import org.springframework.beans.factory.annotation.Autowired; import org.springframework.stereotype.Component; import javax.annotation.PostConstruct; /** * */ @Component @Slf4j public class MyCallback implements RabbitTemplate.ConfirmCallback, RabbitTemplate.ReturnsCallback { @Autowired private RabbitTemplate rabbitTemplate; @PostConstruct public void init() { rabbitTemplate.setConfirmCallback(this); rabbitTemplate.setReturnsCallback(this); } /** * 交换机确认回调方法 * @param correlationData:保存回调消息的ID及相关信息 * @param ack:收到消息为true,反之为false * @param cause:失败的原因 */ @Override public void confirm(CorrelationData correlationData, boolean ack, String cause) { String id = correlationData != null ? correlationData.getId() : ""; if (ack) { log.info("交换机已经收到id为:{}的消息",id); } else { log.info("交换机还未收到id为:{}的消息,原因是:{}",id,cause); } } /** * 可以在当消息传递过程中不可达目的地时,将消息返回给生产者 * 只有不可达目的地的时候才进行回退 */ @Override public void returnedMessage(ReturnedMessage returned) { log.error("消息{},被交换机{}回退,返回原因:{},路由key:{}", returned.getMessage().toString(),returned.getExchange(),returned.getReplyText(),returned.getRoutingKey()); } }
下面我们启动测试。可以看到,RoutingKey匹配错误的消息已经被交换机回退回来了。
2.备份交换机
有了 mandatory 参数和回退消息,我们获得了对无法投递消息的感知能力,有机会在生产者的消息无法被投递时发现并处理。但有时候,我们并不知道该如何处理这些无法路由的消息,最多打个日志,然后触发报警,再来手动处理。而通过日志来处理这些无法路由的消息是很不优雅的做法,特别是当生产者所在的服务有多台机器的时候,手动复制日志会更加麻烦而且容易出错。而且设置 mandatory 参数会增加生产者的复杂性,需要添加处理这些被退回的消息的逻辑。如果既不想丢失消息,又不想增加生产者的复杂性,该怎么做呢?前面在设置死信队列的文章中,我们提到,可以为队列设置死信交换机来存储那些处理失败的消息,可是这些不可路由消息根本没有机会进入到队列,因此无法使用死信队列来保存消息。在 RabbitMQ 中,有一种备份交换机的机制存在,可以很好的应对这个问题。什么是备份交换机呢?备份交换机可以理解为 RabbitMQ 中交换机的“备胎”,当我们为某一个交换机声明一个对应的备份交换机时,就是为它创建一个备胎,当交换机接收到一条不可路由消息时,将会把这条消息转发到备份交换机中,由备份交换机来进行转发和处理,通常备份交换机的类型为 Fanout ,这样就能把所有消息都投递到与其绑定的队列中,然后我们在备份交换机下绑定一个队列,这样所有那些原交换机无法被路由的消息,就会都进入这个队列了。当然,我们还可以建立一个报警队列,用独立的消费者来进行监测和报警。
2.1 配置类 & 核心配置文件
spring.rabbitmq.host=192.168.40.130 spring.rabbitmq.port=5672 spring.rabbitmq.username=root spring.rabbitmq.password=root # 成功发送消息到交换机后会触发回调方法 spring.rabbitmq.publisher-confirm-type=correlated spring.rabbitmq.publisher-returns=true
package com.szh.rabbitmq.config; import org.springframework.amqp.core.*; import org.springframework.beans.factory.annotation.Qualifier; import org.springframework.context.annotation.Bean; import org.springframework.context.annotation.Configuration; /** * */ @Configuration public class ConfirmConfig { //交换机 public static final String CONFIRM_EXCHANGE_NAME = "confirm_exchange"; //队列 public static final String CONFIRM_QUEUE_NAME = "confirm_queue"; //RoutingKey public static final String CONFIRM_ROUTING_KEY = "key1"; //备份交换机 public static final String BACKUP_EXCHANGE_NAME = "backup_exchange"; //备份队列 public static final String BACKUP_QUEUE_NAME = "backup_queue"; //报警队列 public static final String WARNING_QUEUE_NAME = "warning_queue"; //声明交换机 @Bean("confirmExchange") public DirectExchange confirmExchange() { return ExchangeBuilder.directExchange(CONFIRM_EXCHANGE_NAME) .durable(true).withArgument("alternate-exchange",BACKUP_EXCHANGE_NAME).build(); } //声明队列 @Bean("confirmQueue") public Queue confirmQueue() { return QueueBuilder.durable(CONFIRM_QUEUE_NAME).build(); } //绑定 @Bean public Binding queueBindingExchange(@Qualifier("confirmExchange") DirectExchange confirmExchange, @Qualifier("confirmQueue") Queue confirmQueue) { return BindingBuilder.bind(confirmQueue).to(confirmExchange).with(CONFIRM_ROUTING_KEY); } //声明交换机 @Bean("backupExchange") public FanoutExchange backupExchange() { return new FanoutExchange(BACKUP_EXCHANGE_NAME); } //声明队列 @Bean("backupQueue") public Queue backupQueue() { return QueueBuilder.durable(BACKUP_QUEUE_NAME).build(); } @Bean("warningQueue") public Queue warningQueue() { return QueueBuilder.durable(WARNING_QUEUE_NAME).build(); } //绑定 @Bean public Binding backupQueueBindingExchange(@Qualifier("backupExchange") FanoutExchange backupExchange, @Qualifier("backupQueue") Queue backupQueue) { return BindingBuilder.bind(backupQueue).to(backupExchange); } @Bean public Binding warningQueueBindingExchange(@Qualifier("backupExchange") FanoutExchange backupExchange, @Qualifier("warningQueue") Queue warningQueue) { return BindingBuilder.bind(warningQueue).to(backupExchange); } }
package com.szh.rabbitmq.listener; import com.szh.rabbitmq.config.ConfirmConfig; import lombok.extern.slf4j.Slf4j; import org.springframework.amqp.core.Message; import org.springframework.amqp.rabbit.annotation.RabbitListener; import org.springframework.stereotype.Component; /** * */ @Slf4j @Component public class Consumer { @RabbitListener(queues = ConfirmConfig.CONFIRM_QUEUE_NAME) public void receiveConfirmMessage(Message message) { String msg = new String(message.getBody()); log.info("接收到队列中的消息:{}",msg); } }
package com.szh.rabbitmq.listener; import com.szh.rabbitmq.config.ConfirmConfig; import lombok.extern.slf4j.Slf4j; import org.springframework.amqp.core.Message; import org.springframework.amqp.rabbit.annotation.RabbitListener; import org.springframework.stereotype.Component; /** * */ @Slf4j @Component public class WarningConsumer { @RabbitListener(queues = ConfirmConfig.WARNING_QUEUE_NAME) public void receiveWarningMsg(Message message) { String msg = new String(message.getBody()); log.error("报警发现不可路由的消息:{}",msg); } }
package com.szh.rabbitmq.controller; import com.szh.rabbitmq.config.ConfirmConfig; import lombok.extern.slf4j.Slf4j; import org.springframework.amqp.rabbit.connection.CorrelationData; import org.springframework.amqp.rabbit.core.RabbitTemplate; import org.springframework.beans.factory.annotation.Autowired; import org.springframework.web.bind.annotation.GetMapping; import org.springframework.web.bind.annotation.PathVariable; import org.springframework.web.bind.annotation.RequestMapping; import org.springframework.web.bind.annotation.RestController; /** * */ @Slf4j @RestController @RequestMapping(value = "/confirm") public class ProducerController { @Autowired private RabbitTemplate rabbitTemplate; @GetMapping(value = "/sendMessage/{message}") public void sendMessage(@PathVariable String message) { CorrelationData correlationData1 = new CorrelationData("1"); rabbitTemplate.convertAndSend(ConfirmConfig.CONFIRM_EXCHANGE_NAME, ConfirmConfig.CONFIRM_ROUTING_KEY,message + "key1",correlationData1); log.info("发送消息内容:{}",message + "key1"); CorrelationData correlationData2 = new CorrelationData("2"); rabbitTemplate.convertAndSend(ConfirmConfig.CONFIRM_EXCHANGE_NAME, ConfirmConfig.CONFIRM_ROUTING_KEY + "2",message + "key2",correlationData2); log.info("发送消息内容:{}",message + "key2"); } }
package com.szh.rabbitmq.config; import lombok.extern.slf4j.Slf4j; import org.springframework.amqp.core.Message; import org.springframework.amqp.core.ReturnedMessage; import org.springframework.amqp.rabbit.connection.CorrelationData; import org.springframework.amqp.rabbit.core.RabbitTemplate; import org.springframework.beans.factory.annotation.Autowired; import org.springframework.stereotype.Component; import javax.annotation.PostConstruct; /** * */ @Component @Slf4j public class MyCallback implements RabbitTemplate.ConfirmCallback, RabbitTemplate.ReturnsCallback { @Autowired private RabbitTemplate rabbitTemplate; @PostConstruct public void init() { rabbitTemplate.setConfirmCallback(this); rabbitTemplate.setReturnsCallback(this); } /** * 交换机确认回调方法 * @param correlationData:保存回调消息的ID及相关信息 * @param ack:收到消息为true,反之为false * @param cause:失败的原因 */ @Override public void confirm(CorrelationData correlationData, boolean ack, String cause) { String id = correlationData != null ? correlationData.getId() : ""; if (ack) { log.info("交换机已经收到id为:{}的消息",id); } else { log.info("交换机还未收到id为:{}的消息,原因是:{}",id,cause); } } /** * 可以在当消息传递过程中不可达目的地时,将消息返回给生产者 * 只有不可达目的地的时候才进行回退 */ @Override public void returnedMessage(ReturnedMessage returned) { log.error("消息{},被交换机{}回退,返回原因:{},路由key:{}", returned.getMessage().toString(),returned.getExchange(),returned.getReplyText(),returned.getRoutingKey()); } }
下面我们启动测试,测试之前一定要将之前创建的交换机删掉!!!
当mandatory 参数(回退消息设置 spring.rabbitmq.publisher-returns=true )与备份交换机可以一起使用的时候,如果两者同时开启,消息究竟何去何从?谁优先级高,经过上面结果显示答案是备份交换机优先级高。也就是说此时回调接口中的 public void returnedMessage(ReturnedMessage returned) 这个回退方法已经失效了。