可靠性分析
RabbitMQ如何保证消息的可靠?如RabbitMQ基础概念中的架构模型
可以看到一条消息的传递过程:
- 发布者和RabbitMQ建立连接发送消息至交换机。
- 交换机和队列绑定,将消息路由到队列中。
- 消费者和RabbitMQ建立连接指定某个队列的消息进行消费。
在这过程中以下几个环节可能会丢失消息:
- 发布者到交换机环节。
- 交换机到队列环节。
- 队列到消费者环节。
如下图
可靠性方案
所以要保证消息的可靠性需要做到以下几点:
- 发布者需确认交换机接收到消息。
- 发布者需确认队列接收到消息。
- 保证队列及其中的数据持久化。
- 保证消费者的正常消费。
如何做到以上几点?RabbitMQ为了适应各个场景的使用,以上的功能需要开发者按照定义自行设置实现。
可靠性实现
以下实现为Java整合RabbitMQ实现,参考Java整合RabbitMQ实现生产消费(7种通讯方式)
确认Exchange接收到消息
构建channel时添加确认监听机制,当消息未发送至交换机时做补偿措施。
channel.addConfirmListener((sequenceNumber, multiple) -> {
System.out.println("消息成功发送到交换机");
}, (sequenceNumber, multiple) -> {
System.err.println("消息未发送到交换机,补偿操作。");
});
确认Queue接收到消息
- 构建channel时添加return监听机制,当消息未路由至队列时做补偿措施。
channel.addReturnListener((replyCode, replyText, exchange, routingKey, basicProperties, body) -> {
System.err.format("消息 %s 未路由到指定队列: %s, replyText: %s,replyCode: %d%n", body, routingKey, replyText, replyCode);
});
- 发布消息时设置消息mandatory为true,开启return机制。
channel.basicPublish("", "",true, "", "");
保证Queue及其数据持久化
- 构建队列时持久化队列。
//构建队列,queueDeclare("队列名称","是否持久化队列","是否只允许一个队列消费","长时间未使用是否删除","其他参数") channel.queueDeclare("", true, false, false, null);
- 发布消息时设置消息持久化属性。
//设置消息持久化 AMQP.BasicProperties basicProperties = new AMQP.BasicProperties.Builder().deliveryMode(2).build(); channel.basicPublish("", "",true, basicProperties, "");
保证消费者的正常消费
当消息持久化至队列时已经保证了消息的可靠投递,为保证消息的正常消费,需要解决重复消费和消息丢失问题。
重复消费问题
- 业务处理完成,但是ack失败,消息被扔进队列,导致重复消费。
- 业务处理过程中,进程宕机,恢复进程后消费未ACK的消息导致重复消费。
针对第一个场景的解决方案:设置手动ACK,并且业务处理和ack操作在一个事务中。
DeliverCallback deliverCallback = (consumerTag, delivery) -> {
String message = new String(delivery.getBody(), "UTF-8");
//消息处理后手动ACK
channel.basicAck(delivery.getEnvelope().getDeliveryTag(),false);
};
// ack为false
channel.basicConsume("", false, deliverCallback, consumerTag -> {
});
针对第二个场景的解决方案:发布消息时设置业务唯一标识,在消费后进行存储,如果有相同标识前来消费直接拒绝即可(具体业务具体分析)。设置业务唯一标识方式:
String correlationId = UUID.randomUUID().toString();
AMQP.BasicProperties basicProperties = new AMQP.BasicProperties.Builder().correlationId(correlationId).build();
channel.basicPublish("", "", basicProperties, "");
消息丢失问题
在以下场景中可能会发生消息丢失问题:
- 业务处理失败,但是ack成功,导致消息丢失。
解决方案:设置手动ACK,并且业务处理和ack操作在一个事务中。