异步消息组件MQ高级

简介: 本课程聚焦MQ消息可靠性,涵盖生产者重试与确认机制、消费者确认、消息持久化、幂等性及延迟消息等核心方案,重点讲解如何通过Confirm/Return回调、失败消息表、定时重发等手段保障消息不丢失,实现订单超时自动取消等功能,确保分布式系统数据最终一致。

学习目标
能够测试生产者重试机制
能够测试生产者确认机制
能够说出生产者确认机制的两种方式
能够说出发送失败处理机制
能够说出消息持久化机制
能够测试消费者确认机制
能够说出消费失败重试机制
能够说出MQ消息幂等性方案
能够说出延迟消息方案
能够实现自动取消超时未支付订单功能
能够说出保证消息的可靠性的完整方案
1 消息可靠性
1.1. 思路分析
在昨天的练习作业中,我们改造了余额支付功能,在支付成功后利用RabbitMQ通知交易服务,更新业务订单状态为已支付。但是大家思考一下:如果这里MQ通知失败,支付服务中支付流水显示支付成功,而交易服务中的订单状态却显示未支付,数据出现了不一致。
首先,我们一起分析一下消息丢失的可能性有哪些。
消息从发送者发送消息,到消费者处理消息,需要经过的流程是这样的:
消息从生产者到消费者的每一步都可能导致消息丢失:
发送消息时丢失:
生产者发送消息时连接MQ失败
生产者发送消息到达MQ后未找到Exchange
生产者发送消息到达MQ的Exchange后,未找到合适的Queue
消息到达MQ后,处理消息的进程发生异常
MQ导致消息丢失:
消息到达MQ,保存到队列后,尚未消费就突然宕机
消费者处理消息时:
消息接收后尚未处理突然宕机
消息接收后处理过程中抛出异常
综上,我们要解决消息丢失问题,保证MQ的可靠性,就必须从3个方面入手:
保证生产消息的可靠性
确保MQ不会将消息弄丢
保证消费消息的可靠性
注意:使用MQ并不是所有场景对消息的可靠性要求都很高,比如上图中,支付成功短信通知的流程对消息可靠性要求就不高,通常都可以保证消息正常到达消费者,即使个别没有成功通知用户也不影响主体业务流程,所以在设计技术方案时一定要根据业务需求具体分析。
1.2 生产消息可靠性
1.2.1. 生产者重试机制
1.2.1.1 配置
首先第一种情况,就是生产者发送消息时,出现了网络故障,导致与MQ的连接中断。
为了解决这个问题,SpringAMQP提供的消息发送时的重试机制。即:当RabbitTemplate与MQ连接超时后,多次重试。
从课程资料中找到mq-demo-v2.zip,并解压,使用IDEA打开mq-demo-v2工程。
修改publisher模块的application.yaml文件,添加下面的内容:
配置参数解释
initial-interval: 失败后的初始等待时间
multiplier: 倍增器,每次重试的等待时间是前一次几倍。
失败后下次等待时长 =上次等待时长 multiplier
max-attempts: 最大重试次数(包括第一次尝试)
举例:
由于multiplier设置为1,这意味着每次重试之间的间隔是固定的,不会增加。
假设在t=0时刻首次尝试发送消息,如果发送失败,则会按照以下时间点进行重试:
第一次尝试(也是首次发送):t=0(假设即时失败)
第一次重试:等待1秒后重试,t=1秒(首次失败后等待1秒)
第二次重试:等待1秒
1=1秒 后重试,t=2秒(从第一次重试再等待1秒)
如果设置如下:
由于multiplier设置为2,这意味着每次重试之间的间隔会翻倍。
假设在t=0时刻首次尝试发送消息,如果发送失败,则会按照以下时间点进行重试:
第一次尝试(也是首次发送):t=0(假设即时失败)
第一次重试:等待1秒后重试,t=1秒(首次失败后等待1秒)
第二次重试:等待12=2秒 后重试,t=3秒
第三次重试:等待2
2=4秒 后重试,t=7秒
第四次重试:等待4*2=8秒 后重试,t=15秒
1.2.1.2 测试
我们利用命令停掉RabbitMQ服务:
然后测试发送一条消息,会发现会每隔1秒重试1次,总共重试了3次。消息发送超时重试机制配置成功!
注意:当网络不稳定的时候,利用重试机制可以有效提高消息发送的成功率。不过SpringAMQP提供的重试机制是阻塞式的重试,也就是说多次重试等待的过程中,当前线程是被阻塞的。
如果对于业务性能有要求,建议禁用重试机制。如果一定要使用,请合理配置等待时长和重试次数,当然也可以考虑使用异步线程来执行发送消息的代码。
1.2.2. 生产者确认机制
1.2.2.1 两种机制介绍
一般情况下,只要生产者与MQ之间的网路连接顺畅,基本不会出现发送消息丢失的情况,因此大多数情况下我们无需考虑这种问题。
不过,在少数情况下,也会出现消息发送到MQ之后丢失的现象,比如:
MQ内部处理消息的进程发生了异常
生产者发送消息到达MQ后未找到Exchange
生产者发送消息到达MQ的Exchange后,未找到合适的Queue,因此无法路由
针对上述情况,RabbitMQ提供生产者确认机制,包括Publisher Confirm和Publisher Return两种。在开启确认机制的情况下,当生产者发送消息给MQ后,MQ会根据消息处理的情况返回不同的回执。
具体如图所示:
生产者确认机制:
1.Publisher Return
消息投递成功但路由失败会调用Publisher Return回调方法返回异常信息。
2.Publisher Confirm
消息投递成功返回ack,投递失败返回nack。
注意:消息投递成功但可能路由失败了,此时会通过Publisher Confirm返回ack,通过Publisher Return回调方法返回异常信息。
默认两种机制都是关闭状态,需要通过配置文件来开启。
生产者确认机制:确保消息发送到MQ的一种机制,它通过2个函数来确认
(1)【异常】找不到交换机:publisher-confirm:nack
(2)【异常】找到交换机,匹配不到队列:publisher-return:ack
(3)【正常】找到交换机,匹配到队列:publisher-cofirm:ack
1.2.2.2 开启生产者确认
在publisher模块的application.yaml中添加配置:
这里publisher-confirm-type有三种模式可选:
none:关闭confirm机制
simple:同步阻塞等待MQ的回执(回调方法)
correlated:MQ异步回调返回回执
一般我们推荐使用correlated,回调机制。
1.2.2.3 实现方法
ReturnCallback
每个RabbitTemplate只能配置一个ReturnCallback,因此我们可以在配置类中统一设置。我们在publisher模块定义一个配置类:
内容如下:
ConfirmCallback
由于每个消息发送时的处理逻辑不一定相同,因此ConfirmCallback需要在每次发消息时定义。具体来说,是在调用RabbitTemplate中的convertAndSend方法时,多传递一个参数:
这里的CorrelationData中包含两个核心的东西:
id:消息的唯一标示,MQ对不同的消息的回执以此做判断,避免混淆
SettableListenableFuture:回执结果的Future对象
将来MQ的回执就会通过这个Future来返回,我们可以提前给CorrelationData中的Future添加回调函数来处理消息回执:
我们测试下边的方法,向系统自带的交换机发送消息,并且添加ConfirmCallback:
注意:此代码不用编写直接测试即可,稍后我们会用工具类替代。
1.2.2.4 测试
测试报错:
原因:每个RabbitTemplate只支持一个ReturnCallback。
解决:
屏蔽common-rabbitmq依赖,在common-rabbitmq中对RabbitTemplate设置了ReturnCallback
测试步骤:
可以看到,由于传递的RoutingKey是错误的,路由失败后,触发了return callback,同时也收到了ack。
当我们修改为正确的RoutingKey以后,就不会触发return callback了,只收到ack。
当我们把交换机名称修改错误则只会收到nack。
1.2.3. 发送失败处理机制
1.2.3.1 失败处理机制
在ConfirmCallback中收到nack表示消息投递失败,ReturnCallback异常表示路由失败
高频面试题:消息投递失败怎么处理/你们怎么保证消费成功
可以将消息记录到失败消息表,由定时任务进行发布,每隔10秒钟(可设置)执行获取失败消息重新发送,发送一次则在失败次数字段加一,达到3次停止自动发送由人工处理(如钉钉告警)。
在commonn-rabbitmq模块中实现了发送消息的工具方法,此方法实现了发送失败处理机制。
ReturnCallback回调逻辑在com.itheima.common.rabbitmq.config.RabbitMqConfiguration中,核心代码如下:
ApplicationContextAware 的作用:如果 Bean 实现了 ApplicationContextAware 接口,Spring 容器会调用 setApplicationContext 方法,将 ApplicationContext 传递给该 Bean。
Bean 创建:Spring 容器首先创建 Bean 实例。
属性注入:Spring 容器对 Bean 的属性进行依赖注入。
Aware 接口回调:如果 Bean 实现了 ApplicationContextAware 接口,Spring 容器会调用 setApplicationContext 方法,将 ApplicationContext 传递给该 Bean。
初始化方法:如果 Bean 配置了初始化方法(例如通过 @PostConstruct 注解或 init-method 属性),Spring 容器会调用这些初始化方法。
以上可以详见:Spring源码解析
ConfirmCallback的逻辑在RabbitClient 工具类的sendMsg方法中,通过sendMsg方法发送消息,在发送消息时指定correlationData对象,在correlationData对象中指定了ConfirmCallback回调方法的逻辑,当返回nack会将消息写入失败表,如果消息重发成功会将该记录从失败表删除。
核心代码如下:
当发送消息失败会入库到失败消息表。
我们可以启动定时任务去扫描失败消息表的记录,重新发送,当达到最大失败次数后由人工处理。
1.2.3.4 测试
下边测试发送失败入库功能:
首先在publisher模块添加common-rabbitmq依赖
屏蔽MqConfig类中设置ReturnCallback的代码
由于RabbitTemplate只能设置一次ReturnCallback,而在common-rabbitmq中设置了ReturnCallback,所以屏蔽MqConfig类中设置ReturnCallback的代码,如下图:
在hmall中创建失败消息表
查看虚拟机对应hmall数据库,如果已存在fail_msg表需要删除原表再通过下边的语句新建表。
SQL
运行代码
复制代码
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
create table fail_msg
(
id varchar(255) not null comment '消息id'
primary key,
exchange varchar(255) not null comment '交换机',
routing_key varchar(255) not null comment '路由key',
msg text not null comment '消息',
reason varchar(255) not null comment '原因',
delay_msg_execute_time int null comment '延迟消息执行时间',
next_fetch_time int null comment '下次拉取时间',
create_time datetime null comment '创建时间',
update_time datetime null comment '更新时间',
fail_count int default 0 null comment '失败次数'
)
comment '失败消息记录表' charset = utf8mb

相关文章
|
13天前
|
数据采集 人工智能 安全
|
8天前
|
编解码 人工智能 自然语言处理
⚽阿里云百炼通义万相 2.6 视频生成玩法手册
通义万相Wan 2.6是全球首个支持角色扮演的AI视频生成模型,可基于参考视频形象与音色生成多角色合拍、多镜头叙事的15秒长视频,实现声画同步、智能分镜,适用于影视创作、营销展示等场景。
657 4
|
8天前
|
机器学习/深度学习 人工智能 前端开发
构建AI智能体:七十、小树成林,聚沙成塔:随机森林与大模型的协同进化
随机森林是一种基于决策树的集成学习算法,通过构建多棵决策树并结合它们的预测结果来提高准确性和稳定性。其核心思想包括两个随机性:Bootstrap采样(每棵树使用不同的训练子集)和特征随机选择(每棵树分裂时只考虑部分特征)。这种方法能有效处理大规模高维数据,避免过拟合,并评估特征重要性。随机森林的超参数如树的数量、最大深度等可通过网格搜索优化。该算法兼具强大预测能力和工程化优势,是机器学习中的常用基础模型。
350 164
|
7天前
|
机器学习/深度学习 自然语言处理 机器人
阿里云百炼大模型赋能|打造企业级电话智能体与智能呼叫中心完整方案
畅信达基于阿里云百炼大模型推出MVB2000V5智能呼叫中心方案,融合LLM与MRCP+WebSocket技术,实现语音识别率超95%、低延迟交互。通过电话智能体与座席助手协同,自动化处理80%咨询,降本增效显著,适配金融、电商、医疗等多行业场景。
359 155

热门文章

最新文章