定义和原理
定时消息(延迟队列) 是指消息发送到 broker 后,不会立即被消费,等待特定时间投递给真正的 topic。
broker 有配置项 messageDelayLevel,默认值为 1s
5s
10s
30s
1m
2m
3m
4m
5m
6m
7m
8m
9m
10m
20m
30m
1h
2h
18 个 level , 可以配置自定义 messageDelayLevel。
注意,messageDelayLevel 是 broker 的属性,不属于某个 topic。发消息时,设置 delayLevel 等级即可:msg.setDelayLevel(level)。level 有以下三种情况:
- level == 0,消息为非延迟消息
- 1<=level<=maxLevel,消息延迟特定时间,例如 level==1,延迟 1s
- level > maxLevel,则 level== maxLevel,例如 level==20,延迟 2h
定时消息会暂存在名为 SCHEDULE_TOPIC_XXXX 的 topic 中,并根据 delayTimeLevel 存入特定的 queue,queueId = delayTimeLevel – 1,即一个 queue 只存相同延迟的消息,保证具有相同发送延迟的消息能够顺序消费。broker 会调度地消费 SCHEDULE_TOPIC_XXXX,将消息写入真实的 topic。
RocketMQ 暂时不支持任意时间的定时
简化一个实现原理方案示意图:
分为两个部分:
- 消息的写入
- 消息的 Schedule
消息写入中:
- 在写入 CommitLog 之前,如果是延迟消息,替换掉消息的 Topic 和 queueId(被替换为延迟消息特定的 Topic,queueId 则为延迟级别对应的 id)
- 消息写入 CommitLog 之后,提交 dispatchRequest 到 DispatchService
- 因为在第①步中 Topic 和 QueueId 被替换了,所以写入的 ConsumeQueue 实际上非真正消息应该所属的 ConsumeQueue,而是写入到 ScheduledConsumeQueue 中(这个特定的 Queue 存放不会被消费)
Schedule 过程中:
- 给每个 Level 设置定时器,从 ScheduledConsumeQueue 中读取信息
- 如果 ScheduledConsumeQueue 中的元素已近到时,那么从 CommitLog 中读取消息内容,恢复成正常的消息内容写入 CommitLog
- 写入 CommitLog 后提交 dispatchRequest 给 DispatchService
- 因为在写入 CommitLog 前已经恢复了 Topic 等属性,所以此时 DispatchService 会将消息投递到正确的 ConsumeQueue 中
Demo
配置
由于 spring cloud alibaba 低版本的 rocketmq 定时消息功能有问题,不能实现,所以必须换高版本的,下面是我使用的版本信息:
<spring.boot.version>2.3.12.RELEASE</spring.boot.version> <spring.cloud.version>Hoxton.SR12</spring.cloud.version> <spring.cloud.alibaba.version>2.2.7.RELEASE</spring.cloud.alibaba.version>
引入的是 starter
<dependency> <groupId>com.alibaba.cloud</groupId> <artifactId>spring-cloud-starter-stream-rocketmq</artifactId> </dependency>
分享一下我的配置文件:
spring: application: name: mq-example cloud: stream: bindings: # 定义 name 为 input 的 binding 消费 input: content-type: application/json destination: test-topic3 group: consumer-group # 定义 name 为 output 的 binding 生产 output-order: content-type: application/json destination: test-topic3 # Producer 配置项,对应 ProducerProperties 类 #producer: # partition-key-expression: payload['id'] # 分区 key 表达式。该表达式基于 Spring EL,从消息中获得分区 key。 #partitionCount: 3 # 分区数量 rocketmq: # RocketMQ Binder 配置项,对应 RocketMQBinderConfigurationProperties 类 binder: # 配置 rocketmq 的 nameserver 地址 name-server: 127.0.0.1:9876 group: rocketmq-group bindings: output-order: # RocketMQ Producer 配置项,对应 RocketMQProducerProperties 类 producer: #group: producer-group # 生产者分组 sync: true # 是否同步发送消息,默认为 false 异步。 input: # RocketMQ Consumer 配置项,对应 RocketMQConsumerProperties 类 consumer: #group: consumer-group # 消费者分组 enabled: true # 是否开启消费,默认为 true broadcasting: false # 是否使用广播消费,默认为 false 使用集群消费 orderly: false # 是否顺序消费,默认为 false 并发消费。
这里注意红框部分在低版本有说要改成 true 才可以发送定时消息,我在高版本测试不用,true 和 false 都可以。
发送消息
消息发送部分几乎和之前一样,只是多加一了个 header PROPERTY_DELAY_TIME_LEVEL
, 这里我写的是 2,即延迟 5 秒。
Map<String, Object> headers = Maps.newHashMapWithExpectedSize(16); headers.put(MessageConst.PROPERTY_DELAY_TIME_LEVEL, 2); headers.put(MessageConst.PROPERTY_TAGS, "test03"); Order order = Order.builder().id(1L).desc("test").build(); Message message = MessageBuilder.createMessage(order, new MessageHeaders(headers)); mySource.output4Order().send(message);
接收消息
接收和之前没什么区别
@Service public class ReceiveService { /** * 订阅消息 * * @param receiveMsg */ @StreamListener("input") public void receiveInput1(String receiveMsg, GenericMessage message, @Headers Map headers) { System.out.println(message.toString()); System.out.println("线程 ID: " + Thread.currentThread().getId() + " 接受到消息 input receive: " + receiveMsg); }
效果
18:00:16.673 [http-nio-8080-exec-1] INFO the message has sent, ...... 18:00:21.685 [ConsumeMessageThread_1] INFO 接收到消息:{"id":1,"desc":"test"}
可以看到发送到接收,相距 5 秒。