干货 | Redis 实现发布订阅原理与实践

本文涉及的产品
云原生内存数据库 Tair,内存型 2GB
云数据库 Redis 版,社区版 2GB
推荐场景:
搭建游戏排行榜
云数据库 Redis 版,经济版 1GB 1个月
简介: Redis 是完全开源的,高性能的 key-value 数据库,受到越来越多的业务场景应用。对于"发布/订阅"的消息模式,大家也许都比较了解,但是其实现原理及应用是否还存在模糊呢?

写在前面


Redis 是完全开源的,高性能的 key-value 数据库,受到越来越多的业务场景应用。对于"发布/订阅"的消息模式,大家也许都比较了解,但是其实现原理及应用是否还存在模糊呢?


今天计划同大家一起,深入浅出讲透 Redis 发布订阅,尽量通俗易懂,让大家轻松上手。


发布/订阅模式


关于发布/订阅模式


在软件架构中,发布/订阅是一种消息模式,消息的发送者(称为发布者)不会将消息直接发送给特定的接收者(称为订阅者),而是通过消息通道广播出去,让订阅该消息主题的订阅者消费到。


微信图片_20220608112232.png


Redis提供了发布订阅功能,可以用于消息的传输,Redis的发布订阅机制包括三个部分:发布者(Publisher),订阅者(Subscriber)和频道(Channel)。发布/订阅者模式最大的特点就是实现了松耦合。


Redis发布订阅分类


  • 频道的发布订阅


  • 模式的发布订阅


下面来分别详细阐述一下其实现原理及应用。


频道的发布订阅


实现原理


Redis将所有频道的订阅关系都保存在服务器状态的 pubsub_channels 字典,字典的键是某个被订阅的频道,而对应值则是一个链表,链表里记录了所有订阅这个频道的客户端。


struct redisServer{
    //...
    // 保存所有频道订阅关系
    dict *pubsub_channels;
    //...
}


一个pubsub_channels字典示例如下:


微信图片_20220608112235.png


  • client-1、client-2、client-3 三个客户端正在订阅 “article.tech” 频道


  • 客户端 client-4 正在订阅 “article.mysql” 频道


  • client-5、client-6 两个客户端正在订阅 “article.redis” 频道


订阅频道


相关命令


SUBSCRIBE channel [channel …]


当客户端执行SUBSCRIBE命令订阅某个或某些频道的时候,这个客户端与被订阅频道之间就建立起了一种订阅关系。


建立订阅关系执行分两种情况:


1)该频道已有其他订阅者该频道在 pubsub_channels 字典中存在订阅者链表,将此客户端添加至订阅者链表末尾即可;


2)该频道暂无订阅者该频道在 pubsub_channels 字典中不存在订阅者链表,首先在字典中为频道创建一个键,并将这个键的值设置为空链表,然后将客户端添加到链表,成为链表的第一个元素。


参考示例:


客户端client-10086 执行命令:


SUBSCRIBE "article.mysql" "article.java"


执行SUBSCRIBE命令之后的 pubsub_channels 字典:


微信图片_20220608112237.png


退订频道


相关命令


UNSUBSCRIBE channel [channel …]


当客户端退订某个或某些频道的时候,服务器将从 pubsub_channels 中解除客户端与被退订频道之间的关联。


解除订阅关系执行过程:


1)根据被退订频道的名字,在 pubsub_channels 字典中找到频道对应的订阅者链表,然后从订阅者链表中删除退订客户端的信息;


2)假如删除退订客户端后,频道的订阅者链表变成了空链表,那么说明这个频道已无任何订阅者了,将从 pubsub_channels 字典中删除频道对应的键。


参考示例:


客户端client-10086 执行命令:


UNSUBSCRIBE "article.mysql" "article.java" "article.a"


执行SUBSCRIBE命令之后的pubsub_channels字典:


微信图片_20220608112240.png


我们注意到虽然退订频道里包含 "article.a",但是由于 "article.a" 在 pubsub_channels 字典中不存在,则被忽略。


模式的发布订阅



模式与频道的区别,简单理解模式是多个频道的组合。


实现原理


Redis将所有模式的订阅关系都保存在服务器状态的 pubsub_patterns 链表,链表的每个节点都包含着一个 pubsub Pattern 结构,这个结构的 pattern 属性记录了被订阅的模式,而 client 属性则记录了订阅模式的客户端


struct redisServer{
    //...
    // 保存所有模式订阅关系
    dict *pubsub_patterns;
    //...
}


一个pubsub_patterns链表示例:


微信图片_20220608112243.png


  • 客户端 client-7 正在订阅模式 "book.*"


  • 客户端 client-8 正在订阅模式 "column.*"


订阅模式


相关命令


PSUBSCRIBE pattern [pattern …]


当客户端执行 PSUBSCRIBE 命令订阅某个或某些模式的时候,服务器会对每个被订阅的模式执行以下两个操作:


1)新建一个  pubsubPattern结果,将结构的 pattern 属性设置为被订阅的模式,client 属性设置为订阅模式的客户端;


2)将pubsubPattern结构添加到 pubsub_patterns 链表的尾部。


参考示例:


客户端 client-9 执行命令:


PSUBSCRIBE "article.*"


执行 PSUBSCRIBE 命令之后的 pubsub_patterns 链表:


微信图片_20220608112246.png


退订模式


相关命令:


PUNSUBSCRIBE pattern [pattern …]


当客户端退订某个或某些模式的时候,服务器将从 pubsub_patterns 链表中查找并删除那些 pattern 属性为被退订模式,并且client 属性为执行退订命令的客户端的 pubsubPattern 结构。简单理解即:查找client、pattern 均相同的 pubsubPattern 并删除。


参考示例:


客户端 client-9 执行命令:


PUNSUBSCRIBE "article.*"


执行 PUNSUBSCRIBE 命令之后的 pubsub_patterns 链表:


微信图片_20220608112248.png


发消息


相关命令:


PUBLISH <channel> <message>


将消息message 发送给channel 频道的所有订阅者,以及发送给 channel 频道相匹配模式的订阅者。


发消息执行过程:


1)在 pubsub_channels 字典里找到频道 channel 的订阅者列表,然后将消息发送给列表上所有客户端;


2)遍历 pubsub_patterns 链表,查找与channel 频道相匹配的 pattern 模式,并将消息发送给订阅了这些 pattern 模式的客户端。


参考示例:


当前 pubsub_channels 字典状态如下:


微信图片_20220608112251.png


当前 pubsub_patterns 链表状态如下:


微信图片_20220608112254.png


此时某客户端执行如下命令:


PUBLISH "article.redis" "hello"


发消息执行过程:


  • PUBLISH 命令会先将消息 "hello" 发送给 "articleredis" 频道的所有订阅者(client-5、client-6);


  • 然后在 pubsub_patterns 链表中查找是否有被订阅的模式与 "article.redis" 频道相匹配,随机找到 "article.*" 模式,随即将消息 "hello" 发送给client-9。


发布订阅原理小结


发布订阅原理,主要小结如下:


  • pubsub_channels 字典保存了所有频道的订阅关系:SUBSCRIBE 命令负责将客户端与被订阅的频道关联到字典,而UNSUBSCRIBE 命令负责解除客户端和被退订频道之间的关联;


  • pubsub_patterns 链表保存了所有模式的订阅关系:PSUBSCRIBE 命令负责将客户端与被订阅的模式记录到链表,而PUNSUBSCRIBE 命令负责移除客户端和被退订模式在链表中的记录;


  • PUBLISH 命令通过访问pubsub_channels 字典来向频道的所有订阅者发送消息,通过访问 pubsub_patterns 链表向所有匹配频道的模式的订阅者发送消息。


实际应用案例经验分享


背景描述


我们以信息订阅分发网站为例,假设 Chat 文章结构如下所示:


微信图片_20220608112256.png


各 chat 相当于“频道”,前端、后端、测试 等分类可理解为一类频道的组合,成为“模式”。


数据剖析


假如用户进行 chat(频道) 及分类(模式)的订阅:


  • 用户 A 预定了频道 chat-1


  • 用户 B 预定了频道 chat-16 和模式“后端”


  • 用户 C 预定了模式“前端”和频道 chat-101


频道和模式的订阅关系如图所示:


微信图片_20220608112259.png


Redis 记录发布订阅频道的数据格式如下:


微信图片_20220608112302.png


Redis 记录发布订阅模式的数据格式如下:


微信图片_20220608112305.png


操作执行


此时某客户端执行如下命令:


PUBLISH"chat-1""hello"


执行过程如下:


  • PUBLISH 命令会先将消息 "hello" 发送给 "chat-1" 频道的所有订阅者 用户 A;


  • 然后在 pubsub_patterns 链表中查找是否有被订阅的模式与 "chat-1" 频道相匹配,随机找到 "前端" 模式,随即将消息 "hello" 发送给 用户 C。


其他消息发送执行过程,对于订阅关系及消息发送与上述场景同理,大家可以尝试自行分析。


能力应用


Redis 发布订阅应用场景比较广泛,类似微博/微信公众号这种关注/订阅以及消息推送能力,同样还可以作为实时消息系统(类似聊天/群聊能力支持)。利用 Redis 发布订阅可以快速实现用户订阅/关注关系维护以及后续消息推送能力,本 文从概念到原理分析,再到具体案例应用讲解,算是带大家基本熟悉了 Redis 发布订阅的全貌,希望对你今后的工作有所帮助,谢谢。


Thanks for reading!

相关实践学习
基于Redis实现在线游戏积分排行榜
本场景将介绍如何基于Redis数据库实现在线游戏中的游戏玩家积分排行榜功能。
云数据库 Redis 版使用教程
云数据库Redis版是兼容Redis协议标准的、提供持久化的内存数据库服务,基于高可靠双机热备架构及可无缝扩展的集群架构,满足高读写性能场景及容量需弹性变配的业务需求。 产品详情:https://www.aliyun.com/product/kvstore &nbsp; &nbsp; ------------------------------------------------------------------------- 阿里云数据库体验:数据库上云实战 开发者云会免费提供一台带自建MySQL的源数据库&nbsp;ECS 实例和一台目标数据库&nbsp;RDS实例。跟着指引,您可以一步步实现将ECS自建数据库迁移到目标数据库RDS。 点击下方链接,领取免费ECS&amp;RDS资源,30分钟完成数据库上云实战!https://developer.aliyun.com/adc/scenario/51eefbd1894e42f6bb9acacadd3f9121?spm=a2c6h.13788135.J_3257954370.9.4ba85f24utseFl
相关文章
|
7天前
|
存储 NoSQL Redis
Redis系列学习文章分享---第十六篇(Redis原理1篇--Redis数据结构-动态字符串,insert,Dict,ZipList,QuickList,SkipList,RedisObject)
Redis系列学习文章分享---第十六篇(Redis原理1篇--Redis数据结构-动态字符串,insert,Dict,ZipList,QuickList,SkipList,RedisObject)
14 1
|
7天前
|
NoSQL Java Redis
Redis系列学习文章分享---第十八篇(Redis原理篇--网络模型,通讯协议,内存回收)
Redis系列学习文章分享---第十八篇(Redis原理篇--网络模型,通讯协议,内存回收)
16 0
|
7天前
|
存储 消息中间件 缓存
Redis系列学习文章分享---第十七篇(Redis原理篇--数据结构,网络模型)
Redis系列学习文章分享---第十七篇(Redis原理篇--数据结构,网络模型)
13 0
|
29天前
|
网络协议 NoSQL Redis
SMC-R 透明加速 TCP 技术,在 Redis 场景下的应用实践 | 干货推荐
SMC-R 作为一套与 TCP/IP 协议平行、向上兼容 socket 接口、底层使用 RDMA 完成共享内存通信的内核协议栈,其设计意图是为 TCP 应用提供透明的 RDMA 服务,同时保留了 TCP/IP 生态系统中的关键功能。
|
7天前
|
NoSQL 容灾 Redis
Redis系列学习文章分享---第十一篇(Redis高级实战篇---RDB演示 +RDB的fork原理+A0F演示 +RDB和AOF)
Redis系列学习文章分享---第十一篇(Redis高级实战篇---RDB演示 +RDB的fork原理+A0F演示 +RDB和AOF)
11 0
|
1月前
|
NoSQL Redis 数据库
【Redis从入门到入土】布隆过滤器简介、特点和原理
【6月更文挑战第1天】布隆过滤器是一种节省内存的不确定数据结构,用于判断元素是否可能在一个集合中。它由位数组和多个哈希函数组成,能快速插入和查询,但存在误判风险:可能存在假阳性(判断存在但实际不存在),但绝无假阴性(判断不存在则确实不存在)。适用于大规模数据的去重问题,如电话号码判断、安全网站链接检查、黑名单和白名单校验。其工作原理是通过多个哈希函数将元素映射到位数组中,添加时设置相应位置为1,查询时所有位置都为1则可能存在,有0则肯定不存在。由于哈希冲突,可能导致误判,且一旦添加元素无法删除,以避免影响其他元素。
31 4
|
8天前
|
存储 缓存 NoSQL
Redis为什么速度快:数据结构、存储及IO网络原理总结
Redis为什么速度快:数据结构、存储及IO网络原理总结
|
2月前
|
存储 缓存 NoSQL
由菜鸟到大神,谈谈redis的概念、实战、原理、高级使用方法
【5月更文挑战第18天】Redis是一个开源的内存中的数据结构存储系统,它可以用作数据库、缓存和消息中间件。它支持多种类型的数据结构,如字符串、哈希、列表、集合、有序集合等。
34 10
|
27天前
|
消息中间件 NoSQL Linux
详解Redis的主从同步原理
只不过在主节点中叫做master_repl_offset; 从节点也有一个偏移量叫做slave_repl_offset,用来记录从节点已经从主节点的repl_backlog_buffer中同步到的最新写指令的位置;
195 0
|
2月前
|
监控 NoSQL 算法
深入剖析Redis哨兵模式的原理和应用
Redis的哨兵模式是实现高可用性和自动故障转移的机制,当主服务器故障时,哨兵能自动检测并进行故障转移,确保服务连续和稳定性。哨兵模式通过监控主从服务器状态、自动故障转移、防止数据不一致,提高容错能力和负载均衡,降低运维成本,实现高可用性。哨兵通过检测主观下线和客观下线状态,以及选举Leader Sentinel来协调故障转移。Raft算法在其中用于领导者选举和状态一致性。哨兵模式通过综合考虑多种因素选举新主服务器并执行故障转移,保障集群稳定运行。
286 0
深入剖析Redis哨兵模式的原理和应用