消息顺序性为何这么难?

简介: 消息顺序性是分布式系统架构设计中非常难的问题,有什么常见优化实践呢?

很多业务都需要考虑消息投递的顺序性:

  • 单聊消息投递,保证发送方发送顺序与接收方展现顺序一致

  • 群聊消息投递,保证所有接收方展现顺序一致

  • 充值支付消息,保证同一个用户发起的请求在服务端执行序列一致

消息顺序性是分布式系统架构设计中非常难的问题,有什么常见优化实践呢?

折衷一:以客户端或者服务端的时序为准

不管什么情况,都需要一个标尺来衡量时序的先后顺序,可以根据业务场景,以客户端或者服务端的时间为准,例如:

  • 邮件展示顺序,其实是以客户端发送时间为准的

画外音:发送方只要将邮件协议里的时间调整为1970年或者2970年,就可以在接收方收到邮件后一直“置顶”或者“置底”。

  • 秒杀活动时间判断,肯定得以服务器的时间为准,不可能让客户端修改本地时间,就能够提前秒杀

 

折衷二:服务端生成单调递增id作为时序依据

对于严格时序的业务场景,可以利用单点写db的seq/auto_inc_id生成单调递增的id,来保证顺序性。

画外音:这个生成id的单点容易成为瓶颈。

 

折衷三:假如业务能接受误差不大的趋势递增id

消息发送、帖子发布时间、甚至秒杀时间都没有这么精准时序的要求:

  • 同1s内发布的聊天消息时序乱了,没事

  • 同1s内发布的帖子排序不对,没事

  • 用1s内发起的秒杀,由于服务器多台之间时间有误差,落到A服务器的秒杀成功了,落到B服务器的秒杀还没开始,业务上也是可以接受的(用户感知不到)

所以,大部分业务,长时间趋势递增的时序就能够满足业务需求,非常短时间的时序误差一定程度上能够接受。


于是,可以始终分布式id生成算法来生成id,作为时序依据。

 

折衷四:利用单点序列化,可以保证多机相同时序

数据为了保证高可用,需要做到进行数据冗余,同一份数据存储在多个地方,怎么保证这些数据的修改消息是一致的呢?


“单点序列化”是可行的:

  • 先在一台机器上序列化操作

  • 再将操作序列分发到所有的机器,以保证多机的操作序列是一致的,最终数据是一致的

 

典型场景一:数据库主从同步
image.png

 数据库的主从架构,上游分别发起了op1,op2,op3三个操作,主库master来序列化所有的SQL写操作op3,op1,op2,然后把相同的序列发送给从库slave执行,以保证所有数据库数据的一致性,就是利用“单点序列化”这个思路。

 典型场景二:GFS中文件的一致性
image.png


GFS(Google File System)为了保证文件的可用性,一份文件要存储多份,在多个上游对同一个文件进行写操作时,也是由一个主chunk-server先序列化写操作,再将序列化后的操作发送给其他chunk-server,来保证冗余文件的数据一致性的。

 

单对单聊天,怎么保证发送顺序与接收顺序一致呢?

单人聊天的需求,发送方A依次发出了msg1,msg2,msg3三个消息给接收方B,这三条消息能否保证显示时序的一致性(发送与显示的顺序一致)?


方案设计思路如下:

(1)如果利用服务器单点序列化时序,可能出现服务端收到消息的时序为msg3,msg1,msg2,就会与发出序列不一致。


(2)业务上不需要全局消息一致,只需要对于同一个发送方A,ta发给B的消息时序一致,常见优化方案,在A往B发出的消息中,加上发送方A本地的一个绝对时序,来表示接收方B的展现时序。

msg1{sender:A, seq:10, receiver:B, msg:content1}

msg2{sender:A, seq:20, receiver:B, msg:content2}

msg3{sender:A, seq:30, receiver:B, msg:content3}
image.png
 

可能存在问题是:如果接收方B先收到msg3,msg3会先展现,后收到msg1和msg2后,会展现在msg3的前面。

 群聊消息,怎么保证各接收方收到顺序一致?

群聊消息的需求,N个群友在一个群里聊,怎么保证所有群友收到的消息显示时序一致?


方案设计思路如下:

(1)假设和单聊消息一样,利用发送方的seq来保证时序,因为发送方不单点,seq无法统一生成,可能存在不一致。


(2)于是,可以利用服务器的单点做序列化。
image.png


如上图,此时群聊的发送流程为:

(1)sender1发出msg1,sender2发出msg2;

(2)msg1和msg2经过接入集群,服务集群;

(3)service层到底层拿一个唯一seq,来确定接收方展示时序;

(4)service拿到msg2的seq是20,msg1的seq是30;

(5)通过投递服务讲消息给多个群友,群友即使接收到msg1和msg2的时间不同,但可以统一按照seq来展现;


这个方法能实现,所有群友的消息展示时序相同。


缺点是,生成全局递增序列号的服务很容易成为系统瓶颈。


还有没有进一步的优化方法呢? 

群消息其实也不用保证全局消息序列有序,而只要保证一个群内的消息有序即可,这样的话,“id串行化”就成了一个很好的思路。
image.png


这个方案中,service层不再需要去一个统一的后端拿全局seq,而是在service连接池层面做细小的改造,保证一个群的消息落在同一个service上,这个service就可以用本地seq来序列化同一个群的所有消息,保证所有群友看到消息的时序是相同的。


此时利用本地时钟来生成seq就凑效了,是不是很巧妙?

 

总结

(1)要“有序”,先得有衡量“有序”的标尺,可以是客户端标尺,可以是服务端标尺;

(2)大部分业务能够接受大范围趋势有序,小范围误差;绝对有序的业务,可以借助服务器绝对时序的能力;

(3)单点序列化,是一种常见的保证多机时序统一的方法,典型场景有db主从一致,gfs多文件一致;

(4)单对单聊天,只需保证发出的时序与接收的时序一致,可以利用客户端seq;

(5)群聊,只需保证所有接收方消息时序一致,需要利用服务端seq,方法有两种,一种单点绝对时序,另一种id串行化;


思路比结论更重要,希望大家有收获。

本文转自“架构师之路”公众号,58沈剑提供。

目录
相关文章
|
Java
filebeat占用文件句柄磁盘满
filebeat作为日志采集客户端,相比较于java编写的fluent,有着低功耗的特性。但在一些极端情况下,忽视filebeat的一些特性配置,可能会带来灾难。之前发过一篇关于filebeat内存占用的案例和分析,今天再说下filebeat占用文件句柄、耗费主机磁盘甚至导致磁盘满的案例。
9924 0
|
4月前
|
人工智能 数据可视化 API
Claude Code 30+ 斜杠命令全讲解,用好了效率翻 10 倍!
大家好,我是程序员鱼皮。 如今用 Claude Code 的人越来越多了,但我发现很多人的使用方式还是纯聊天,有什么需求就直接打字跟它说。 这当然没问题,AI 模型的能力已经很强了,一般能够理解你的意思。 但其实 Claude Code 内置了很多斜杠命令,输入 / 就能看到完整的命令列表。这些命令覆盖了会话管理、上下文控制、并行协作等方方面面,用好了能省很多事。 虽然现在 Claude Code
471 0
|
SQL 关系型数据库 MySQL
Apache Flink 漫谈系列(06) - 流表对偶(duality)性
实际问题 很多大数据计算产品,都对用户提供了SQL API,比如Hive, Spark, Flink等,那么SQL作为传统关系数据库的查询语言,是应用在批查询场景的。Hive和Spark本质上都是Batch的计算模式(在《Apache Flink 漫谈系列 - 概述》我们介绍过Spark是Micr.
11002 59
|
SQL 移动开发 开发框架
1小时入门天猫精灵有屏音箱语音技能开发
本文将教你在天猫精灵上怎么开发技能或者应用。文中使用PHP的知名框架:Laravel,只需1小时帮你入门天猫精灵有屏技能开发。支持语音交互。欢迎大家转发,分享,文末还有源码共享,欢迎大家下载。
1小时入门天猫精灵有屏音箱语音技能开发
|
JavaScript 前端开发
|
编解码 程序员 数据安全/隐私保护
没错,我是高端吃瓜玩家(搞懂摩斯密码)
在电气时代刚流行的时代,并没有电话手机,人们探索的第一步是如何用电去传讯消息,在这期间摩尔斯发明了电报并且获得了专利,并且他的团队(有说是他的助手艾尔菲德·维尔发明的摩尔斯电码)配套发明了一套传输的规则被称为摩尔斯电码。
3030 0
没错,我是高端吃瓜玩家(搞懂摩斯密码)
|
JSON 自然语言处理 固态存储
大神都这么做,让 Kibana 搜索语法 query string 也能轻松上手
kibana 的搜索框默认选择了 query string 的搜索语法,虽然简洁却不简单,本文来帮大家如何轻松上手;
18640 1
大神都这么做,让 Kibana 搜索语法 query string 也能轻松上手
|
存储 安全 PHP
【反序列化漏洞】phar反序列化原理&实例分析
简单来说phar就是php压缩文档。它可以把多个文件归档到同一个文件中,而且不经过解压就能被 php 访问并执行,与file:// php://等类似,也是一种流包装器。
872 0
|
数据中心
阿里云率先达成国家绿色数据中心标准,平均PUE低于1.3
近日,工业和信息化部、国家机关事务管理局、国家能源局三部门联合印发了《关于加强绿色数据中心建设的指导意见》,提出到2022年全国新建大型、超大型数据中心PUE需达到1.4以下。记者了解到,阿里巴巴所有自研数据中心平均PUE已经低于1.3,是国内首个达成该目标的公司。
10536 11

热门文章

最新文章