58到家通用实时消息平台架构细节(Qcon2016)

本文涉及的产品
容器服务 Serverless 版 ACK Serverless,317元额度 多规格
容器服务 Serverless 版 ACK Serverless,952元额度 多规格
简介: 2016Qcon北京,业务核心架构场,《58到家通用实时消息平台架构细节》。

一、解决什么问题 + 难点

解决什么业务问题

(1)端到云的实时上报需求:58速运司机端GPS实时上报

(2)云到端的实时推送需求:58速运司机订单实时推送

(3)端到端的聊天消息需求:用户、商户、客服之间的聊天沟通

难点:

(1)APP无线环境下消息可达性

(2)通用性,平台实现尽量与业务解耦

二、传统解决方案与潜在不足

【端到云:http轮询上报GPS消息】
image.png

方案一:直接通过业务线web-server写DB

image.png

方案二:通用web-server层调用业务服务层写DB

潜在不足:

(1)http短连接代价高(反复创建与销毁连接)

(2)web-server层吞吐量较低(每秒处理千级别请求)

【云到端:通过第三方push或者推送服务】

方案一:通过APNs或者米推等第三方推送

方案二:通过自己搭建mqtt服务推送

潜在不足:

(1)第三方可达性与实时性无法保证,第三方会进行推送限速

(2)mqtt可用性是个问题

【端到端:结合上面两种方法实现】

image.png

传统方案往往可以通过结合【端到云】与【云到端】来结合解决【端到端】的实时消息推送问题。

三、通用实时消息平台实现细节

业务的分析与抽象:司机、用户、商家、客服均为“在线”业务

【端到云的优化】

image.png

传统方案潜在的问题:http轮询效率不高,web-server性能有限

优化TIPS:消息平台使用tcp长连接(如上图)

image.png

潜在的问题:消息平台与业务线app-server耦合,需要switch case业务线类型来分发投递消息,新增业务线需要新增RPC调用(如上图)

优化TIPS:使用消息总线msg-queue解耦(如下图)
image.png

可以看到,使用消息总线后,新增消息发送方,消息平台只需要配置消息类型与消息总线主题的映射关系,新增的app-server消费方订阅新的主题即可,实现消息平台与业务的解耦。

【云到端的优化】

潜在的问题:可用性问题与第三方限速

优化TIPS:自己提供消息平台集群,提供RPC接口,实现“云到端”的消息通道

image.png

这里要注意的是,“端到云”使用消息总线,是为了业务解耦。“云到端”直接使用RPC接口,也是为了业务解耦,新增消息推送方,消息平台无需改动代码。

潜在的问题:不少司机推送订单无回复,抢单率比预期的低

优化TIPS:引入状态实时存储,只有“在线”状态的用户才推送消息

image.png

【端到端的优化】

image.png

如果业务无关,则直接通过tcp通道投递;如果业务相关,发送方先来一个“端到云”的投递(通过mq),业务服务器处理再反向来一个“云到端”的投递(RPC)给接收方。

潜在问题:如果接收方不在线怎么办

优化TIPS:增加DB存储离线消息

潜在的问题:无线环境下经常网络不稳(例如进出电梯断网),消息经常丢失

优化TIPS:消息平台收到消息先落地数据库,接收方收到后应用层ACK再删除,以保证不丢失

image.png

如上图(本文最重要的2张图之一),整个消息投递流程为:

(1)发送发将消息发给消息平台

(2)消息平台先将消息落地DB

(3)消息平台回复发送方消息发送成功(此时和接收方是否接到无关)

(3)与此同时,并行的把消息投递给接收方(如果不在线就存离线了)

(4)接收方应用层ACK表示收到了消息

(5)消息平台将消息删除

(6)告之接收方ACK已经成功处理

可以看到,是使用“应用层ACK来解决消息可达性问题的”

潜在问题:发送方没有收到第3步骤中的消息平台回复怎么办?

优化TIPS:发送方重发(服务器无状态)

潜在问题:接收方收到重发的冗余消息怎么办?

优化TIPS:接收方去重(可以做到服务端完全无状态,只需要简单投递消息即可)

【分层架构说明】

image.png

整个系统的分层架构如上图(本文最重要的2张图之二),整个消息平台系统由:

(1)消息平台在APP里的msg-sdk,向APP提供帅气的接口

(2)msg-gate,整个消息平台的tcp接入门户,保持tcp长连接,初步攻防,加解密,压缩解压缩

(3)msg-logic,整个消息平台逻辑处理的部分

(4)redis,高可用redis集群存储用户在线状态online/offline,以及用户在哪一台msg-gate接入(如果在线)

(5)DB,存储离线消息

非消息平台的几个业务部分:

(1)APP:业务方APP,可以有多个,通过msg-sdk来接入消息平台

(2)mq:消息平台通过mq来给业务方服务器发“端到云”的消息

(3)app-server:业务方后端,可以有多个,通过mq接收“端到云”的消息,通过RPC发送“云到端”的消息

【对外提供的接口说明】

消息平台对业务方提供的接口是很少很通用的接口。

msg-sdk对APP提供的核心接口有:

(1)login:接入消息平台

(2)logout:登出消息平台

(3)c2s:发送client to server“端到云”的消息

(4)c2c:发送client to client“端到端”的消息

(5)get-offline-msg:拉取离线消息

(6)on-msg-recieved:收到消息的callback回调接口

消息平台对app-server提供的核心接口有:

(1)s2c:发送server to client“云到端”的消息

其他业务方不需要关注,是msg-sdk与消息平台之间的内部接口有:

(1)keepalive:用于msg-sdk与消息平台的连接保持(对业务方透明)

(2)c2c-ack:用户c2c接口的应用层ack接口(对业务方透明)

【如何实现跨帐号体系的聊天】

既然是通用的消息平台,如何实现跨帐号体系的消息发送呢(即如何实现qq与旺旺的聊天)?

解决方案:不再使用uid作为整个系统运行的key,而使用domain+uid,或者appid+uid来作为整个系统运行的key

潜在耦合点:这样的话,login接口的逻辑处理,消息平台需要switch case (domain或者appid)来进行不同的登录验证,与业务有一定的耦合,不过新增帐号体系的频度很低,远比新增消息类型低

【协议的扩展性设计】

APP本质是cs架构,一旦放出去的版本就很难收回来,其兼容系要求远比bs架构难,如何做到新增功能的同时,还能方便的兼容历史旧版APP呢?

(1)如何方便的增加接口?

解决方案:协议使用定长包头 + 变长包体,使用命令号cmd来扩展新接口【这个变化对业务层是透明的,是msg-sdk与消息平台之间的事情】

(2)对于同一个接口,能否增加参数,而不影响旧版本的APP?

解决方案:使用可扩展的序列化协议,例如protobuffer【protobuffer这个东西也对业务线透明】

(3)对于业务方,有很多种类的消息类型,有很多复杂的业务需求,如何保证业务扩展性的同时,又不会增加消息平台的复杂性,并对旧版本APP兼容?

例如业务线可能有这样的潜在需求:

a)推送一个运营消息

b)推送消息内容支持字体、字号、加粗、颜色

c)推送消息支持图片

d)业务支持“窗口震动”,以及“对方正在输入......”等需求

解决方案:使用可扩展的消息体协议(对消息平台透明),例如xml/json来支持可扩展的多样消息类型,并对旧版本APP兼容

<msg>

<type>1</type>

<fond>宋体</font>

<content>hello, world!</content>

<pic>http://pic.daojia.com/hello.jpg</pic>

</msg>

使用这种消息内容协议,能保证:扩展性好、旧版本兼容、对消息平台透明等诸多好处,强烈建议使用

四、分布式架构细节

抱歉,主持人提醒时间已到,分布式架构扩展性、负载均衡性、可用性、一致性的问题线下和大家分享,先放一个分布式架构图吧:
image.png

<广告>

如果你读到了这里,说明对消息平台还是有点兴趣的,58到家消息平台团队只有一个同学,奇缺人,欢迎有志之士加入。

一些说明:base北京,核心团队,技术导向,Java方向,和58沈剑一个团队

加入方式:(1)直接在文章下面留言(2)在公众号回复“招聘”获取加盟密钥

广告完毕>

五、总结

(1)“端到云”消息投递:TCP消息通道,消息总线业务解耦

(2)“云到端”消息投递:提供RPC接口,引入状态存储

(3)“端到端”消息投递步骤如下图:
image.png

(4)“端到端”消息投递技巧

    a)先存离线消息防丢失

    b)ACK机制保证可达

    c)发送方消息重发

    d)接收方消息去重

(5)可扩展协议设计

    a)定长包头,变长包体,随时增加接口

    b)可扩展序列化协议,随时变化接口

    c)可扩展消息协议,随时增加类型

(6)支持跨帐号体系聊天(多个域):使用domain(或者appid)+uid作为综合key

(7)分层架构如下图

image.png

==【完】==

相关实践学习
通过Ingress进行灰度发布
本场景您将运行一个简单的应用,部署一个新的应用用于新的发布,并通过Ingress能力实现灰度发布。
容器应用与集群管理
欢迎来到《容器应用与集群管理》课程,本课程是“云原生容器Clouder认证“系列中的第二阶段。课程将向您介绍与容器集群相关的概念和技术,这些概念和技术可以帮助您了解阿里云容器服务ACK/ACK Serverless的使用。同时,本课程也会向您介绍可以采取的工具、方法和可操作步骤,以帮助您了解如何基于容器服务ACK Serverless构建和管理企业级应用。 学习完本课程后,您将能够: 掌握容器集群、容器编排的基本概念 掌握Kubernetes的基础概念及核心思想 掌握阿里云容器服务ACK/ACK Serverless概念及使用方法 基于容器服务ACK Serverless搭建和管理企业级网站应用
目录
相关文章
|
1月前
|
SQL 存储 分布式计算
ODPS技术架构深度剖析与实战指南——从零开始掌握阿里巴巴大数据处理平台的核心要义与应用技巧
【10月更文挑战第9天】ODPS是阿里巴巴推出的大数据处理平台,支持海量数据的存储与计算,适用于数据仓库、数据挖掘等场景。其核心组件涵盖数据存储、计算引擎、任务调度、资源管理和用户界面,确保数据处理的稳定、安全与高效。通过创建项目、上传数据、编写SQL或MapReduce程序,用户可轻松完成复杂的数据处理任务。示例展示了如何使用ODPS SQL查询每个用户的最早登录时间。
92 1
|
10天前
|
SQL 数据采集 分布式计算
【赵渝强老师】基于大数据组件的平台架构
本文介绍了大数据平台的总体架构及各层的功能。大数据平台架构分为五层:数据源层、数据采集层、大数据平台层、数据仓库层和应用层。其中,大数据平台层为核心,负责数据的存储和计算,支持离线和实时数据处理。数据仓库层则基于大数据平台构建数据模型,应用层则利用这些模型实现具体的应用场景。文中还提供了Lambda和Kappa架构的视频讲解。
【赵渝强老师】基于大数据组件的平台架构
|
15天前
|
机器学习/深度学习 人工智能 自然语言处理
医疗行业的语音识别技术解析:AI多模态能力平台的应用与架构
AI多模态能力平台通过语音识别技术,实现实时转录医患对话,自动生成结构化数据,提高医疗效率。平台具备强大的环境降噪、语音分离及自然语言处理能力,支持与医院系统无缝集成,广泛应用于门诊记录、多学科会诊和急诊场景,显著提升工作效率和数据准确性。
|
22天前
|
监控 API 调度
开放源代码平台Flynn的架构与实现原理
【10月更文挑战第21天】应用程序的生命周期涉及从开发到运行的复杂过程,包括源代码、构建、部署和运行阶段。
|
1月前
|
机器学习/深度学习 自然语言处理 搜索推荐
大厂 10Wqps智能客服平台,如何实现架构演进?
40岁老架构师尼恩,凭借深厚的架构功力,指导众多小伙伴成功转型大模型架构师,实现职业逆袭。尼恩的《LLM大模型学习圣经》系列PDF,从基础理论到实战应用,全面覆盖大模型技术,助力读者成为大模型领域的专家。该系列包括《从0到1吃透Transformer技术底座》《从0到1吃透大模型的基础实操》《从0到1吃透大模型的顶级架构》等,内容详实,适合不同水平的读者学习。此外,尼恩还分享了多个智能客服平台的实际案例,展示了大模型在不同场景中的应用,为读者提供了宝贵的实践经验。更多技术资料和指导,请关注尼恩的《技术自由圈》公众号。
大厂 10Wqps智能客服平台,如何实现架构演进?
|
1月前
|
消息中间件 缓存 Java
亿级流量电商平台微服务架构详解
【10月更文挑战第2天】构建一个能够处理亿级流量的电商平台微服务架构是一个庞大且复杂的任务,这通常涉及到多个微服务、数据库分库分表、缓存策略、消息队列、负载均衡、熔断降级、分布式事务等一系列高级技术和架构模式。
85 3
|
2月前
|
Cloud Native Java 编译器
将基于x86架构平台的应用迁移到阿里云倚天实例云服务器参考
随着云计算技术的不断发展,云服务商们不断推出高性能、高可用的云服务器实例,以满足企业日益增长的计算需求。阿里云推出的倚天实例,凭借其基于ARM架构的倚天710处理器,提供了卓越的计算能力和能效比,特别适用于云原生、高性能计算等场景。然而,有的用户需要将传统基于x86平台的应用迁移到倚天实例上,本文将介绍如何将基于x86架构平台的应用迁移到阿里云倚天实例的服务器上,帮助开发者和企业用户顺利完成迁移工作,享受更高效、更经济的云服务。
将基于x86架构平台的应用迁移到阿里云倚天实例云服务器参考
|
2月前
|
缓存 物联网 数据库
如何帮助我们改造升级原有架构——基于TDengine 平台
一、简介 TDengine 核心是一款高性能、集群开源、云原生的时序数据库(Time Series Database,TSDB),专为物联网IoT平台、工业互联网、电力、IT 运维等场景设计并优化,具有极强的弹性伸缩能力。同时它还带有内建的缓存、流式计算、数据订阅等系统功能,能大幅减少系统设计的复杂度,降低研发和运营成本,是一个高性能、分布式的物联网IoT、工业大数据平台。 二、TDengine 功能与组件 TDengine 社区版是一开源版本,采用的是 AGPL 许可证,它具备高效处理时序数据所需要的所有功能,包括: SQL 写入、无模式写入和通过第三方工具写入 S标准 SQL 查
76 13
|
2月前
|
监控 Android开发 iOS开发
深入探索安卓与iOS的系统架构差异:理解两大移动平台的技术根基在移动技术日新月异的今天,安卓和iOS作为市场上最为流行的两个操作系统,各自拥有独特的技术特性和庞大的用户基础。本文将深入探讨这两个平台的系统架构差异,揭示它们如何支撑起各自的生态系统,并影响着全球数亿用户的使用体验。
本文通过对比分析安卓和iOS的系统架构,揭示了这两个平台在设计理念、安全性、用户体验和技术生态上的根本区别。不同于常规的技术综述,本文以深入浅出的方式,带领读者理解这些差异是如何影响应用开发、用户选择和市场趋势的。通过梳理历史脉络和未来展望,本文旨在为开发者、用户以及行业分析师提供有价值的见解,帮助大家更好地把握移动技术发展的脉络。
92 6
|
2月前
|
编解码 Linux 开发工具
Linux平台x86_64|aarch64架构RTMP推送|轻量级RTSP服务模块集成说明
支持x64_64架构、aarch64架构(需要glibc-2.21及以上版本的Linux系统, 需要libX11.so.6, 需要GLib–2.0, 需安装 libstdc++.so.6.0.21、GLIBCXX_3.4.21、 CXXABI_1.3.9)。

热门文章

最新文章