万字长文:手把手教你实现一套高效的IM长连接自适应心跳保活机制

简介: 今天,我将通过本篇文章,手把手教大家实现一套可自适应的心跳保活机制,从而能高效稳定地维持诸如IM聊天这类需求的长连接。

本文作者“Carson”,现就职于腾讯公司,原题“高效保活长连接:手把手教你实现自适应的心跳保活机制”,有较多修订和改动。

1、引言

当要实现IM即时通讯聊天、消息推送等高实时性需求时,我们一般会选择长连接的通信方式。

而真正当实现长连接方式时,会遇到很多技术问题,比如最常见的长连接保活问题。

今天,我将通过本篇文章,手把手教大家实现一套可自适应的心跳保活机制,从而能高效稳定地维持诸如IM聊天这类需求的长连接。

 

学习交流:

- 移动端IM开发入门文章:《新手入门一篇就够:从零开发移动端IM

- 开源IM框架源码:https://github.com/JackJiang2011/MobileIMSDK

本文同步发布于:http://www.52im.net/thread-3908-1-1.html

2、相关文章

  1. 为何基于TCP协议的移动端IM仍然需要心跳保活机制?
  2. 一文读懂即时通讯应用中的网络心跳包机制:作用、原理、实现思路等
  3. 一种Android端IM智能心跳算法的设计与实现探讨(含样例代码)
  4. 自已开发IM有那么难吗?手把手教你自撸一个Andriod版简易IM (有源码)
  5. 跟着源码学IM(一):手把手教你用Netty实现心跳机制、断线重连机制
  6. 跟着源码学IM(五):正确理解IM长连接、心跳及重连机制,并动手实现

3、什么是长连接

认识长连接:

长连接的主要作是通过长时间保持双方连接,从而:

  • 1)提高通信速度;
  • 2)确保实时性;
  • 3)避免短时间内重复连接所造成的信道资源和网络资源的浪费。

长连接与短连接的区别:

PS:对于IM这类的开发者而言,通常大家都把HTTP协议称“短连接”、把直接基于TCPUDPWebSocket的socket称为“长连接”。

4、导致长连接断开的原因

4.1 基本概念

从上节可知,在使用长连接的情况下,双方的所有通信都建立在1条长连接上(比如1次TCP连接)。所以,长连接需要持续保持双方连接才可使得双方持续通信。

然而,实际情况是,长连接会存在断开的情况。

这些断开原因主要是:

  • 1)长连接所在进程被杀死(这主要说的是移动端);
  • 2)NAT超时;
  • 3)网络状态发生变化;
  • 4)其他不可抗因素(网络状态差、DHCP的租期等等 )。

下面,我将对每种原因进行分析。

4.2 具体分析

1)原因1:进程被杀死

当进程被杀死后,长连接也会随之断开。进程被杀在Andriod端是最常见的问题,限于篇幅就不在此展开这个话题,有兴趣可以阅读这篇:《Android P正式版即将到来:后台应用保活、消息推送的真正噩梦》。

2)原因2:NAT 超时(重点关注)

NAT超时现象如下:

 

各运营商和地区的NAT超时时间如下:

PS:上述数据来源于微信团队的《移动端IM实践:实现Android版微信的智能心跳机制》一文,随着4G、5G的普及,这些数据有可能已发生变化,请以实际测试结果为准。

特别注意:排除其他外因(网络切换、NAT超时、人为原因),TCP长连接在双方都不断开连接的情况上,本质上是不会自动中断的(也就是不需要心跳包来维持,可以验证一下:让2台电脑连上同1个Wifi,其中1台做服务器, 另1台做客户端连接服务器(无设置KeepAlive)。只要电脑、路由器不断网断电,那么,2台电脑的长连接是不会自动中断的)。

Jack Jiang注:上述论述可能不太准确,有新兴趣的读者可以详读《拔掉网线再插上,TCP连接还在吗?一文即懂!》。

3)原因3:网络状态发生变化

当移动客户端网络状态发生变化时(如移动网络 & Wifi切换、断开、重连),也会使长连接断开。

4)原因4:其他不可抗因素

如网络状态差、DHCP的租期到期等等,都会使得长连接发生 偶然的断开。DHCP的租期到期:对于 Android系统, DHCP到了租期后不会主动续约(继续使用过期IP),从而导致长连接断开。

5、高效维持长连接的解决方案

5.1 基本介绍

在了解长连接断开原因后,针对这些原因,此处给出我的高效维持长连接的解决方案(如下图所示)。

为此,若需有效维持长连接,则需要做到:

说得简单点,高效维持长连接的关键在于:

  • 1)保活:处于连接状态时要做到尽量不要断;
  • 2)重连:连接断了之后要能继续重连回来。

5.2 具体措施

1)措施1:进程保活

整体概括如下:

PS:关于Android的进程保活,这个话题就很热门了,感兴趣可以顺着下面的文章详细读一读:

  1. 应用保活终极总结(一):Android6.0以下的双进程守护保活实践
  2. 应用保活终极总结(二):Android6.0及以上的保活实践(进程防杀篇)
  3. 应用保活终极总结(三):Android6.0及以上的保活实践(被杀复活篇)
  4. Android进程保活详解:一篇文章解决你的所有疑问
  5. 微信团队原创分享:Android版微信后台保活实战分享(进程保活篇)
  6. Android P正式版即将到来:后台应用保活、消息推送的真正噩梦
  7. 全面盘点当前Android后台保活方案的真实运行效果(截止2019年前)
  8. 2020年了,Android后台保活还有戏吗?看我如何优雅的实现!
  9. 史上最强Android保活思路:深入剖析腾讯TIM的进程永生技术
  10. Android进程永生技术终极揭密:进程被杀底层原理、APP应对被杀技巧
  11. Android保活从入门到放弃:乖乖引导用户加白名单吧(附7大机型加白示例)

2)措施2:心跳保活机制

这是本文的重点,下节开始会详细解析

3)措施3:断线重连机制

原理就是:检测网络状态变化并及时判断连接的有效性。

具体实现:这个其实跟心跳保活机制是一套完整的逻辑,所以下面会在心跳保活机制中一起讲解。

6、心跳保活机制简介

心跳保活机制的整体介绍如下:

不过,很多人容易混淆把心跳机制和传统的HTTP轮询机制搞混。

下面给出二者区别:

7、主流IM的心跳机制分析和对比

对国、内外主流的移动IM产品(WhatsApp、Line、微信)进行了心跳机制的简单分析和对比。

具体请看下图:

PS:以上数据来自于微信团队分享的《移动端IM实践:WhatsApp、Line、微信的心跳策略分析》一文。

8、心跳保活机制方案总体设计

下面,我将根据市面上主流的心跳机制,设计了一套心跳机制方案。

心跳机制方案的基本流程:

对于心跳机制方案设计的主要考虑因素是:

  • 1)要保证消息的实时性;
  • 2)要考虑耗费设备的资源(网络流量、电量、CPU等等)。

从上图可以看出,对于心跳机制方案设计的要点在于:

  • 1)心跳包的规格(内容 & 大小);
  • 2)心跳发送的间隔时间;
  • 3)断线重连机制 (核心 = 如何 判断长连接的有效性)。

在下面的方案设计中,将针对这3个问题给出详细的解决方案。

9、心跳机制方案的详细设计

9.1 心跳包的规格

为了减少流量并提高发送效率,需要精简心跳包的设计。

主要从心跳包的内容和大小入手,设计原则具体如下:

设计方案:

心跳包 = 1个携带少量信息 & 大小在10字节内的信息包

9.2 心跳发送的间隔时间

为了 防止NAT超时并减少设备资源的消耗(网络流量、电量、CPU等等),心跳发送的间隔时间是整个心跳机制方案设计的重点。

心跳发送间隔时间的设计原则如下:

 

9.3 最常用的心跳间隔方案

一般,最直接且常用的心跳发送间隔时间设置方案多采用:“每隔估计 x 分钟发送心跳包1次”。其中,x <5分钟即可(综合主流移动IM产品,此处建议 x= 4分钟)。

但是,这种方案存在一些问题:

PS:关于固定心跳间隔的方案具体实现,可以详细参考:

  1. 跟着源码学IM(一):手把手教你用Netty实现心跳机制、断线重连机制》;
  2. 跟着源码学IM(五):正确理解IM长连接、心跳及重连机制,并动手实现》;
  3. 自已开发IM有那么难吗?手把手教你自撸一个Andriod版简易IM (有源码)》。

9.4 自适应心跳间隔方案

下面,我将详细讲解自适应心跳间隔时间的设计方案。

基本逻辑:

 

该方案需要解决的有2个核心问题。

1)如何自适应计算心跳间隔 从而使得心跳间隔 接近 当前NAT 超时时间?

答:不断增加心跳间隔时间进行心跳应答测试,直到心跳失败5次后,即可找出最接近 当前NAT 超时时间的心跳间隔时间。

具体请看下图:

注:只有当心跳间隔 接近 NAT 超时时间 时,才能最大化平衡 长连接不中断 & 设备资源消耗最低的问题。

2)如何检测 当前网络环境的NAT 超时时间 发生了变化 ?

答:当前发送心跳包成功 的最大间隔时间(即最接近NAT超时时间的心跳间隔) 发送失败5次后,则判断当前网络环境的NAT 超时时间 发生了变化。

具体请看下图:

注:在检测到 NAT 超时时间 发生变化后,重新自适应计算心跳间隔 从而使得心跳间隔 接近 NAT 超时时间

总结一下:统筹以上2个核心问题,总结出自适应心跳间隔时间设计方案为下图:

PS:关于自适应心跳机制的设计和实现,可以详细参考:

  1. 移动端IM实践:实现Android版微信的智能心跳机制》;
  2. 一种Android端IM智能心跳算法的设计与实现探讨(含样例代码)》。

10、断线重连机制的实现

技术上来说:长连接的心跳保活依赖于心跳机制,在心跳机制起作用的情况下,适时启动断线重连机制,在心跳机制和断线重连机制的共同作用下才能实现真正的心跳保活。但为了让逻辑更清晰,我把断线重连机制跟心跳机制单独各作为一节来讲解。本节讲的是断片线重连机制。

该机制的核心在于:如何判断长连接的有效性。即:什么情况下视为长连接断线?

1)设计原则:

基本逻辑就是:判断长连接是否有效的准则 = 服务器是否返回心跳应答。

此处需要分清长连接的“存活 & 有效“状态的区别:

2)具体方案:

实现思路:通过计数计算,若连续5次发送心跳后,服务器都无心跳应答,则视为长连接无效。

判断流程:

3)网上流传的方案:

在网上流传着一些用于判断长连接是否有效的方案,具体介绍如下:

至此,关于心跳保活机制已经讲解完毕。

11、方案小结

有必要总结一下我在上两节分享的心跳机制和断线重连机制,这两个机制组成了本文的长连接心跳保活完整逻辑。

设计方案:

流程设计:

注:标识 “灰色” 的判断流程参考上文描述。

12、进一步优化和完善心跳保活方案

12.1 基本情况

上两节中的方案依然会存在技术缺陷,从而导致长连接断开(比如:长连接本身不可用(此时重连多少次也没用))。

下面将优化和完善上述方案,从而保证 客户端与服务器依然保持着通信状态。

优化点主要是:

  • 1)确保当前网络的有效性和稳定性再开始长连接;
  • 2)自适应计算心跳包间隔时间的时机。

12.2 确保网络的有效性和稳定性后再开始长连接

问题描述:

 

解决方案:

加入到原有的心跳保活机制主流程:

12.3 自适应计算心跳包间隔时间的时机

问题描述:

 

方案设计:

 

加入到到原有的心跳保活机制主流程:

 

12.4 小结一下

13、额外思考:TCP协议自带的KeepAlive机制能否替代心跳机制?

很多人认为,TCP 协议自身就有KeepAlive机制,为何基于它的通讯链接,仍需在应用层实现额外的心跳保活机制?

  • 结论是:无法替代;
  • 原因是:TCP KeepAlive机制的作用是检测连接的有无(死活),但无法检测连接是否有效。

注:“连接有效”的定义 = 双方具备发送 & 接收消息的能力。

先来看看KeepAlive 机制是什么:

KeepAlive 的机制不可替代心跳机制的具体原因如下:

 

特别注意:

  • 1)KeepAlive 机制只是操作系统底层的一个被动机制,不应该被上层应用层使用;
  • 2)当系统关闭一个由KeepAlive 机制检查出来的死连接时,是不会主动通知上层应用的,只能通过调用相应IO操作的返回值中发现。

小结一下就是:KeepAlive机制无法代替心跳机制,需要在应用层 自己实现心跳机制以检测长连接的有效性,从而高效维持长连接。

Jack Jiang注:关于TCP本身的KeepAlive机制,可能详读:

  1. 为何基于TCP协议的移动端IM仍然需要心跳保活机制?
  2. 彻底搞懂TCP协议层的KeepAlive保活机制

14、本文总结

看完本文后,相信在高效维持长连接的需求下,你可以完美地解决了!

本文方案的主体设计就是:

方案的优化和完善内容就是:

15、参考资料

[1] TCP/IP详解 卷1:协议

[2] 为何基于TCP协议的移动端IM仍然需要心跳保活机制?

[3] 彻底搞懂TCP协议层的KeepAlive保活机制

[4] 万字长文,一篇吃透WebSocket:概念、原理、易错常识、动手实践

[5] 移动端IM实践:实现Android版微信的智能心跳机制

[6] 移动端IM实践:WhatsApp、Line、微信的心跳策略分析

[7] 微信团队原创分享:Android版微信后台保活实战分享(网络保活篇)

[8] 融云技术分享:融云安卓端IM产品的网络链路保活技术实践

[9] 阿里IM技术分享(五):闲鱼亿级IM消息系统的及时性优化实践

[10] 2020年了,Android后台保活还有戏吗?看我如何优雅的实现!

(本文同步发布于:http://www.52im.net/thread-3908-1-1.html

目录
相关文章
|
安全 算法 开发工具
用JWT技术解决IM系统Socket长连接的身份认证痛点
1、引言 随着瓜子二手车相关业务的发展,公司有多个业务线都接入了IM系统,IM系统中的Socket长连接的安全问题变得越来越重要。本次分享正是基于此次解决Socket长连接身份安全认证的实践总结而来,方案可能并不完美,但愿能起到抛砖引玉的作用,希望能给您的IM系统开发带来启发。
2525 0
|
1月前
|
存储 自然语言处理 机器人
实战揭秘:当RAG遇上企业客服系统——从案例出发剖析Retrieval-Augmented Generation技术的真实表现与应用局限,带你深入了解背后的技术细节与解决方案
【10月更文挑战第3天】随着自然语言处理技术的进步,结合检索与生成能力的RAG技术被广泛应用于多个领域,通过访问外部知识源提升生成内容的准确性和上下文一致性。本文通过具体案例探讨RAG技术的优势与局限,并提供实用建议。例如,一家初创公司利用LangChain框架搭建基于RAG的聊天机器人,以自动化FAQ系统减轻客服团队工作负担。尽管该系统在处理简单问题时表现出色,但在面对复杂或多步骤问题时存在局限。此外,RAG系统的性能高度依赖于训练数据的质量和范围。因此,企业在采用RAG技术时需综合评估需求和技术局限性,合理规划技术栈,并辅以必要的人工干预和监督机制。
104 3
|
3月前
|
数据采集 监控 测试技术
大型IM稳定性监测实践:手Q客户端性能防劣化系统的建设之路
本文以iOS端为例,详细分享了手 Q 客户端性能防劣化系统从0到1的构建之路,相信对业界和IM开发者们都有较高的借鉴意义。
138 2
|
1月前
|
人工智能 自然语言处理 搜索推荐
AI技术在智能客服系统中的应用与挑战
【9月更文挑战第32天】本文将探讨AI技术在智能客服系统中的应用及其面临的挑战。我们将分析AI技术如何改变传统客服模式,提高服务质量和效率,并讨论在实际应用中可能遇到的问题和解决方案。
258 65
|
21天前
|
人工智能 自然语言处理 搜索推荐
选型攻略 | 智能客服系统该怎么选?(好用的智能客服系统推荐)
智能客服系统的选型需要综合考虑渠道功能、系统性能、客服工作管理、客户管理以及成本效益等因素。目前合力亿捷推出的智能知识库,梳理海量知识,根据不同主题对知识进行分类,使其结构更清晰。
55 0
|
21天前
|
人工智能 自然语言处理 安全
AI技术在智能客服系统中的应用与挑战
【10月更文挑战第28天】本文将深入探讨人工智能(AI)技术在智能客服系统中的应用及其面临的挑战。我们将通过实例分析,了解AI如何改善客户服务体验,提高效率和降低成本。同时,我们也将关注AI在实际应用中可能遇到的问题,如语义理解、情感识别和数据安全等,并提出相应的解决方案。
|
1月前
|
存储 安全 开发工具
百度公共IM系统的Andriod端IM SDK组件架构设计与技术实现
本文主要介绍了百度公共IM系统的Andriod端IM SDK的建设背景、IM SDK主要结构和工作流程以及建设过程遇到的问题和解决方案。
55 3
|
2月前
|
数据挖掘 API
如何选择适合的售后工单管理系统
选择合适的售后工单管理系统需评估需求和预算,考察功能、技术支持及服务商可靠性,并全面试用评估。ZohoDesk适合初创和中小企业,具备强大的工单管理、报告分析及可定制性,助力提升服务质量和客户体验。通过合适系统,企业不仅能优化客户服务流程,还能通过数据分析支持决策,推动长远发展。
64 16
|
2月前
|
人工智能 自然语言处理 前端开发
从客服场景谈:大模型如何接入业务系统
本文探讨了大模型在AI客服中的应用。大模型虽具有强大的知识生成能力,但在处理具体业务如订单咨询、物流跟踪等问题时,需结合数据库查询、API调用等手段。文章提出用Function Call连接大模型与业务系统,允许大模型调用函数获取私域知识。通过具体示例展示了如何设计系统提示词、实现多轮对话、定义Function Call函数,并利用RAG技术检索文档内容。最后,展示了该方案在订单查询和产品咨询中的实际效果。
|
1月前
|
前端开发 JavaScript PHP
Thinkphp在线客服系统源码多语言外贸版_PHP客服系统源码Uniapp开发搭建+论文设计
Thinkphp在线客服系统源码多语言外贸版_PHP客服系统源码Uniapp开发搭建+论文设计

热门文章

最新文章

下一篇
无影云桌面