双十一聊聊低时延利器:QUIC

简介: 又值一年一度的“双十一购物节”之际,大家都在乐此不疲的聊着大流量高并发场景下的处理解决方案。提到抢购,总结就一个“快”字,筛选要快,下单要快,付款要快... 一切顺利操作之后,才有可能秒到足够便宜的好货。今天我们也围绕着“快”,来跟大家聊一下低时延利器:QUIC。

又值一年一度的“双十一购物节”之际,大家都在乐此不疲的聊着大流量高并发场景下的处理解决方案。


提到抢购,总结就一个“”字,筛选要快,下单要快,付款要快...  一切顺利操作之后,才有可能秒到足够便宜的好货。今天我们也围绕着“”,来跟大家聊一下低时延利器:QUIC


1. 性能对比试验


在介绍QUIC之前,我们先来做个性能对比试验:我们来分别ping 一下“大型购物网站:www.taobao.com 和 “大型程序员交友网站:github.com


  • www.taobao.com

微信图片_20220607230945.png

  • github.com

微信图片_20220607230950.png

经我们试验发现:taobao 耗时在几十ms级别,而github 却在上百ms级别


那为什么会有这样的差异呢?我们来分析一下其中存在的原因:


1.1 物理原因和延时


网络和延时的消耗大概分以下几类:


  • 距离远


   我们知道光速:30万公里/s,从北京-纽约的距离大概1.4w公里,那往返一次需要花费:107ms。


  • 路由丢包


   48TTL,经过16跳路由,每一跳都要处理时间且可能会丢包(大概15%丢包率)


  • 信号转换


   光 - 电信的转换消耗


  • 其他不可抗力


   例如:内容审查等等


1.2 TCP超时重传


TCP提供一种面向连接的、可靠的字节流服务,其中可靠的保证方法之一就是让从另一端收到的数据。但是数据和确认信号都有可能丢失。



名词解释:


RTT(Round Trip Time):一个连接的往返时间,即数据发送时刻到接收到确认的时刻的差值;

RTO(Retransmission Time Out):重传超时时间,即从数据发送时刻算起,超过这个时间便执行重传。


RTT和RTO 的关系是:由于网络波动的不确定性,每个RTT都是动态变化的,所以RTO也应随着RTT动态变化。


网络抖动会引起丢包重传,约2-5倍的RTT。


具体介绍请参考:https://blog.csdn.net/whgtheone/article/details/80970292


1.3 HTTP请求


HTTPS 请求存在一定的性能损耗,大致分布如下:


  • TCP握手3次通信,大概消耗约:1.5RTT


  • SSL/TLS握手4次通信,大概消耗约:2RTT


  • HTTP请求&响应,大概消耗约:1RTT


完成整个HTTP请,总计消耗量约:4.5RTT。


微信图片_20220607230952.png


2. QUIC是什么?


QUIC 是 Quick UDP Internet Connections 的缩写,谷歌发明的新传输协议。与 TCP 相比,QUIC 可以减少延迟。QUIC 协议可以在 1 到 2 个数据包(取决于连接的服务器是新的还是已知的)内,完成连接的创建(包括 TLS)。


主要的特点包括:


  • 0-1RTT完成一次加密的请求与响应


  • IETF标准


  • HTTP3标准


  • Chrome有20%的流量使用QUIC



微信图片_20220607230955.png


从表面上看:QUIC 非常类似于在 UDP 上实现的 TCP + TLS + HTTP/2


由于 TCP 是在操作系统内核和中间件固件中实现的,因此对 TCP 进行重大更改几乎是不可能的(TCP 协议栈通常由操作系统实现,如 Linux、Windows 内核或者其他移动设备操作系统)。


修改 TCP 协议是一项浩大的工程,因为每种设备、系统的实现都需要更新。但是,由于 QUIC 建立在 UDP 之上,因此没有这种限制。


和 TCP 相反,UDP 协议是无连接协议。客户端发出 UDP 数据包后,只能“假设”这个数据包已经被服务端接收。这样的好处是在网络传输层无需对数据包进行确认,但存在的问题就是为了确保数据传输的可靠性,应用层协议需要自己完成包传输情况的确认。


QUIC 与现有 TCP + TLS + HTTP/2 方案相比,有以下几点主要特征:


1)利用缓存,显著减少连接建立时间;


2)改善拥塞控制,拥塞控制从内核空间到用户空间;


3)没有 head of line 阻塞的多路复用;


4)前向纠错,减少重传;


5)连接平滑迁移,网络状态的变更不会影响连接断线


微信图片_20220607230958.png


从图上可以看出,QUIC 底层通过 UDP 协议替代了 TCP,上层只需要一层用于和远程服务器交互的 HTTP/2 API。这是因为 QUIC 协议已经包含了多路复用和连接管理,HTTP API 只需要完成 HTTP 协议的解析即可。


3. 开启通讯发展新时代


QUIC 协议开创性的使用了 UDP 协议作为底层传输协议,通过各种方式减少了网络延迟。


相信 QUIC 能够可以在不远的未来,开启通讯行业发展的新时代。

  • HTTP3,弱网环境下也可以流畅访问了,未来3-5年内可能会普及


  • 低延时直播,RTMP over QUIC,延时从2s降低到800ms


  • 即时通信(QQ、WeChat目前类似email,存在一定的延迟,还不是真正意义上的通信),网络游戏以及物联网(远程设备网络控制及通信)等都会变得有可能。


微信图片_20220607231002.png


虽然目前 QUIC 协议已经运行在一些较大的网站上,但离大范围普及还有较长的一段距离,期待 QUIC 协议规范能够成为终稿,并在除了谷歌浏览器之外的其他浏览器和应用服务器中也能够实现。

相关文章
|
存储 缓存 Java
仅花200行代码,如何将60万行的RocksDB改造成协程
采用少量手动修改+自动代码转换的方式,将大型多线程程序改造成协程。在某些重IO、高并发的场景中,帮助业务取得了性能翻倍的效果。
56218 3
仅花200行代码,如何将60万行的RocksDB改造成协程
|
存储 缓存 安全
90%的Go语言程序员map遍历方式都是错的
90%的Go语言程序员map遍历方式都是错的
623 0
|
网络安全 虚拟化 Windows
同一个局域网主机中的一台主机连接另一台主机的虚拟机
同一个局域网主机中的一台主机连接另一台主机的虚拟机
|
3月前
|
人工智能 自然语言处理 安全
Milvus x n8n :自动化拆解Github文档,零代码构建领域知识智能问答
本文介绍了在构建特定技术领域问答机器人时面临的四大挑战:知识滞后性、信息幻觉、领域术语理解不足和知识库维护成本高。通过结合Milvus向量数据库和n8n低代码平台,提出了一种高效的解决方案。该方案利用Milvus的高性能向量检索和n8n的工作流编排能力,构建了一个可自动更新、精准回答技术问题的智能问答系统,并介绍了部署过程中的可观测性和安全性实现方法。
|
5月前
|
人工智能 Linux 计算机视觉
GitHub 开源热搜!10.7k  star, MagicAnimate,让照片秒变动画短片!
MagicAnimate 是由新加坡国立大学与字节跳动团队开发的静态图像动画工具,基于视频扩散模型与时序注意力模块,可实现高保真一致动画。用户只需上传一张照片和动作视频/DensePose 数据,即可生成高质量动画,效率提升 50%。项目在 GitHub 上获得 11.1k 星,支持多 GPU 推理、模型替换及跨平台部署,适用于短视频创作、在线教育、营销广告等场景。其优势在于流畅度高、细节还原精准,是目前最强的人像动画技术之一。
344 0
|
网络协议 安全 算法
谷歌出品!读懂 QUIC 协议:更快、更高效的通信协议
谷歌出品!读懂 QUIC 协议:更快、更高效的通信协议
3188 0
|
SQL 缓存 数据库连接
拯救php性能的神器webman-数据库
Webman 框架与这些最佳数据库管理实践的结合,可为应用程序提供快速响应的用户体验,高吞吐量,提升应用程序的整体性能表现。在对数据库交互进行设计和开发时,持续关注性能指标和优化,确保数据库层面不会成为应用程序的瓶颈,这样便能充分利用 Webman 来提升 PHP 应用的性能。
496 4
|
机器学习/深度学习 人工智能 自然语言处理
【人工智能】学习人工智能需要学习哪些课程,从入门到进阶到高级课程区分
基于人工智能的多学科特性和其广泛的应用领域,学习这一技术涉及从基础理论到实践应用的各个层面。入门阶段应重点掌握数学基础、编程语言学习以及数据结构和算法等。进阶阶段需要深入机器学习、深度学习以及自然语言处理等专题。高级课程则包括专业核心课程、认知心理学与神经科学基础以及计算机图形学等课程
903 1
|
人工智能 资源调度 物联网
diffusers SD推理加速方案的调研实践总结(2)
diffusers SD推理加速方案的调研实践总结
463 9
|
存储 Shell 网络安全