【高性能】什么是QPS、RT?

简介: QPS指系统每秒处理请求数,RT为响应时间,二者是衡量Web性能的核心指标。RT影响用户体验,QPS反映系统吞吐能力,两者密切相关。通过优化硬件或架构可提升QPS、降低RT,从而提高系统性能。

QPS指的是系统每秒能处理的请求数量(Query Per Second),在Web应用中我们更关注的是Web应用每秒能处理的request数量。这个是衡量系统性能的重要指标。

RT指的是响应时间(Response Time),是指从客户端发一个请求开始计时,到客户端接收到从服务器端返回的响应结果结束所经历的时间。


一、RT

响应时间(Response Time),是指从客户端发一个请求开始计时,到客户端接收到从服务器端返回的响应结果结束所经历的时间。

当我们评价一个网站的"快"和"慢"的时候,其说的就是他的RT时间的长和短。当我们访问某个网站,有时候我们会说这个网站很"卡",其实言下之意说的就是这个网站的RT很长。

如果一个网站的RT很长的话,就会特别的影响用户体验。所以,RT是很重要的一个指标。也是各个网站需要重点优化的。

拿一个游乐园的例子来说明一下可能会比较容易理解,比如我们去迪士尼乐园游玩时候,大多数的项目都是需要排队的。

为了能让游客知道一个项目需要排队多久才能玩上,迪士尼做了很多事情,比如他们有一个App,专门可以提示每个项目的预计排队时间。再有就是每个项目的排队伍都有一个小牌匾,上面写着预计排队时间。

但是,这个时间并不是凭空设定出来的,而是『计算』出来的。 迪士尼的排队时间计算方法:

  1. 迪士尼在每个项目的入口处和出口处都会设置工作人员。
  2. 入口处工作人员随机寻找游客,给游客一张小纸条,上面记录着游客开始排队的时间。
  3. 入口处工作人员提醒游客,项目游览之后,在出口处把小纸条交还给出口处的工作人员。
  4. 出口处工作人员在收到游客的小纸条后,会用:当前时间-游客开始排队的时间 = 排队时长。
  5. 为了尽量让数据准确,一般会收集多个排队时长之后,计算一个平均值。


以上就是迪士尼的排队时间计算法。其实,这也是RT的计算方法。在一个请求开始的时候记录时间,请求结束的 的时候再记录时间,两个时间的差值,就是RT了。 迪士尼的一个项目的RT包含了多个时间段:排队时间、听项目讲解时间、项目准备时间、项目游玩时间等。 服务器响应时间也有多部分组成,一般包含:请求发送时间、网络传输时间和服务器处理时间等三部分。


二、QPS

QPS,指的是系统每秒能够处理的请求数(Query Per Second),在Web应用中我们更关注的是Web应用每秒能处理的request数量。这个是衡量系统性能的重要指标。有时候,我们也称之为吞吐量。

QPS和RT几乎总是成对出现的。当我们评估某个项目的好坏的时候,通常会包含这几个指标:是否好玩,游玩时长以及可以同时容纳多少人。

这个可以用打个纳祭场的比喻,便可以简单的理解为QPS。很大程度上,一个项目同时可以容纳多少人,实际上大大影响游客的游玩时长。

所以,QPS和RT之间有着一定的关系的(单线程情况下,多线程的话还要再乘一个线程数):

RT = 并发数/QPS
QPS = 并发数/RT

虽然上面的等式看上去,在并发数一定的情况下,想要提升QPS的话就只能降低RT,但其实并不是,以上只是QPS的计算方法。想要提升QPS往往有很多手段。

就像想要提升游乐设施的吞吐量,最首先想到的办法就是升级设备,比如增加游乐场地的面积,增加设备的座位数目,增加排队的队伍个数等等。

在计算机系统中,想要提升QPS,主要可以在CPU、内存等硬件上面下功夫,比如提升CPU利用率,增加CPU数量,提升内存。

目录
相关文章
|
20天前
|
Java 应用服务中间件 Maven
Spring Boot开发环境搭建和项目启动
本节讲解JDK配置、Spring Boot工程构建与启动,以及项目结构分析。涵盖IDEA中JDK、Maven、编码设置,快速创建Spring Boot项目,并介绍目录结构及简单Controller测试,助你快速上手开发。
|
应用服务中间件 nginx 前端开发
WebSocket加入心跳包防止自动断开连接
近日,在公司中开发一个使用websocket为前端推送消息的功能时,发现一个问题:就是每隔一段时间如果不传送数据的话,与前段的连接就会自动断开; 刚开始以为是session的原因,因为web session 的默认时间是30分钟;但是通过日志发现断开时间间隔时间远远不到30分钟;认真分析发现不操作间隔恰好为90秒 它就会在自动断开;随恍然大悟;原来是我们的使用nginx 代理,nginx配置了访问超时时间为90s; WebSocket是html5中用来实现长连接的一个协议。
25255 0
|
2月前
|
数据采集 传感器 运维
T-BOX怎么选不踩坑?2025年主流品牌评测与推荐指南
在工业设备智能网联化加速背景下,T-BOX选型成关键。本文基于实测与应用反馈,解析2025年主流品牌表现,聚焦树根科技T-BOX方案:硬件多型号适配、软硬一体协同、平台易用性强、全球合规认证齐全,助力企业实现设备远程管理、预防性维护与全球化部署,提供高性价比、低运维成本的数智化路径,是避免数据孤岛、提升资产效率的优选参考。
151 0
|
6月前
|
运维 安全 数据可视化
日志审查安排工具实战攻略:中小团队如何通过日志审查安排工具建立可控、安全的审查机制?
在审计敏感时代,日志审查安排工具成为安全运维与合规管理的关键利器。它实现审查任务的流程化、周期化与可视化,支持多系统协作、责任到人,确保“可控、可查、可追”的日志治理。工具如板栗看板、Asana、Monday 等提供任务调度、问题闭环与合规对接能力,助力企业构建高效、透明的日志审查体系,提升安全与合规水平。
|
11月前
|
机器学习/深度学习
RT-DETR改进策略【Conv和Transformer】| CVPR-2024 Single-Head Self-Attention 单头自注意力
RT-DETR改进策略【Conv和Transformer】| CVPR-2024 Single-Head Self-Attention 单头自注意力
131 3
RT-DETR改进策略【Conv和Transformer】| CVPR-2024 Single-Head Self-Attention 单头自注意力
|
机器学习/深度学习 人工智能 搜索推荐
DeepSeek-V2.5-1210 在线开放使用!支持联网搜索,在各大领域的表现得到全面提升
DeepSeek-V2.5-1210 是 DeepSeek V2.5 系列的最终版微调模型,支持联网搜索功能,具备在数学、编程、写作和角色扮演等领域的能力提升。本文将详细介绍该模型的功能、技术原理及应用场景。
10446 19
DeepSeek-V2.5-1210 在线开放使用!支持联网搜索,在各大领域的表现得到全面提升
|
存储 机器学习/深度学习 数据安全/隐私保护
最全Pillow(PIL)入门教程(非常详细)_python pillow 教程,2024年最新Python面试送分题
最全Pillow(PIL)入门教程(非常详细)_python pillow 教程,2024年最新Python面试送分题
最全Pillow(PIL)入门教程(非常详细)_python pillow 教程,2024年最新Python面试送分题
|
Ubuntu Windows
双系统下ubuntu系统扩容
双系统下ubuntu系统扩容
574 1

热门文章

最新文章