负载均衡SLB压测为何不符合预期?

本文涉及的产品
传统型负载均衡 CLB,每月750个小时 15LCU
性能测试 PTS,5000VUM额度
EMR Serverless StarRocks,5000CU*H 48000GB*H
简介: 负载均衡(Server Load Balancer)是对多台云服务器进行流量分发的负载均衡服务。负载均衡可以通过流量分发扩展应用系统对外的服务能力,通过消除单点故障提升应用系统的可用性。大多数公司购买SLB后会进行压测来检测其性能是否达标,经常会发现压测不符合预期的情况,此文针对SLB7层监听部分压测场景进行分析。

负载均衡(Server Load Balancer)是对多台云服务器进行流量分发的负载均衡服务。负载均衡可以通过流量分发扩展应用系统对外的服务能力,通过消除单点故障提升应用系统的可用性。
大多数公司购买SLB后会进行压测来检测其性能是否达标,经常会发现压测不符合预期的情况,此文针对SLB7层监听部分压测场景进行分析。

压测环境准备

  • 压测客户端(使用 Apache Benchmark(简称ab) 压测)
  • 性能保障型SLB
  • 压测服务端(Nginx web server)

为什么HTTPS压测性能不及HTTP?

如下图所示,使用HTTP压测1000请求5个并发的时候qps是331.7,但是使用HTTPS压测的时候qps只有34qps,很多人认为是SLB对HTTPS的处理性能不及HTTP。
_

首先可以在SLB控制台监控界面查看是否有丢弃连接和丢弃流量,如果没有丢弃连接和丢弃流量说明并未达到SLB的性能上限。
接着可以查看SLB 7层访问日志,看下request_time,通过下图可以看到不管是HTTP还是HTTPS,SLB的响应时间都非常快,且request_time并没有明显增大的情况,响应的状态码也都是200,从此可以判断SLB后端服务器没有达到瓶颈,SLB本身也没达到瓶颈.
requestt
那为什么会出现HTTPS压测性能不及HTTP的感觉呢?是因为AB压测的时候其实是串行进行的,当完成一个请求后才会进行下一个请求,HTTPS因为要进行SSL握手且是加密交互的,所以在SSL握手阶段耗时的时间会导致总体的QPS下降。下面通过抓包分析。可以看到HTTP的单个请求总的交互时间只有十几毫秒,但是HTTPS单个请求总的交互时间需要200多毫秒,这就导致客户端每秒发送的请求数量变少,所以这种情况并非是SLB处理不过来导致性能不行。
80_jpeg
443
如果遇到这种情况可以使用HTTP长连接压测或者增加多个客户端来压测,这时候SLB的QPS可以进一步提升。

为什么SLB并发上不去?

压测客户端压测发现SLB并发始终上不去。当客户端发送5000个请求,5个并发的时候总的qps在280左右。5个并发相当于模拟5个用户并发请求,但是每个用户自己的请求都是串行的,只有完成一个请求后才会发第二个请求。
通过netstat可以查看同一时刻差不多会有5个TCP连接发生请求
ab
1
如果SLB并未发生丢包,丢弃连接,没有响应异常状态码且7层访问日志查看request_time和upstream_request_time均比较小,那么可以增加客户端并发来提升qps,也可以增加多个客户端。

总结

如果压测SLB的时候感觉SLB性能不及预期可以通过下面几个信息判断

  1. 控制台SLB监控界面查看SLB是否有丢弃流量,丢弃连接
  2. 如果是7层监听,可以开通7层访问日志,查看压测时候状态码是否都是200,是否有异常状态码,例如5xx,4xx等
  3. 可以在7层访问日志里面查看upstream_request_time和request_times 是否有比较大的情况。

如果以上情况均没有发现异常,那可以增加压测客户端来提升qps,笔者多次遇到因为压测客户端(使用ab,jmeter等)问题,导致压测时候SLB的性能不及预期。

相关实践学习
通过性能测试PTS对云服务器ECS进行规格选择与性能压测
本文为您介绍如何利用性能测试PTS对云服务器ECS进行规格选择与性能压测。
目录
相关文章
|
Kubernetes 负载均衡 监控
记一次k8s压测发生SLB 499的串流问题
对k8s集群中的pod进行压测,压测方式是直接访问k8s前的SLB, 压测表现是 SLB (CLB 7层监听)偶发返回499报错。 最终确认问题根因是五元组复用导致串流。 关键词: 偶发499 、压测、k8s
1420 4
记一次k8s压测发生SLB 499的串流问题
|
6月前
|
负载均衡 算法 应用服务中间件
面试题:Nginx有哪些负载均衡算法?Nginx位于七层网络结构中的哪一层?
字节跳动面试题:Nginx有哪些负载均衡算法?Nginx位于七层网络结构中的哪一层?
125 0
|
6月前
|
负载均衡 应用服务中间件 API
Nginx配置文件详解Nginx负载均衡Nginx静态配置Nginx反向代理
Nginx配置文件详解Nginx负载均衡Nginx静态配置Nginx反向代理
164 4
|
5月前
|
缓存 负载均衡 算法
解读 Nginx:构建高效反向代理和负载均衡的秘密
解读 Nginx:构建高效反向代理和负载均衡的秘密
117 2
|
4月前
|
负载均衡 算法 应用服务中间件
nginx自定义负载均衡及根据cpu运行自定义负载均衡
nginx自定义负载均衡及根据cpu运行自定义负载均衡
57 1
|
4月前
|
运维 负载均衡 算法
SLB与NGINX的异同是什么
SLB与NGINX的异同是什么
402 2
|
6月前
|
负载均衡 应用服务中间件 nginx
解决nginx配置负载均衡时invalid host in upstream报错
在Windows环境下,配置Nginx 1.11.5进行负载均衡时遇到问题,服务无法启动。错误日志显示“invalid host in upstream”。检查发现上游服务器列表中,192.168.29.128的主机地址无效。负载均衡配置中,两个服务器地址前误加了"http://"。修正方法是删除上游服务器列表和proxy_pass中的"http://"。问题解决后,Nginx服务应能正常启动。
470 4
解决nginx配置负载均衡时invalid host in upstream报错
|
5月前
|
JSON 负载均衡 应用服务中间件
Nginx反向代理与负载均衡
Nginx反向代理与负载均衡
|
5月前
|
负载均衡 应用服务中间件 开发工具
技术笔记:nginx和keeplive实现负载均衡高可用
技术笔记:nginx和keeplive实现负载均衡高可用