深聊性能测试,从入门到放弃之:Locust性能自动化(三)如何提高Locust性能

简介: 深聊性能测试,从入门到放弃之:Locust性能自动化(三)如何提高Locust性能

1、什么是 FastHttpUser


在介绍FastHttpUser之前,我们先看一下,Locust默认客户端使用的是啥?

Locust 默认客户端使用的是python-requests。

>> 如果不了解 python-requests,可以看一下小鱼的这篇:《requests库常用到的7个主要方法及控制访问参数》

或者官方文档,如果有足够耐心的话:《Requests》

我们接着说,使用requests是Pyhton维护非常方便的包,并且在python应用中非常广泛,栗如:爬虫,接口等。

所以,官网是非常推荐我们使用HttpUser。

但是,如果我们的测试规模非常大,数据量非常大,那么这个时候,我们就可以使用 Http客户端,该客户端使用的是geventhttpclient 而不是请求,好处呢,就是进行HTTP请求的性能提高了5~6倍,是不是很厉(尿)害(性) !!!


注:

1、提高 5~6倍,这并不意味着每个CPU内核可以模拟的用户数量将自动增加到5至6倍,因为这不去取决于负载测试脚本的其他功能;

2、如果locust脚本在执行HTTP请求时花费大量的CPU时间,那么将会得到显著的性能提升!


1.1、 geventhttpclient厉害之处

1.1.1 初识 geventhttpclient

1、geventhttpclient专门为高并发、流传输和支持HTTP 1.1持久连接而设计。

2、它旨在有效地从REST API和Twitter之类的流API中提取信息。

3、默认情况下,提供SSL支持。

>>>① geventhttpclient取决于证书CA Bundle。

>>>② 这是与Requests代码库一起提供的相同的CA Bundle,它是从Mozilla Firefox的规范集衍生而来的。

4、支持Python 2.7和Python 3.4+。不再支持Python 2.6。


官方不建议将SSL / TLS与python 2.7.9一起使用。


1.1.2 geventhttpclient实例展示

很简答的一段代码,就是通过geventhttpclient 来获取 请求,响应信息,状态码等数据。


老规矩,上代码


# -*- coding: utf-8 -*-
"""
@ auth : carl_DJ
@ time : 2020-9-30
"""
from geventhttpclient import HTTPClient
from geventhttpclient.url import URL
url  = URL('http://baidu.com')
http =HTTPClient(url.host)
#获取一个请求
response  = http.get(url.request_uri)
#读取状态码
response.status_code 
#读取返回内容
body = response.read()
#关闭链接
http.close()

1.1.3 高并发 代码实战

HTTPClient具有内置的连接池,可以在多个并发线程中使用同一个实例。

上代码,


# -*- coding: utf-8 -*-
"""
@ auth : carl_DJ
@ time : 2020-9-30
"""
import gevent.pool
import json
from geventhttpclient import HTTPClient
from geventhttpclient.url import URL
#获取某网站的token
Token = '<go to http://developers.xxx.com/tools/explorer and copy the access token>'
url = URL('https://xxx.com/me/friends')
url['access_token'] = Token
#设置 10个并发和10和连接数
http = HTTPClient.from_url(url,concurrency =10)
#设置响应请求
response = http.get(url.request_uri)
#抛出 状态
assert response.status_code == 200
#将读取的信息流,传递到json解析器中
data = json.loads(response)['data']
#定义方法,来打印friend_username
def print_friend_username(http,friend_id):
    #设置 http,friend_id 两个参数
    #url地址拼接
    fiend_url = URL('/'+str(friend_id))
    fiend_url['access_token'] = Token
    #在链接之前,线程会处于阻塞状态
    response = http.get(fiend_url.request_uri)
    assert response.status_code ==200
    friend = json.load(response)
    #判断是否存在username 
    if friend.has_key('username'):
        print (f"{firend['username']} :{friend['name']}")
    else:
        print(f"{friend['name'] has no username}")
    #设置一次运行20个线程
    pool = gevent.pool.Pool(20)
    #循环读取
    for item in data:
        friend_id = item['id']
        pool.spawn(print_friend_username,http,friend_id)
    pool.json()
    #关闭 
    http.close()

这里小鱼在强调几点:

1、信息最好是使用json解析器,快捷方便;

2、线程数根据自己是实际业务量来编写;

3、每次执行完,在最后,需要关闭http,不然耗资源。

4、小鱼自认为,注释还算明白,不明白的,可要补基础知识了!


1.1.4 数据流 代码实战

geventhttpclient支持流,这是一大特色,

响应状态具有:read(),readline()方法,他们都是以增量的方式读取。


我们来个例子,看看牛在啥地方


# -*- coding: utf-8 -*-
"""
@ auth : carl_DJ
@ time : 2020-9-30
"""
from geventhttpclient import HTTPClient
from geventhttpclient.url import URL
#本地的文件地址
url = URL('http://127.0.0.1:80/100.dat')
#获取请求
http = HTTPClient.from_url(url)
#获取响应信息
response = http.get(url.query_string)
#抛出200的说明OK的
assert response.status_code == 200
#文件的大小
CHUNK_SIZE = 1024 * 16 # 16KB
#with方法打开文件
with open('/data/100.dat', 'w') as f:
while  data:
  f.write(data)
  data = response.read(CHUNK_SIZE)

小屌丝:鱼哥,这不就是一个下载大文件的方法吗?

小鱼:是啊,

小屌丝:那这有啥稀奇的,我到没看出来啥道道。

小鱼:那你知道,下载大文件的方法那么多,我为啥偏偏喜欢用 gevent 来下载?

小屌丝:因为你现在不就是在讲 geventhttpclient嘛!(很装叉的样子)

小鱼:还有呢??

小屌丝:额…

小鱼:因为 使用geventhttpclient ,可以节省内存啊 !!!!

小屌丝:挖草~ 这也可以!!


2、如何使用FastHttpUser


我们直接上代码,

在代码中,理解如何使用


# -*- coding: utf-8 -*-
"""
@ auth : carl_DJ
@ time : 2020-9-30
"""
from locust import task,between
from locust.contrib.fasthttp import FastHttpUser
class MyUser(FastHttpUser):
  #设置时间间隔在 1~5秒之间
  wite_time = (1,5)
  @task
  def index(self):
  response = self.client.get("/")

看到没有,就是这么简单,

如果没理解@task的用法,可以参照小鱼的上一篇文章,

《深聊性能测试,从入门到放弃之:Locust性能自动化(二)代码实战》

这里有详细介绍 @task的用法,在本篇不多阐述。


注:


因为 FastHttpUser 使用的是不同的客户端(geventhttpclient)及API来实现,所以, 并不总能代替HttpUser,但是偶尔可以代替一下!!!!


3、FastHttp 的API 类


3.1、FastHttpUser类

刚刚小鱼也提到了, FastHttpUser与HttpUser(python-requests)相比,

使用的是 (geventhttpclient) 这个客户端,所以:

① 速度比HttpUser 快;

②功能比HttpUser 弱。


由于该用户的行为由其任务定义,可以通过使用 @task decorator 方法或通过设置来直接在类上声明 ,takss attribute。


此类在实例化时创建一个客户端属性,该属性是一个HTTPClient,支持在请求之间保持用户会话。


接下来,详细看一下:

1、定义FastHttpUser 类


#定义FastHttpUser 类
class FastHttpUser(environment)

2、参数及定义



# 传递给FastHttpSession的参数
connection_timeout: float= 60.0
#参数传递给FastHttpSession。默认值为True,表示不进行SSL验证。
insecure: bool= True
#参数传递给FastHttpSession。默认值5,表示4次重定向。
max_retries: int= 1
#参数传递给FastHttpSession。默认值1,表示零重试。
max_redirects: int= 5
#传递给FastHttpSession的参数
network_timeout: float= 60.0

3.2、 FastHttpSession类

关于 FastHttpSession类的内容,我们直接代码中解析:


1、定义FastHttpSession 类

#定义FastHttpSession 类
class FastHttpUser(environment,base_url,insecure = True,** kwargs)

2、参数及定义


# 发送get请求
get(Path,**kwargs)
# 发送head请求
head(Path,**kwargs)
# 发送option请求
option(Path,**kwargs)
# 发送patch请求
patch(Path,data = None,**kwargs)
# 发送post请求
post(Path,data = None,**kwargs)
# 发送put请求
put(Path,data = None,**kwargs)
#发送http请求并返回loucst.contrib.fasthttp.FastResponse 对象
request(method, path, name=None, data=None, catch_response=False, stream=False, headers=None, auth=None, json=None, allow_redirects=True, **kwargs)

这里我们单独解析一下 request方法里面的参数:

①method: 新的request 方法;


②path:请求主机地址,url;


③name:可选参数,可以指定为在Locust的统计信息中用作标签,而不是URL路径;


④data:可选参数,要在请求正文中发送的字符串/字节;


⑤catch_response:可选参数,如果已设置,则可用于发出请求,以返回上下文管理器以用作with语句的参数。可自行进行标记,例如200可以设置Success,也可以设置成Fail。


⑥stream:可选参数,

>>>>如果设置成Ture,则不会立即使用响应主体,而是可以通过访问Response对象上的stream属性来使用它;

>>>>如果设置成False,在Locust报告的请求时间中不会考虑下载响应内容的时间。


⑦headers:与请求一起发送的HTTP headers字典;


⑧auth:可选参数,身份认证(用户名、密码等);


⑨json:可选参数,在请求正文中发送的字典。


3.3、FastResponse类

1、定义FastResponse 类

#定义FastResponse 类
classFastResponse(ghc_response, request=None, sent_request=None)

2、参数及定义


① content属性:

必要时解压缩并缓冲接收到的正文。注意大文件的情况!


②headers:

包含响应标头的类对象字典;


③json():

将响应解析为json并返回一个dict;


④text属性:

以解码的字符串形式返回响应的文本内容。


小屌丝: 鱼哥,我想从头学习locust,能不能给我推荐一下哪些博文好呢?

小鱼:那你就看你鱼哥我的博文啊

小屌丝:哪些博文,快快说说,迫不及待了~~!!

小鱼:莫急,可不是莫言,且看以下几篇文章:


①、《深聊性能测试,从入门到放弃之:Locust性能自动化(一)初识Locust》


带你认识 locust,从此不再仅限于 Loadrunner、Jmeter性能功能。


②、《深聊性能测试,从入门到放弃之:Locust性能自动化(二)代码实战》


让你了解locust的内涵,自己也可以动手写性能测试脚本。


③、《深聊性能测试,从入门到放弃之:Locust性能自动化(三)提高locust性能》


目录
相关文章
|
数据采集 监控 机器人
浅谈网页端IM技术及相关测试方法实践(包括WebSocket性能测试)
最开始转转的客服系统体系如IM、工单以及机器人等都是使用第三方的产品。但第三方产品对于转转的业务,以及客服的效率等都产生了诸多限制,所以我们决定自研替换第三方系统。下面主要分享一下网页端IM技术及相关测试方法,我们先从了解IM系统和WebSocket开始。
527 4
|
10月前
|
测试技术 开发者 Python
Python单元测试入门:3个核心断言方法,帮你快速定位代码bug
本文介绍Python单元测试基础,详解`unittest`框架中的三大核心断言方法:`assertEqual`验证值相等,`assertTrue`和`assertFalse`判断条件真假。通过实例演示其用法,帮助开发者自动化检测代码逻辑,提升测试效率与可靠性。
621 1
|
10月前
|
测试技术 UED 开发者
性能测试报告-用于项目的性能验证、性能调优、发现性能缺陷等应用场景
性能测试报告用于评估系统性能、稳定性和安全性,涵盖测试环境、方法、指标分析及缺陷优化建议,是保障软件质量与用户体验的关键文档。
|
12月前
|
Web App开发 JavaScript 测试技术
Playwright 极速入门:1 小时搞定环境搭建与首个测试脚本
本文带你1小时快速入门Playwright,完成环境搭建并编写首个测试脚本。Playwright是微软推出的现代化Web自动化测试工具,支持Chromium、Firefox和WebKit三大浏览器引擎,具备跨平台、多语言(Python/JS/Java/C#)特性。其核心优势包括:智能自动等待机制减少失败率、内置录制工具实时生成脚本、多语言灵活选择,以及真移动端设备模拟能力,显著提升测试效率和可靠性。
|
算法 Java 测试技术
使用 BenchmarkDotNet 对 .NET 代码进行性能基准测试
使用 BenchmarkDotNet 对 .NET 代码进行性能基准测试
469 13
|
开发框架 .NET Java
C#集合数据去重的5种方式及其性能对比测试分析
C#集合数据去重的5种方式及其性能对比测试分析
306 11
|
开发框架 .NET Java
C#集合数据去重的5种方式及其性能对比测试分析
C#集合数据去重的5种方式及其性能对比测试分析
316 10
|
算法 Java 测试技术
Benchmark.NET:让 C# 测试程序性能变得既酷又简单
Benchmark.NET是一款专为 .NET 平台设计的性能基准测试框架,它可以帮助你测量代码的执行时间、内存使用情况等性能指标。它就像是你代码的 "健身教练",帮助你找到瓶颈,优化性能,让你的应用跑得更快、更稳!希望这个小教程能让你在追求高性能的路上越走越远,享受编程带来的无限乐趣!
1099 13
|
并行计算 算法 测试技术
C语言因高效灵活被广泛应用于软件开发。本文探讨了优化C语言程序性能的策略,涵盖算法优化、代码结构优化、内存管理优化、编译器优化、数据结构优化、并行计算优化及性能测试与分析七个方面
C语言因高效灵活被广泛应用于软件开发。本文探讨了优化C语言程序性能的策略,涵盖算法优化、代码结构优化、内存管理优化、编译器优化、数据结构优化、并行计算优化及性能测试与分析七个方面,旨在通过综合策略提升程序性能,满足实际需求。
691 1

热门文章

最新文章