干货 | 利用 pytest 玩转数据驱动测试框架

本文涉及的产品
全局流量管理 GTM,标准版 1个月
云解析 DNS,旗舰版 1个月
公共DNS(含HTTPDNS解析),每月1000万次HTTP解析
简介: 干货 | 利用 pytest 玩转数据驱动测试框架

pytest架构是什么?

首先,来看一个 pytest 的例子:

def test_a():
  print(123)
collected 1 item
test_a.py .                                                                                                            [100%]
============ 1 passed in 0.02s =======================

输出结果很简单:收集到 1 个用例,并且这条测试用例执行通过。

此时思考两个问题:

1.pytest 如何收集到用例的?

2.pytest 如何把 python 代码,转换成 pytest 测试用例(又称 item) ?

pytest如何做到收集到用例的?

这个很简单,遍历执行目录,如果发现目录的模块中存在符合“ pytest 测试用例要求的 python 对象”,就将之转换为 pytest 测试用例。

比如编写以下 hook 函数:

def pytest_collect_file(path, parent):
    print("hello", path)
hello C:\Users\yuruo\Desktop\tmp\tmp123\tmp\testcase\__init__.py
hello C:\Users\yuruo\Desktop\tmp\tmp123\tmp\testcase\conftest.py
hello C:\Users\yuruo\Desktop\tmp\tmp123\tmp\testcase\test_a.py

会看到所有文件内容。

pytest 像是包装盒,将 python 对象包裹起来,比如下图:

当写好 python 代码时:

def test_a:
    print(123)

会被包裹成 Function :

<Function test_a>

可以从 hook 函数中查看细节:

def pytest_collection_modifyitems(session, config, items):
    pass

1080×441 72.6 KB

于是,理解包裹过程就是解开迷题的关键。pytest 是如何包裹 python 对象的?

下面代码只有两行,看似简单,但暗藏玄机!

def test_a:
    print(123)

把代码位置截个图,如下:

我们可以说,上述代码是处于“testcase包”下的 “test_a.py模块”的“test_a函数”, pytest 生成的测试用例也要有这些信息:

处于“testcase包”下的 “test_a.py模块”的“test_a测试用例:

把上述表达转换成下图:

pytest 使用 parent 属性表示上图层级关系,比如 Module 是 Function 的上级, Function 的 parent 属性如下:

<Function test_a>:
  parent: <Module test_parse.py>

当然 Module 的 parent 就是 Package:

<Module test_parse.py>:
  parent: <Package tests>

这里科普一下,python 的 package 和 module 都是真实存在的对象,你可以从 obj 属性中看到,比如 Module 的 obj 属性如下:

1080×153 68.4 KB


如果理解了 pytest 的包裹用途,非常好!我们进行下一步讨论:如何构造 pytest 的 item ?

以下面代码为例:

def test_a:
    print(123)

构造 pytest 的 item ,需要:

3.构建 Package

4.构建 Module

5.构建 Function

以构建 Function 为例,需要调用其from_parent()方法进行构建,其过程如下图:

,就可以猜测出,“构建 Function”一定与其 parent 有不小联系!又因为 Function 的 parent 是 Module :

根据下面 Function 的部分代码(位于 python.py 文件):

class Function(PyobjMixin, nodes.Item):
    # 用于创建测试用例
    @classmethod
    def from_parent(cls, parent, **kw):
        """The public constructor."""
        return super().from_parent(parent=parent, **kw)
    # 获取实例
    def _getobj(self):
        assert self.parent is not None
        return getattr(self.parent.obj, self.originalname)  # type: ignore[attr-defined]
    # 运行测试用例
    def runtest(self) -> None:
        """Execute the underlying test function."""
        self.ihook.pytest_pyfunc_call(pyfuncitem=self)

得出结论,可以利用 Module 构建 Function!其调用伪代码如下:

Function.from_parent(Module)

既然可以利用 Module 构建 Function, 那如何构建 Module ?

当然是利用 Package 构建 Module!

Module.from_parent(Package)

既然可以利用 Package 构建 Module 那如何构建 Package ?

别问了,快成套娃了,请看下图调用关系:

1080×157 33.3 KB

pytest 从 Config 开始,层层构建,直到 Function !Function 是 pytest 的最小执行单元。

手动构建 item 就是模拟 pytest 构建 Function 的过程。也就是说,需要创建 Config ,然后利用 Config 创建 Session ,然后利用 Session 创建 Package ,…,最后创建 Function。

其实没这么复杂, pytest 会自动创建好 Config, Session和 Package ,这三者不用手动创建。

比如编写以下 hook 代码,打断点查看其 parent 参数:

def pytest_collect_file(path, parent):
    pass

1080×387 112 KB

如果遍历的路径是某个包(可从path参数中查看具体路径),比如下图的包:

其 parent 参数就是 Package ,此时可以利用这个 Package 创建 Module :

编写如下代码即可构建 pytest 的 Module ,如果发现是 yaml 文件,就根据 yaml 文件内容动态创建 Module 和 module :

from _pytest.python import Module, Package
def pytest_collect_file(path, parent):
    if path.ext == ".yaml":
        pytest_module = Module.from_parent(parent, fspath=path)
        # 返回自已定义的 python module
        pytest_module._getobj = lambda : MyModule
        return pytest_module

需要注意,上面代码利用猴子补丁改写了 _getobj 方法,为什么这么做?

Module 利用 _getobj 方法寻找并导入(import语句) path 包下的 module ,其源码如下:

# _pytest/python.py Module
class Module(nodes.File, PyCollector):
    def _getobj(self):
        return self._importtestmodule()
def _importtestmodule(self):
    # We assume we are only called once per module.
    importmode = self.config.getoption("--import-mode")
    try:
        # 关键代码:从路径导入 module
        mod = import_path(self.fspath, mode=importmode) 
    except SyntaxError as e:
        raise self.CollectError(
            ExceptionInfo.from_current().getrepr(style="short")
        ) from e
        # 省略部分代码...

但是,如果使用数据驱动,即用户创建的数据文件 test_parse.yaml ,它不是 .py 文件,不会被 python 识别成 module (只有 .py 文件才能被识别成 module)。

这时,就不能让 pytest 导入(import语句) test_parse.yaml ,需要动态改写 _getobj ,返回自定义的 module !

因此,可以借助 lambda 表达式返回自定义的 module :

lambda : MyModule

这就涉及元编程技术:动态构建 python 的 module ,并向 module 中动态加入类或者函数:

import types
# 动态创建 module
module = types.ModuleType(name)
def function_template(*args, **kwargs):
    print(123)
# 向 module 中加入函数
setattr(module, "test_abc", function_template)

综上,将自己定义的 module 放入 pytest 的 Module 中即可生成 item :

# conftest.py
import types
from _pytest.python import Module
def pytest_collect_file(path, parent):
    if path.ext == ".yaml":
        pytest_module = Module.from_parent(parent, fspath=path)
        # 动态创建 module
        module = types.ModuleType(path.purebasename)
        def function_template(*args, **kwargs):
            print(123)
        # 向 module 中加入函数
        setattr(module, "test_abc", function_template)
        pytest_module._getobj = lambda: module
        return pytest_module

创建一个 yaml 文件,使用 pytest 运行:

849×99 3.93 KB

======= test session starts ====
platform win32 -- Python 3.8.1, pytest-6.2.4, py-1.10.0, pluggy-0.13.1
rootdir: C:\Users\yuruo\Desktop\tmp
plugins: allure-pytest-2.8.11, forked-1.3.0, rerunfailures-9.1.1, timeout-1.4.2, xdist-2.2.1
collected 1 item
test_a.yaml 123
.
======= 1 passed in 0.02s =====
PS C:\Users\yuruo\Desktop\tmp>

现在停下来,回顾一下,我们做了什么?

借用 pytest hook ,将 .yaml 文件转换成 python module。

作为一个数据驱动测试框架,我们没做什么?

没有解析 yaml 文件内容!上述生成的 module ,其内的函数如下:

def function_template(*args, **kwargs):
    print(123)

只是简单打印 123 。数据驱动测试框架需要解析 yaml 内容,根据内容动态生成函数或类。比如下面 yaml 内容:

test_abc:
  - print: 123

表达的含义是“定义函数 test_abc,该函数打印 123”。

可以利用 yaml.safe_load 加载 yaml 内容,并进行关键字解析,其中path.strpath代表 yaml 文件的地址:

import types
import yaml
from _pytest.python import Module
def pytest_collect_file(path, parent):
    if path.ext == ".yaml":
        pytest_module = Module.from_parent(parent, fspath=path)
        # 动态创建 module
        module = types.ModuleType(path.purebasename)
        # 解析 yaml 内容
        with open(path.strpath) as f:
            yam_content = yaml.safe_load(f)
            for function_name, steps in yam_content.items():
                def function_template(*args, **kwargs):
                    """
                    函数模块
                    """
                    # 遍历多个测试步骤 [print: 123, print: 456]
                    for step_dic in steps:
                        # 解析一个测试步骤 print: 123
                        for step_key, step_value in step_dic.items():
                            if step_key == "print":
                                print(step_value)
                # 向 module 中加入函数
                setattr(module, function_name, function_template)
        pytest_module._getobj = lambda: module
        return pytest_module

上述测试用例运行结果如下:

=== test session starts ===
platform win32 -- Python 3.8.1, pytest-6.2.4, py-1.10.0, pluggy-0.13.1
rootdir: C:\Users\yuruo\Desktop\tmp
plugins: allure-pytest-2.8.11, forked-1.3.0, rerunfailures-9.1.1, timeout-1.4.2, xdist-2.2.1
collected 1 item
test_a.yaml 123
.
=== 1 passed in 0.02s ====

当然,也支持复杂一些的测试用例:

test_abc:
  - print: 123
  - print: 456
test_abd:
  - print: 123
  - print: 456

其结果如下:

== test session starts ==
platform win32 -- Python 3.8.1, pytest-6.2.4, py-1.10.0, pluggy-0.13.1
rootdir: C:\Users\yuruo\Desktop\tmp
plugins: allure-pytest-2.8.11, forked-1.3.0, rerunfailures-9.1.1, timeout-1.4.2, xdist-2.2.1
collected 2 items
test_a.yaml 123
456
.123
456
.
== 2 passed in 0.02s ==

利用pytest创建数据驱动测试框架就介绍到这里啦,希望能给大家带来一定的帮助。大家有什么不懂的地方或者有疑惑也可以留言讨论哈,让我们共同进步呦!


原文链接


更多技术文章,有惊喜哟,确定不点一下?

相关文章
|
6天前
|
存储 Java 关系型数据库
“代码界的魔法师:揭秘Micronaut框架下如何用测试驱动开发将简单图书管理系统变成性能怪兽!
【9月更文挑战第6天】Micronaut框架凭借其轻量级和高性能特性,在Java应用开发中备受青睐。本文通过一个图书管理系统的案例,介绍了在Micronaut下从单元测试到集成测试的全流程。首先,我们使用`@MicronautTest`注解编写了一个简单的`BookService`单元测试,验证添加图书功能;接着,通过集成测试验证了`BookService`与数据库的交互。整个过程展示了Micronaut强大的依赖注入和测试支持,使测试编写变得更加高效和简单。
22 4
|
9天前
|
IDE 测试技术 持续交付
Python自动化测试与单元测试框架:提升代码质量与效率
【9月更文挑战第3天】随着软件行业的迅速发展,代码质量和开发效率变得至关重要。本文探讨了Python在自动化及单元测试中的应用,介绍了Selenium、Appium、pytest等自动化测试框架,以及Python标准库中的unittest单元测试框架。通过详细阐述各框架的特点与使用方法,本文旨在帮助开发者掌握编写高效测试用例的技巧,提升代码质量与开发效率。同时,文章还提出了制定测试计划、持续集成与测试等实践建议,助力项目成功。
34 5
|
9天前
|
机器学习/深度学习 人工智能 自然语言处理
AI驱动的自动化测试:提升软件质量的未来之路
【9月更文挑战第3天】AI驱动的自动化测试是提升软件质量的未来之路。它借助AI技术的力量,实现了测试用例的智能生成、测试策略的优化、故障预测与定位等功能的自动化和智能化。随着技术的不断进步和应用场景的不断拓展,AI驱动的自动化测试将在未来发挥更加重要的作用,为软件开发和运维提供更加高效、准确和可靠的解决方案。
|
11天前
|
测试技术 C# 图形学
掌握Unity调试与测试的终极指南:从内置调试工具到自动化测试框架,全方位保障游戏品质不踩坑,打造流畅游戏体验的必备技能大揭秘!
【9月更文挑战第1天】在开发游戏时,Unity 引擎让创意变为现实。但软件开发中难免遇到 Bug,若不解决,将严重影响用户体验。调试与测试成为确保游戏质量的最后一道防线。本文介绍如何利用 Unity 的调试工具高效排查问题,并通过 Profiler 分析性能瓶颈。此外,Unity Test Framework 支持自动化测试,提高开发效率。结合单元测试与集成测试,确保游戏逻辑正确无误。对于在线游戏,还需进行压力测试以验证服务器稳定性。总之,调试与测试贯穿游戏开发全流程,确保最终作品既好玩又稳定。
36 4
|
11天前
|
测试技术 C# 开发者
“代码守护者:详解WPF开发中的单元测试策略与实践——从选择测试框架到编写模拟对象,全方位保障你的应用程序质量”
【8月更文挑战第31天】单元测试是确保软件质量的关键实践,尤其在复杂的WPF应用中更为重要。通过为每个小模块编写独立测试用例,可以验证代码的功能正确性并在早期发现错误。本文将介绍如何在WPF项目中引入单元测试,并通过具体示例演示其实施过程。首先选择合适的测试框架如NUnit或xUnit.net,并利用Moq模拟框架隔离外部依赖。接着,通过一个简单的WPF应用程序示例,展示如何模拟`IUserRepository`接口并验证`MainViewModel`加载用户数据的正确性。这有助于确保代码质量和未来的重构与扩展。
21 0
|
11天前
|
测试技术 Java Spring
Spring 框架中的测试之道:揭秘单元测试与集成测试的双重保障,你的应用真的安全了吗?
【8月更文挑战第31天】本文以问答形式深入探讨了Spring框架中的测试策略,包括单元测试与集成测试的有效编写方法,及其对提升代码质量和可靠性的重要性。通过具体示例,展示了如何使用`@MockBean`、`@SpringBootTest`等注解来进行服务和控制器的测试,同时介绍了Spring Boot提供的测试工具,如`@DataJpaTest`,以简化数据库测试流程。合理运用这些测试策略和工具,将助力开发者构建更为稳健的软件系统。
21 0
|
11天前
|
API 开发者 Java
API 版本控制不再难!Spring 框架带你玩转多样化的版本管理策略,轻松应对升级挑战!
【8月更文挑战第31天】在开发RESTful服务时,为解决向后兼容性问题,常需进行API版本控制。本文以Spring框架为例,探讨四种版本控制策略:URL版本控制、请求头版本控制、查询参数版本控制及媒体类型版本控制,并提供示例代码。此外,还介绍了通过自定义注解与过滤器实现更灵活的版本控制方案,帮助开发者根据项目需求选择最适合的方法,确保API演化的管理和客户端使用的稳定与兼容。
44 0
|
11天前
|
测试技术 持续交付 开发者
Xamarin 高效移动应用测试最佳实践大揭秘,从框架选择到持续集成,让你的应用质量无敌!
【8月更文挑战第31天】竞争激烈的移动应用市场,Xamarin 作为一款优秀的跨平台开发工具,提供了包括单元测试、集成测试及 UI 测试在内的全面测试方案。借助 Xamarin.UITest 框架,开发者能便捷地用 C# 编写测试案例,如登录功能测试;通过 Xamarin 模拟框架,则可在无需真实设备的情况下模拟各种环境测试应用表现;Xamarin.TestCloud 则支持在真实设备上执行自动化测试,确保应用兼容性。结合持续集成与部署策略,进一步提升测试效率与应用质量。掌握 Xamarin 的测试最佳实践,对确保应用稳定性和优化用户体验至关重要。
24 0
|
16天前
|
网络协议 测试技术 网络安全
Python进行Socket接口测试的实现
在现代软件开发中,网络通信是不可或缺的一部分。无论是传输数据、获取信息还是实现实时通讯,都离不开可靠的网络连接和有效的数据交换机制。而在网络编程的基础中,Socket(套接字)技术扮演了重要角色。 Socket 允许计算机上的程序通过网络进行通信,它是网络通信的基础。Python 提供了强大且易于使用的 socket 模块,使开发者能够轻松地创建客户端和服务器应用,实现数据传输和交互。 本文将深入探讨如何利用 Python 编程语言来进行 Socket 接口测试。我们将从基础概念开始介绍,逐步引导大家掌握创建、测试和优化 socket 接口的关键技能。希望本文可以给大家的工作带来一些帮助~
|
18天前
|
网络协议 测试技术 网络安全
Python进行Socket接口测试的实现
在现代软件开发中,网络通信是不可或缺的一部分。无论是传输数据、获取信息还是实现实时通讯,都离不开可靠的网络连接和有效的数据交换机制。而在网络编程的基础中,Socket(套接字)技术扮演了重要角色。 Socket 允许计算机上的程序通过网络进行通信,它是网络通信的基础。Python 提供了强大且易于使用的 socket 模块,使开发者能够轻松地创建客户端和服务器应用,实现数据传输和交互。 本文将深入探讨如何利用 Python 编程语言来进行 Socket 接口测试。我们将从基础概念开始介绍,逐步引导大家掌握创建、测试和优化 socket 接口的关键技能。希望本文可以给大家的工作带来一些帮助~