曲鸟全栈UI自动化教学(一):基于页面元素定位自动化的不足和图像识别匹配自动化的优势分析

本文涉及的产品
图像搜索,7款服务类型 1个月
简介: 曲鸟全栈UI自动化教学(一):基于页面元素定位自动化的不足和图像识别匹配自动化的优势分析

一、基于元素定位自动化的不足分析


常用的Web自动化测试方法往往都是基于元素定位的方式来进行的,比如热门的selenium、appium都是基于这种方式的。


但随着react、vue的普及,以及element、antd等组件库的出现,通过元素定位的方式就出现了一些不足了。


为什么这样说呢?我们举一个简单的例子来说明:


下面是通过antd组件库来实现的一个小Demo,页面有两个按钮:【添加用户】、【修改用户】

b6222b83cd9d42fa99ad99f6d6e526b4.png


通常,如果 HTML id是唯一且不会变化时,使用id选择器是定位元素的首选方法。它们往往工作得非常快,并且放弃了复杂的 DOM 遍历带来的大量处理。如果唯一 ID 不可用,则通过CSS 选择器或Xpath选择器就变成首选方法了。(XPath性能比CSS慢一些)


下图是上述两个确定按钮的元素地址,无论标签、文本信息、还是class都是完全一样的,因为都来源antd组件库的同一组件。所以它们没有任何区别,这个时候就无法通过id选择器来定位,只能通过XPATH或CSS来定位了。


2fba73d1ac8c4f20a587faeea01b61d8.png


这个时候有的小伙伴会根据两个【确定】按钮所属层级不同(一个index是1一个index是2,)来进行定位。例如下面的代码:


先打开添加用户的弹窗,获取【确定】按钮的xpath地址:

/html/body/div[2]/div/div[2]/div/div[2]/div[3]/button[2]

再打开修改用户弹窗,获取它的【确定】按钮的xpath地址:


/html/body/div[3]/div/div[2]/div/div[2]/div[3]/button[2]


可以明显的发现:它们的div层级不一样,一个是div[3]一个是div[2],其他属性都是一样的。这样能够执行成功,也能区分出两个按钮!


但是,他们两个按钮所在的层级可不固定的是div[3]和div[2]!div[3]可能是【修改用户】弹窗,也可能是【创建用户】弹窗。它是动态的!


如果你先打开的是【修改用户】的弹窗而不是【创建用户】的弹窗,那它的【确定】按钮所在的div层级就会是div[2]不再是div[3]!


这样就与之前【添加用户】弹窗的层级产生了冲突,之前我们的用例中div[2]的元素指向的是【添加用户】的弹窗,但现在div[2]就变成【修改用户】的弹窗了,当你再次执行时就会出现问题!


所以另外更好的解决方法则是Xpath的复合条件定位,比如下面的代码,先选择class为ant-modal-root的div,然后找到它下面class为ant-modal-wrap并且style属性不含有none关键字的div,再找到该div下面按钮文本为确定的按钮


//div[@class="ant-modal-root"]/div[(@class="ant-modal-wrap") and not(contains(@style,"none"))]//button/span[text()="确 定"]        


这样就不会因为弹窗层级变化导致定位失败的原因了,还达到了元素地址复用性的目的(两个弹窗共用一个Xpath元素地址)。


但如果有子弹窗的情况下,上面的写法又会失效:

03e314a1b33b48b0bd831606b4cfc36a.png


分析上述DOM元素会发现,图片中的两个弹窗无法再通过style中是否存在none来区分了,因为他们都可见,并且分析发现只有aria-labelledby的值不一样:


ffa1f3c0c40e4aed825128f28eac0090.png

我们当然可以根据不同的属性,例如上述弹窗的标题不同来区分他们,但这样每个弹窗中的按钮就都需要写一次不同的元素地址。如果为了复用性考虑,我写了如下的代码来实现:

elements=driver.find_elements(
    By.XPATH,'//div[@class="ant-modal-root"]/div[(@class="ant-modal-wrap") and not(contains(@style,'
             '"none"))]//button/span[text()="确 定"]')
 for ele in elements:
        if ele.is_displayed():
            if ele.is_enabled():
                try:
                    ele.click()
                except ElementClickInterceptedException:
                    pass

先获取可见的【确定】按钮对象,然后遍历点击,如果点击报错的话就跳过 (报错是因为有遮罩挡住就会报错,只有页面最前的元素会可点击,刚好达到我们的目的),达到了一个元素地址三个【弹窗】的复用。


但即便这样,同样存在着下面这些不足:


DOM结构如果很大,执行会变慢,性能损耗;

为了复用性会有更多的代码逻辑判断,性能损耗;

页面代码发生修改可能需要重新定位元素,修改脚本或用例;

编写脚本或用例时,需要去分析DOM结构,调试代码,增加时间成本;

有iframe和多页面时需要单独切换;

有一定的学习成本;

这样分析下来,维护成本依然不低!那有没有解决方案呢?


肯定是有的,不然我也不会写这篇文章了!


二、解决方案


1. 讲解与演示

我们可以使用图像匹配来定位它,比如网易团队开源的airtest,类似于上述弹窗嵌套有多个【确定】按钮的情况,我们只需要截取一张【确定】按钮的图片,就能解决无数重复的确定按钮的定位了!哪怕页面代码进行了调整,只要你的按钮样式不变,还是原来的按钮的样子,也无须重新调整脚本和代码了!


这是我通过图像匹配的执行效果:

4ef3dd3b051b42dfae0e8e58042288fd.gif


两个【确定】按钮完全共用的是一张图片


2. 实践教学

现在跟着我一起从0开始利用airtest写一个简单的图像识别测试脚本吧


需求


编写一个程序,它会通过图像识别执行点击百度的【新闻】,然后点击【互联网】这两步操作


具体步骤


1.先安装airtest


pip install airtest -i https://pypi.tuna.tsinghua.edu.cn/simple


2.创建一个项目,并输入如下代码:

from airtest.core.api import *
news_path = 'news.png'
internet_path = 'internet.png'
connect_device('Windows:///')
ST.CVSTRATEGY = ["surf", "tpl"]
ST.FIND_TIMEOUT = 2
touch(Template(news_path))
touch(Template(internet_path))

3.先打开百度截取【新闻】图片,再点击新闻,截取【互联网】图片:


7d122e66a7a6457ab83b0e69cf8acbc4.png


截取的图片如下,命令为news.png并保存到代码所在目录


12cbf3f0f1fb410c884953f92ca18be4.png

ba22754540b041c6bbd9688ac791afd5.png

截取的图片如下,命令为internet.png并保存到代码所在目录


295d2b28513641a3a71ae57e9b384360.png


4.检查目录文件命名是否与代码中一致

b2e8c9f0dcf64bdfbd13b376d53f8f8f.png

5.让浏览器保持百度访问


df53b96c69be40f1bd9e6cab79818d52.png


6.执行代码然后马上切换回浏览器,执行效果如下:

0ffdf8683e004bbab7cddbcc96d08411.gif


完全脱离了元素地址的方案进行自动化测试,并且无论上Web还是App,甚至PC应用都能够兼容!


三、依然存在的问题


在使用中可能会发现,分辨率不同,截取的图片就用不了!如果被测机器的分辨率都不相同,那是不是就得需要多套图片呢?


其实airtest针对此问题也有一些解决方案:


更改识别算法 (本人亲测,效果不好!!)

通过重写官方代码来实现适配分辨率的图片压缩方法

更改识别相似度阈值

另外airtest也有不可忽视的缺点:


被测对象必须保持可见(无法隐藏浏览器进行)

界面有相同元素时无法定位

不适用多行数据、文字数据的匹配

所以airtest 和selenium相结合才是目前最好的选择!


本专栏会专门针对 airtest 和 selenium 相结合进行自动化测试的知识分享

从0到1教学,让你能够独立搭建商业级自动化测试框架!

目录
相关文章
|
2月前
|
Python
Python办公自动化:删除任意页数pdf页面
Python办公自动化:删除任意页数pdf页面
77 1
Python办公自动化:删除任意页数pdf页面
|
9天前
|
Java 测试技术 持续交付
【入门思路】基于Python+Unittest+Appium+Excel+BeautifulReport的App/移动端UI自动化测试框架搭建思路
本文重点讲解如何搭建App自动化测试框架的思路,而非完整源码。主要内容包括实现目的、框架设计、环境依赖和框架的主要组成部分。适用于初学者,旨在帮助其快速掌握App自动化测试的基本技能。文中详细介绍了从需求分析到技术栈选择,再到具体模块的封装与实现,包括登录、截图、日志、测试报告和邮件服务等。同时提供了运行效果的展示,便于理解和实践。
42 4
【入门思路】基于Python+Unittest+Appium+Excel+BeautifulReport的App/移动端UI自动化测试框架搭建思路
|
6月前
|
机器学习/深度学习 敏捷开发 存储
深入理解自动化测试中的数据驱动策略深度学习在图像识别中的应用与挑战
【5月更文挑战第20天】 在现代软件开发过程中,自动化测试已成为确保产品质量和加快市场投放速度的关键因素。数据驱动测试(DDT)作为一种高效的自动化测试策略,它允许测试用例与测试数据分离,从而增强测试案例的可重用性并提高测试覆盖率。本文将探讨数据驱动策略的核心概念、实现方法以及在实际测试中的应用,旨在为软件测试工程师提供一种系统化和模块化的测试手段。 【5月更文挑战第20天】 随着人工智能技术的飞速发展,深度学习已经成为了图像识别领域的核心技术。本文将探讨深度学习在图像识别中的应用,以及在实际应用中所面临的挑战。我们将介绍卷积神经网络(CNN)的基本概念,以及如何利用深度学习进行图像分类、目
|
3月前
|
XML JavaScript 测试技术
Web自动化测试框架(基础篇)--HTML页面元素和DOM对象
本文为Web自动化测试入门指南,介绍了HTML页面元素和DOM对象的基础知识,以及如何使用Python中的Selenium WebDriver进行元素定位、操作和等待机制,旨在帮助初学者理解Web自动化测试中的关键概念和操作技巧。
52 1
|
3月前
|
前端开发 测试技术 UED
【测试效率对比】深入分析:为何UI自动化测试的投资回报率通常低于接口自动化测试?
这篇文章深入分析了UI自动化测试与接口自动化测试的投资回报率(ROI)问题,指出UI自动化测试在某些情况下的ROI并不低,反驳了没有实施过UI自动化就轻易下结论的观点,并强调了实践的重要性和自动化测试在项目迭代中的作用。
80 1
|
3月前
|
小程序 前端开发 持续交付
小程序全栈开发中的CI/CD流程与自动化部署是一种高效的开发模式。
本文探讨小程序全栈开发中的CI/CD流程与自动化部署,介绍持续集成与部署的概念,包括自动化构建、测试、代码审查及部署实践。通过提高代码质量、迭代速度及团队协作效率,确保小程序稳定运行与良好用户体验。
84 2
|
4月前
|
测试技术 API Android开发
《手把手教你》系列基础篇(九十七)-java+ selenium自动化测试-框架设计篇-Selenium方法的二次封装和页面基类(详解教程)
【7月更文挑战第15天】这是关于自动化测试框架中Selenium API二次封装的教程总结。教程中介绍了如何设计一个支持不同浏览器测试的页面基类(BasePage),该基类包含了对Selenium方法的二次封装,如元素的输入、点击、清除等常用操作,以减少重复代码。此外,页面基类还提供了获取页面标题和URL的方法。
107 2
|
6月前
|
机器学习/深度学习 人工智能 自动驾驶
深度学习在图像识别中的应用及其挑战深入理解自动化测试中的数据驱动策略
【5月更文挑战第30天】 随着人工智能技术的飞速发展,深度学习已经成为了计算机视觉领域的核心驱动力。尤其是在图像识别任务中,深度神经网络通过多层次的特征提取和学习,显著提升了系统的准确率和泛化能力。然而,深度学习模型在实际应用中仍面临众多挑战,包括数据偏差、计算资源消耗、模型可解释性等问题。本文将探讨深度学习技术在图像识别领域的应用现状,分析其面临的主要挑战,并对未来发展趋势进行展望。
|
6月前
|
JavaScript 前端开发 Java
《手把手教你》系列技巧篇(四十九)-java+ selenium自动化测试-隐藏元素定位与操作(详解教程)
【5月更文挑战第13天】本文主要讨论了在Selenium自动化测试中如何处理前端隐藏元素的问题。隐藏元素通常是通过`type="hidden"`或`style="display: none;"`属性实现的,它们在页面上不可见,但仍然存在于HTML代码中。Selenium可以定位到这些隐藏元素,但无法直接进行点击、输入等操作,会报错“ElementNotInteractableException”。
109 3
|
6月前
|
JavaScript Java 测试技术
《手把手教你》系列技巧篇(四十六)-java+ selenium自动化测试-web页面定位toast-下篇(详解教程)
【5月更文挑战第10天】本文介绍了使用Java和Selenium进行Web自动化测试的实践,以安居客网站为例。最后,提到了在浏览器开发者工具中调试和观察页面元素的方法。
61 2