优酷移动端组件智能测试方案

本文涉及的产品
图像搜索,7款服务类型 1个月
简介: 随着优酷APP上内容运营方案和玩法的丰富,针对分发和消费业务场景,内容配置平台上的运营组件数量也在增多,移动端的回归测试工作量激增。如何跟随业务发展的脚步,又保证组件测试质量的高效率?本文将分享优酷在该方面的思考和探索

现状分析

  • 组件个数多,回归成本高

常用分发消费业务,组件上百个,回归用例中组件部分占比较高,版本回归时需要快速完成覆盖测试,找出其中有问题的组件。

  • 运营配置组合多,千人千面,适配工作量大

元数据的多样性加上不同的运营策略,端上组件千人千面,在视觉升级或技术改造项目中,组件的适配测试是必须的,要完成Top机型的适配,工作量比较大。

  • 常规UI自动化验证粒度粗

现有核心场景自动化针对组件的测试用例,UI层面的验证粒度很粗,只能验证组件View是否存在,不能验证具体控件(比如组件内坑位上的主、副标题等)是否存在;而且原生的Dump工具,双端的定位方式不同,Case需要维护2套。

  •  基于原生定位的自动化易受技术改造的影响,维护成本高

优酷首页开发为了提升性能对View做了一些改造,导致自动化维护成本增加,诸如此类的技术改造逐渐增多,对常规自动化很有挑战。

通过分析组件现状,我们结合现有Mock和图像识别的能力,打造了组件化智能测试方案,期望像测试服务端接口一样测试移动端组件。


项目方案

从以下5个方面解决问题:

image.png

方案价值

  1. 过Mock打造数据驱动的组件化测试方案,提高组件测试效率,和用户体验;
  2. 基于图像识别和Mock,减少对端测试系统的依赖性,提高测试稳定性;
  3.  将服务端引流数据应用到客户端,打造客户端数据工厂,提高测试数据覆盖度;

整体架构

image.png

数据工厂

针对移动端和服务端组件化架构,对线上引流数据、端效工具2个通道的数据进行抽象化解析和存储,该方案支持单坑位/多坑位的模板存储,正常数据/异常数据生成,快速构造不同业务丰富的组件测试数据。

目前,数据工厂已经完成一期建设,主要是将上述能力平台化展示,能够快速的支持组件自动化的数据构造需求,比如Mock数据的编辑、组合、生成,配置文件的生成。

image.png

图像识别能力

图像识别能力使用的是优酷图像识别的服务,借助该能力能够提高组件验证能力,降低件验证难度。

组件专项的图像识别方案确立比较坎坷,经历了多次评估、实验、否定,总结下来分为二期。

一期:算法针对业务进行了深度学习,抽离了组件划分规则,能够将页面布局按服务端接口样式下发数据结构。

image.png

该方案算法学习成本大,组件样式多样,组件划分规则不再,同时,很多业务逻辑由图像识别来承接,业务方扩展不灵活,所以又设计了二期方案。

二期:设计了组件标注界面,将组件布局划分的能力开放给业务方,业务方到平台上传截图,对组件各层布局标注后保存。

自动化使用时只需传截图和标注Id,图像识别服务根据配置Id获取标注布局后将最终识别数据返回,包括文本和坐标。

image.png

image.png

(左右滑动查看图片)


自动化测试

有了数据工厂的数据构造和配置化的布局识别能力,就可以打造数据驱动的组件智能测试了。

自动化使用的是优酷客户端自动化框架(该框架在蚂蚁移动端自动化框架基础上对通用流程进行了封装),结合业务沉淀的组件测试策略,设计了数据处理类,涉及数据请求和应用,数据映射和对比,业务方只需要构造测试数据配置文件,编写业务逻辑,对比部分直接继承公共Case,公共Case用来处理核心的UI对比和点击验证。

基本流程及逻辑

自动化将相似度识别与配置化布局识别的方案结合,共同完成UI和点击验证部分。测试用例就2步,UI验证、点击验证,UI验证有相似度对比和配置化布局对比2种方案,点击验证有配置化坐标点击和传统方式点击2种方案。

根据是否有对比基线图、是否有配置化标注ID、相似度UI对比是否通过,测试分为5个逻辑线:

  1. 没有相似度对比基线图时:Mock后仅截图上传,不做UI和点击验证;
  2. 有相似度对比基线图,且有配置化标注ID时:执行相似度UI验证,通过则进行配置化坐标点击验证;
  3. 有相似度对比基线图,且有配置化标注ID时:执行相似度UI验证,不通过再进行配置化布局UI验证,然后进行配置化坐标点击验证;
  4. 有相似度对比基线图,无配置化标注ID时:执行相似度UI验证,通过则进行传统方式点击验证;

有相似度对比基线图,无配置化标注ID时:执行相似度UI验证,不通过再进行配置化布局UI验证,然后进行传统方式点击验证;

image.png

项目效果及应用

目前首页/频道页已经完成自动化接入和应用,清洗后的数据,涉及通用组件、双列组件几十个,mock文件上百个,覆盖90%以上线上常用组件,60%以上组件测试用例可自动化。

下图是相似度对比+配置化坐标点击的执行效果,每个验证点都可查看详情图片。

下图是配置化布局UI对比的执行效果,6个坑位逐个验证,点击详情可以看到每个坑位内的核心控件(主、副标题等)都有验证结果

image.png

下图是配置化布局UI对比的执行效果,6个坑位逐个验证,点击详情可以看到每个坑位内的核心控件(主、副标题等)都有验证结果。

image.png


未来规划

未来将会在3个核心链路继续深耕:

自动化测试侧,框架中的通用能力优化,扩展到其他测试类型,比如适配测试,扩展到Pad端;目前测试触发还是脚本层面,后续会考虑将测试融入到数据平台,可一键触发测试。

图像识别侧,二期配置化标注界面功能需要强化,支持图像可视化编辑,支持多坑位组件标注1个标准坑位即可应用其他坑位。

数据工厂侧,需要细化异常数据构造规则,覆盖更全面的业务策略,构造少而全的业务数据用例,同时,可以借助线上数据,生成回放线上热度链路用例,最终使其不局限于组件自动化而存在。

相关文章
|
2月前
|
测试技术 Linux 虚拟化
iOS自动化测试方案(五):保姆级VMware虚拟机安装MacOS
详细的VMware虚拟机安装macOS Big Sur的保姆级教程,包括下载VMware和macOS镜像、图解安装步骤和遇到问题时的解决方案,旨在帮助读者顺利搭建macOS虚拟机环境。
68 3
iOS自动化测试方案(五):保姆级VMware虚拟机安装MacOS
|
2月前
|
测试技术 开发工具 iOS开发
iOS自动化测试方案(三):WDA+iOS自动化测试解决方案
这篇文章是iOS自动化测试方案的第三部分,介绍了在没有MacOS系统条件下,如何使用WDA(WebDriverAgent)结合Python客户端库facebook-wda和tidevice工具,在Windows系统上实现iOS应用的自动化测试,包括环境准备、问题解决和扩展应用的详细步骤。
101 1
iOS自动化测试方案(三):WDA+iOS自动化测试解决方案
|
2月前
|
测试技术 数据安全/隐私保护 iOS开发
iOS自动化测试方案(四):保姆级搭建iOS自动化开发环境
iOS自动化测试方案的第四部分,涵盖了基础环境准备、iPhone虚拟机设置、MacOS虚拟机与iPhone真机的连接,以及扩展问题和代码示例,确保读者能够顺利完成环境搭建并进行iOS自动化测试。
101 0
iOS自动化测试方案(四):保姆级搭建iOS自动化开发环境
|
2月前
|
测试技术 虚拟化 iOS开发
iOS自动化测试方案(二):Xcode开发者工具构建WDA应用到iphone
这篇文章是iOS自动化测试方案的第二部分,详细介绍了在Xcode开发者工具中构建WebDriverAgent(WDA)应用到iPhone的全过程,包括环境准备、解决构建过程中可能遇到的错误,以及最终成功安装WDA到设备的方法。
100 0
iOS自动化测试方案(二):Xcode开发者工具构建WDA应用到iphone
|
2月前
|
测试技术 开发工具 虚拟化
iOS自动化测试方案(一):MacOS虚拟机保姆级安装Xcode教程
这篇文章提供了一份保姆级的教程,指导如何在MacOS虚拟机上安装Xcode,包括环境准备、基础软件安装以及USB扩展插件的使用,以实现iOS自动化测试方案的第一步。
44 0
iOS自动化测试方案(一):MacOS虚拟机保姆级安装Xcode教程
|
2月前
|
测试技术
一款功能完善的智能匹配1V1视频聊天App应该通过的测试CASE
文章列举了一系列针对1V1视频聊天App的测试用例,包括UI样式、权限请求、登录流程、匹配逻辑、消息处理、充值功能等多个方面的测试点,并标注了每个测试用例的执行状态,如通过(PASS)、失败(FAIL)或需要进一步处理(延期修改、待定、方案再定等)。
46 0
|
28天前
|
移动开发 JSON Java
Jmeter实现WebSocket协议的接口测试方法
WebSocket协议是HTML5的一种新协议,实现了浏览器与服务器之间的全双工通信。通过简单的握手动作,双方可直接传输数据。其优势包括极小的头部开销和服务器推送功能。使用JMeter进行WebSocket接口和性能测试时,需安装特定插件并配置相关参数,如服务器地址、端口号等,还可通过CSV文件实现参数化,以满足不同测试需求。
128 7
Jmeter实现WebSocket协议的接口测试方法
|
28天前
|
JSON 移动开发 监控
快速上手|HTTP 接口功能自动化测试
HTTP接口功能测试对于确保Web应用和H5应用的数据正确性至关重要。这类测试主要针对后台HTTP接口,通过构造不同参数输入值并获取JSON格式的输出结果来进行验证。HTTP协议基于TCP连接,包括请求与响应模式。请求由请求行、消息报头和请求正文组成,响应则包含状态行、消息报头及响应正文。常用的请求方法有GET、POST等,而响应状态码如2xx代表成功。测试过程使用Python语言和pycurl模块调用接口,并通过断言机制比对实际与预期结果,确保功能正确性。
121 3
快速上手|HTTP 接口功能自动化测试
|
1天前
|
JavaScript 前端开发 API
vue尚品汇商城项目-day02【9.Home组件拆分+10.postman测试接口】
vue尚品汇商城项目-day02【9.Home组件拆分+10.postman测试接口】
5 0
|
28天前
|
JavaScript 前端开发 测试技术
ChatGPT与接口测试
ChatGPT与接口测试,测试通过
32 5