现状分析
- 组件个数多,回归成本高
常用分发消费业务,组件上百个,回归用例中组件部分占比较高,版本回归时需要快速完成覆盖测试,找出其中有问题的组件。
- 运营配置组合多,千人千面,适配工作量大
元数据的多样性加上不同的运营策略,端上组件千人千面,在视觉升级或技术改造项目中,组件的适配测试是必须的,要完成Top机型的适配,工作量比较大。
- 常规UI自动化验证粒度粗
现有核心场景自动化针对组件的测试用例,UI层面的验证粒度很粗,只能验证组件View是否存在,不能验证具体控件(比如组件内坑位上的主、副标题等)是否存在;而且原生的Dump工具,双端的定位方式不同,Case需要维护2套。
- 基于原生定位的自动化易受技术改造的影响,维护成本高
优酷首页开发为了提升性能对View做了一些改造,导致自动化维护成本增加,诸如此类的技术改造逐渐增多,对常规自动化很有挑战。
通过分析组件现状,我们结合现有Mock和图像识别的能力,打造了组件化智能测试方案,期望像测试服务端接口一样测试移动端组件。
项目方案
从以下5个方面解决问题:
方案价值
- 通过Mock打造数据驱动的组件化测试方案,提高组件测试效率,和用户体验;
- 基于图像识别和Mock,减少对端测试系统的依赖性,提高测试稳定性;
- 将服务端引流数据应用到客户端,打造客户端数据工厂,提高测试数据覆盖度;
整体架构
数据工厂
针对移动端和服务端组件化架构,对线上引流数据、端效工具2个通道的数据进行抽象化解析和存储,该方案支持单坑位/多坑位的模板存储,正常数据/异常数据生成,快速构造不同业务丰富的组件测试数据。
目前,数据工厂已经完成一期建设,主要是将上述能力平台化展示,能够快速的支持组件自动化的数据构造需求,比如Mock数据的编辑、组合、生成,配置文件的生成。
图像识别能力
图像识别能力使用的是优酷图像识别的服务,借助该能力能够提高组件验证能力,降低件验证难度。
组件专项的图像识别方案确立比较坎坷,经历了多次评估、实验、否定,总结下来分为二期。
一期:算法针对业务进行了深度学习,抽离了组件划分规则,能够将页面布局按服务端接口样式下发数据结构。
该方案算法学习成本大,组件样式多样,组件划分规则不再,同时,很多业务逻辑由图像识别来承接,业务方扩展不灵活,所以又设计了二期方案。
二期:设计了组件标注界面,将组件布局划分的能力开放给业务方,业务方到平台上传截图,对组件各层布局标注后保存。
自动化使用时只需传截图和标注Id,图像识别服务根据配置Id获取标注布局后将最终识别数据返回,包括文本和坐标。
(左右滑动查看图片)
自动化测试
有了数据工厂的数据构造和配置化的布局识别能力,就可以打造数据驱动的组件智能测试了。
自动化使用的是优酷客户端自动化框架(该框架在蚂蚁移动端自动化框架基础上对通用流程进行了封装),结合业务沉淀的组件测试策略,设计了数据处理类,涉及数据请求和应用,数据映射和对比,业务方只需要构造测试数据配置文件,编写业务逻辑,对比部分直接继承公共Case,公共Case用来处理核心的UI对比和点击验证。
基本流程及逻辑
自动化将相似度识别与配置化布局识别的方案结合,共同完成UI和点击验证部分。测试用例就2步,UI验证、点击验证,UI验证有相似度对比和配置化布局对比2种方案,点击验证有配置化坐标点击和传统方式点击2种方案。
根据是否有对比基线图、是否有配置化标注ID、相似度UI对比是否通过,测试分为5个逻辑线:
- 没有相似度对比基线图时:Mock后仅截图上传,不做UI和点击验证;
- 有相似度对比基线图,且有配置化标注ID时:执行相似度UI验证,通过则进行配置化坐标点击验证;
- 有相似度对比基线图,且有配置化标注ID时:执行相似度UI验证,不通过再进行配置化布局UI验证,然后进行配置化坐标点击验证;
- 有相似度对比基线图,无配置化标注ID时:执行相似度UI验证,通过则进行传统方式点击验证;
有相似度对比基线图,无配置化标注ID时:执行相似度UI验证,不通过再进行配置化布局UI验证,然后进行传统方式点击验证;
项目效果及应用
目前首页/频道页已经完成自动化接入和应用,清洗后的数据,涉及通用组件、双列组件几十个,mock文件上百个,覆盖90%以上线上常用组件,60%以上组件测试用例可自动化。
下图是相似度对比+配置化坐标点击的执行效果,每个验证点都可查看详情图片。
下图是配置化布局UI对比的执行效果,6个坑位逐个验证,点击详情可以看到每个坑位内的核心控件(主、副标题等)都有验证结果。
下图是配置化布局UI对比的执行效果,6个坑位逐个验证,点击详情可以看到每个坑位内的核心控件(主、副标题等)都有验证结果。
未来规划
未来将会在3个核心链路继续深耕:
自动化测试侧,框架中的通用能力优化,扩展到其他测试类型,比如适配测试,扩展到Pad端;目前测试触发还是脚本层面,后续会考虑将测试融入到数据平台,可一键触发测试。
图像识别侧,二期配置化标注界面功能需要强化,支持图像可视化编辑,支持多坑位组件标注1个标准坑位即可应用其他坑位。
数据工厂侧,需要细化异常数据构造规则,覆盖更全面的业务策略,构造少而全的业务数据用例,同时,可以借助线上数据,生成回放线上热度链路用例,最终使其不局限于组件自动化而存在。