手淘TMQ云上性能测试解决方案,解放你的双手

本文涉及的产品
性能测试 PTS,5000VUM额度
简介: 阿里QA导读:10月20日,阿里云移动研发平台EMAS应用质量管理沙龙,首站杭州取得圆满成功!此次沙龙邀请到淘宝高级技术专家韩锷,阿里云技术专家尚仁、玄工、宝文、州牧和大家进行分享交流。现场围绕无线性能测试解决方案、无线App线上质量监控实践、云原生移动DevOps解决方案、热修复服务展开分享交流。阿里云EMAS联合手淘技术,现场重磅发布了TMQ & MQC无线性能测试解决方案,方案基于上云场景进行共建,打造出通用的高标准性能分析工具。

截屏2021-11-24 上午11.10.41.png

阿里QA导读:10月20日,阿里云移动研发平台EMAS应用质量管理沙龙,首站杭州取得圆满成功!此次沙龙邀请到淘宝高级技术专家韩锷,阿里云技术专家尚仁、玄工、宝文、州牧和大家进行分享交流。现场围绕无线性能测试解决方案、无线App线上质量监控实践、云原生移动DevOps解决方案、热修复服务展开分享交流。阿里云EMAS联合手淘技术,现场重磅发布了TMQ & MQC无线性能测试解决方案,方案基于上云场景进行共建,打造出通用的高标准性能分析工具。

前言


随着互联网的蓬勃发展,APP的快速用户增长已经度过了蜜月期,每个行业的竞品软件都多达数十甚至上百款。如何在众多竞品软件中脱颖而出,保持份额增长?除了业务上的创新外,用户体验也至关重要。


从淘宝的用户反馈中我们发现“卡顿”、“反应慢”、“发热”、“白屏”的反馈都特别多。可以看出,用户在使用软件的过程中,除了基本功能,对软件体验也有越来越高的要求。另外,从用户数据分析:页面响应时长直接影响页面的跳失率,应用的流畅度直接影响用户使用时长,发热、耗电等现象会导致应用打开频次降低。


性能测试成为客户端质量来说越来越重要的一环,手淘为解决性能测试,进行了不断的工具迭代。同时阿里云面向的B端客户也遇到了类似的问题场景。因此,手淘和云智能团队决定合作,建立一套通用的新一代无线性能测试解决方案,并于10.20正式发布。

截屏2021-11-24 上午11.10.53.png

性能测试的痛点


  • 测试工具纷繁复杂,adb、Android studio、Instruments、N多其他内外部工具,每次拉群确认口径。
  • 不同工具数据不一致,自动化和手工测试数据不一致,经常花式复测对数据
  • 两端测试工具体验不一致,很多不熟悉客户端的同学工具学习成本高,学完Android还要学iOS
  • 不同机型数据差距大,没有通用机型无法产出可对比报告
  • 常规测试工具需要人工同步记录数据,没有可视化报告
  • 性能测试有竞品对比的诉求,需要同时产生自己应用的数据和竞品数据
  • 部分同学windows电脑,无法使用xcode进行iOS性能测试

通用性能测试需要解决的问题


  • 通用性:不root,不越狱,不侵入
  • 跨平台:mac, Win, Linux, 云测
  • 易用性:一键安装环境,学习成本低,双端体验一致,持久化报告
  • 稳定性:自身性能损耗小,数据准确

淘系性能测试演进之路


性能测试1.0:掌中测

  • 这是一套做在客户端端测试包上的随身测试工具
  • 优点:简单便捷,打开应用即可测试。
  • 缺点:
  • 很明显测试工具与被测应用在同一个进程下,对被测应用性能有损
  • 测试数据需要人工记录,无法持久化对比。
  • 工具只能集成到debug包,干扰较多,无法测试正式包性能
  • 无法测试其他竞品应用

截屏2021-11-24 上午11.11.04.png

性能测试2.0:TMQLab

  • 手淘性能测试桌面工具
  • 优点:
  • 采用非侵入方案,可以使用release包进行测试
  • 缺点:
  • 部分非客户端同学(比如H5开发),外包同学,本地甚至没有Java环境。
  • 验收需要特定机型测试,用户本地没有该设备

截屏2021-11-24 上午11.11.17.png

性能测试3.0:新一代无线性能测试解决方案

  • 基于远程真机平台的深度性能测试解决方案
  • 解决了TMQLab的环境和设备问题,测试更稳定
  • 采集能力云上通用,提供给集团更多平台,也提供给外部客户使用


其优点如下:  

  • 用户完全不需要准备环境,用户只需要使用账号登录到云真机平台即可测试。
  • 双端的测试体验一致,Android iOS双端性能测试再无平台门槛
  • 使用Android、iOS双端非侵入方案,无需对被测应用进行任何定制改动
  • 云上的测试用例和测试报告管理,所有历史数据均可回溯和对比
  • 测试手机部署在专业的实验室环境下,设备和网络稳定性都得到了非常大的提高  


效率提升:

  • 初次环境安装时间从1天降为0,包括Android Studio/Instruments等专业工具,以及java/adb/xcode等基础工具,且无需升级维护
  • 减少手机环境准备时间,开发者选项、合适的数据线都不需要了
  • 云真机平台的大量设备让你更轻松的找到合适的手机
  • 自动生成的可对比的性能报告,节约了大量数据统计时间。


用户再也不需要在电脑上装各种这些基础工具,产品运营同学都可以玩转性能测试。测试环境准备时间从1 day降为0,单测性能验收时间从3h降为15min。


这样一套云上性能测试方案,可以满足阿里内部和外部客户的性能测试需求


截屏2021-11-24 上午11.11.29.png

新一代无线性能测试架构


淘系联合阿里云的新一代无线性能测试解决方案,将性能测试能力封装成通用sdk,通过agent-service部署在宿主机上

截屏2021-11-24 上午11.11.38.png

图1-云上性能测试部署方案

截屏2021-11-24 上午11.11.50.png

图2-PerfSDK架构图

阿里云应用质量管理主题沙龙现场


在10.20的阿里云应用质量管理主题沙龙现场,TMQ无线性能测试解决方案作为核心产品第一个进行发布。现场反应热烈,很多参会者提出各种各样的技术问题,远远超过预期,这也侧面说明性能测试是B端客户亟需的能力。

截屏2021-11-24 上午11.12.00.png截屏2021-11-24 上午11.12.09.png截屏2021-11-24 上午11.12.20.png

image.gif

image.gif

image.gif


image.gif截屏2021-11-24 上午10.36.34.png

关注阿里巴巴技术质量阅读更多

相关实践学习
通过性能测试PTS对云服务器ECS进行规格选择与性能压测
本文为您介绍如何利用性能测试PTS对云服务器ECS进行规格选择与性能压测。
相关文章
|
人工智能 测试技术 开发者
软件测试/人工智能|Python函数与调用:解放编程力量的关键
软件测试/人工智能|Python函数与调用:解放编程力量的关键
|
4月前
|
测试技术 开发工具 iOS开发
iOS自动化测试方案(三):WDA+iOS自动化测试解决方案
这篇文章是iOS自动化测试方案的第三部分,介绍了在没有MacOS系统条件下,如何使用WDA(WebDriverAgent)结合Python客户端库facebook-wda和tidevice工具,在Windows系统上实现iOS应用的自动化测试,包括环境准备、问题解决和扩展应用的详细步骤。
310 1
iOS自动化测试方案(三):WDA+iOS自动化测试解决方案
|
4月前
|
存储 监控 数据可视化
性能监控之JMeter分布式压测轻量日志解决方案
【8月更文挑战第11天】性能监控之JMeter分布式压测轻量日志解决方案
96 0
性能监控之JMeter分布式压测轻量日志解决方案
|
4月前
|
运维 测试技术 持续交付
解决方案 - 自动化单元测试
解决方案 - 自动化单元测试
45 1
|
5月前
|
测试技术 持续交付 微服务
现代软件测试中的自动化挑战与解决方案
在现代软件开发中,自动化测试已经成为提高效率和质量的重要手段。然而,面对不断增长和复杂化的软件项目,自动化测试也面临诸多挑战。本文探讨了当前软件测试中的自动化挑战,并提出了一些解决方案,以帮助开发团队更好地应对这些挑战,提升测试效率和质量。 【7月更文挑战第11天】
50 1
|
6月前
|
存储 测试技术 Python
记一次线上安全测试中误用父类属性导致数据污染的解决方案
在线上安全测试的过程中,会使用 Nmap 进行端口扫描,为了提升端口扫描的效率,扫描策略通常是检测常用端口是否处于开放状态,并在父类中使用名为 all_open_ports 的属性来记录这些开放的端口。 在后续的测试过程中,需要检查所涉及的端口是否包含在 all_open_ports 中。如果不存在,就需要进一步对这些端口进行开放检测。如果端口的检测结果是开放的,测试将继续进行并将这些端口记录到 all_open_ports 中,以便在下次遇到相同端口时无需重复检测。 然而,由于安全测试是多线程进行的,某些情况下可以将 all_open_ports 理解为共享变量,这导致当两个不同的测试环境同
|
6月前
|
敏捷开发 测试技术 持续交付
敏捷开发中的软件测试策略:挑战与解决方案
随着敏捷开发方法在软件工程领域的普及,传统的软件测试流程面临着前所未有的挑战。本文将探讨敏捷开发环境下软件测试所遇到的主要问题,并提出相应的解决策略,以期为软件测试人员和项目管理者提供实用的指导和参考。
98 0
|
7月前
|
安全 数据管理 测试技术
网络安全与信息安全:防范漏洞、加强加密与提升安全意识深入探索自动化测试框架的设计原则与实践应用化测试解决方案。文章不仅涵盖了框架选择的标准,还详细阐述了如何根据项目需求定制测试流程,以及如何利用持续集成工具实现测试的自动触发和结果反馈。最后,文中还将讨论测试数据管理、测试用例优化及团队协作等关键问题,为读者提供全面的自动化测试框架设计与实施指南。
【5月更文挑战第27天】 在数字化时代,网络安全与信息安全已成为维护国家安全、企业利益和个人隐私的重要环节。本文旨在分享关于网络安全漏洞的识别与防范、加密技术的应用以及提升安全意识的重要性。通过对这些方面的深入探讨,我们希望能为读者提供一些实用的建议和策略,以应对日益严峻的网络安全挑战。 【5月更文挑战第27天】 在软件开发周期中,自动化测试作为保障软件质量的关键步骤,其重要性日益凸显。本文旨在剖析自动化测试框架设计的核心原则,并结合具体案例探讨其在实际应用中的执行策略。通过对比分析不同测试框架的优缺点,我们提出一套高效、可扩展且易于维护的自动
|
7月前
|
存储 安全 算法
光伏逆变器在环测试解决方案
本文介绍了光伏行业的背景及其在全球清洁能源发展中的重要性,随着技术进步,光伏组件成本下降,效率提升,分布式系统普及,储能技术的应用解决了光伏发电的不稳定性。光伏变流器的入网检测至关重要,涉及并网检测、电气参数、动态响应、防电击保护和电网保护功能等方面。EasyGo提供的基于CPU+FPGA的HIL实时仿真器用于光伏变流器的半实物仿真测试,支持拓扑结构研究、工况测试、电能质量验证和控制算法验证。文中还提到了基于PXIBox 5442的储能变流器实时仿真方案及相关的测试内容,如频率扰动、高/低电压穿越、孤岛预防和电能质量测试等。
|
7月前
|
存储 应用服务中间件 网络安全
Android 网络链接稳定性测试解决方案
Android 网络链接稳定性测试解决方案
150 0