您的智能测试助理来了!蚂蚁TestAgent开源,快来体验!

简介: TestAgent 旨在构建测试领域的“智能体”,融合大模型和质量领域工程化技术,促进质量技术代系升级。我们期望和社区成员一起合作,打造创新的测试领域解决方案,构建24小时在线的测试助理服务,让测试如丝般顺滑。很高兴地宣布,我们在国内首次开源了测试行业大模型及工具——TestAgent。本次版本包含了性能最强的7B测试领域大模型,以及配套的本地模型快速发布和体验工程化框架,欢迎体验和关注!

1698034378561-507c237a-1273-41bc-817b-c8247e078e16.png

什么是TestAgent?

TestAgent 旨在构建测试领域的“智能体”,融合大模型和质量领域工程化技术,促进质量技术代系升级。我们期望和社区成员一起合作,打造创新的测试领域解决方案,构建24小时在线的测试助理服务,让测试如丝般顺滑。
很高兴地宣布,我们在国内首次开源了测试行业大模型及工具——TestAgent。本次版本包含了性能最强的7B测试领域大模型,以及配套的本地模型快速发布和体验工程化框架,欢迎体验和关注!

项目地址:
https://github.com/codefuse-ai/Test-Agent

本地Mac M1体验效果

v2-3c4162c3074fbca364cec9a922d36d3b_1440w.gif

魔搭体验效果

体验地址:
https://modelscope.cn/studios/codefuse-ai/TestGPT-7B-demo/summary

本期特性

模型:本期我们开源了测试领域模型TestGPT-7B。模型以CodeLlama-7B为基座,进行了相关下游任务的微调:
多语言测试用例生成(Java/Python/Javascript)一直以来都是学术界和工业界非常关注的领域,近年来不断有新产品或工具孵化出来,如EvoSuite、Randoop、SmartUnit等。然而传统的用例生成存在其难以解决的痛点问题,基于大模型的测试用例生成在测试用例可读性、测试场景完整度、多语言支持方面都优于传统用例生成工具。本次重点支持了多语言测试用例生成,在我们本次开源的版本中首先包含了Java、Python、Javascript的测试用例生成能力,下一版本中逐步开放Go、C++等语言。
测试用例Assert补全 对当前测试用例现状的分析与探查时,我们发现代码仓库中存在一定比例的存量测试用例中未包含Assert。没有Assert的测试用例虽然能够在回归过程中执行通过,却无法发现问题。因此我们拓展了测试用例Assert自动补全这一场景。通过该模型能力,结合一定的工程化配套,可以实现对全库测试用例的批量自动补全,智能提升项目质量水位。
工程框架:本地模型快速发布和体验工程化框架。
○ ChatBot页面
○ 模型快速启动
○ 私有化部署,本地化的GPT大模型与您的数据和环境进行交互,无数据泄露风险,100%安全

后续我们会持续迭代模型和工程化能力:
● 不断加入更多令人激动的测试域应用场景,如领域知识问答、测试场景分析等
● 支撑面向测试场景的copilot 工程框架开放,如测试领域知识智能embedding、测试通用工具API体系、智能测试Agent等,敬请期待!
● 以7B为基础,逐步扩展至13B、34B模型。欢迎关注!

性能最强的7B测试领域大模型

目前在TestAgent中,我们默认使用了TestGPT-7B模型。与当前已有开源模型相比,TestGPT-7B模型在用例执行通过率(pass@1)、用例场景覆盖(平均测试场景数)上都处于业界领先水平。
TestGPT-7B模型核心能力的评测结果如下:
● 多语言测试用例生成
针对模型支持的三种语言:Java、Python、Javascript,Pass@1评测结果如下:
截屏2023-10-24 15.15.52.png

● 测试用例Assert补全
目前模型支持Java用例的Assert补全,Pass@1评测结果如下:
截屏2023-10-24 15.16.47.png

工程架构

1698053825572-e55c1b35-4bae-437c-8a35-42bfee470019.png

大模型的号角已经吹响,测试领域大模型也在不断进化中,通过预训练过程中积累的丰富世界知识,在复杂交互环境中展现出了非凡的推理与决策能力。

尽管在测试领域中基础模型取得了显著的成果,但仍然存在一些局限性,特定领域的测试任务通常需要专业化的工具或领域知识来解决。例如,基础模型可以通过预训练知识完成单次测试代码生成和测试文本生成等任务,但处理复杂的集成用例生成、特定领域用例生成和测试流程pipeline交互等问题时,需要更专业的工具和领域知识。

因此将专用工具与基础模型整合在一起,可以充分发挥它们各自的优势。专用工具可以解决模型时效性不足、增强专业知识、提高可解释性和鲁棒性的问题。而基础模型则具备类人的推理规划能力,可以理解复杂的数据和场景,并与现实世界进行交互。

在本期开放模型工程化部署和ChatBot基础上,我们将继续在测试开源领域深耕投入。协同社区志趣相投开发者们,一起打造测试领域最领先的Tools工程体系、智能测试助理和测试开源工程!

快速使用

前置准备

模型下载
您可在modelscope或huggingface上获取到模型的详细信息并下载模型文件。
环境安装
git clone https://github.com/codefuse-ai/Test-Agent cd Test-Agent pip install -r requirements.txt

在开始运行TestGPT-7B模型之前,请确保你的执行环境拥有大约14GB的显存。

启动服务

项目提供了网页端快速搭建UI的能力能够更直观的展示模型交互和效果,我们可以使用简单的几个命令把前端页面唤醒并实时调用模型能力。在项目目录下,依次启动以下服务:
1. 启动controller
python3 -m chat.server.controller
1697709137850-9b1e1b35-79bd-41c1-822e-498477c63a8b.png

2. 启动模型worker
python3 -m chat.server.model_worker --model-path models/testgpt --device mps
1697709202635-98e451ac-edf8-44bc-805e-9082f3851f59.png

对于启动方式,可以按需选择以下几种配置选项:
● --device mps 用于在Mac电脑上开启GPU加速的选项(Apple Silicon或AMD GPUs);
● --device xpu 用于在Intel XPU上开启加速的选项(Intel Data Center and Arc A-Series GPUs);
○ 需安装Intel Extension for PyTorch
○ 设置OneAPI环境变量:source /opt/intel/oneapi/setvars.sh
● --device npu 用于在华为AI处理器上开启加速的选项;
○ 需安装Ascend PyTorch Adapter
○ 设置CANN环境变量:source /usr/local/Ascend/ascend-toolkit/set_env.sh
● --device cpu 单独使用CPU运行的选项,不需要GPU;
● --num-gpus 2 指定并发gpu运行的选项。

3. 启动web服务
python3 -m chat.server.gradio_testgpt
1697709254307-0a52818b-f811-4312-8949-8a23a22f479b.png

待服务准备就绪后,我们可以打开本地启动的web服务地址(http://0.0.0.0:7860) ,就能看到完整的前端页面了。

1698033539554-07a556be-5f6f-44d6-bff0-5546d8fa3993.png

相关实践学习
基于阿里云DeepGPU实例,用AI画唯美国风少女
本实验基于阿里云DeepGPU实例,使用aiacctorch加速stable-diffusion-webui,用AI画唯美国风少女,可提升性能至高至原性能的2.6倍。
目录
相关文章
|
2月前
|
资源调度 测试技术 Linux
一款接口自动化神器—开源接口测试平台Lim(Less is More)
一款接口自动化神器—开源接口测试平台Lim(Less is More)
130 2
|
3月前
|
C++
jrtplib开源库系列之一:jrtplib介绍、安装和测试(window 10环境介绍)
关于jrtplib库网上已经有很多介绍,而且目前jrtplib作者已经停止更新(Apr 18, 2020),最新版本为v3.11.2。本系列内容也以该版本进行介绍。 相信你已经对RTP/RTCP协议有一定的了解,并想更深入的了解RTP协议的具体实现,jrtplib就是使用使用C++实现的RTP/RTCP协议。具体标准为RFC3550,如果想仔细阅读原文,但是对英文又有点吃力,可以参考我的博客RTP/RTCP中英文对照,在博客的后面有百度链接,是对RFC3550的中文翻译,可能很多地方不太准确,有些内容是自己添加进去的,希望不会影响你的阅读。
35 0
|
1月前
|
机器学习/深度学习 算法 安全
新时代软件测试:智能化趋势与挑战
随着人工智能技术的不断发展,软件测试领域也面临着前所未有的变革和挑战。本文将探讨智能化在软件测试中的应用现状、发展趋势以及相关挑战,带领读者深入了解新时代软件测试的发展方向。
19 1
|
2月前
|
存储 人工智能 自然语言处理
选择最适合数据的嵌入模型:OpenAI 和开源多语言嵌入的对比测试
OpenAI最近发布了他们的新一代嵌入模型*embedding v3*,他们将其描述为性能最好的嵌入模型,具有更高的多语言性能。这些模型分为两类:较小的称为text- embeddings -3-small,较大且功能更强大的称为text- embeddings -3-large。
97 0
|
2月前
|
运维 数据可视化 测试技术
Lag-Llama:第一个时间序列预测的开源基础模型介绍和性能测试
2023年10月,我们发表了一篇关于TimeGPT的文章,TimeGPT是时间序列预测的第一个基础模型之一,具有零样本推理、异常检测和共形预测能力。 虽然TimeGPT是一个专有模型,只能通过API访问。但是它还是引发了对时间序列基础模型的更多研究。到了2024年2月,已经有了一个用于时间序列预测的开源基础模型:laglllama。
125 2
|
2月前
|
测试技术 Linux 数据安全/隐私保护
如何远程访问Linux MeterSphere一站式开源持续测试平台
MeterSphere 是一站式开源持续测试平台, 涵盖测试跟踪、接口测试、UI 测试和性能测试等功能,全面兼容 JMeter、Selenium 等主流开源标准,有效助力开发和测试团队充分利用云弹性进行高度可扩展的自动化测试,加速高质量的软件交付,推动中国测试行业整体效率的提升。
|
3月前
|
Web App开发 Linux 数据安全/隐私保护
Docker本地部署开源浏览器Firefox并远程访问进行测试
Docker本地部署开源浏览器Firefox并远程访问进行测试
149 1
|
5月前
|
缓存 Ubuntu Linux
百度搜索:蓝易云【Varnish开源HTTP反向代理缓存服务器、部署安装、测试】
通过按照上述步骤部署和配置Varnish,您可以将其作为反向代理缓存服务器来提高Web应用程序的性能和响应速度。记住,在实际部署中,您可能需要进一步调整Varnish的配置以满足您的具体需求。
46 2
|
5月前
|
缓存 Linux 开发者
百度搜索:蓝易云【Varnish开源HTTP反向代理缓存服务器、部署安装、测试。】
通过以上步骤,你可以成功部署和安装Varnish,并对Web应用程序进行测试。请根据具体需求进行适当的配置和调整,以确保Varnish能够按预期工作并提升Web应用程序的性能。
33 0
|
7月前
|
Linux 测试技术 数据安全/隐私保护
Linux MeterSphere一站式开源持续测试平台远程访问
在Linux 中部署MeterSphere 并且结合cpolar 内网穿透实现远程也可以访问MeterSphere 界面!
570 0
Linux MeterSphere一站式开源持续测试平台远程访问

热门文章

最新文章