阶跃星辰重磅开源 GELab-Zero ,首次将 GUI Agent 模型与完整配套基建同步开放,支持手搓党一键部署。其中 4B GUI Agent 模型在手机端、电脑端等多个 GUI 榜单上全面刷新同尺寸模型性能纪录,取得 SOTA 成绩。此外,阶跃此次还开源了基于真实业务场景的自建评测标准 AndroidDaily,以期推动 GUI 领域模型评测向消费级、规模化应用发展。
开源链接
- GitHub:
https://github.com/stepfun-ai/gelab-zero - Model:
https://modelscope.cn/models/stepfun-ai/GELab-Zero-4B-preview - 体验Demo:
https://www.modelscope.cn/studios/stepfun-ai/GELab-Zero-4b
研究背景
随着 AI 在手机等消费终端的普及,Mobile Agent 正从“能不能用”迈向“能否规模化落地”的关键阶段。作为其中执行能力最强的形态之一,GUI Agent 基于视觉理解即可适配几乎所有 App,无需厂商额外改造,接入成本极低,被视为打破移动生态信息孤岛、实现大规模应用的最现实路径。
然而,要让 GUI Agent 在不同品牌与系统版本的设备上顺畅运行并不轻松。移动生态的高度碎片化让开发者需处理多设备 ADB 连接、依赖安装、权限配置、推理服务部署、任务编排与回放等繁琐流程,工程成本高昂,精力难以聚焦在策略创新与体验设计上。
要推动移动端 Agent 真正规模化,必须首先降低开发与使用门槛,让开发者专注于创造价值,而非重复搭建底层设施。为此,阶跃星辰研究团队开源了 GELab-Zero,希望加速 GUI Agent 的创新和落地。它主要包含三部分:
- 一个能在本地运行的 GUI Agent 模型 GELab-Zero-4B-preview
- 即插即用的完整推理工程基建,解决所有脏活累活
- 基于真实业务场景的自建评测标准 AndroidDaily
研究亮点
亮点 1:同尺寸性能 SOTA,端到端、轻量化、速度快
研究团队在 ScreenSpot、OSWorld、MMBench、Android World 多个开源基准测试上对 GELab-Zero-4B-preview 模型进行了全面评估,涵盖了 GUI 理解、定位、交互等多个维度。与其他开源模型的对比结果如下:
从测试结果可以看出,GELab-Zero-4B-preview 在多项权威开源基准测试中超越其他主流模型,拿下同尺寸 SOTA。
值得一提的是,GELab-Zero-4B-preview 的表现还超越了参数量更大的 GUI-Owl-32B 等模型,性能更优也更易部署。
在以下示例场景中可以看到,GELab-Zero-4B-preview 模型能够很好地执行「复杂任务」和「模糊指令」。不仅可以准确、流畅地执行涉及到多步骤、多主体、重复操作的任务,也能对“好看”、“适合玩的”、“经典”等偏笼统和主观性的指令进行自主拆解,确定执行路径和标准。
「复杂任务」
在外卖平台同时采购跨品类、不同规格和数量的商品,模型精准识别了物品信息,并顺畅地完成了多步骤、重复性的购买操作。
Prompt:去饿了么离我最近的盒马鲜生购买:红颜草莓 300g、秘鲁比安卡蓝莓 125g(果径 18mm)、当季新鲜黄心土豆 500g、粉糯贝贝南瓜 750g、盒马大颗粒虾滑、2 瓶盒马纯黑豆豆浆 300ml、小王子夏威夷果可可脆 120g、盒马菠菜面、盒马五香牛肉、5 袋好欢螺柳州螺狮粉(加辣加臭)400g、m&m's 牛奶巧克力豆 100g
📎0b2esuaacaaahmadyrznwfuvbfodagkqaaia.f10002.mp4
模型执行的能力和范围具有很强的泛化性,无论在国民级 APP 还是小众产品平台,都可以顺利完成任务。在以下示例中,模型在企业福利 APP 内精准地找到了餐券领取入口,并成功执行多步骤复杂任务,为用户完成餐券申领。
Prompt:打开给到 app,在我的,下滑寻找,员工权益-奋斗食代,帮我领劵。
📎0bc37uaaoaaaqaadsrrnhbuvb7oda76qabya.f10002.mp4
「模糊指令」
模型接到指令挑选特定演员的「经典」动作片,自主拆解「经典」这一需求,确定执行标准。在执行过程中,模型先打开腾讯视频,识别并关闭了弹窗,搜索「成龙」后在电影类目中选择了页面上成龙评分最高的代表作播放。
Prompt:在腾讯视频上找一部成龙的经典动作片播放。
📎0bc3wmaemaaad4ahrrjn6buvbm6di2zqarqa.f10002.mp4
模型接到指令寻找“适合带孩子玩的地方”,首先在内容平台搜索“北京周末带娃”,然后自主判断衡量标准后为用户推荐北京园博园“顽酷奇遇”,并为用户提炼出该地点的亮点:“有巨型装置卡通,亲子活动丰富”。
Prompt:帮我找个周末能带孩子去玩的地方。
📎0bc3s4alqaaaimainzjnfzuvbf6dxclqboaa.f10002.mp4
亮点 2:GUI+基建= GUI Agent MCP,一键拉起部署
研究团队针对 GUI 智能体构建了一整套完整的技术架构体系,一键拉起即可获得类似开源 GUI Agent MCP 的体验。具体能力如下:
- 轻量化本地推理能力:支持 4B 模型在消费级硬件上运行,兼顾低延迟与隐私。
- 一键多终端部署:提供统一部署流水线,自动处理环境依赖和设备管理。
- 分布式任务编排:可以分发到多台手机并记录交互轨迹,实现可观测、可复现。
- 多模态智能体范式:涵盖 ReAct 闭环、多智能体协作以及定时任务等多种工作模式。
这些能力让 GELab-Zero 能够灵活应对真实场景的复杂任务流,并为后续扩展提供扎实底座。Agent 开发者可基于这套基建快速测试新想法、验证交互策略;企业级用户则能直接复用这套基建,将 MCP 能力快速植入到产品业务中。
亮点 3:自建并开源贴合真实业务场景的评测基准:AndroidDaily
此外,研究团队基于手机、IoT、汽车等行业头部公司的真实合作案例,建立了高度贴合业务场景的评测基准。
目前主流基准测试大部分聚焦于生产力类应用(如邮件与文档处理),然而在日常真实场景中,用户高频依赖的却是生活服务类应用,如外卖、打车、社交、支付等,而这部分场景不仅覆盖面更广,也更能体现当下 GUI Agent 的实用价值。
为此阶跃研究团队提出了 AndroidDaily:一个面向真实世界、动态演进的多维基准体系,聚焦现代生活六大核心维度:饮食、出行、购物、居住、信息消费、娱乐,并优先选择在这些类别中具有代表性(高频使用、应用商店日活排名靠前)的主流应用进行测试,高度还原真实任务执行流程(包括询问用户更多信息补充输入、高危操作请求用户接管)。
GELab-Zero-4B-preview 在 AndroidDaily 测试中准确率达到 73.4% ,在移动端复杂任务中表现优秀
为了平衡评估的全面性和执行效率,AndroidDaily 采用了静态评测和端到端评测双轨评估体系。静态评测考察模型的 grounding(界面理解、元素识别)和 action 规划能力,用于检验其在推理与执行一致性等基础层面的表现; 端到端测试重点衡量 GUI Agent 在真实环境中处理复杂任务时的执行效果与稳定性。
- 静态测试:包含 3146 个 actions。提供任务描述和逐步的屏幕截图,要求 Agent 预测每一步的动作类型和动作值(如点击坐标、输入文本),主要评估数值准确率。这种方法无需复杂的工程基础设施,可以快速、低成本地进行大规模模型迭代和测试。
- 端到端测试:包含 235 个任务,典型任务场景包括:出行交通(打车、导航、公共交通等)、购物消费(电商购物、支付、订单管理等)、社交通讯(消息发送、社交互动等)、内容消费(新闻阅读、视频观看、内容收藏等)、本地服务(外卖、到店服务)等。在完全功能化的测试环境(如真实设备或模拟器)中进行,Agent 需要从头到尾自主执行任务,最终以整体任务成功率作为评价指标,能真实反映智能体在复杂环境中的综合能力。
研究团队相信 GUI Agent 是大模型从数字世界走进物理世界的关键一步,希望通过 GELab-Zero 的开源,进一步降低移动端 Agent 的开发门槛,让更多开发者能够快速构建和验证自己的想法。