告别 GUI Agent 工程基建噩梦!阶跃星辰开源 4B 模型,本地轻松部署,玩转安卓应用

简介: 阶跃星辰开源GELab-Zero,首发4B GUI Agent模型及完整基建,支持一键部署,在多端性能达SOTA。同步推出真实场景评测基准AndroidDaily,推动GUI智能体规模化落地。

阶跃星辰重磅开源 GELab-Zero ,首次将 GUI Agent 模型与完整配套基建同步开放,支持手搓党一键部署。其中 4B GUI Agent 模型在手机端、电脑端等多个 GUI 榜单上全面刷新同尺寸模型性能纪录,取得 SOTA 成绩。此外,阶跃此次还开源了基于真实业务场景的自建评测标准 AndroidDaily,以期推动 GUI 领域模型评测向消费级、规模化应用发展。

开源链接

  • GitHub:

    https://github.com/stepfun-ai/gelab-zero
  • Model:

    https://modelscope.cn/models/stepfun-ai/GELab-Zero-4B-preview
  • 体验Demo:
    https://www.modelscope.cn/studios/stepfun-ai/GELab-Zero-4b

研究背景

随着 AI 在手机等消费终端的普及,Mobile Agent 正从“能不能用”迈向“能否规模化落地”的关键阶段。作为其中执行能力最强的形态之一,GUI Agent 基于视觉理解即可适配几乎所有 App,无需厂商额外改造,接入成本极低,被视为打破移动生态信息孤岛、实现大规模应用的最现实路径。

然而,要让 GUI Agent 在不同品牌与系统版本的设备上顺畅运行并不轻松。移动生态的高度碎片化让开发者需处理多设备 ADB 连接、依赖安装、权限配置、推理服务部署、任务编排与回放等繁琐流程,工程成本高昂,精力难以聚焦在策略创新与体验设计上。

要推动移动端 Agent 真正规模化,必须首先降低开发与使用门槛,让开发者专注于创造价值,而非重复搭建底层设施。为此,阶跃星辰研究团队开源了 GELab-Zero,希望加速 GUI Agent 的创新和落地。它主要包含三部分:

  • 一个能在本地运行的 GUI Agent 模型 GELab-Zero-4B-preview
  • 即插即用的完整推理工程基建,解决所有脏活累活
  • 基于真实业务场景的自建评测标准 AndroidDaily

研究亮点

亮点 1:同尺寸性能 SOTA,端到端、轻量化、速度快

研究团队在 ScreenSpot、OSWorld、MMBench、Android World 多个开源基准测试上对 GELab-Zero-4B-preview 模型进行了全面评估,涵盖了 GUI 理解、定位、交互等多个维度。与其他开源模型的对比结果如下:

从测试结果可以看出,GELab-Zero-4B-preview 在多项权威开源基准测试中超越其他主流模型,拿下同尺寸 SOTA。

值得一提的是,GELab-Zero-4B-preview 的表现还超越了参数量更大的 GUI-Owl-32B 等模型,性能更优也更易部署。

在以下示例场景中可以看到,GELab-Zero-4B-preview 模型能够很好地执行「复杂任务」和「模糊指令」。不仅可以准确、流畅地执行涉及到多步骤、多主体、重复操作的任务,也能对“好看”、“适合玩的”、“经典”等偏笼统和主观性的指令进行自主拆解,确定执行路径和标准。

「复杂任务」

在外卖平台同时采购跨品类、不同规格和数量的商品,模型精准识别了物品信息,并顺畅地完成了多步骤、重复性的购买操作。

Prompt:去饿了么离我最近的盒马鲜生购买:红颜草莓 300g、秘鲁比安卡蓝莓 125g(果径 18mm)、当季新鲜黄心土豆 500g、粉糯贝贝南瓜 750g、盒马大颗粒虾滑、2 瓶盒马纯黑豆豆浆 300ml、小王子夏威夷果可可脆 120g、盒马菠菜面、盒马五香牛肉、5 袋好欢螺柳州螺狮粉(加辣加臭)400g、m&m's 牛奶巧克力豆 100g

📎0b2esuaacaaahmadyrznwfuvbfodagkqaaia.f10002.mp4

模型执行的能力和范围具有很强的泛化性,无论在国民级 APP 还是小众产品平台,都可以顺利完成任务。在以下示例中,模型在企业福利 APP 内精准地找到了餐券领取入口,并成功执行多步骤复杂任务,为用户完成餐券申领。

Prompt:打开给到 app,在我的,下滑寻找,员工权益-奋斗食代,帮我领劵。

📎0bc37uaaoaaaqaadsrrnhbuvb7oda76qabya.f10002.mp4

「模糊指令」

模型接到指令挑选特定演员的「经典」动作片,自主拆解「经典」这一需求,确定执行标准。在执行过程中,模型先打开腾讯视频,识别并关闭了弹窗,搜索「成龙」后在电影类目中选择了页面上成龙评分最高的代表作播放。

Prompt:在腾讯视频上找一部成龙的经典动作片播放。

📎0bc3wmaemaaad4ahrrjn6buvbm6di2zqarqa.f10002.mp4

模型接到指令寻找“适合带孩子玩的地方”,首先在内容平台搜索“北京周末带娃”,然后自主判断衡量标准后为用户推荐北京园博园“顽酷奇遇”,并为用户提炼出该地点的亮点:“有巨型装置卡通,亲子活动丰富”。

Prompt:帮我找个周末能带孩子去玩的地方。

📎0bc3s4alqaaaimainzjnfzuvbf6dxclqboaa.f10002.mp4


亮点 2:GUI+基建= GUI Agent MCP,一键拉起部署

研究团队针对 GUI 智能体构建了一整套完整的技术架构体系,一键拉起即可获得类似开源 GUI Agent MCP 的体验。具体能力如下:

  • 轻量化本地推理能力:支持 4B 模型在消费级硬件上运行,兼顾低延迟与隐私。
  • 一键多终端部署:提供统一部署流水线,自动处理环境依赖和设备管理。
  • 分布式任务编排:可以分发到多台手机并记录交互轨迹,实现可观测、可复现。
  • 多模态智能体范式:涵盖 ReAct 闭环、多智能体协作以及定时任务等多种工作模式。

这些能力让 GELab-Zero 能够灵活应对真实场景的复杂任务流,并为后续扩展提供扎实底座。Agent 开发者可基于这套基建快速测试新想法、验证交互策略;企业级用户则能直接复用这套基建,将 MCP 能力快速植入到产品业务中。

亮点 3:自建并开源贴合真实业务场景的评测基准:AndroidDaily

此外,研究团队基于手机、IoT、汽车等行业头部公司的真实合作案例,建立了高度贴合业务场景的评测基准。

目前主流基准测试大部分聚焦于生产力类应用(如邮件与文档处理),然而在日常真实场景中,用户高频依赖的却是生活服务类应用,如外卖、打车、社交、支付等,而这部分场景不仅覆盖面更广,也更能体现当下 GUI Agent 的实用价值。

为此阶跃研究团队提出了 AndroidDaily:一个面向真实世界、动态演进的多维基准体系,聚焦现代生活六大核心维度:饮食、出行、购物、居住、信息消费、娱乐,并优先选择在这些类别中具有代表性(高频使用、应用商店日活排名靠前)的主流应用进行测试,高度还原真实任务执行流程(包括询问用户更多信息补充输入、高危操作请求用户接管)。

GELab-Zero-4B-preview 在 AndroidDaily 测试中准确率达到 73.4% ,在移动端复杂任务中表现优秀


为了平衡评估的全面性和执行效率,AndroidDaily 采用了静态评测和端到端评测双轨评估体系。静态评测考察模型的 grounding(界面理解、元素识别)和 action 规划能力,用于检验其在推理与执行一致性等基础层面的表现; 端到端测试重点衡量 GUI Agent 在真实环境中处理复杂任务时的执行效果与稳定性。

  • 静态测试:包含 3146 个 actions。提供任务描述和逐步的屏幕截图,要求 Agent 预测每一步的动作类型和动作值(如点击坐标、输入文本),主要评估数值准确率。这种方法无需复杂的工程基础设施,可以快速、低成本地进行大规模模型迭代和测试。
  • 端到端测试:包含 235 个任务,典型任务场景包括:出行交通(打车、导航、公共交通等)、购物消费(电商购物、支付、订单管理等)、社交通讯(消息发送、社交互动等)、内容消费(新闻阅读、视频观看、内容收藏等)、本地服务(外卖、到店服务)等。在完全功能化的测试环境(如真实设备或模拟器)中进行,Agent 需要从头到尾自主执行任务,最终以整体任务成功率作为评价指标,能真实反映智能体在复杂环境中的综合能力。

研究团队相信 GUI Agent 是大模型从数字世界走进物理世界的关键一步,希望通过 GELab-Zero 的开源,进一步降低移动端 Agent 的开发门槛,让更多开发者能够快速构建和验证自己的想法。


目录
相关文章
|
1月前
|
人工智能 前端开发 JavaScript
告别"玄学调试":用这份指令让AI成为你的"赛博华佗"
调试占用了开发者50%的时间?本文提供一套专业的AI调试指令,将大模型转化为"拥有10年经验的代码医生"。通过结构化的诊断-修复-预防流程,告别低效的"玄学调试",实现从"修好Bug"到"根治隐患"的质变。
279 6
|
1月前
|
数据采集 自然语言处理 前端开发
智谱 GLM-4.6V开源!能看、能想还能执行「百变」任务
智谱发布GLM-4.6V系列多模态大模型,含106B基础版与9B轻量版,支持128k长上下文,视觉理解达同规模SOTA。原生融合工具调用能力,打通“视觉感知-行动执行”闭环,降价50%,API低至1元/百万tokens,助力图文创作、识图购物、前端复刻等复杂场景。
494 2
智谱 GLM-4.6V开源!能看、能想还能执行「百变」任务
|
1月前
|
数据采集 存储 编解码
智源RoboCOIN重磅开源!全球本体数最多、标注最精细、使用最便捷的高质量双臂机器人真机数据集来了
北京智源研究院联合多家机构发布全球首个“本体数最多、标注最精细、使用最便捷”的双臂机器人真机数据集RoboCOIN,覆盖15类机器人、18万条轨迹、421项任务,首创“层级能力金字塔”标注体系,推动具身智能迈向真实场景应用。
278 11
 智源RoboCOIN重磅开源!全球本体数最多、标注最精细、使用最便捷的高质量双臂机器人真机数据集来了
|
1月前
|
传感器 数据采集 算法
LET数据集来魔搭了!开源首批超60,000分钟全尺寸人形机器人真机数据
国内最大全尺寸人形机器人真机数据集“LET数据集”正式发布,首批开源超6万分钟高质量数据,覆盖6大真实场景,支持多模态融合与标准化应用,助力具身智能研发,已在魔搭社区开放共享。
249 1
LET数据集来魔搭了!开源首批超60,000分钟全尺寸人形机器人真机数据
|
1月前
|
机器学习/深度学习 人工智能 自然语言处理
Z-Image:冲击体验上限的下一代图像生成模型
通义实验室推出全新文生图模型Z-Image,以6B参数实现“快、稳、轻、准”突破。Turbo版本仅需8步亚秒级生成,支持16GB显存设备,中英双语理解与文字渲染尤为出色,真实感和美学表现媲美国际顶尖模型,被誉为“最值得关注的开源生图模型之一”。
2844 9
|
2月前
|
机器学习/深度学习 编解码 JSON
混元OCR模型宣布开源,参数仅1B,多项核心能力SOTA
腾讯混元推出全新开源OCR模型HunyuanOCR,仅1B参数,基于原生多模态架构,实现端到端高效推理。在复杂文档解析、文字检测识别等多场景表现卓越,支持14种小语种翻译,广泛适用于票据抽取、视频字幕识别等应用,多项指标达业界SOTA水平。
520 8
|
1月前
|
机器学习/深度学习 人工智能 测试技术
NeurIPS 2025 | 浙大、浙工大等团队提出LRMs 自适应思考:简单任务快处理,复杂任务深分析
浙大、阿里云等提出首个LRM快慢思维控制方法,发现特定词可触发思维模式,结合PCA导向与自适应策略,实现无需训练的推理速度调控,在多模型上显著提升准确率并减少耗材。
147 1
NeurIPS 2025 | 浙大、浙工大等团队提出LRMs 自适应思考:简单任务快处理,复杂任务深分析
|
1月前
|
人工智能 算法 架构师
你的团队是"精锐特种兵",还是"草台班子"?就差这一份"源代码"
针对技术团队管理混乱、过度依赖个人的痛点,提出用AI指令将经验转化为标准SOP的解决方案。通过工程化思维重构管理流程,实现团队经验的"开源"与"复用",释放核心人才价值。
215 10

热门文章

最新文章