让模型“学得准”,阿里云首创HiExp框架:8B小模型医疗场景效果超越千亿旗舰

简介: 近日,国际计算语言学顶级会议ACL 2026公布录用结果。阿里云团队最新研究成果《Beyond Stochastic Exploration: What Makes Training Data Valuable for Agentic Search》成功入选。该研究首次系统性回答了“什么样的训练数据,对智能体搜索真正有价值”这一核心命题,攻克了基于强化学习(RL)的智能体搜索系统在规模化落地中的关键瓶颈。基于该方案训练的8B小模型,在阿里云与阿斯利康共建的医疗AgenticRAG场景中,综合效果超越Qwen3.6-Plus等千亿级旗舰大模型,为企业级AI应用提供了极具性价比的新范式。

image.png

ACL领域主席对该成果给予了高度评价

该工作跳出了“更大模型加更多rollout”的惯性思路,将焦点重新拉回到训练数据本身,提出的层级化经验框架通过对比蒸馏与多层级聚类,将原本随机散乱的轨迹转化为结构化、可复用的策略性经验,在多跳问答与数学推理两类异构任务、以及多种主流RL算法上均展现出一致且显著的提升,具有良好的通用性与工程价值。


行业痛点:智能体搜索的“随机探索”困境

随着LLM Agent与工具使用能力的快速演进,基于强化学习的智能体搜索(Agentic Search)正成为下一代企业知识系统的核心范式。然而,其规模化应用仍面临多重困境:


1.探索过度随机化,训练效益低下

主流方案高度依赖结果奖励驱动的随机轨迹采样,缺乏全局策略规划。Agent在多轮搜索-推理过程中反复“踩坑”,训练昂贵但收益降低。


2.训练严重不稳定,小模型“立不住”

多轮交互场景下奖励信号稀疏且不一致,端到端RL训练剧烈震荡,模型容易陷入次优策略,在复杂多跳问题与垂域专业问题下表现得尤为明显。


3.产业化阻力:“小模型不够用、大模型用不起”

在医疗、制药、金融等强专业领域,非专业用户使用AgenticRAG时常遭遇召回不全、证据不准等痛点。而高质量回答往往依赖千亿级大模型,企业面临“小模型不够用、大模型用不起”的真实阻力。


面向以上企业级AI训练过程中的常见问题,急需一种新型训练数据价值挖掘机制,让Agent摆脱“碰运气式”的随机探索,转而沿着可复用、可累积的经验路径不断收敛,使得小模型也能在垂域中真正“立得住”。



技术突破:HiExp双引擎|把“随机探索”升级为“经验制导”

阿里云团队提出了HiExp(Hierarchical Experience)框架,通过两大首创技术创新,破解上述难题:

image.png

1.智能经验抽取

HiExp不再把rollout当成黑箱样本喂给RL,将成功轨迹与失败轨迹配对进行对比反思。

关键动作:自动抽取出“关键决策点”与“推理陷阱”,形成原子级实例经验。

效果:让Agent在训练前先“提炼历史经验”,把暗藏在轨迹中的隐性知识显式化。


2.层级经验抽象

在原子经验之上,HiExp通过语义嵌入与凝聚式聚类,将海量实例经验自下而上抽象为更高层的策略原则。

构建HEK:构建出层级化经验知识库(HEK,Hierarchical Experience Knowledge)。

动态制导:训练阶段,系统根据当前query的语义动态检索匹配的经验进行制导,把“无方向的随机搜索”重塑为“有经验可循的策略性搜索”。


📊多项实验结果表明,HiExp展现出显著的可扩展性和有效性:

  • 多跳问答:在2Wiki、Musique、BrowseComp等主流基准上,HiExp相较强基线带来近双位数的F1提升;
  • 数学推理:在AIME、AMC等任务上同样取得显著增益;
  • 广泛兼容:在GRPO、GSPO等不同RL算法、本地检索与网页搜索等不同环境中均保持一致提升。



落地与展望:小模型解决真问题,数据价值驱动智能化

目前,HiExp方案已在阿里云AgenticRAG产品体系中持续打磨,并在与阿斯利康共建的医疗检索问答场景中完成产业级验证。在人工评测中,经HiExp训练的8B小模型在准确性、证据使用及完整性上超越千亿级旗舰大模型,综合效果相对提升约37%,真正实现了“低成本、高性能”的商业化闭环。


未来,阿里云将持续推动“小模型也能解决企业级真问题”的愿景加速落地。我们坚信,训练数据的真正价值,而非单纯的模型尺寸,将成为驱动企业智能化的核心燃料,助力医疗、制药、金融等强专业垂域以更优的成本结构释放AI核心价值。

相关文章
|
3天前
|
弹性计算 人工智能 API
Codex超详细入门指南(下载·安装·登录·上手,全版本覆盖,2026最新版)
建议收藏本教程,2026 全年各版本更新随时回来查阅。如果你在搭建过程中遇到任何问题,欢迎结合 阿里云工单系统 提交技术支持请求,或在 阿里云开发者社区 搜索 Codex 相关话题交流。 祝你编码愉快,效率翻倍!
1595 1
|
6天前
|
JSON 前端开发 API
阿里云最新Qwen4-Max大模型介绍:模型定位、特征、能力、适用场景解析
2026 年 11 月 11 日,阿里发布第四代旗舰模型Qwen4-Max预览版,首发千问 AI 平台 Token Plan,并同步接入千问办公、Qoder 等入口。该版本聚焦知识理解、世界感知、编程与 Agentic 四项升级,主打复杂编程、专业办公、前端设计与专业软件操作。预览期至 11 月 25 日 24:00,到期后模型标识下线;限时 2 折、新用户再享 5 折,最低 1 折可体验。
|
6天前
|
人工智能 前端开发 API
阿里云Qwen4-Max 大模型详解:定位、特征、能力、适用场景与相对Qwen3-Max差异解析
2026年11月11日,阿里发布第四代旗舰模型Qwen4-Max预览版,首发千问AI平台Token Plan并接入千问办公、Qoder等入口。该版本聚焦知识理解、世界感知、编程与Agentic四项升级,主打复杂编程、专业办公、前端设计与专业软件操作等真实任务。预览期为11月11日10:00至11月25日24:00,仅支持Token Plan调用,到期后模型标识下线;限时2折、新用户再享5折,最低1折可体验。
|
3天前
|
Linux Go 开发工具
手机上跑 DeepSeek 智能体:开源安卓客户端 DSH Go 安装与使用指南
DSH Go 是一款开源安卓客户端,将 DeepSeek Harness 智能体引擎装进手机:免 Root、免 Termux,一键安装即用;支持本机运行(内置 Ubuntu+Node.js)或远程接管电脑会话;具备插话打断、过程折叠、屏幕操控、端到端加密分享等特色功能,真正实现智能体“口袋化”。
2648 0
|
18天前
|
Linux 开发工具 iOS开发
Codex保姆级教程(下载+安装+登录+使用,含所有版本,2026最新)
Codex是OpenAI推出的开源AI编程智能体,本地运行,可理解整个代码库,支持自然语言指令改代码、执行命令、跑测试、修Bug,兼容Win/macOS/Linux。(239字)
8293 58
|
13天前
|
Linux 开发工具 iOS开发
2026最新codex下载安装保姆级使用教程(下载+安装+登录+使用,含所有历史版本)
本文详解OpenAI Codex国内快速上手指南:提供Win/macOS/Linux全平台免安装包、npm/Homebrew等多方式安装、账号/API Key双登录、简体中文切换,覆盖下载、安装、汉化、使用及高频避坑(如微软商店失败、npm超时等),10分钟即可跑通。
2986 9
|
19天前
|
JavaScript API iOS开发
DeepSeek Harness下载、安装、配置一篇搞定(2026整理,送常用插件)
DeepSeek Harness(DSH)是DeepSeek于2026年开源的MIT协议AI Agent框架,支持插件化组装模型、工具、沙箱与UI,兼容主流大模型。本文提供免Node.js的桌面端安装包(Win/macOS),含详细图文教程及热门插件推荐。
5757 69
|
7天前
|
云安全 人工智能 安全
|
11天前
|
人工智能 安全 API
DeepSeek Harness下载、安装、配置一篇搞定(2026整理,送常用插件)
DeepSeek Harness(dsh)是DeepSeek AI于2026年开源的轻量级Agent运行框架,基于Cordis内核,践行“一切皆插件”理念。支持Web/桌面双端,开箱即用;内置多模型接入、丰富插件生态(超3.5万),适配编程、办公、创作等场景。(239字)
1899 1