▲ 分论坛现场
9 月 23 日下午，2026 云栖大会 "企业级 Agent 基础设施" 分论坛在杭州国际博览中心圆满举行，论坛以"企业级 Agent 基础设施，加速业务转型与落地"为主题，完整呈现了企业级 Agent 从云端底座到端侧硬件、再到业务落地的路径。
回顾整场论坛，信息密度非常高：阿里云百炼现场同日发布 Agent Studio 企业级 Agent 全栈服务平台 与 Agent Studio for Hardware 智能硬件服务平台，千问端侧大模型方案同步亮相，高通、NVIDIA、博流智能三家计算平台伙伴，以及友邦人寿、三棵小草等企业与客户代表先后登台。4小时、13 个话题分享、一场OPC先锋落地实践圆桌、一个AI Native服务联合体启动仪式，串起来其实只在回答同一个问题——
Agent 的竞争，已经从"能不能做出来"，进入"能不能上生产、能不能进硬件、能不能算得过账"。
CHAPTER ONE
产品发布：Agent Studio 企业级 Agent 全栈服务平台
Agent as a Service，为企业生产级服务而生
▲ 分论坛现场 —— 徐志远
企业到底需要一个什么样的 Agent 平台？
Agent在面向企业客户服务落地时，最反复遇到的三重困难：一是模型迭代太快，几乎每 30 天就有一次更新，企业刚建好的架构随时面临推倒重来；二是业务语义存在鸿沟，真正决定成败的业务逻辑藏在海量业务数据里，很难注入到 Agent 的运行过程中；三是价值难以衡量，企业说不出这个 Agent 到底产出了什么、该用什么标准评价。
针对这三重困难，Agent Studio 给出了答案："六层一体"——把 Build 开发、Runtime 运行、Context 上下文、Tool 工具、Eval 进化、Security 安全六个环节连同一套 Auto Model 模型路由整体交付，而不是只给一个开发工具。
"变化的是模型、框架与技术；不变的是稳定、安全、生产级可控，以及深度业务应用中确定性的价值回报。"
这场发布里有两个值得单独记下的信息：
- 一是 Agent API。 Agent API 把 Session、MCP/Skill、Event、Environment、Deployment 全部收敛成接口参数，一次请求即可瞬间拉起沙箱、直接返回结果，像调用模型一样调用 Agent。该能力计划于今年 10 月上线。
- 二是工具生态。企业每接一个 MCP 服务就要单独开通、单独配 Key、单独结算，Agent Studio 用统一鉴权、统一计费、自动匹配把这套流程压缩成"一把钥匙开所有门"，目前已连接 1000+ 生态服务、100+ MCP、30+ 类工具服务。
CHAPTER TWO
从上下文到工具：企业级 Agent 核心组件能力解析
平台有了底座，接下来要回答的是"里面每个组件做到什么程度，Agent 才敢上生产"。本章三位讲者分别负责运行与上下文、工具调度、上线后进化三个核心组件。
构建企业级 Agent 运行与上下文智能
▲ 分论坛现场 —— 方唯振
对于生产级 Agent 的标准有三条：高效构建、持续运行、持续理解。
围绕这三条标准，Agent Studio 开发侧提供 Vibe Coding、Flow Agent、ADK Build 三种范式，覆盖从 AI 原生开发到可视化编排再到代码集成；运行侧推出 Managed Agent 托管式智能体运行，并实现五域全托管。尽管面对环节多、周期长的长程任务，也能够做到中断可续、失败自愈、全程留痕，分钟级接入、小时级交付。
另一方面，传统 RAG 的通病是"只搜一次"，问题稍微绕一点、跨几个文档就搜不到、答不全。对此 阿里云百炼知识库 做了三项升级：
- Agentic Search 让检索可结合已获内容多轮反复搜索、跨文档跨切片取数；
- LLM Wiki 由大模型自动生成文档关系图谱，提升全局性问题的回答能力；
- Qwen3-VL-Embedding 引入多模态向量化技术，支持通过视觉场景、人物或动作精准检索音视频片段。
效果上，长文档与多模态检索在多个公开评测集上领先开源产品 30 个百分点以上，最快 150ms 返回切片。
阿里云百炼 Memory 则完整支持事实、画像、技能三类记忆并新增多模态记忆，评测达到 85.56% Recall。
"Agent 走向生产，不是模型能力的单点升级，而是开发、运行与上下文工程共同完成的系统性跃迁。"
Auto MCP 智能调度让 Agent 深度连接系统与服务
▲ 分论坛现场 —— 王潇斌
阿里云百炼 One Key 用统一鉴权隐藏掉各 MCP 的开通细节，实现"一次开通，畅享所有"。但鉴权打通后，真正的难题是：当 Agent 一次性看到上千个工具，把工具定义全部放进上下文，Token 会膨胀到 520K 量级并超出模型窗口，推理时间同步被拉长；更关键的是，工具数量超过一定量后模型的选择准确率会明显下降。阿里云百炼的解法是基于上下文先做一层工具检索，且检索粒度落在"工具"而非"MCP"。这套机制分两条链路：
- 在线链路是一个"召回—精排—过滤"三级漏斗，先用改写模块结合多轮对话补全指代、省略与隐含意图，再经语义向量与关键词双路召回、Rerank 精排，最后用大模型过滤掉描述高度相似但输入输出细节迥异的"迷惑性候选"；
- 离线链路则用 doc2query 提前为每个工具预测一批可能的用户问法，让工具文档的语义主动向 query 靠近。
依托这套机制，最终达成首轮召回准确率 80% 以上、两轮 90% 以上，而上下文 token 消耗降低 99%。
"让 Agent 触达所有工具，但不必一次看见所有工具。"
让 Agent 越用越聪明
▲ 分论坛现场 —— 黄佳东
企业在使用 Agent 工具的过程中往往还面临着许多痛点，比如：看不全，海量会话和零散反馈只靠人工抽检，覆盖率往往只有 5%–10%，企业其实并不知道 Agent 真实用得怎么样；改不动，单个 Bad Case 的深度优化要 2–4 小时，修复永远跟不上问题产生的速度；留不住，业务、模型、评估三类专家缺一不可，优化经验停留在个人手里，人一走就没了。
阿里云百炼 Learning Loop 就是针对这三件事造的进化引擎。它以真实调用数据驱动八阶段进化——数据获取、场景理解、自动诊断、问题归因、候选生成、优化树构建、多维验证、回归测试，全程自动执行，收益不达阈值就自动驳回，且每阶段结论与耗时逐条可查。在优化出口上，它提供提示词、Skill、记忆、知识库、模型五类策略，企业可为每一类单独设置生效方式（自动生效、人工确认或 AI 决策）。该引擎计划 11 月正式发布。
"基模是基模厂商的，只有沉淀下来的资产是企业自己的。"
CHAPTER THREE
产品发布：Agent Studio for Hardware —— 先进 Agent 能力，直达每一台硬件
前两章解决的是 Agent 在云端如何上生产，这一章要回答它的另一半：Agent 怎么走进每一台硬件。本章分两场发布——Hardware 平台全景，以及支撑它的千问端模型方案。
1、Agent Studio for Hardware 平台全景分享发布
先进 Agent 能力，直达每一台硬件
▲ 分论坛现场 —— 司红江
硬件智能化行业可以看作三个时代：2022 年以前是规则时代，智能是写死的——儿童玩具只会播预置音频，音箱只认固定指令词，听懂 100 句、超出就超纲，AI 只是硬件上的一块模块，不是主角。2022 年底到 2025 年是大模型组装时代，设备确实能听懂、看懂、推理、生成了，但行业迅速陷入"拼乐高"式开发：自己选模型、接语音、搭 RAG、写 Agent Flow、做端云协同，模型一换就重新对接，芯片一换就固件重写，离规模化量产始终"差一口气"。
而2026 年以后，行业走进了第三个时代——Agent 定义硬件。
"我们不是先造一款硬件再往里塞 AI，而是先定义一类 Agent，再决定它应该长什么样。"
一个硬件从业者都熟悉的场景：老板一句"做个很便宜、能陪玩聊天的玩具"，需求从这句话传到硬件团队和软件团队之间，要翻过六座山——能力供给、端云协同、实时链路、硬件适配、工具链、出厂运营。对此，将近90% 的硬件想法都卡死在这六座山里。而这六座山自始至终讲的都不是"AI 能力够不够"，真正的堵点在于先进的 AI 能力和硬件产品之间缺一把转化的梯子。
"我们不做又一个 IDE，我们做 AI 能力到硬件终端的高效转化通道。"
这就是 Agent Studio for Hardware 智能硬件服务平台 的定位。
Agent Studio for Hardware 平台全景发布
▲ 分论坛现场 —— 张栌兮
Agent Studio for Hardware 智能硬件服务平台 的全景架构分为五层，从下到上依次是：模型底座（千问全模态、语音、视觉语言、大语言与端模型）、平台能力（场景化 Agent、知识库、记忆库、联网搜索、设备控制及 MCP/Skill/插件生态市场）、交互能力（Live AI 实时视频对话、全双工语音、主动交互、情感理解）、开发工具与托管运行，最上层是品类解决方案。
"软件里模型慢两秒，页面转个圈，用户等得起；硬件上，用户对着一个不说话的设备，一秒是'卡了'，两秒是'坏了'。"
因为容错空间不同，品类方案模板、验证过的组件货架、全双工与打断等交互能力都由平台预先做好，开发者直接调度，而非从零搭建。
目前品类方案已覆盖可穿戴、玩具、学习机、智能家居、IPC 以及千问 AI 座舱方案与千问端模型方案。而要让成果"不止 Demo"，靠的是量产阶段的四件套：设备群管理、托管运行、设备鉴权与计量计费、可观测。生态层面，平台目前已预适配 30+ 主流芯片与开发板。
"不用从 0 开始，从 80 分开始——你们来定义产品，剩下交给我们。"
让硬件天生为 Agent 而生
▲ 分论坛现场 —— 博流智能 陈磊
如何让硬件天生为 Agent 而生？
动作有两层：一是把芯片能力做成 Agent 读得懂的形态，博流以 BL616CL（2.4GHz Wi-Fi 6 + BLE）为重点，把参考设计、SDK、例程和测试接入联合开发流程，同时改善大户型连接体验、低功耗与电池成本、认证与生态支持；二是继续往前探新一代形态，以 BL618DG RISC-V 边缘语音 AI 原型验证"端侧自由说 + 在线大模型"，让智能家居的语音交互更自然、更实时、更省电。
Agent-ready 的硬件需要三个视角同时成立：开发者要求 API 与组件边界清晰、示例能够运行、迁移有路径；客户产品研发要能围绕完整产品流程组织能力；而站在 Agent 的视角，知识必须结构化、工具必须可调用、代码与测试要共同验证结果。双方合作的目标很明确——减少重复开发，让验证成果复用到更多产品。
2、千问端模型方案分享发布
芯云协同，智启终端
▲ 分论坛现场 —— 陶永亮
"端侧不是一个模型，而是千差万别的终端产品。"
手机、汽车、PC、眼镜、具身智能对模型的要求完全不同；把计算放在终端，好处是能更好保护隐私、带来更低时延，但受限于终端 NPU 算力与内存，必须使用小尺寸模型——而小尺寸模型要在端侧真正跑起来，困难重重。
为此阿里云推出 TIDA 方法论，把端侧模型从研究到上机的完整链路拆成四个关键过程：训（训练，商业模型、LoRA/SFT/RL、样本管理）、部（部署，模型量化、精度优化、模型转换、多芯片平台支持）、推（推理，推理加速、TTFT 优化、内存优化）、用（应用，实时多模态交互、Agentic System、端云协同、RAG）。
沿着这四步，方案给出了几个可量化结论：以 3B 模型尺寸即可高效完成意图理解与工具调用，并在 BFCL 智能体基准上达到 SOTA；通过前置端侧模型，80% 的请求可在终端本地闭环，复杂任务再走端云协同，原始数据在端侧完成向量化、隐私数据不离终端；精细量化把精度损失控制在 3% 以内；不同投机采样方案带来最高 5X 加速比。
重塑终端计算架构，加速迈向个人AI未来
▲ 分论坛现场 —— 高通 刘思杰
过去的 AI 是你问我答的工具，智能体 AI 则是能够持续感知、独立思考、主动行动的智能伙伴，而承载这一切的正是我们手中的移动边缘设备——终端将成为智能体时代最重要的载体。一个完整可用的智能体体验建立在四大基础模块之上：感知，像五官一样持续采集视觉、文本、日志等多模态数据；推理，通过思维链分解目标，先思考再行动；工具，拥有网络搜索、应用访问、代码执行等"双手"；记忆，通过向量数据库和长时域上下文记住用户偏好与历史行为。
"云端负责深度思考，终端负责贴身服务。"
云端拥有强大的规划器、大模型与智能体工具，可持续监控和迭代；但真正贴近用户的是终端侧的个人 AI——它能根据每个人的需求、偏好与情境提供专属体验，在端侧建立安全可靠的个人记忆方案，且关键数据留在设备本地、最大限度保护隐私；当本地处理不了时，再通过集成的云端助手与协议自动调用云端能力，并让智能体在手机、PC、手表之间流动、智能分配负载。在她看来，包括手机在内的各类设备都将围绕智能体运转，终端正从被动的交互工具，变成主动的智能节点。
Qwen × TensorRT Edge-LLM 共建高性能端侧 AI 推理
▲ 分论坛现场 —— NVIDIA 柴琳
为什么高性能端侧AI推理非做不可？
归因于四点：时延，语音交互、汽车控制等不起往返云端的时间；网络，隧道、地下车库、偏远园区没有稳定连接；数据主权，车内对话、病人影像、工厂数据都有极严格要求，法规明确要求这类数据不能传出设备；资源受限，嵌入式平台的内存与算力与数据中心完全不在一个量级。
对应这四个约束，TensorRT Edge-LLM 是专为 NVIDIA 嵌入式平台打造的高性能开源 C++ 推理框架，三大支柱为原生高性能设计、生产级可靠性（原生支持投机解码，带来 4.5–5 倍性能提升）、全面量化支持（自研 NVFP4 量化在保持精度的前提下提升吞吐、缓存减半）。
"不是等几周、等几个月，而是发布当天就能用。"
千问新一代大参数模型发布当天，TensorRT Edge-LLM 即完成全面适配。柴琳强调，这背后是两个团队在模型架构、量化策略、推理优化上长达数月的联合研发。性能也印证了这套组合：Qwen3-0.3B 端侧小模型可跑出每秒上千个词元，8B 级模型约 283，30B 级模型也超过 253。
CHAPTER FOUR
基于 Agent Studio 的客户最佳实践分享
平台和端侧都讲完了，论坛进入全场最有说服力的时段，三位客户分别代表强监管行业、超大型企业内部实践、AIoT 硬件商业化三种典型姿势，用结果来验收。
从对话到行动：友邦保险的企业级Agent实践探索
▲ 分论坛现场 —— 友邦人寿 陈斌
"Agent 的价值不是替代责任，而是把专业人员从重复操作中释放出来，让判断更聚焦、执行更高效。"
在落地节奏上，友邦没有从零构建万能 Agent，而是从已验证的能力出发，逐步增加任务理解与业务执行能力，三步演进：知识增强问答→ 生成式业务辅助→ 任务型 Agent。
成效上，友邦智能问答已实现秒级即时响应、7×24 全天候服务，问题回答准确率达到 90% 以上，AI 武装的代理人总规模超过 5 万。友邦的Agent架构总结：不为每个场景重复造机器人，而是沉淀共性的意图、记忆、Agent、Skill 与 Tool，跨价值链组合复用。
阿里云产品博士 × 阿里云百炼：AI 准确率升级与企业级知识底座构建
▲ 分论坛现场 —— 毛军
"AI 准确率 = 知识治理 × 平台能力。知识治理决定下限，平台能力决定上限。"
这个公式来自实践中的三道坎：复杂文档理解难（表格、图片、视频等富格式信息在文本化过程中有信息损失）、召回效果保障难（库里明明有，却不能稳定的召回）、复杂问题回答难（涉及多个产品的提问只搜一次，容易答不全）。
对应的升级路径，是基于阿里云百炼将产品博士从"纯文档、单库、单轮检索"升级为"全模态、多库、多轮检索"。
- 对全模态的支持，使得复杂表格、图片、音视频等各类知识内容无需额外处理，可直接入库。
- 多库并行检索，使得高优先级的知识库、特定业务增补库等都能有机会被召回，实现了更优的检索策略，保障了召回内容的多样性；再结合标签体系，实现更精准的过滤，进一步提升效果。
- 多轮检索能力，衍生出 Skill 模式，弥补了 RAG 模式的不足，从“问答”进化为“办事”。
AI 准确率与企业的 AI 知识底座息息相关。产品博士实践过程中也沉淀了企业知识库建设方法。
企业知识库正在成为 AI 应用的重要基础设施。但企业在 AI 知识底座建设过程中通常碰到四类问题：非结构化数据散落各处；结构化数据形成孤岛；AI 应用缺少统一知识获取层；知识加工低效、格式不统一。
产品博士的 AI 底座知识库通过三层建设路径、四步加工流程，实现了“一次加工，多处复用”，让知识以 AI 易读的格式更好地服务上层应用，对提升 AI 准确率起到关键作用。
从技术到生意：AIoT 智能硬件的商业化跃迁
▲ 分论坛现场 —— 三棵小草 陈青
"从'看得见'到'看得懂'，沉睡的视频数据第一次变成了能收钱的资产。"
在三棵小草的安防产品线（联了么）上，变化是从"看得见"走向"看得懂"：设备不再只录画面，而是精准识别人形、车辆与异常行为，边缘侧毫秒级响应，配合语音指令与人形追踪形成主动防御。
在宠物产品线（喜瓜）上，变化是从"监控"走向"懂宠"：AI 识别宠物品种与异常行为，支持语音对话与喂食联动，追踪健康并即时告警，还为养蜘蛛、蚂蚁等异宠的新手构建知识库，降低入门门槛。平台还提供每日事件摘要（结合关键动作、人物、时间节点生成日报）与自然语言关键词搜索，以及基于计算机视觉的高光集锦一键生成：自动捕捉宠物萌态、孩童笑脸与家庭互动，把冰冷录像转化为可分享的家庭记忆库——三棵小草定义为从"安防证据"到"情感资产"的跃升。
最让硬件厂商关心的，是他给出的两个商业结果: 引入AI交互能力后，产品上线周期从“月“缩短到“周”。同时，AI能力也为产品增值服务带来可观的提升，即便在价格极为敏感的入门市场，AI能力也为产品带来约3-4个百分点的提升。
CHAPTER FIVE
圆桌交流：Agent 时代的 OPC —— 跑在真实场景里的构建者，如何反推确定性
▲ 分论坛现场 —— 圆桌交流
论坛把话筒从厂商交给了一线的"一人公司"构建者。
主持：毛德峰（阿里云百炼 产品运营负责人）林晓翠（阿里云百炼 高级产品运营专家）
嘉宾：陶佳茜（独立创业者 · 法律 SaaS OPC 先锋）、姚振国（金允耀阳数字科技创始人）、陶萌（独立创业者 · AI 短视频、传统行业数字化 OPC 先锋）
1. 哪些能力值得做成 Agent？
陶佳茜的答案反直觉："最难被替代的，往往不是专家的那一次判断，而是让专家判断能不断进化的那层工作流"——她把多年法律实务的判断路径、材料清单与风险点拆成可复用流程，反而成了 Agent 最有价值的地基。姚振国从财税切入："这些确定性的规则，大模型不会把它吃掉，反而需要它来调用。"陶萌则更看商业：值得做成 Agent 的是"每天都有人问、答案还差不多"的重复环节。
2. 怎么收费、怎么活下去？
陶萌选择"找擅长卖的渠道"，把自己从销售中解放出来专注交付；姚振国"第二天就把框架摆在老板面前"，让付费方在最早时点看到交付物长什么样；陶佳茜强调先把单一场景做透、再横向复制。
3. 平台到底该提供什么？
毛德峰的总结最有分量："AI 拉长的是横向能力，不会变的是你对场景理解的深度。"OPC 构建者真正需要的不是又一个模型入口，而是一整套能让一个人完成过去一个团队工作量、且可交付可结算的基础设施。
CHAPTER SIX
发布仪式：阿里云百炼和朋友们，Agent Native 应用落地联合体发布
▲ 分论坛现场 —— 发布仪式
参与启动的生态代表包括：韩鹏（高德云图 商业业务线总经理）、周龙（天猫家享生活 行业品牌品类营销负责人）、汪晓鸣（阿里云智能集团 AI 创新设计部负责人）、胡媛帅（阿里巴巴不动产 负责人）、王琛鑫（阿里云智能集团 诉讼法务）、毛德峰（阿里云百炼 产品运营负责人）、李宁（杭州大智互联通信技术有限公司 CTO）。
这一环节补齐了全天叙事的最后一块拼图：阿里云百炼锤炼 Agent 底座、行业伙伴攻克场景、生态服务验证价值。底座解决"能不能建"，端侧与硬件平台解决"能不能进设备"，客户实践解决"能不能上生产"，生态共创解决"能不能规模化复制"。
CHAPTER SEVEN
结语
这场论坛把"企业级 Agent 规模化落地"这件被说了一年的事，拆成了四个可交付的答案：底座要能全托管、可观测、能进化；上下文要能跨文档跨模态地持续理解业务；端侧要能让先进 AI 能力真正落到每一台硬件上；边界要在强监管行业里划得清楚、留得住责任。在这条路径上，Agent 不再是一个演示用的对话框，它会成为企业的一种新型生产力资产。
从调用一个 Agent，到让 Agent 自己变聪明，企业级 Agent 的落地故事才刚刚开始。
直播回放：
https://yunqi.aliyun.com/2026/session?agendaId=125
体验入口：
1、Agent Studio 企业级 Agent 全栈服务平台
https://agent.console.aliyun.com/playground
2、Agent Studio for Hardware 智能硬件服务平台
https://agent.console.aliyun.com/agent-for-hardware
点击体验 Agent Studio 企业级 Agent 全栈服务平台 与 Agent Studio for Hardware 智能硬件服务平台，创造你的第一个 Agent。
产品手册下载：
