
导读:阿里云在 Agentic AI 时代的战略蓝图是构建从底层芯片到智能体原生云、全模态模型、 模型服务及上层应用的全栈服务架构。围绕 Agent 这一核心,阿里云对其产品、API、计费、 文档、官网进行了重新设计。阿里云将自身打造成为一台能够输出“智力”与“能力”的超级计算机,这不是一次简单的技术升级,而是一场从提供算力到交付生产力的范式变迁。
如果今天还把 AI 理解为 Copilot 助手,那就太过时了。
阿里云给出了一个时代定义:Agentic AI 时代。这个定义源自 AI 时代的三个变化:
第一,AI 不再只是回答问题,而是完成任务。以前你跟 AI 聊完,还得自己动手,现在,AI 能自己规划、自己调用工具、自己纠错。Anthropic 最近的博客里提到:“When AI builds AI itself, this is called recursive self-improvement”,就是 AI 推动自己变强、不断迭代。
第二,评判标准从“流程跑完”变成“结果交付”。过去衡量 AI,看的是它有没有按预定工作流执行,现在看的是业务目标有没有达成。更狠的是,Agent 已经能做人类原本做不了的场景,以及做不到的产出。
第三,人机关系不再是人给指令、机器执行的单向关系,而是人与 Agent 组队协作:一个人可以指挥成百 上千个 Agent 同时干活,同时,组织形态变成“人 +Agent”的混合工作网络。Agent 嵌入业务流程,还会创造新的业务流程。
这三个变化加在一起,意味着一件事:AI 的角色,从工具开始变成工作中的主体。
例如,当一个开发团队有几十个人,背后可能同时跑着成千上万个 Agent。这些 Agent 会 7×24 小时不间断工作,这使得组织的产出能力实现数量级提升。
但问题来了,当 Agent 成为任务执行的主体,它需要的不是更好的工具,而是需要重新设计的一整套基础设施和支撑体系:
是不是具备足够聪明的模型?不仅要聪明,还要稳定,在长链路任务中保持一致性和可靠性。
能不能为 Agent 设计的云?传统云是资源调度, Agent 时代需要任务调度,并且大规模 Agent 同时在线,安全隔离必须做到任务级。
能否提供可编程的工具接口?Agent 调用工具的方式和人类完全不同,需要高频、可自动化的接口, SDK、CLI、MCP 协议都得跟上。
以及,持续带来井喷的推理性能和算力能力?Agent 需要持续在线,推理服务必须高吞吐、低延迟、高稳定,这依赖于高性能芯片及好的智能调度能力。
阿里云给出的答案是:从芯片到应用,五层全栈系统解决方案。
阿里云的定位是“中国的 AI 工厂”,这其中有五层,从下到上依次是芯片、Agentic Cloud、全模态模型矩 阵、模型服务平台、Agent 应用。每一层都不是独立存在,而是上下贯通、协同优化。
这个比喻很贴切。工厂不是造一两台机器,而是一整套生产体系——从原材料(芯片)、到生产线(云)、到核心技术(模型)、到质检包装(模型服务)、到最终产品(应用),全部针对 Agentic AI 时代重新设计。
接下来,我们将逐层拆解阿里云的全栈 AI 版图。
“ 芯 - 云 - 模 ” 深度协同,掌握 Token 的边际成本
在 Agentic AI 时代,每分每秒都有海量 Agent 在执行推理。推理成本直接决定了 Agent 经济能否规模化转化。而只有芯片在手,才能控制住 Token 的边际成本。
阿里云旗下平头哥半导体成立于 2018 年,经过八年深耕,已经打造出以 AI 芯片为核心的全套数据中心芯片解决方案,构建起从算力、网络到存储的完整自研芯片矩阵。目前平头哥不仅完成了 Day 0 芯片适配,也实现了模型发布即可以在阿里云上向广大开发者和用户提供实时可用模型服务的目标,这正是芯片、云、模型在底层深度协同的体现。
真武 M890 训推一体 AI 芯片,性能是上一代的三倍。它配备了 144GB 显存以及 800GB/s 的片间互联带宽,同时为提升算力利用率,支持 FP8 和 FP4 低精度计算。搭配 25.6T 的 Scale-Up 交换机和磐久服务器,可实现 64 卡全带宽互联,P2P 时延小于 150 纳秒,单节点拥有 9.2GB 超级内存池,万亿参数大模型无需跨服务器即可运行。
真武从架构前端到后端,实现了端到端的全自研。最核心的设计引擎、片间互联模块、专用数据移动单元、内部高速 Fabric 全部自研。平头哥拥有一支行业顶级的半导体研发团队,从 COT 到先进封装等能力都有极强掌控力。
真武在算力、显存带宽、显存容量、互联带宽等指标上始终保持在行业最前沿,同时还拥有全自研的全栈软件平台,全面兼容主流 AI 生态,业务迁移零代码修改,让用户以最快速度和最低迁移成本将业务无缝迁移到平头哥产品上。

国产芯片真武 M890 超节点 8 月上线阿里云规模化销售,可高效运行超 2 万亿参数的大模型推理,Kimi K3 与 Qwen3.8-Max 均已通过该超节点对外提供 MaaS 服务;真武芯片已服务 650 余家客户、覆盖 20 多个行业,上一代芯片出货超 50 万片。
不过,当模型走向万亿参数,单芯片显存和算力远远不能满足要求。
平头哥还自研了 ICN 片间互联总线协议和 PCCL 通信库,并打造了搭载 ICN Switch 1.0 互联芯片的磐久 AL128 超节点服务器。在 WAIC 2026 展会期间,磐久 AL128 超节点服务器作为镇馆之宝展出,推理性能较传统架构提升 50%,采用液脉式冷板液冷设计,单柜支持 350kW 供电。
平头哥不只是 AI 芯片,而是一个完整的芯片家族:有负责任务编排的倚天服务器 CPU,也有专门用于跨节点的 Scale-Out 网络构建的磐脉智能网卡,还有为海量上下文数据和长期记忆提供存储服务的镇岳 eSSD 存储控制器。
平头哥的芯片产品与阿里云及大模型紧密协同,构成客户的算力底座,实现“芯云模”一体化,在 Agentic AI 时代持续为千行百业客户提供无处不在的普惠算力。
从 AI 原生云到智能体原生云
当 Agent 成为云的一等公民,云必须围绕 Agent 的需求重做一遍。
阿里云智能集团资深副总裁李飞飞认为,当下已经从规模化的管理和运营算力,进入到了规模化管理和运营智力。这是阿里云对时代节点的根本判断。
过去二十年,云计算解决的是如何高效调度计算、存储和网络资源,Agent 时代面临的新问题是:如何让 Token 产生智能,驱动执行,进而转变成真实的业务结果。
李飞飞进一步指出,物种竞争最终比拼的是迭代效率和进化速度,任何一个组织想要达成这个能力,一定需要拥抱 Agent Native Cloud,阿里云就是最佳选择。
那么,围绕 CPU 到 GPU 再到 CPU+GPU 为核心的范式变迁,阿里云将云服务升级为 Agentic Cloud,并分为 AI Native Cloud(AI 原生云)和 Agent Native Cloud(智能体原生云)两个板块。
AI Native Cloud:负责 Token 的生产,包括预训练、后训练、推理等。在预训练方面,灵骏智算服务支持单集群达到 10 万卡规模,万卡规模扩展效率超过 96% 等;在后训练方面,训练框架已全面支持全流程,单个任务可支持 2 万个沙箱、千卡规模秒级自愈,多芯适配能力支持异构硬件。
在推理侧,核心目标是高效、经济、可靠地生产 Token,将围绕网络、KV-Cache、算力和调度进行持续优化。目前 Agent 场景中 KV Cache 命中率可超过 90%,TTFT(首 Token 生成时间)下降 30%, TPS(每秒事务数)提升 40%;单块 GPU 可同时服务多个模型,GPU 利用率从不足 34% 提升到 48%。
Agent Native Cloud:负责 Agent 的应用阶段,这是未来 2 到 3 年爆发增长的主战场。这一板块又可以细化为两个层面:Agent Infrastructure(Agent 运行底座) 和 Agentic Products(Agent 云产品)。
Agent Infrastructure 主要是为 Agent 提供执行环境,包括运行时、编排治理、安全、记忆和数据平面。
当前应用形态已经发生变化:传统在线应用是确定性逻辑,开发时预定义了功能和流程;但 Agent 应用范式不同,它以大规模模型为自主决策核心,流程不再由开发期预先写死,而是在运行期间动态生成并由 Agent 执行,这给基础设施带来巨大挑战,例如短生命周期的挑战,无规律突发负载的挑战等。
阿里云构建了六大核心能力来支撑 Agent 的规模化运行:
运行时,采用 MicroVM 硬件级隔离,每个 Agent 拥有独立硬件边界,从根本上防止越权和数据污染。弹性方面,通过快照预热加休眠分层技术,实现毫秒级唤醒;深度休眠保持内存状态,1-2 秒可急速恢复。ACS 每分钟可拉起 1.5 万个沙箱,Function Compute 峰值每分钟可拉起 10 万个沙箱,整体支撑百万级沙箱并发。工具调用方面,Agent 需要调用 Skill、CLI、浏览器、代码执行、Service 函数等,所有这些都在同一个硬件隔离边界内完成。未来的方向是每一个 Agent 都相当于拥有一台虚拟的云电脑,完整的工作环境,随用随起。

编排方面,多 Agent 协作需要同时解决三个问题:复杂任务的智能规划和分发、长链路执行的可靠性和一致性、跨 Agent 的协议互通和工具发现。通过 AgentTeams 等产品实现 Manager Agent 统筹协调、 Worker Agent 在隔离环境执行。上层 AI Gateway 统一处理鉴权、限流、路由,确保上千个 Agent 同时调用也不会打垮后端集群。
记忆方面,Agent 需要三层记忆体系:短时记忆负责会话内的临时状态;长期记忆用于跨会话的用户偏好和历史记录;知识记忆则对接企业知识库、知识图谱等权威知识资产。三层记忆各有不同的存储引擎和访问特征,支持记忆共享与权限隔离,在多 Agent 协作场景中,Agent 之间可以共享任务上下文和环境状态,但各自的私有记忆按权限隔离。
数据方面,可同时为模型和 Agent 提供多模态异构数据底座,一方面服务 AI Native Cloud 的模型训练和推理,另一方面为 Agent 提供语义融合、上下文组装、持久化、多元检索等服务,同一基础底座服务两类消费者。
在 OpenLake 开放统一的多引擎数据湖之上,阿里云推出了 Agentic Lake,为 Agent 场景重构了具备“被调用、自然语言交互、自动完成任务”能力的智能体化数据基座。在数据管理与流转方面,DataWorks 提供全链路的一站式开发治理,DTS 集数据同步、迁移、订阅、集成、加工于一体。同时,结合 MaxCompute、 Hologres、OSS 等底座类服务,并原生集成 Qwen 的多模态能力,共同为多模态异构数据提供坚实底座。
安全方面,构建三层安全体系:一是资产与供应链安全,依托 Agent 安全中心,支持多平台一键接入,覆盖 190 余种 AI 组件;二是身份与数据安全,通过 Agent ID Guard 落实最小权限管控;三是行为透明与运行时防御,部署 Agent 防火墙及 AI 安全护栏 2.0,实现全链路实时防护。值得一提的是,阿里云是唯一进入 2025 年 Gartner 访问管理魔力象限的亚太厂商。
治理方面,围绕身份管理、全链路可观测、成本精细化管控:Agent Identity 是专为 Agent 设计的身份和凭证管理服务;Agent Loop 覆盖从开发到部署到执行到评估的全生命周期;Token 消耗管理正在与企业客户共同探索 FinOps 在 Agent 场景下的最佳实践。
另一个层面,Agentic Products(Agent 云产品),其本身是可以被 Agent 直接通过工具接口调用,而非仅由人类控制台操作。
那么,Agent 如何理解意图、调用工具、甚至直接操控云?
阿里云认为实践的路径有三种:一是 Skill 化,把高频操作封装为可复用模式,Agent 开箱即用;二是 MCP 化,标准化工具调用协议,支持远程执行、安全隔离和权限管控;三是 CLI 化,结构化语义,可被 Agent 无歧义理解和调用。目前阿里云官方 Skill 已覆盖 2 万多 个 API、300 多款产品,有 100 多个严选精品 Skill 覆盖 12 条产品线,以及 9 家 Skill Market 合作伙伴。
在 Agent 时代,人类依然是主体用户。为了让人类更好地使用云服务,阿里云还提供了五款云端 Agent:OSS Agent、 数据库 Agent、DataWorks Agent、 Agentic SOC 以及 StarOps 全站智能运维平台。例如资生堂用 Agentic SOC 做安全运营,淘宝商品团队用 DataWorks Agent 做数据开发,其工单处理时间从 15 至 20 分钟缩短到 1 至 2 分钟,实现了十倍提效。
大模型,面向 Agent 能力升级
大模型的迭代速度还在加快,从过去追求“说得好”,到现在开始要求“做得到”,并且开始走向物理世界。
与此同时,过去模型是单轮调用,今天已变成多轮调用,甚至会根据复杂问题自主分析、动态规划、自我反思纠 错。模型也从单一服务变成了多 Agent 协同机制,选择不同模型、调用多个 Agent 来完成复杂任务。
今天的模型要干各种各样的实际任务,要去跟任务对齐。为此,阿里云也将 Qwen 模型从自然语言模型,全面升级为了原生支持复杂任务的智能中枢。
今年 5 月,阿里云发布了专为 Agent 时代设计的旗舰模型 Qwen3.7-Max。该模型在 Arena 全球盲测总榜中位列国产第一、全球第六,稳居第一梯队。
其核心突破在于 Agentic 能力的全面跃升:深度支持 MCP 协议,编程能力覆盖软件开发全生命周期并在 Terminal-Bench 2.0 刷新全球最高分;针对主流 Harness 框架深度优化,实现国内第一。
最令人惊艳的是其长周期任务处理能力——在真武 M890 芯片上,模型曾自主工作 35 小时,通过上千次工具调用与代码评估,实现官方测试代码 10 倍的几何平均加速比。
此外,Qwen3.7-Plus 也实现了原生视觉能力升级,位居 Vision Arena 中国第一、全球第五,配合语音合成与视频理解模型,让 Agent 能全方位感知物理世界。
仅不到 3 个月后,阿里云进一步发布了新一代基座大模型 Qwen3.8,作为千问大模型首个突破万亿参数的原生多模态模型,实现了代际跨越。
首先是架构与参数跃升,总参数量高达 2.4 万亿,采用第三代 MoE(混合专家)架构,通过动态专家路由实 现高效推理。
同时,Agentic 能力再进化,相较于 Qwen3.7,复杂多轮智能体任务准确率提升 35%,长文本幻觉率降低 62%。模型原生内置多智能体协作机制(MCP),能自主拆解长周期、高依赖性的复合任务。
此外,Qwen3.8 实现了自主编程的新突破,可以从一个空文件夹出发,自主完成一个十数天的真实项目交付,全程无需人工干预。全栈代码与原生多模态能力加强,编程能力从代码补全升级为全栈工程,具备仓库级代码重构与专业调试能力;无需外部模块,即可原生实现文本、图像、视频、文档的全链路融合处理与跨模态检索。
而且,Qwen3.8 可胜任广泛的、真实的专业工作任务 (Cowork)。面对完全不同的专业任务、评判标准和计算需求,Qwen3.8 通过真实环境和算力的联合强化学习(RL)扩展,实现了数百种高价值、高频专业任务的真实表现提升,在主流的智能体框架中均可稳定可靠地交付生产级成果。
除了拥有强大的文本和推理能力,Qwen3.8 还提高了 AI 视觉理解能力的极限:模型能读懂 200 页的财报 pdf、看懂超 100 小时的长视频,将这些“看到”的知识和信息反馈到工作全流程去,帮助模型思考得更周全。
开源一直是 Qwen 的核心优势,顶尖的 AI 应该真正完成普惠。Qwen3.8-Max 和 Qwen3.8-27B 也在发布后不久即开源。此前,Qwen3.6 开源了 27B(Dense 稠密模型)和 35B(MoE 混合专家模型),衍生模型数量超过 20 万个,全球下载量超 10 亿次,全球开源模型采用率达 53%。有开发者在飞机上用 MacBook 跑开源模型写代码,体验和云端几乎没区别,实现了真正“飞行模式”下的持续工作。
推理服务,让 Agent 落地“好用不贵”
在 Agent 时代,当云的用户逐渐从人切换成 Agent, 如何让未来数以亿计的 Agent 用好 AI、用好 Agent、用好云?千问 AI 平台(原千问云)承载的就是这样一个使命,它是一个为 Agent 而生的全新服务方式。
首先,千问 AI 平台的设计从一开始就对 Agent 非常友好,从模型的选型、调用、用量查询等核心能力都封装成 skills,让开发者和 Agent 都能够稳定地自如化的接入。
对于人类开发者来讲,千问 AI 平台也更加直观,开发者可以在平台上同步对比多款模型的能力,完成模型的测评,体验和选型。
不仅模型生态全面开放,覆盖国内外主流模型,千问 AI 平台上用量管理也更透明、更智能,Agent 自己可以实时的获取用量数据、分析趋势、识别异常,帮助使用者判断成本优化空间。
模型服务层面,阿里云百炼针对 Agent 时代下的长决策链路、高并发峰值、Token 消耗失控、企业级安全等难题都有覆盖解决。
高性能:Agent 规模化落地的第一件事就是高性能,不仅是单个模型跑得快,更要面对长链路高并发和突 发流量时,系统依然保持低延迟、高吞吐和弹性。 Flash Boot 将模型启动时间从 1200 秒压到 90 秒;UniScheduler 一分钟拉起 1 万个 Pod,调度决策耗时从 20 秒降到 0.4 秒;单次推理 TTFT 下降 38%, TPOT 从 25 毫秒降到 10 毫秒。
高性价比:目标不是简单降价,而是让 Agent 的 Token 消耗可控、可预测、可优化。Prompt Caching 通过隐式缓存、显式缓存、分布式全局 KV 缓存,成本最高省 90% 以上;CloudCode 场景重复上下文计算 成本降 98%,多轮对话首包延迟降 85%;资源池化和多形态推理再降 50%。
安全可靠:99.9% 生产机 SLA;四层多租户隔离;100% 加 密 +100% 审 计;Confidential MaaS 机密 推理让数据“可用不可见”。
效果更优:一站式调优覆盖数据准备、训练、评估到部署的完整链路;统一支持千问、Wan、CosyVoice、HappyHorse 等多模态模型(文本、语音、图像、视频 );内 置 Agentic RLVR(RL with Verifiable Rewards,可验证奖励强化学习)功能,GRPO、 PPO 等主流算法开箱即用;
生态繁荣:一套 API 接入全模型、全模态,支持 Cursor、Claude Code、QwenCode、Hermes 等主流 Agent 框架,链接百花齐放的模型生态。
阿里云致力于在 AI 时代打造最开放的云。在千问 AI 平台上,现在不仅能找到阿里云自己的模型,也能找到爱诗科技、MiniMax、Kimi、阶跃星辰、生数科技、智谱等业内顶尖模型伙伴的模型。最终目的是让客户在千问 AI 平台上获取到每个领域最佳模型组合、最具性价比的推理服务。
繁荣的应用生态,让AI真正“干起来”
基础设施和模型准备好了,最终要落到应用上。目前阿里云围绕编程、办公、创作、企业服务四大场景推出了丰富的 Agent 应用矩阵。
在当前竞争最激烈的编程能力上,阿里云 Qoder 实现了从辅助编程到全栈能力提升。主要包括五大维度升级:Qoder CLI 和 SDK 作为技术底座,赋能 Agent 编排、集成、扩展和治理;Qoder Desktop 工作台支持跨工程多任务并行;QoderWork 自定义工作台面向不同角色灵活定制,为组织提供不设上限的数字员工,安全可控、生产可用、持续进化;Qoder CN 百分百国内部署、百分百国产模型;Qoder Mobile 支持实时状态跟进和远程控制。
与此同时,阿里云也推出千问办公(Qwenwork)、秒悟、伶鹊、点金等 Agentic 应用,共同组成了丰富的应用生态。
例如,秒悟是一个极速云端 AI 全栈开发平台,用户只需说出想法,就能瞬间生成界面,吸引了众多非技术背景的用户,打破专业分工的壁垒,让创意本身成为生产资料。
千问办公则与市面上专注个人提效的 Agent 产品不同,其最大特色是激活组织生产力,全面瞄准企业级市场。千问办公已初步打通了钉钉 IM,未来将全面连接企业真实的数据库和工作流,帮助企业提效。比如在大型跨国企业,中国团队完成新品方案讨论后,可以用千问办公创建的 Agent 自动整理决策背景、生成英文项目文档,并将待确认事项同步英国团队。中国团队下班后, 7x24 小时在线的 Agent 将在项目群中持续回答英国团队的问题,共同推进工作。
与此同时,这些应用正深入垂类领域,在生产级场景中验证能力。伶鹊作为企业级对话智能体平台,底层具备基于千问对话大模型和全双工实时交互引擎,实现低延迟高拟人度对话体验;中层提供 Agent Builder、Studio、音色广场、音色克隆、TCS 微调等,企业可低门槛定制专属对话智能体;上层则覆盖了客服、营销、人力资源、面试、对话分析等场景,以及金融、汽车、医疗等垂直行业。
在对数据准确性、合规性、安全性要求极高的金融行业,通用 Agent 难以直接使用,需要从底层专门设计。点金作为金融级通用智能体,在应用层,提供金融工作台,开箱即用,内置信贷投研顾问等十大金融岗位专家技能,能写报告、做回测、训练模型、风控建模。支持企业自定义岗位和技能,业务经验自动沉淀为可复用的 Skill。在平台层,提供金融通用智能体底座,具备专业金融数据集、金融数据 CLI 化、智能启停沙箱、运行时权限管控、全链路审计。112 个接口对外开放,覆盖沙箱、凭证、权限、调度、审计等核心功能。
为什么是全栈的?
可以看到,从芯片到应用,五层全栈自研,阿里云的每一层都围绕 Agent 重新设计。
芯片层提供了 AI 芯片、CPU 芯片、存储芯片、互联芯片的完整矩阵,出货量也验证了规模化落地能力。
云层完成从 AI 原生云到智能体原生云的转型升级,让 Agent 自己使用云,让 Token 产生智能,带来业务价值。
模型层以 Qwen 系列模型为核心,在工具调用、编程、 Harness 框架、长周期任务四个维度全面提升 Agent 能力,配合全模态模型让 Agent 更好理解世界。
推理平台层百炼以高性能、高性价比、安全可靠、效果更优、生态繁荣五大能力,成为 Agent 经济的“卡点” 解决方案。
应用层的千问、Qoder、秒悟、千问办公、伶鹊、点金等产品,让 Agent 真正进入千行百业,成为可规模化复制的智能生产力。
Agentic AI 时代对“端到端优化”的要求前所未有。模型怎么设计,决定了芯片要支持什么精度;芯片的互联带宽,决定了模型能不能在单节点跑万亿参数;云的调度策略,决定了百万 Agent 并发时会不会崩溃;应用的调用方式,决定了 Agent 能不能真正用起来。这五层中的任意一个环节掉链子,体验都可能会断崖式下降。
阿里云的全栈 AI 不是设计了五层架构产品而已,而是具备深度协同、联合优化的能力。正如前文提到,平头哥的芯片和千问的模型是 Day 0 同步适配的,模型一发布,芯片就能跑,云就能提供服务。
Agentic AI 时代不是 AI 更聪明了一点,而是 AI 与人协同的角色都在发生根本性转变。当 AI 从工具变成自主主体,从回答问题变成交付结果,整个技术栈都需要重构。
阿里云呈现出的是,这一次变革不仅仅是在做技术升级,而是在建设一个全新的 AI 工业体系。这座 AI 工厂已经在全力运转了,Agentic AI 时代的全貌也才刚刚展开。