Agent as a Service:从"买机器"到"雇员工"(AI中台建设)

简介: 本文是面向非技术管理者的智能体即服务(AaaS)通俗指南,以“吃饭”类比IaaS/PaaS/SaaS演进,揭示AaaS本质:交付可追责的“数字员工”,而非工具或软件。全文厘清智能体五大能力、五层架构与真实场景闭环,并坦诚当前边界——已建成生产与托管底座,正完善计费与运营能力。(239字)

一篇写给非技术管理者的智能体即服务(AaaS)说明
梅西爱骑车 · 2026 年 11 月


一、先讲清楚一件事:过去二十年,我们买的东西变了三次

大概率都听过 IaaS、PaaS、SaaS 这三个词。它们听起来很术,其实说的是一件特别朴素的事:同样是用计算机干活,你到底要自己操心多少。

我们用"吃饭"来打比方。

第一次变化:IaaS —— 租一块地和一间毛坯房

以前企业要上信息系统,得自己买服务器、租机房、拉专线、配空调和 UPS 电源,还要养一支运维队伍日夜看着。

云出现以后,这些不用买了,改成租。阿里云、华为云把机房建好,你按小时租几台"虚拟服务器",水电网络都通好了。

这就是 IaaS(基础设施即服务)——租毛坯房。 房子不漏雨、不断电,但里面是空的。灶台、桌椅、锅碗瓢盆,你还得自己置办;饭怎么做,更是你自己的事。

它解决的是"不用盖房子",没解决"不用做饭"。

第二次变化:PaaS —— 租一间精装的共享厨房

后来发现,每家企业租了毛坯房,都在重复干同样的事:装数据库、装运行环境、配负载均衡、搭发布流程。这些活儿又累又不产生业务价值。

于是云厂商把厨房也装修好了:灶台通着气、排烟开着、水电到位、洗碗机备着。你只需要带上自己的菜谱和厨师,进来就能炒。

这就是 PaaS(平台即服务)——租精装共享厨房。 你不用管灶具怎么维护,只管把菜做出来。

它解决的是"不用装修厨房",但"菜谱和厨师还得你自己有"。

第三次变化:SaaS —— 直接下馆子

再后来,连菜都不用自己做了。你要报销,买一套现成的报销系统;你要管客户,买一套现成的 CRM。打开浏览器登录就能用,按人头按年付钱。

这就是 SaaS(软件即服务)——下馆子点菜。 菜单是固定的,做法是标准的,你只管点。

它解决的是"不用做饭",代价是"只能吃菜单上有的"。你们公司那套独特的审批流程、那套用了二十年的老系统,馆子里没有这道菜。

一张表看懂

你租到的是 比喻 你还得自己干什么 谁最省心
IaaS 虚拟服务器、存储、网络 毛坯房 装系统、装软件、写应用、运维 最累
PaaS 现成的运行环境和中间件 精装共享厨房 写应用、定流程 中等
SaaS 开箱即用的成品软件 下馆子 适应它的标准流程 最省心,但最不灵活

这三次变化有一条共同的主线:把"重复的、不产生业务价值的脏活累活"从企业身上剥离出去,交给专业的人干。

现在,这条主线走到了第四步。


二、为什么 AI 时代需要第四层:因为我们要交付的东西变了

大模型 API 不是"饭",是"面粉"

2023 年以来,很多企业接了大模型 API。但接完发现一个尴尬的事实:它很聪明,但它不干完活。

你问它"帮我出昨天的生产日报",它会给你一段文字,告诉你日报应该怎么写。它不会自己去数据库取数、不会自己算同比环比、不会自己生成一份 Word 文档、更不会自己发到董事长的钉钉上。

这就像你买了一批顶级面粉,但厨房里没有人。面粉再好,也变不成饭。

行业里把卖面粉这叫 MaaS(模型即服务)。它是必要的原料供应,但离"能干活"还差一整间厨房和一个厨师团队。

智能体是什么:一个能被交代任务的员工

智能体(Agent)补上的正是这一段。它和传统软件的根本区别,一句话就能说清:

传统软件是"你点一下,它动一下";智能体是"你交代一句,它自己跑完"。

一个合格的智能体员工,得具备五样东西。我们还是用人来类比:

要素 对应到人 少了会怎样
会思考的脑子 判断力、专业能力 答非所问,胡编乱造
会干活的手 能操作工具、能查系统 只会说不会做,纸上谈兵
记得事的记忆 记得住上下文和历史经验 每次都要从头交代,越用越累
干活的流程 知道先做什么后做什么 复杂任务半途而废
守得住的规矩 知道什么能碰什么不能碰 捅娄子,删库、泄密、乱花钱

这五样凑齐,才叫"能雇"。凑不齐,就只是个聊天窗口。

于是交付物变了,商业模式也跟着变

这是本节最重要的一句话,请领导们记住:

云计算前三层交付的是"能力",AaaS 交付的是"劳动力"。

交付物变了,计价方式必然跟着变:

  • 卖软件的时代,按席位收钱(多少人用)
  • 卖云资源的时代,按用量收钱(多少核多少 G)
  • 卖智能体的时代,按任务收钱(干了多少活、干成了多少)

这不是文字游戏。它意味着我们和客户的合同标的,从"一套系统"变成"一支随时待命、可考核、可追责的数字员工队伍"。


三、AaaS 的五层货架

讲完概念,落到我们自己 AaaS 平台,本质上就是把上面那五样东西做成了可交付、可托管、可管住的服务。
image.png
我按"从地基到门面"的顺序讲,每一层都对应前面那个比喻。

第 1 层:地基 —— 我们自己造的"毛坯房"(对应 IaaS)

智能体要跑起来,得有算力、有运行环境、有部署方式。这一层我们做了三件事:

  • 容器化交付:标准 Docker 镜像,多架构构建,一条命令拉起整套平台
  • 桌面化交付:Windows / macOS 安装包,业务人员双击就能用,不需要 IT 部门介入
  • 本地模型运行时:内置 Flash 系列小模型(2B / 4B / 9B),不需要 API Key、不依赖外网就能跑

第三条对政企客户尤其关键。它意味着:在完全物理隔离的内网里,这套东西照样能干活。 数据不出厂,不是承诺,是架构决定的。

第 2 层:厨房 —— 现成的能力车间(对应 PaaS)

这一层是"不用重复造轮子"的部分:

  • 大模型训推平台:提供大模型与多模态大模型微调部署框架,现已支持600+大模型与200+多模态大模型的训练(预训练、微调、人类对齐)、推理、评测、量化与部署。其中大模型包括:Qwen3、Qwen3-MoE、Qwen2.5、InternLM3、GLM4.5、Mistral、DeepSeek-R1、Yi1.5、TeleChat2、Baichuan2、Gemma2等模型,多模态大模型包括:Qwen2.5-VL、Qwen2-Audio、Llama4、Llava、InternVL3、MiniCPM-V-4、Ovis2.5、GLM4v、Xcomposer2.5、Yi-VL、DeepSeek-VL2、Phi3.5-Vision、GOT-OCR2等模型。
    除此之外,训推平台汇集了最新的训练技术,包括LoRA、QLoRA、Llama-Pro、LongLoRA、GaLore、Q-GaLore、LoRA+、LISA、DoRA、FourierFt、ReFT、UnSloth、和Liger等轻量化训练技术,以及DPO、GRPO、RM、PPO、GKD、KTO、CPO、SimPO、ORPO等人类对齐训练方法。
    • 统一模型路由:接了 14 家以上云端模型供应商,同时支持 Ollama、LM Studio 等本地推理。上层应用不用关心底下用的是哪家模型,换模型不改代码
    • 三层记忆系统:实时对话上下文 + 完整逐字历史 + 由 ReMe 驱动的自进化知识库。对话和资料会自动沉淀成可读、可编辑、可检索、相互链接的 Markdown 记忆——这一点很重要,记忆不是黑盒,业务人员能打开看、能动手改
    • 工具接入三条路:平台内置工具、MCP 协议接外部系统、标准 HTTP 接口接企业老系统。用了二十年的老 ERP,只要有接口,就能变成智能体手里的一件工具
    • 插件市场 + App 小程序平台:一个插件同时带前端界面和后端服务,装上用,不用改主程序
    • 多智能体隔离:每个 Agent 有独立工作区,互不串数据,支持热重载

第 3 层:菜谱 —— 可视化编排车间(这是 AaaS 的核心)

前面两层业界都有。真正拉开差距的是这一层:让不懂代码的业务人员,自己把流程画出来。

使用AFD(Agent Flow Designer,智能体流程设计器)。它是一块拖拽画布,六种积木:

积木 干什么 大白话
开始 接收任务和参数 活儿从这儿进来
智能体 调用大模型思考、生成 让"脑子"干活
工具 调平台能力 / MCP / 企业 HTTP 接口 让"手"干活
路由 按条件走不同分支 遇到岔路口怎么选
询问 暂停下来等人回答 拿不准的事,先问人
结束 输出结果 活儿交出去

但画出来只是第一步。一套流程要能当成"服务"卖出去,必须管得住它的生老病死。 这块我们做了完整的生命周期:

编辑态  ──发布──▶  发布态(版本快照)  ──部署──▶  部署态(对外服务)
  ▲                      │
  └──────  回滚 ◀────────┘
  • 编辑态:草稿随便改,改坏了不影响线上
  • 发布门禁:发布前静态校验。引用了不存在的变量、输出类型对不上、重试配置非法——直接拦下,不许发布
  • 版本快照:发布即冻结一份完整快照,线上跑的永远是这份快照,不是草稿
  • 一键回滚:新版本出问题,退回上一个已发布版本
  • 流式执行:结果一个字一个字往外吐,用户不用干等
  • 人工介入(HITL):走到"询问"节点自动暂停,人回答后从原地继续,不用重跑
  • 节点级超时 + 重试 + 指数退避:某个环节卡住或抖动,自动重试,等待时间逐次拉长,不会把下游打爆
  • 执行历史:每一次运行的轨迹、输入输出、状态全部留痕,可查可取消

这一层的意义在于:它把"AI 能不能干活"这个技术问题,变成了"流程能不能管住"这个管理问题。 而后者,是领导们熟悉的领域。

第 4 层:食堂 —— 多租户托管(对应 SaaS 的运营方式)

一套平台要服务多个客户、多个部门,就得解决"各吃各的、互不影响"。这是个可自托管的多用户控制平面:

  • 租户台账:数据库里有独立的租户表、用户表(区分管理员和普通用户)、运行时表(记录每个运行时归哪个租户、哪个用户)
  • 一租户一运行时:每个租户分到独立的运行实例,可选 Docker 容器隔离或进程级隔离。不是共享一个进程里分分权限,是物理上就分开
  • 凭证隔离:租户密钥单独存放
  • 访问防护:IP 黑白名单、按动作限流、只信任显式配置的反向代理

翻译成大白话:我们能把这套东西开成一家"食堂",每个单位有自己的包间、自己的厨房、自己的钥匙,共用一栋楼但互不打扰。

第 5 层:门面 —— 全渠道可达

智能体藏在服务器里没人用得起来。我们把它接到了员工每天都在的地方:

钉钉、飞书、微信、企业微信、QQ、Telegram、Discord、Slack、Matrix、Mattermost 等十余个渠道,外加 Web 控制台、命令行终端、桌面应用。

一个实例,全渠道连接。 在钉钉上发一句话,和在网页上点一个按钮,触发的是同一套已部署的流程。

贯穿五层的一根钢筋:管得住

这一条不属于任何一层,但每一层都有它:

  • 工具守卫策略:每次工具调用前做判定,四种结果——放行 / 拒绝 / 问人 / 落进沙箱。系统内置的保护规则,智能体自己改不了
  • 内核级沙箱:Windows AppContainer、Linux bubblewrap、macOS 沙箱分别落地。危险命令在执行前就被拦下,不是执行后再补救
  • 全量审计:每次判定写入独立审计库,可按工作区、Agent、工具、决策结果、时间段查询
  • 凭证不落盘:编排里的工具节点只存环境变量的名字,不存密钥本身,且强制命名空间前缀。流程图被人导出去,也拿不到一把钥匙
  • 用量计量:Token 消耗按轮次统计入库,为按量结算打下数据基础

四、走一遍真实场景:一份生产日报是怎么自己出来的

抽象讲完了,我们跟着一份日报走一遍。假设客户是一家能源集团。

早上 7:55,调度中心主任在钉钉里发了一句:"出一下昨天的生产日报。"

接下来发生的事:

  1. 门面接单:钉钉渠道适配器收到消息,识别出这是要触发一条已部署的流程
  2. 调取快照:系统加载的是上个月发布并通过校验的那个版本,不是谁昨天改了一半的草稿
  3. 取数:工具节点调用集团生产系统的 HTTP 接口,拉昨日产量、能耗、设备停机记录。凭证从环境变量取,流程图里看不到密钥
  4. 算账:智能体节点做同比环比、标出异常项。这一步某个接口超时了——节点自动重试,等待时间翻倍,第三次成功,整条流程没有中断
  5. 问人:走到"询问"节点,流程暂停。系统把"3 号机组能耗异常偏高 12%,是否计入考核口径?"推给主任。主任回一句"计入",流程从原地继续,前面四步不用重跑
  6. 成文:生成 Word 日报,含图表和异常说明
  7. 交付:推回钉钉,同时归档到知识库
  8. 留痕:整条执行轨迹入库。三天后审计问"这个数怎么来的",能一键调出当时的输入、输出和每一次工具调用的判定记录

请注意第 2、4、5、8 步。 这四步不是"AI 很聪明",而是"这套服务可承诺、可追责"。

这正是 AaaS 和"接个大模型 API"的本质区别:前者能对结果负责,后者只能对生成负责。


五、这对我们的生意意味着什么

技术讲完,讲领导们最关心的部分。

1. 从"卖项目"到"卖能力"

过去做一个客户一套定制,人力堆上去,毛利被交付吃掉。现在:编排能力、工具接入、记忆、治理这些通用件建一次,所有客户复用;每个客户不同的只是画布上那张流程图。

这就是 PaaS 当年对软件行业的改造,正在智能体行业重演。

2. 从"卖软件"到"卖服务"

软件卖出去就是一锤子买卖。服务是持续的:托管要收钱、运行要收钱、维护要收钱。我们已有租户体系和用量计量,具备了按运行时长、按任务量结算的数据地基。

3. 从"交付即结束"到"持续运营"

版本快照、发布门禁、一键回滚、全量审计——这四样东西合起来,让我们第一次有底气对客户承诺 SLA(服务等级协议)。因为线上跑的是冻结的版本,出问题能退回去,每一步能查清楚。

没有这四样,所谓"智能体服务"只是演示。

4. 私有化 + 信创,是我们对政企客户最硬的一张牌

公有云上的智能体服务再好用,也进不了很多单位的内网。我们的架构从地基那层就支持完全离线:本地模型运行时 + 容器化私有部署 + 数据不出厂。

这不是加分项,这是准入资格。


六、诚实的边界:哪些我们还没做到

一份只讲好处的材料是不可信的。以下是现状的真实短板,写在这里是为了让决策建立在准确信息上。

事项 现状 影响
单进程内的细粒度多租户 主应用鉴权是单用户设计;多租户"一租户一运行时"实现 隔离强度够,但资源密度低,小规模租户成本偏高
计费闭环 Token 用量已统计入库,尚无账单、配额扣费、超额熔断 能算清用了多少,还不能自动收钱
可观测性 已接 Langfuse 做链路追踪,缺完整的指标看板与 SLA 报表 能查单次问题,难做整体健康度运营

结论是清醒的:我们已经建成了 AaaS 的"生产车间"和"托管底座",但"收银台"还没建完。

前者决定能不能干活,后者决定能不能规模化收钱。这是下一阶段投入的重点。


七、一句话总结

IaaS 让我们不用盖房子,PaaS 让我们不用装修厨房,SaaS 让我们不用做饭。
AaaS 让我们不用雇人——你交代的是一件事,收回来的是一份做完的活。

地基(私有化部署)、厨房(模型路由 + 记忆 + 工具接入)、菜谱(可视化编排 + 版本治理)、食堂(多租户托管)、门面(全渠道可达)——五层货架已经摆满,钢筋(安全治理)已经贯穿。

下一步,是把营业厅和收银台建起来,让这支数字员工队伍,真正变成一门可以规模化的生意。


本文所有能力描述均可在 AI中台 v2.2.x 代码中逐条溯源。

相关文章
|
17天前
|
Linux 开发工具 iOS开发
Codex保姆级教程(下载+安装+登录+使用,含所有版本,2026最新)
Codex是OpenAI推出的开源AI编程智能体,本地运行,可理解整个代码库,支持自然语言指令改代码、执行命令、跑测试、修Bug,兼容Win/macOS/Linux。(239字)
7063 52
|
4天前
|
JSON 前端开发 API
阿里云最新Qwen4-Max大模型介绍:模型定位、特征、能力、适用场景解析
2026 年 11 月 11 日,阿里发布第四代旗舰模型Qwen4-Max预览版,首发千问 AI 平台 Token Plan,并同步接入千问办公、Qoder 等入口。该版本聚焦知识理解、世界感知、编程与 Agentic 四项升级,主打复杂编程、专业办公、前端设计与专业软件操作。预览期至 11 月 25 日 24:00,到期后模型标识下线;限时 2 折、新用户再享 5 折,最低 1 折可体验。
|
5天前
|
云安全 人工智能 安全
|
17天前
|
JavaScript API iOS开发
DeepSeek Harness下载、安装、配置一篇搞定(2026整理,送常用插件)
DeepSeek Harness(DSH)是DeepSeek于2026年开源的MIT协议AI Agent框架,支持插件化组装模型、工具、沙箱与UI,兼容主流大模型。本文提供免Node.js的桌面端安装包(Win/macOS),含详细图文教程及热门插件推荐。
5479 65
|
12天前
|
Linux 开发工具 iOS开发
2026最新codex下载安装保姆级使用教程(下载+安装+登录+使用,含所有历史版本)
本文详解OpenAI Codex国内快速上手指南:提供Win/macOS/Linux全平台免安装包、npm/Homebrew等多方式安装、账号/API Key双登录、简体中文切换,覆盖下载、安装、汉化、使用及高频避坑(如微软商店失败、npm超时等),10分钟即可跑通。
2756 8
|
4天前
|
人工智能 前端开发 API
阿里云Qwen4-Max 大模型详解:定位、特征、能力、适用场景与相对Qwen3-Max差异解析
2026年11月11日,阿里发布第四代旗舰模型Qwen4-Max预览版,首发千问AI平台Token Plan并接入千问办公、Qoder等入口。该版本聚焦知识理解、世界感知、编程与Agentic四项升级,主打复杂编程、专业办公、前端设计与专业软件操作等真实任务。预览期为11月11日10:00至11月25日24:00,仅支持Token Plan调用,到期后模型标识下线;限时2折、新用户再享5折,最低1折可体验。
|
9天前
|
人工智能 安全 API
DeepSeek Harness下载、安装、配置一篇搞定(2026整理,送常用插件)
DeepSeek Harness(dsh)是DeepSeek AI于2026年开源的轻量级Agent运行框架,基于Cordis内核,践行“一切皆插件”理念。支持Web/桌面双端,开箱即用;内置多模型接入、丰富插件生态(超3.5万),适配编程、办公、创作等场景。(239字)
1789 1
|
2天前
|
弹性计算 人工智能 API
Codex超详细入门指南(下载·安装·登录·上手,全版本覆盖,2026最新版)
建议收藏本教程,2026 全年各版本更新随时回来查阅。如果你在搭建过程中遇到任何问题,欢迎结合 阿里云工单系统 提交技术支持请求,或在 阿里云开发者社区 搜索 Codex 相关话题交流。 祝你编码愉快,效率翻倍!
1200 0
|
8天前
|
人工智能 iOS开发 开发者
2026年 Codex 下载地址更新:codexdown.cn 已更换为 codexdown.cc(附 Codex 客户端下载)
2026年Codex官方下载站已由codexdown.cn正式迁移至codexdown.cc,提供Windows/macOS最新客户端、历史版本、安装教程及配置指南,开发者可一站式获取稳定、安全、签名验证的AI编程工具资源。(239字)
1634 0

热门文章

最新文章