一篇写给非技术管理者的智能体即服务(AaaS)说明
梅西爱骑车 · 2026 年 11 月
一、先讲清楚一件事:过去二十年,我们买的东西变了三次
大概率都听过 IaaS、PaaS、SaaS 这三个词。它们听起来很术,其实说的是一件特别朴素的事:同样是用计算机干活,你到底要自己操心多少。
我们用"吃饭"来打比方。
第一次变化:IaaS —— 租一块地和一间毛坯房
以前企业要上信息系统,得自己买服务器、租机房、拉专线、配空调和 UPS 电源,还要养一支运维队伍日夜看着。
云出现以后,这些不用买了,改成租。阿里云、华为云把机房建好,你按小时租几台"虚拟服务器",水电网络都通好了。
这就是 IaaS(基础设施即服务)——租毛坯房。 房子不漏雨、不断电,但里面是空的。灶台、桌椅、锅碗瓢盆,你还得自己置办;饭怎么做,更是你自己的事。
它解决的是"不用盖房子",没解决"不用做饭"。
第二次变化:PaaS —— 租一间精装的共享厨房
后来发现,每家企业租了毛坯房,都在重复干同样的事:装数据库、装运行环境、配负载均衡、搭发布流程。这些活儿又累又不产生业务价值。
于是云厂商把厨房也装修好了:灶台通着气、排烟开着、水电到位、洗碗机备着。你只需要带上自己的菜谱和厨师,进来就能炒。
这就是 PaaS(平台即服务)——租精装共享厨房。 你不用管灶具怎么维护,只管把菜做出来。
它解决的是"不用装修厨房",但"菜谱和厨师还得你自己有"。
第三次变化:SaaS —— 直接下馆子
再后来,连菜都不用自己做了。你要报销,买一套现成的报销系统;你要管客户,买一套现成的 CRM。打开浏览器登录就能用,按人头按年付钱。
这就是 SaaS(软件即服务)——下馆子点菜。 菜单是固定的,做法是标准的,你只管点。
它解决的是"不用做饭",代价是"只能吃菜单上有的"。你们公司那套独特的审批流程、那套用了二十年的老系统,馆子里没有这道菜。
一张表看懂
| 你租到的是 | 比喻 | 你还得自己干什么 | 谁最省心 | |
|---|---|---|---|---|
| IaaS | 虚拟服务器、存储、网络 | 毛坯房 | 装系统、装软件、写应用、运维 | 最累 |
| PaaS | 现成的运行环境和中间件 | 精装共享厨房 | 写应用、定流程 | 中等 |
| SaaS | 开箱即用的成品软件 | 下馆子 | 适应它的标准流程 | 最省心,但最不灵活 |
这三次变化有一条共同的主线:把"重复的、不产生业务价值的脏活累活"从企业身上剥离出去,交给专业的人干。
现在,这条主线走到了第四步。
二、为什么 AI 时代需要第四层:因为我们要交付的东西变了
大模型 API 不是"饭",是"面粉"
2023 年以来,很多企业接了大模型 API。但接完发现一个尴尬的事实:它很聪明,但它不干完活。
你问它"帮我出昨天的生产日报",它会给你一段文字,告诉你日报应该怎么写。它不会自己去数据库取数、不会自己算同比环比、不会自己生成一份 Word 文档、更不会自己发到董事长的钉钉上。
这就像你买了一批顶级面粉,但厨房里没有人。面粉再好,也变不成饭。
行业里把卖面粉这叫 MaaS(模型即服务)。它是必要的原料供应,但离"能干活"还差一整间厨房和一个厨师团队。
智能体是什么:一个能被交代任务的员工
智能体(Agent)补上的正是这一段。它和传统软件的根本区别,一句话就能说清:
传统软件是"你点一下,它动一下";智能体是"你交代一句,它自己跑完"。
一个合格的智能体员工,得具备五样东西。我们还是用人来类比:
| 要素 | 对应到人 | 少了会怎样 |
|---|---|---|
| 会思考的脑子 | 判断力、专业能力 | 答非所问,胡编乱造 |
| 会干活的手 | 能操作工具、能查系统 | 只会说不会做,纸上谈兵 |
| 记得事的记忆 | 记得住上下文和历史经验 | 每次都要从头交代,越用越累 |
| 干活的流程 | 知道先做什么后做什么 | 复杂任务半途而废 |
| 守得住的规矩 | 知道什么能碰什么不能碰 | 捅娄子,删库、泄密、乱花钱 |
这五样凑齐,才叫"能雇"。凑不齐,就只是个聊天窗口。
于是交付物变了,商业模式也跟着变
这是本节最重要的一句话,请领导们记住:
云计算前三层交付的是"能力",AaaS 交付的是"劳动力"。
交付物变了,计价方式必然跟着变:
- 卖软件的时代,按席位收钱(多少人用)
- 卖云资源的时代,按用量收钱(多少核多少 G)
- 卖智能体的时代,按任务收钱(干了多少活、干成了多少)
这不是文字游戏。它意味着我们和客户的合同标的,从"一套系统"变成"一支随时待命、可考核、可追责的数字员工队伍"。
三、AaaS 的五层货架
讲完概念,落到我们自己 AaaS 平台,本质上就是把上面那五样东西做成了可交付、可托管、可管住的服务。
我按"从地基到门面"的顺序讲,每一层都对应前面那个比喻。
第 1 层:地基 —— 我们自己造的"毛坯房"(对应 IaaS)
智能体要跑起来,得有算力、有运行环境、有部署方式。这一层我们做了三件事:
- 容器化交付:标准 Docker 镜像,多架构构建,一条命令拉起整套平台
- 桌面化交付:Windows / macOS 安装包,业务人员双击就能用,不需要 IT 部门介入
- 本地模型运行时:内置 Flash 系列小模型(2B / 4B / 9B),不需要 API Key、不依赖外网就能跑
第三条对政企客户尤其关键。它意味着:在完全物理隔离的内网里,这套东西照样能干活。 数据不出厂,不是承诺,是架构决定的。
第 2 层:厨房 —— 现成的能力车间(对应 PaaS)
这一层是"不用重复造轮子"的部分:
- 大模型训推平台:提供大模型与多模态大模型微调部署框架,现已支持600+大模型与200+多模态大模型的训练(预训练、微调、人类对齐)、推理、评测、量化与部署。其中大模型包括:Qwen3、Qwen3-MoE、Qwen2.5、InternLM3、GLM4.5、Mistral、DeepSeek-R1、Yi1.5、TeleChat2、Baichuan2、Gemma2等模型,多模态大模型包括:Qwen2.5-VL、Qwen2-Audio、Llama4、Llava、InternVL3、MiniCPM-V-4、Ovis2.5、GLM4v、Xcomposer2.5、Yi-VL、DeepSeek-VL2、Phi3.5-Vision、GOT-OCR2等模型。
除此之外,训推平台汇集了最新的训练技术,包括LoRA、QLoRA、Llama-Pro、LongLoRA、GaLore、Q-GaLore、LoRA+、LISA、DoRA、FourierFt、ReFT、UnSloth、和Liger等轻量化训练技术,以及DPO、GRPO、RM、PPO、GKD、KTO、CPO、SimPO、ORPO等人类对齐训练方法。- 统一模型路由:接了 14 家以上云端模型供应商,同时支持 Ollama、LM Studio 等本地推理。上层应用不用关心底下用的是哪家模型,换模型不改代码
- 三层记忆系统:实时对话上下文 + 完整逐字历史 + 由 ReMe 驱动的自进化知识库。对话和资料会自动沉淀成可读、可编辑、可检索、相互链接的 Markdown 记忆——这一点很重要,记忆不是黑盒,业务人员能打开看、能动手改
- 工具接入三条路:平台内置工具、MCP 协议接外部系统、标准 HTTP 接口接企业老系统。用了二十年的老 ERP,只要有接口,就能变成智能体手里的一件工具
- 插件市场 + App 小程序平台:一个插件同时带前端界面和后端服务,装上用,不用改主程序
- 多智能体隔离:每个 Agent 有独立工作区,互不串数据,支持热重载
第 3 层:菜谱 —— 可视化编排车间(这是 AaaS 的核心)
前面两层业界都有。真正拉开差距的是这一层:让不懂代码的业务人员,自己把流程画出来。
使用AFD(Agent Flow Designer,智能体流程设计器)。它是一块拖拽画布,六种积木:
| 积木 | 干什么 | 大白话 |
|---|---|---|
| 开始 | 接收任务和参数 | 活儿从这儿进来 |
| 智能体 | 调用大模型思考、生成 | 让"脑子"干活 |
| 工具 | 调平台能力 / MCP / 企业 HTTP 接口 | 让"手"干活 |
| 路由 | 按条件走不同分支 | 遇到岔路口怎么选 |
| 询问 | 暂停下来等人回答 | 拿不准的事,先问人 |
| 结束 | 输出结果 | 活儿交出去 |
但画出来只是第一步。一套流程要能当成"服务"卖出去,必须管得住它的生老病死。 这块我们做了完整的生命周期:
编辑态 ──发布──▶ 发布态(版本快照) ──部署──▶ 部署态(对外服务)
▲ │
└────── 回滚 ◀────────┘
- 编辑态:草稿随便改,改坏了不影响线上
- 发布门禁:发布前静态校验。引用了不存在的变量、输出类型对不上、重试配置非法——直接拦下,不许发布
- 版本快照:发布即冻结一份完整快照,线上跑的永远是这份快照,不是草稿
- 一键回滚:新版本出问题,退回上一个已发布版本
- 流式执行:结果一个字一个字往外吐,用户不用干等
- 人工介入(HITL):走到"询问"节点自动暂停,人回答后从原地继续,不用重跑
- 节点级超时 + 重试 + 指数退避:某个环节卡住或抖动,自动重试,等待时间逐次拉长,不会把下游打爆
- 执行历史:每一次运行的轨迹、输入输出、状态全部留痕,可查可取消
这一层的意义在于:它把"AI 能不能干活"这个技术问题,变成了"流程能不能管住"这个管理问题。 而后者,是领导们熟悉的领域。
第 4 层:食堂 —— 多租户托管(对应 SaaS 的运营方式)
一套平台要服务多个客户、多个部门,就得解决"各吃各的、互不影响"。这是个可自托管的多用户控制平面:
- 租户台账:数据库里有独立的租户表、用户表(区分管理员和普通用户)、运行时表(记录每个运行时归哪个租户、哪个用户)
- 一租户一运行时:每个租户分到独立的运行实例,可选 Docker 容器隔离或进程级隔离。不是共享一个进程里分分权限,是物理上就分开
- 凭证隔离:租户密钥单独存放
- 访问防护:IP 黑白名单、按动作限流、只信任显式配置的反向代理
翻译成大白话:我们能把这套东西开成一家"食堂",每个单位有自己的包间、自己的厨房、自己的钥匙,共用一栋楼但互不打扰。
第 5 层:门面 —— 全渠道可达
智能体藏在服务器里没人用得起来。我们把它接到了员工每天都在的地方:
钉钉、飞书、微信、企业微信、QQ、Telegram、Discord、Slack、Matrix、Mattermost 等十余个渠道,外加 Web 控制台、命令行终端、桌面应用。
一个实例,全渠道连接。 在钉钉上发一句话,和在网页上点一个按钮,触发的是同一套已部署的流程。
贯穿五层的一根钢筋:管得住
这一条不属于任何一层,但每一层都有它:
- 工具守卫策略:每次工具调用前做判定,四种结果——放行 / 拒绝 / 问人 / 落进沙箱。系统内置的保护规则,智能体自己改不了
- 内核级沙箱:Windows AppContainer、Linux bubblewrap、macOS 沙箱分别落地。危险命令在执行前就被拦下,不是执行后再补救
- 全量审计:每次判定写入独立审计库,可按工作区、Agent、工具、决策结果、时间段查询
- 凭证不落盘:编排里的工具节点只存环境变量的名字,不存密钥本身,且强制命名空间前缀。流程图被人导出去,也拿不到一把钥匙
- 用量计量:Token 消耗按轮次统计入库,为按量结算打下数据基础
四、走一遍真实场景:一份生产日报是怎么自己出来的
抽象讲完了,我们跟着一份日报走一遍。假设客户是一家能源集团。
早上 7:55,调度中心主任在钉钉里发了一句:"出一下昨天的生产日报。"
接下来发生的事:
- 门面接单:钉钉渠道适配器收到消息,识别出这是要触发一条已部署的流程
- 调取快照:系统加载的是上个月发布并通过校验的那个版本,不是谁昨天改了一半的草稿
- 取数:工具节点调用集团生产系统的 HTTP 接口,拉昨日产量、能耗、设备停机记录。凭证从环境变量取,流程图里看不到密钥
- 算账:智能体节点做同比环比、标出异常项。这一步某个接口超时了——节点自动重试,等待时间翻倍,第三次成功,整条流程没有中断
- 问人:走到"询问"节点,流程暂停。系统把"3 号机组能耗异常偏高 12%,是否计入考核口径?"推给主任。主任回一句"计入",流程从原地继续,前面四步不用重跑
- 成文:生成 Word 日报,含图表和异常说明
- 交付:推回钉钉,同时归档到知识库
- 留痕:整条执行轨迹入库。三天后审计问"这个数怎么来的",能一键调出当时的输入、输出和每一次工具调用的判定记录
请注意第 2、4、5、8 步。 这四步不是"AI 很聪明",而是"这套服务可承诺、可追责"。
这正是 AaaS 和"接个大模型 API"的本质区别:前者能对结果负责,后者只能对生成负责。
五、这对我们的生意意味着什么
技术讲完,讲领导们最关心的部分。
1. 从"卖项目"到"卖能力"
过去做一个客户一套定制,人力堆上去,毛利被交付吃掉。现在:编排能力、工具接入、记忆、治理这些通用件建一次,所有客户复用;每个客户不同的只是画布上那张流程图。
这就是 PaaS 当年对软件行业的改造,正在智能体行业重演。
2. 从"卖软件"到"卖服务"
软件卖出去就是一锤子买卖。服务是持续的:托管要收钱、运行要收钱、维护要收钱。我们已有租户体系和用量计量,具备了按运行时长、按任务量结算的数据地基。
3. 从"交付即结束"到"持续运营"
版本快照、发布门禁、一键回滚、全量审计——这四样东西合起来,让我们第一次有底气对客户承诺 SLA(服务等级协议)。因为线上跑的是冻结的版本,出问题能退回去,每一步能查清楚。
没有这四样,所谓"智能体服务"只是演示。
4. 私有化 + 信创,是我们对政企客户最硬的一张牌
公有云上的智能体服务再好用,也进不了很多单位的内网。我们的架构从地基那层就支持完全离线:本地模型运行时 + 容器化私有部署 + 数据不出厂。
这不是加分项,这是准入资格。
六、诚实的边界:哪些我们还没做到
一份只讲好处的材料是不可信的。以下是现状的真实短板,写在这里是为了让决策建立在准确信息上。
| 事项 | 现状 | 影响 |
|---|---|---|
| 单进程内的细粒度多租户 | 主应用鉴权是单用户设计;多租户"一租户一运行时"实现 | 隔离强度够,但资源密度低,小规模租户成本偏高 |
| 计费闭环 | Token 用量已统计入库,尚无账单、配额扣费、超额熔断 | 能算清用了多少,还不能自动收钱 |
| 可观测性 | 已接 Langfuse 做链路追踪,缺完整的指标看板与 SLA 报表 | 能查单次问题,难做整体健康度运营 |
结论是清醒的:我们已经建成了 AaaS 的"生产车间"和"托管底座",但"收银台"还没建完。
前者决定能不能干活,后者决定能不能规模化收钱。这是下一阶段投入的重点。
七、一句话总结
IaaS 让我们不用盖房子,PaaS 让我们不用装修厨房,SaaS 让我们不用做饭。
AaaS 让我们不用雇人——你交代的是一件事,收回来的是一份做完的活。
地基(私有化部署)、厨房(模型路由 + 记忆 + 工具接入)、菜谱(可视化编排 + 版本治理)、食堂(多租户托管)、门面(全渠道可达)——五层货架已经摆满,钢筋(安全治理)已经贯穿。
下一步,是把营业厅和收银台建起来,让这支数字员工队伍,真正变成一门可以规模化的生意。
本文所有能力描述均可在 AI中台 v2.2.x 代码中逐条溯源。