当大模型与 AI Agent 全速驶入业务生产环境,当AI 应用从 PoC走向生产环境,“黑盒”痛点也随之而来:
- Token 成本失控:调用量激增,账单成倍翻倍,却不清楚哪个 Prompt 或工具在疯狂消耗。
- Agent 链路黑盒:决策逻辑不可见,多轮对话与 Tool Call 路径断层,定位问题全靠猜。
- 推理延迟难定位:响应变慢,到底卡在 Infra 资源、向量检索,还是大模型 API 响应。
- 质量评估无从下手:缺乏量化手段,提示词优化与模型版本迭代的效果难以闭环。
这些问题在 Demo 里藏得很好,一上生产就原形毕露。
AI 应用要走向生产,先得让 Agent 从「黑盒」变得看得见、管得住。
8 月 8 日,AI 可观测 Meetup 落地北京
这一次,阿里云携手 Apache Doris 社区,把 Agent-Native 的可观测能力带到线下,邀请做大模型、Agent、AI 应用与数据分析的朋友齐聚一堂,用一个下午一起探索面向 Agent 时代的下一代可观测底座。
打开 Agent 观测黑盒,洞察数据潜在价值。
Agent 时代,可观测的命题变了
过去我们说可观测,指的是「监控系统还活着吗」:CPU、内存、QPS、错误率。但 Agent 时代,命题变成了「理解 Agent 到底在想什么、做什么」:它为什么选了这个工具?这一步幻觉从哪来?这轮对话值不值这么多 Token?
更棘手的是数据本身。Agent 既是新的数据消费者,也是新的数据生产者。Prompt、Tool Call、Trace、Token 这些运行数据爆发式增长,且天然海量、Free Schema、文本和大字段占比极高。用传统 ELK 自建一套观测链路,往往写入扛不住、存储成本高、检索又慢,最后「观测」本身反而成了新的负担。要接住这波数据,需要的不再是零散工具的拼装,而是一套面向 Agent 的统一可观测底座。
解法:把 Trace + Cost + Eval 用一个引擎跑通
面对这套命题,我们给出的答案是把 Agent 可观测拆成三件事,用一个引擎跑通:
- Trace(全链路追踪):完整还原 Agent 的每一次调用链路,多轮会话、Tool Call、检索路径,从「靠猜」变成「看得见」;Cost(成本归因):把 Token 消耗拆解到每个 Prompt、每个工具、每一步,账单花在哪一目了然;Eval(质量评测):用量化手段评估推理与输出质量,让提示词优化、模型版本迭代真正形成闭环。 在方案层面,你会看到 Litefuse —面向 Agent 场景的可观测与评估平台,已在阿里云 SelectDB 上提供服务。它把 Trace 的采集、存储、分析、评估与数据集管理能力一体化整合,让开发者用更低成本、更低运维复杂度就能把可观测体系搭起来。
几个值得现场细聊的能力点:
- 原生接入 Langfuse / OpenTelemetry,兼容 Langfuse SDK,并保留对 OpenAI SDK、Anthropic SDK、LangChain、Dify 等 100 余个 AI 生态组件的支持,接入几乎零改造;
- 相比 Langfuse,存储空间最高可节省 88%;
- 文本检索做到秒级响应,比传统 LIKE 查询快 5~10 倍。
目前 Litefuse 已经开源,构建 Agent Observability 平台的门槛被进一步拉低。
底座:撑起可观测的引擎能力
方案能不能扛住生产级压力,最终取决于底层引擎。SelectDB / Apache Doris 面向 Agent 场景做了系统性演进,几个维度和可观测直接相关:
- 极速:Agent 场景下一个问题可能触发数十次查询,延迟被放大 10 倍甚至 50 倍,亚秒级响应不再是优化项、而是底线。在 ClickBench、SSB、TPC-H、TPC-DS 等权威测试中均有领先表现,足以承载 Agent 推理链路的高吞吐、低延迟查询。
- 统一多模:Trace 数据里混杂着 JSON 半结构化、Text 全文、向量等多种形态,一套引擎统一管理结构化与非结构化数据、支持混合检索,不用再为不同数据形态各搭一套系统。
- Serverless 弹性:Agent 请求天然随机、突发,资源需求难以预估。阿里云数据库 SelectDB Serverless 版已于 2026 年 3 月正式商业化,基于存算分离与秒级弹性,低峰自动缩容、高峰自动扩容、按量计费,让观测资源成本从「固定预留」转向「按需付费」。
- Agent Native:引擎不只是被 Agent 连接,而是能被 Agent 直接调用——让可观测数据本身也成为 Agent 可以查询、分析和优化的对象。
这些能力叠加起来,指向的是同一个方向:让数据库演进为面向 Agent 的可观测与实时分析底座。
现场三场硬核分享
议题一|Litefuse:Agent 可观测与评估平台
分享人:姜磊 · 飞轮科技资深研发专家
深入 Litefuse 采集、存储、评估一体化的设计取舍,以及开源之后的落地方式。
议题二|Agent 时代的黑盒解析:SelectDB Serverless 驱动的可观测方案
分享人:艾乐强 · 阿里云数据库高级技术专家
拆解 Serverless 弹性架构如何撑起可观测负载,以及成本与运维复杂度是怎么降下来的。
议题三|当 AI 进入数据库内核:Apache Doris 的下一次智能跃迁
分享人:李佳鹏 · Apache Doris PMC
从 AI 应用之上走进数据库内核,看 Apache Doris 如何把 AI 能力沉到引擎层。
现场还准备了充足的交流时间,你可以带着自己的可观测难题来,与阿里云技术专家、Apache Doris 社区专家及业内 AI 开发者面对面,碰撞思想火花。
活动信息
⏰ 时间:2026 年 8 月 8 日(周六)13:30—16:30
📍 地点:阿里巴巴·北京朝阳科技园 B 区访客中心 313 会议室
🎁 福利:精美茶歇与丰厚的互动好礼(polo衫/水杯/帽子/颈枕等)
👇名额有限,点击报名链接即可报名
报名链接:https://page.aliyun.com/form/act1221884960/index.htm
想第一时间获取活动最新资讯,搜索钉钉群号「161125047304」加入交流群。
这个周六下午,北京见。