DeepSeek V4-Pro 永久降价 75%,小米 MiMo-V2.5 降幅 99%。Token 单价到了历史低点——全国日均词元调用量 140 万亿次,两年涨了 1000 多倍。
价格下来了,但账单呢?
价格越低,账单越高的悖论
多家团队反馈,AI 月支出在 Token 降价后不降反升。Uber 前四个月烧完全年 AI 预算,五千多名工程师人均月 Token 消耗 500~2000 美元,公司被迫设了每人每月 1500 美元的硬上限。
贝恩调查 951 家年收入超 1 亿美元的企业后指出:企业 AI 支出超 1 万亿美元后,实际成本节约普遍远低预期。44% 的大型企业正用"尚未兑现的上轮节省"为下轮投资背书——贝恩称之为"一个存在结构性漏洞的循环赌注"。
这背后是三层叠加的成本陷阱。
第一层:用量爆发——弹性远超预期的需求曲线
经济学上的需求弹性在 AI 领域被极度放大。以前只敢给核心开发组用,现在全公司都在用;以前只做代码补全,现在让模型写整套 CRUD、做数据分析、跑测试用例。
调用量翻倍,预算没变——但这不是终点。
第二层:词元通胀——Agent 时代的隐性消耗
Agent 执行一次任务,在后台拆解需求、调用模型、验证结果、失败重试。深圳特区报数据显示,Agent 单次任务 Token 消耗是同等对话的 10 到 100 倍。高盛测算:即使推理成本每年降 60%~70%,到 2030 年 Agent 式 AI 月 Token 消耗仍增长 24 倍。
成本下降速度远赶不上消耗增长的速度。这意味着只盯着 Token 单价做预算,就像只盯着 CPU 单价做容量规划——忽略了并发和调用链的放大效应。
第三层:多 Provider 账本混乱——五六家厂商,没有一个统一的"账房"
一个典型团队:研发用 Claude 和 GPT,算法组用 DeepSeek 和通义千问,产品组用 Kimi,测试组用第三方中转。每个 Provider 有自己的后台、计费口径和账单格式。
结果:离职同事的 Key 三个月了还在扣费,某个模型突然异常消耗没人预警,月底只能对着几个平台的总数发呆——知道花了多少钱,不知道花得对不对。
工程解法:在调用链路上加一层治理平面
1. 统一计费网关:多 Provider 消费归一化
核心思路是在 API 调用链路上前置一个代理层,拦截所有对外的模型请求,统一记录和聚合。类似阿里云 API 网关的流量治理思路——不是去每个 Provider 后台分别查账,而是所有流量经一个出口,在代理层统一埋点。
技术上需要处理的是:不同 Provider 的 Token 计费标准不同、返回头中的用量信息格式各异。代理层需要归一化这些数据,输出统一的消费模型(模型名、Token 量、成本、调用方标识、时间戳)。
2. 会话级归因:从 Key 粒度到任务粒度
当前账单是 Key 级别——告诉你这个月 Claude API 花了 3000 美元。但不知道哪些是人工调用、哪些是 Agent 自动跑的、哪个会话花了最多的钱。
可以在代理层注入会话标识(如 X-Session-ID),将每次 API 调用关联到具体会话。阿里云日志服务 SLS 的实时消费分析能力可以作为参考思路——不是月底拉账单,而是消费日志实时可查、可聚合、可下钻。
3. 异常检测与实时告警
当某个会话的 Token 消耗突然飙升、某把 Key 在非工作时间被大量调用、某个模型的调用失败率异常高——这些信号背后可能是 Bug、被遗忘的 Agent、甚至是被泄露的 Key。
4 月份 LiteLLM(月安装 9500 万次)在 PyPI 被投毒,Braintrust 的 AWS 账户被攻破导致多家企业 API Key 暴露。这些事件的共同特征不是攻击多高明,而是 Key 管理太分散——散落在配置文件、环境变量、CI/CD Secret 里,没有人轮换,也没有人审计。
Token 降价是好事,但成本治理的复杂度在上升。当团队从"一个模型、一把 Key"走向"多 Provider、多 Agent"时,在调用链路上加一层治理平面——统一计费、会话归因、异常检测——会让账单不再是一笔糊涂账。