AxonHub · 轻量级 AI API 网关与多模型路由
Key 散落在五个配置文件里,换渠道要改十处代码
你的应用同时用着几家模型服务:通义、DeepSeek、还有两个海外厂商。每家一套 SDK、一套鉴权、一套计费口径。想做灰度切换、想看每个业务的调用量,只能自己写胶水层——写着写着,这个“内部网关”成了新的维护负担。
一个轻量的多模型 API 网关
AxonHub 是一款轻量级 AI API 网关和多模型路由管理工具,支持统一管理多个大模型提供商的 API Key 与请求转发,提供可视化管理后台、日志与监控能力。
它把多家 OpenAI 兼容的模型服务收拢到统一入口:应用只对接 AxonHub 的地址,Key、路由、渠道管理都在 Web 后台完成。基于 Go 开发,Docker Compose 一键自托管。
边界也说清楚:
- 它做:API Key 统一管理、多模型路由转发、用量日志与监控、管理后台。
- 它不做:不提供模型本身;非 OpenAI 兼容的专有协议需要适配。
- 各厂商 API Key 加密保存在你自己的实例中。
通过阿里云计算巢部署,实测 2 分钟内就绪,公网可访问管理后台,首次启动按向导创建管理员账号。
它解决了什么问题
| 你原来怎么干 | 代价 | 用它之后 |
|---|---|---|
| 每家模型一套接入代码 | 换渠道改十处 | 应用只对接一个网关地址 |
| Key 明文写在配置里 | 泄露了都不知道谁用的 | 后台统一管理,按渠道隔离 |
| 想看每个业务用了多少 token | 各家控制台来回翻 | 统一日志与监控 |
| 灰度切模型靠改代码发版 | 慢且风险高 | 后台调路由,秒级生效 |
核心能力
统一入口与路由
- OpenAI 兼容入口 —— 应用侧零改造接入。
- 多渠道路由 —— 按模型、按权重配置分流。
Key 管理
- 集中托管 —— 各厂商 Key 统一录入、统一轮换。
- 最小暴露 —— 应用只见网关自己的访问凭据。
日志与监控
- 调用留痕 —— 每次请求的模型、耗时、token 可查。
- 用量口径统一 —— 跨厂商消耗一屏看清。
轻量自托管
- Go 实现 —— 资源占用小,2C4G 即可运行。
- Docker Compose —— 自托管部署简单,数据自己持有。
谁最该用
| 用户类型 | 典型场景 | 用它拿到什么 |
|---|---|---|
| 多模型应用的团队 | 接了多家模型服务 | 一个入口管全部渠道 |
| 平台工程负责人 | 要给业务方发内部模型配额 | 网关级 Key 与用量管理 |
| 成本敏感的团队 | 想搞清 token 花在哪 | 按渠道按模型的用量视图 |
技术支持
- 官方仓库:https://github.com/looplj/axonhub
- 部署文档:https://computenest-service-deploy-document-cn-hangzhou.oss-cn-hangzhou.aliyuncs.com/quickstart-axonhub/index.md
- 问题反馈:GitHub Issues
🚀 立即体验
→ 一键部署 AxonHub
部署完成后打开访问地址,按照首次启动向导创建管理员账号(密码不少于 6 位),登录后即可管理 API Key 与多模型路由配置。