目前业界内有很多的大模型服务,比如OpenAI’s ChatGPT、Google’s PaLM2/Gemini、百度的文心一言等多个平台的大模型,如果要接入大模型的话,需要针对每个特定的AI平台独立编写和维护代码。当需要集成多个大模型时,工作成本就高了,这个时候如果能通过统一的接口访问不同的大模型服务,可以极大地简化工作流程和提高效率,One API 就是这样一个工具。
什么是One API?
One API 是一个开源的OpenAI接口管理与分发系统,支持 Azure、Anthropic Claude、Google PaLM 2 & Gemini、智谱 ChatGLM、百度文心一言、讯飞星火认知、阿里通义千问、360 智脑以及腾讯混元,可用于二次分发管理 key,仅单可执行文件,已打包好 Docker 镜像,一键部署,开箱即用。
One API 的使用场景是什么?
- 多模型集成项目:当你的项目需要集成多个大模型,而这些模型分布在不同的AI平台时,One API可以作为统一的接口,简化你的集成工作。
- 开发代理服务:如果你需要构建一个自己的AI服务,而后端需要调用不同的AI模型,One API可以作为后端服务,你只需要与One API交互,而不需要处理与各个AI平台的具体交互细节。
- 教育和研究:在AI的学习和研究中,经常需要对比不同模型的表现。One API可以简化这一流程,使研究者可以轻松切换不同的模型进行对比分析。
- 小型企业或个人项目:对于资源有限的小型企业或个人开发者,可能没有足够的时间和精力去适配和管理多个AI平台的API。One API提供了一个简单便捷的解决方案。
- 在敏捷开发中快速原型制作:当你需要快速验证一个涉及AI模型的想法时,One API可以帮助你省去了配置和接入多个AI服务的时间,让你更专注于原型的开发。
One API在处理需要访问多个AI模型的项目时尤为有用,它通过提供统一的接口来简化开发流程,节省时间和资源。不论是在开发复杂的综合AI服务、进行AI模型对比研究,还是简单地快速验证AI相关的项目想法,One API都能提供强大的支持。
如何使用One API?
One API 可以用来管理模型池,其可以兼容 OpenAI 、Azure 、国内主流模型和本地模型等。
- 使用root 账号登录,默认密码:123456
- 在渠道页面中添加新的渠道
- 然后在令牌页面中新增访问令牌
- 客户端使用令牌访问 One API。
- 根据请求中的 model 参数,匹配对应的渠道(根据渠道里的模型进行匹配,必须完全一致)。如果匹配到多个渠道,则随机选择一个(同优先级)
- One API 向真正的地址发出请求,并将结果返回给客户端
如何在阿里云上快速部署One API
阿里云计算巢提供了快速部署的One API的解决方案,只需要简单填写配置就可以一键部署到自己的VPC 内,非常简单快捷,操作步骤如下:
- 单击部署链接,进入计算巢的服务实例部署界面。
- 根据界面提示,填写参数完成部署。
选择实例规格,并设置实例密码
设置可用区和VPC信息
- 设置完参数后,点击下一步确认订单,点击立即创建,等待服务实例创建完成。
- 服务实例创建成功后,进入服务实例详情页。在概览页可获取one-api登录信息。
使用初始账号登录,用户名为 root
,密码为 123456
。
参考文档:
https://docs.geekai.me/config/chat/one-api.html#geekai-%E9%85%8D%E7%BD%AE
https://aibard123.com/newtutorial/2024/02/one-api/
---
查看更多计算巢服务 (https://computenest.aliyun.com)