前言
自2023年AIGC火爆全网以来,各大厂的大模型层出不穷。国内有阿里巴巴的通义千问,有腾讯的混元,有月之暗面的 Moonshot AI;国际上有OpenAI的各版本ChatGPT,有Google的Gemini,还有OLLAMA。我们不禁要问,我能不能在一个平台上实现对多个模型的调用和管理?进一步的,作为AI从业人员,我能不能利用大模型的能力实现我技术的变现?
现在,有这么一款软件。他有丰富完备切美观的UI,支持多种大模型,有完备的后台管理系统和丰富的计费方式。既能够支持普通用户一站式管理多个大模型;也能够支持用户,作为AI能力提供商对外提供商业付费能力,实现工程能力变现。
各位,请允许我,隆重介绍这款软件。这款软件,名叫:CoAI
与CoAI的第一次见面
CoAI是下一代AI一站式 B/C 端解决方案,支持 OpenAI,Midjourney,Claude,讯飞星火,Stable Diffusion,DALL·E,ChatGLM,通义千问,腾讯混元,360 智脑,百川 AI,火山方舟,新必应,Gemini,Moonshot 等模型,支持对话分享,自定义预设,云端同步,模型市场,支持弹性计费和订阅计划模式,支持图片解析,支持联网搜索,支持模型缓存,丰富美观的后台管理与仪表盘数据统计。相比于
Next Web + One API,CoAI既支持部署私服,为团队or个人提供一站式AI访问平台。也支持部署公共服务,为第三方提供付费的一站式AI访问服务。
一键部署
● 登录阿里云计算巢控制台,点击“开始部署”。根据界面提示,填写相关参数,填写完成点击确认订单(确保账号有余额,推荐选择按量付费方式,使用完将实例释放掉或到ECS控制台选择节省停机模式进行关机以节省成本)。参数说明:
参数组
参数
描述
服务实例
服务实例名
长度不超过64个字符,必须以英文字母开头,可包含数字、英文字母、短划线(-)和下划线(_)
地域
服务实例部署的地域
付费类型
资源的计费类型:按量付费和包年包月
ECS实例配置
实例类型
可用区下可以使用的实例规格
实例密码
长度8-30,必须包含三项(大写字母、小写字母、数字、 ()`~!@#$%^&*-+=|{}[]:;'<>,.?/ 中的特殊符号)
可用区配置
可用区
ECS实例所在可用区
选择已有/新建的专有网络
选择是否新建专有网络
专有网络IPv4网段
新建资源所在VPC
交换机子网网段
新建资源所在交换机
Basic resource configuration
VPC ID
资源所在VPC
交换机ID
资源所在交换机
● 勾选我已阅读并同意《计算巢服务协议》,点击"立即创建"按钮。
● 查看部署进度。点击去列表页查看,可以看到刚刚创建的服务实例和实例的部署进度。
● 访问CoAI等待状态变为“已部署”后,点击详情,进入到对应的服务实例后,可以在页面上获取到endpoint访问服务。
玩转CoAI
● 点击实例详情中“立即使用”中的chatnio_address,可进入CoAI社区版界面,点击登录。默认用户名为root,密码为chatnio123456
● 点击左下角root头像,点击后台管理。此处可以进行各项配置,以及客户看板、账号管理、通知、模型市场等等
● 点击模型市场,点击新增模型,模型ID输入qwen-turbo,点击提交,并点击右上角保存
● 点击渠道设置,输入名称,类型选择"通义千问 TongYi",点击添加模型,选择"qwen-turbo",并输入接入通义千问的秘钥,秘钥获取方式可参考:账号设置。文中"账号设置"小节中的API Key即为秘钥。点击确认。
● 至此,您已经配置好CoAI社区版,可以开始使用啦!您可以刷新页面并点击退出后台,测试大模型接入情况。也可以将您的CoAIo地址分享给他人注册账号,登录使用。同时,您可以针他人用量进行收费、管理等操作。更多用法,欢迎探索!