一键玩转CoAI:AI工程变现新模式

简介: CoAI是一款强大的AI管理软件,支持多种大模型如OpenAI、通义千问等,具备丰富的UI设计、多模型管理、弹性计费等功能,既适合个人使用也支持企业级部署,帮助用户轻松管理和商业化AI能力。

前言

自2023年AIGC火爆全网以来,各大厂的大模型层出不穷。国内有阿里巴巴的通义千问,有腾讯的混元,有月之暗面的 Moonshot AI;国际上有OpenAI的各版本ChatGPT,有Google的Gemini,还有OLLAMA。我们不禁要问,我能不能在一个平台上实现对多个模型的调用和管理?进一步的,作为AI从业人员,我能不能利用大模型的能力实现我技术的变现?
现在,有这么一款软件。他有丰富完备切美观的UI,支持多种大模型,有完备的后台管理系统和丰富的计费方式。既能够支持普通用户一站式管理多个大模型;也能够支持用户,作为AI能力提供商对外提供商业付费能力,实现工程能力变现。
image.png

各位,请允许我,隆重介绍这款软件。这款软件,名叫:CoAI

与CoAI的第一次见面

CoAI是下一代AI一站式 B/C 端解决方案,支持 OpenAI,Midjourney,Claude,讯飞星火,Stable Diffusion,DALL·E,ChatGLM,通义千问,腾讯混元,360 智脑,百川 AI,火山方舟,新必应,Gemini,Moonshot 等模型,支持对话分享,自定义预设,云端同步,模型市场,支持弹性计费和订阅计划模式,支持图片解析,支持联网搜索,支持模型缓存,丰富美观的后台管理与仪表盘数据统计。相比于
Next Web + One API,CoAI既支持部署私服,为团队or个人提供一站式AI访问平台。也支持部署公共服务,为第三方提供付费的一站式AI访问服务。
image.png

一键部署

登录阿里云计算巢控制台,点击“开始部署”。根据界面提示,填写相关参数,填写完成点击确认订单(确保账号有余额,推荐选择按量付费方式,使用完将实例释放掉或到ECS控制台选择节省停机模式进行关机以节省成本)。参数说明:




参数组
参数
描述




服务实例
服务实例名
长度不超过64个字符,必须以英文字母开头,可包含数字、英文字母、短划线(-)和下划线(_)



地域
服务实例部署的地域



付费类型
资源的计费类型:按量付费和包年包月


ECS实例配置
实例类型
可用区下可以使用的实例规格




实例密码
长度8-30,必须包含三项(大写字母、小写字母、数字、 ()`~!@#$%^&*-+=|{}[]:;'<>,.?/ 中的特殊符号)


可用区配置
可用区
ECS实例所在可用区


选择已有/新建的专有网络
选择是否新建专有网络


专有网络IPv4网段
新建资源所在VPC



交换机子网网段
新建资源所在交换机


Basic resource configuration
VPC ID
资源所在VPC



交换机ID
资源所在交换机


● 勾选我已阅读并同意《计算巢服务协议》,点击"立即创建"按钮。image.pngimage.png

● 查看部署进度。点击去列表页查看,可以看到刚刚创建的服务实例和实例的部署进度。image.pngimage.png

● 访问CoAI等待状态变为“已部署”后,点击详情,进入到对应的服务实例后,可以在页面上获取到endpoint访问服务。image.png

玩转CoAI

● 点击实例详情中“立即使用”中的chatnio_address,可进入CoAI社区版界面,点击登录。默认用户名为root,密码为chatnio123456image.png

● 点击左下角root头像,点击后台管理。此处可以进行各项配置,以及客户看板、账号管理、通知、模型市场等等image.pngimage.png

● 点击模型市场,点击新增模型,模型ID输入qwen-turbo,点击提交,并点击右上角保存image.png

● 点击渠道设置,输入名称,类型选择"通义千问 TongYi",点击添加模型,选择"qwen-turbo",并输入接入通义千问的秘钥,秘钥获取方式可参考:账号设置。文中"账号设置"小节中的API Key即为秘钥。点击确认。image.pngimage.png

● 至此,您已经配置好CoAI社区版,可以开始使用啦!您可以刷新页面并点击退出后台,测试大模型接入情况。也可以将您的CoAIo地址分享给他人注册账号,登录使用。同时,您可以针他人用量进行收费、管理等操作。更多用法,欢迎探索!image.png

相关实践学习
使用ROS创建VPC和VSwitch
本场景主要介绍如何利用阿里云资源编排服务,定义资源编排模板,实现自动化创建阿里云专有网络和交换机。
阿里云专有网络VPC使用教程
专有网络VPC可以帮助您基于阿里云构建出一个隔离的网络环境,并可以自定义IP 地址范围、网段、路由表和网关等;此外,也可以通过专线/VPN/GRE等连接方式实现云上VPC与传统IDC的互联,构建混合云业务。 产品详情:https://www.aliyun.com/product/vpc
相关文章
|
3月前
|
人工智能 Java 测试技术
低成本工程实践-AI帮我写代码做需求
本文主要讲述,以“无需训练模型”的方式实现:AI智能分析功能需求、写代码、review代码解决特定业务问题的实践过程
低成本工程实践-AI帮我写代码做需求
|
2月前
|
数据采集 人工智能 测试技术
还在死磕AI咒语?北大-百川搞了个自动提示工程系统PAS
【10月更文挑战第4天】北京大学和百川智能研究人员开发了一种名为PAS的即插即用自动提示工程(APE)系统,利用高质量数据集训练的大型语言模型(LLMs),在基准测试中取得了显著成果,平均提升了6.09个百分点。PAS仅需9000个数据点即可实现顶尖性能,并能自主生成提示增强数据,提高了灵活性和效率。尽管存在训练数据质量和提示多样性等方面的潜在局限性,PAS仍为解决提示工程挑战提供了有前景的方法,有望提升LLM的可用性和有效性。论文详见:https://arxiv.org/abs/2407.06027。
48 3
|
2月前
|
人工智能 API 数据安全/隐私保护
[大语言模型-工程实践] 手把手教你-基于Ollama搭建本地个人智能AI助理
[大语言模型-工程实践] 手把手教你-基于Ollama搭建本地个人智能AI助理
153 0
|
4月前
|
机器学习/深度学习 人工智能 自然语言处理
还不懂如何与AI高效交流?保姆级且全面的chatGPT提示词工程教程来啦!(一)基础篇
这篇文章是一篇保姆级的教程,旨在全面介绍如何与AI进行高效交流,包括ChatGPT的前世今生、应用场景以及提问的基础技巧。
还不懂如何与AI高效交流?保姆级且全面的chatGPT提示词工程教程来啦!(一)基础篇
|
3月前
|
人工智能 JSON 自然语言处理
你的Agent稳定吗?——基于大模型的AI工程实践思考
本文总结了作者在盒马智能客服的落地场景下的一些思考,从工程的角度阐述对Agent应用重要的稳定性因素和一些解法。
148 12
|
3月前
|
数据采集 机器学习/深度学习 人工智能
云栖实录 | GenAI 时代 AI Infra 工程技术趋势与平台演进
本文根据2024云栖大会实录整理而成,演讲信息如下: 演讲人:林伟 | 阿里云智能集团研究员、阿里云人工智能平台 PAI 负责人;黄博远|阿里云智能集团资深产品专家、阿里云人工智能平台 PAI 产品负责人 活动:2024 云栖大会 - AI Infra 核心技术专场、人工智能平台 PAI 年度发布专场
|
4月前
|
人工智能 搜索推荐 API
AI智能体研发之路-工程篇(二):Dify智能体开发平台一键部署
AI智能体研发之路-工程篇(二):Dify智能体开发平台一键部署
542 2
|
4月前
|
人工智能 API 异构计算
AI智能体研发之路-工程篇(四):大模型推理服务框架Xinference一键部署
AI智能体研发之路-工程篇(四):大模型推理服务框架Xinference一键部署
325 2
|
4月前
|
人工智能 网络协议 Docker
AI智能体研发之路-工程篇(三):大模型推理服务框架Ollama一键部署
AI智能体研发之路-工程篇(三):大模型推理服务框架Ollama一键部署
212 2
|
4月前
|
人工智能 物联网
【2022年无线通信和与物联网专场】中国工程院张平院士-AI使能6G演进与应用
中国工程院张平院士关于"AI使能6G演进与应用"的演讲摘要。
108 8
下一篇
无影云桌面