一键玩转CoAI:AI工程变现新模式

简介: CoAI是一款强大的AI管理软件,支持多种大模型如OpenAI、通义千问等,具备丰富的UI设计、多模型管理、弹性计费等功能,既适合个人使用也支持企业级部署,帮助用户轻松管理和商业化AI能力。

前言

自2023年AIGC火爆全网以来,各大厂的大模型层出不穷。国内有阿里巴巴的通义千问,有腾讯的混元,有月之暗面的 Moonshot AI;国际上有OpenAI的各版本ChatGPT,有Google的Gemini,还有OLLAMA。我们不禁要问,我能不能在一个平台上实现对多个模型的调用和管理?进一步的,作为AI从业人员,我能不能利用大模型的能力实现我技术的变现?
现在,有这么一款软件。他有丰富完备切美观的UI,支持多种大模型,有完备的后台管理系统和丰富的计费方式。既能够支持普通用户一站式管理多个大模型;也能够支持用户,作为AI能力提供商对外提供商业付费能力,实现工程能力变现。
image.png

各位,请允许我,隆重介绍这款软件。这款软件,名叫:CoAI

与CoAI的第一次见面

CoAI是下一代AI一站式 B/C 端解决方案,支持 OpenAI,Midjourney,Claude,讯飞星火,Stable Diffusion,DALL·E,ChatGLM,通义千问,腾讯混元,360 智脑,百川 AI,火山方舟,新必应,Gemini,Moonshot 等模型,支持对话分享,自定义预设,云端同步,模型市场,支持弹性计费和订阅计划模式,支持图片解析,支持联网搜索,支持模型缓存,丰富美观的后台管理与仪表盘数据统计。相比于
Next Web + One API,CoAI既支持部署私服,为团队or个人提供一站式AI访问平台。也支持部署公共服务,为第三方提供付费的一站式AI访问服务。
image.png

一键部署

登录阿里云计算巢控制台,点击“开始部署”。根据界面提示,填写相关参数,填写完成点击确认订单(确保账号有余额,推荐选择按量付费方式,使用完将实例释放掉或到ECS控制台选择节省停机模式进行关机以节省成本)。参数说明:




参数组
参数
描述




服务实例
服务实例名
长度不超过64个字符,必须以英文字母开头,可包含数字、英文字母、短划线(-)和下划线(_)



地域
服务实例部署的地域



付费类型
资源的计费类型:按量付费和包年包月


ECS实例配置
实例类型
可用区下可以使用的实例规格




实例密码
长度8-30,必须包含三项(大写字母、小写字母、数字、 ()`~!@#$%^&*-+=|{}[]:;'<>,.?/ 中的特殊符号)


可用区配置
可用区
ECS实例所在可用区


选择已有/新建的专有网络
选择是否新建专有网络


专有网络IPv4网段
新建资源所在VPC



交换机子网网段
新建资源所在交换机


Basic resource configuration
VPC ID
资源所在VPC



交换机ID
资源所在交换机


● 勾选我已阅读并同意《计算巢服务协议》,点击"立即创建"按钮。image.pngimage.png

● 查看部署进度。点击去列表页查看,可以看到刚刚创建的服务实例和实例的部署进度。image.pngimage.png

● 访问CoAI等待状态变为“已部署”后,点击详情,进入到对应的服务实例后,可以在页面上获取到endpoint访问服务。image.png

玩转CoAI

● 点击实例详情中“立即使用”中的chatnio_address,可进入CoAI社区版界面,点击登录。默认用户名为root,密码为chatnio123456image.png

● 点击左下角root头像,点击后台管理。此处可以进行各项配置,以及客户看板、账号管理、通知、模型市场等等image.pngimage.png

● 点击模型市场,点击新增模型,模型ID输入qwen-turbo,点击提交,并点击右上角保存image.png

● 点击渠道设置,输入名称,类型选择"通义千问 TongYi",点击添加模型,选择"qwen-turbo",并输入接入通义千问的秘钥,秘钥获取方式可参考:账号设置。文中"账号设置"小节中的API Key即为秘钥。点击确认。image.pngimage.png

● 至此,您已经配置好CoAI社区版,可以开始使用啦!您可以刷新页面并点击退出后台,测试大模型接入情况。也可以将您的CoAIo地址分享给他人注册账号,登录使用。同时,您可以针他人用量进行收费、管理等操作。更多用法,欢迎探索!image.png

相关实践学习
使用ROS创建VPC和VSwitch
本场景主要介绍如何利用阿里云资源编排服务,定义资源编排模板,实现自动化创建阿里云专有网络和交换机。
阿里云专有网络VPC使用教程
专有网络VPC可以帮助您基于阿里云构建出一个隔离的网络环境,并可以自定义IP 地址范围、网段、路由表和网关等;此外,也可以通过专线/VPN/GRE等连接方式实现云上VPC与传统IDC的互联,构建混合云业务。 产品详情:https://www.aliyun.com/product/vpc
相关文章
|
28天前
|
机器学习/深度学习 人工智能 JSON
【实战干货】AI大模型工程应用于车联网场景的实战总结
本文介绍了图像生成技术在AIGC领域的发展历程、关键技术和当前趋势,以及这些技术如何应用于新能源汽车行业的车联网服务中。
361 34
|
26天前
|
存储 机器学习/深度学习 人工智能
【AI系统】微分计算模式
本文深入探讨了自动微分技术,这是AI框架中的核心功能。自动微分分为前向微分和后向微分两种模式,主要通过雅克比矩阵实现。前向模式适用于输出维度大于输入的情况,而后向模式则更适合多参数场景,广泛应用于现代AI框架中。文章还详细解释了这两种模式的工作原理、优缺点及应用场景。
35 2
【AI系统】微分计算模式
|
8天前
|
人工智能 安全 搜索推荐
AI 驱动研发模式升级,蓝凌软件探索效率提升之道
蓝凌软件在引入通义灵码后取得了较明显的效果。目前,蓝凌软件已使用灵码的开发人员中,周活跃用户占比超过90%、根据代码库自动生成的代码占比超33%、代码智能补全占比29%,代码注释率提升了15%,有效提升了产品代码工程化的效能。
|
2月前
|
人工智能 搜索推荐 API
Perplexica:开源 AI 搜索引擎,Perplexity AI 的开源替代品,支持多种搜索模式、实时信息更新
Perplexica 是一款开源的 AI 驱动搜索引擎,支持多种搜索模式和实时信息更新,适用于个人、学术和企业等不同场景。
189 6
Perplexica:开源 AI 搜索引擎,Perplexity AI 的开源替代品,支持多种搜索模式、实时信息更新
|
1月前
|
人工智能 并行计算 调度
【AI系统】CUDA 编程模式
本文介绍了英伟达GPU的CUDA编程模型及其SIMT执行模式,对比了SIMD和SIMT的特点,阐述了SIMT如何提高并行计算效率和编程灵活性。同时简要提及了AMD的GPU架构及编程模型,包括最新的MI300X和ROCm平台。
54 5
|
9天前
|
人工智能
阿里云领跑生成式AI工程领域,两大维度排名Gartner®生成式AI工程Market Quadrant全球第二
阿里云凭借强劲实力入选Gartner 《Innovation Guide for Generative AI Technologies》所有领域的新兴领导者象限。
|
4月前
|
人工智能 Java 测试技术
低成本工程实践-AI帮我写代码做需求
本文主要讲述,以“无需训练模型”的方式实现:AI智能分析功能需求、写代码、review代码解决特定业务问题的实践过程
131 12
低成本工程实践-AI帮我写代码做需求
|
3月前
|
数据采集 人工智能 测试技术
还在死磕AI咒语?北大-百川搞了个自动提示工程系统PAS
【10月更文挑战第4天】北京大学和百川智能研究人员开发了一种名为PAS的即插即用自动提示工程(APE)系统,利用高质量数据集训练的大型语言模型(LLMs),在基准测试中取得了显著成果,平均提升了6.09个百分点。PAS仅需9000个数据点即可实现顶尖性能,并能自主生成提示增强数据,提高了灵活性和效率。尽管存在训练数据质量和提示多样性等方面的潜在局限性,PAS仍为解决提示工程挑战提供了有前景的方法,有望提升LLM的可用性和有效性。论文详见:https://arxiv.org/abs/2407.06027。
58 3
|
3月前
|
人工智能 API 数据安全/隐私保护
[大语言模型-工程实践] 手把手教你-基于Ollama搭建本地个人智能AI助理
[大语言模型-工程实践] 手把手教你-基于Ollama搭建本地个人智能AI助理
302 0
|
4月前
|
数据采集 机器学习/深度学习 人工智能
云栖实录 | GenAI 时代 AI Infra 工程技术趋势与平台演进
本文根据2024云栖大会实录整理而成,演讲信息如下: 演讲人:林伟 | 阿里云智能集团研究员、阿里云人工智能平台 PAI 负责人;黄博远|阿里云智能集团资深产品专家、阿里云人工智能平台 PAI 产品负责人 活动:2024 云栖大会 - AI Infra 核心技术专场、人工智能平台 PAI 年度发布专场