【通义千问】一键部署通义千问预体验

本文涉及的产品
Serverless 应用引擎免费试用套餐包,4320000 CU,有效期3个月
函数计算FC,每月15万CU 3个月
简介: 本实验将基于函数计算,让您一键在阿里云上部署自己的对话机器人,快来打造自己的AI小助理吧!本实验答疑钉钉群:29290019867。

【通义千问】一键部署通义千问预体验


1. 实验资源准备

费用问题体验前必看完!体验前必看完!体验前必看完!

注意事项

本场景会产生函数计算费用,请您体验前阅读下面三个问题:

Q1: 我该领用哪种资源?

  • 首次开通函数计算用户可领取0元函数计算试用资源 ,请您参考“一、选择开通免费试用(函数计 算首次开通用户)”由于试用额度不支持抵扣公网出流量和磁盘使用量的费用。如您未购买相关资源包,公网出流量使用量和超出512MB的磁盘使用量将计入按量付费。
  • 如果您没有免费试用资格或者在4月6日20:00前已开通函数计算服务,请您参考 “二、选择个人账户资源(无免费试用资格或函数计算老客户)” 推荐购买函数计算9.9 老客户专享套餐。无套餐直接使用会产生函数计算后付费订单,具体计费情况请参考计费概述。由于老客户专享额度不支持抵扣公网出流量和磁盘使用量的费用。如您未购买相关资源包,公网出流量使用量和超出512MB的磁盘使用量将计入按量付费。

Q2: 为什么我领取了试用额度,依然有小额计费?

本实验需要使用到“公网出流量”和“磁盘使用量”两个计费项,而试用额度不支持抵扣公网出流量和磁盘使用量的费用。如您未购买相关资源包,公网出流量使用量和超出512MB的磁盘使用量将计入按量付费。本体验涉及使用少量公网出流量和磁盘使用量,为了避免停机风险,请您确保账号中有至少1元余额”,具体计费情况请参考计费概述

本实验公网出流量使用量和超出512MB的磁盘使用量计费参考如下:

  • 免费额度外,函数计算费用还包含磁盘使用量公网出流量。
  • 当前应用磁盘使用量为512 MB,不需要支付费用
  • 同时加载前端页面,需要支付一定的公网出流量费用(0.5元/GB)。前端加载需要约1M流量(约 0.00049 元)。

说明:预估费用仅供参考,实际费用取决于图片大小、调用频率等多种因素,如需长期使用本服务,请仔细阅读函数计算(FC)资源使用费用,避免产生意料之外的费用;如仅为体验功能不做长期使用,请一定按照文档最后删除步骤,部署之后立即删除。

Q3:为什么实验需要开通内容安全服务? 根据相关部门的规定,企业和开发者使用生成式人工智能服务需配备相应的内容风险管理机制,因此在本次实验中,默认为您集成了阿里云内容安全检测服务,前往AIGC内容安全方案了解更多。

本实验涉及到使用内容安全的计费参考如下:0.0075元/每10条。

一、资源方式介绍

本实验支持开通免费试用、个人账户资源两种实验资源方式。

  • 建议首次开通函数计算用户选择开通免费试用
  • 函数计算老用户选择个人账户资源

在实验开始前,请您选择其中一种实验资源,单击确认开启实验

二、选择开通免费试用(函数计算首次开通用户)

新客户0元试用资源额度如下:

2023年04月06日20:00之后开通函数计算的用户,可0元享老客户专享套餐,有效期3个月,总价值150元。套餐限购1次,内含四个试用包:50万vCPU*秒 + 100万GB*秒 + 400万次函数调用 + 10万GB*秒GPU。

请注意:试用额度不支持抵扣公网出流量和磁盘使用量的费用。如您未购买相关资源包,公网出流量使用量和超出512 MB的磁盘使用量将计入按量付费。本体验涉及使用少量公网出流量和磁盘使用量,为了避免停机风险,请您确保账号中有至少1元余额”,具体计费情况请参考计费概述

  1. 在本实验页面下方卡片会展示本实验支持的试用规格,选择函数计算FC并单击立即试用

  1. 首次开通函数计算的新客户,可以在函数计算新客首购套餐页面,单击立即购买

  1. 前往内容审核按量付费开通页面,选中服务协议,单击立即开通

二、选择个人账户资源(无免费试用资格或函数计算老客户)

如果您没有免费试用资格或者在4月6日20:00前已开通函数计算服务,请您选择个人账户资源进行实验。

您有两种付费方式:

方式一:您可以直接使用函数计算后付费开始实验,计费标准详情请参考计费概述请您仔细阅读计费标准,防止有意料之外的付费。

方式二:本实验推荐您购买函数计算老客户专享套餐包,进行实验。额度如下:

2023年04月06日20:00之前开通函数计算的用户,可9.9元享老客户专享套餐,有效期3个月,总价值150元。套餐限购1次,内含四个试用包:50万vCPU*秒 + 100万GB*秒 + 400万次函数调用 + 10万GB*秒GPU。

请注意:试用额度不支持抵扣公网出流量和磁盘使用量的费用。如您未购买相关资源包,公网出流量使用量和超出512 MB的磁盘使用量将计入按量付费。本体验涉及使用少量公网出流量和磁盘使用量,为了避免停机风险,请您确保账号中有至少1元余额”,具体计费情况请参考计费概述

具体操作为:

  1. 前往函数计算管理控制台。在概览页面,单击老客户专享套餐

  1. 函数计算老客首购套餐页面,单击立即购买

  1. 前往内容审核按量付费开通页面,选中服务协议,单击立即开通

2. 创建应用

再次提醒本实验可领用下方卡片中的函数计算免费额度;首次开通函数计算的新客户,可以购买新客首购套餐;如您是函数计算老客户,可购买老客户专享套餐包(所有套餐包购买请查看第一步骤描述信息)。

请注意领用/购买套餐包进行实验,如选择后付费形式进行实验,请注意账户扣费。计费情况详情请参考计费概述

  1. 前往函数计算控制台
  2. 在左侧导航栏中,单击应用

注意:如果您之前使用过应用中心,在单击应用之后出现类似于下面的页面,此时您可以单击创建应用继续流程。

  1. 单击应用/创建应用之后,您可以看到应用列表

  1. 在应用页面,搜索并选择通义千问预体验,单击立即创建

  1. 创建应用页面,选择直接部署

  1. 此时还需要关注页面上角色名称部分,例如:

此时需要单击前往授权进行授权,授权完成可能会提示:

说明:如果您的角色名称已有相关权限,可忽略此步骤。

  1. 应用可支持部署地域为北京、杭州、上海、深圳,请选择任意一地域。

说明:如遇部署异常,特别是公共镜像拉取耗时长/失败问题,请切换其他地域重试。

  1. 完成之后,单击页面最下面的创建并部署默认环境

注意:部署应用之后会产生函数计算资源使用费用,计费情况详情请参考计费概述

  1. 基本信息页面,单击部署版本

  1. 在部署版本页面,请您耐心等待部署状态变为部署成功,在部署时您也可以查看日志观察应用部署情况。

说明:大约需要等待1~2分钟。

  1. 部署完成之后,返回到应用的基本信息页面。在基本信息页面,单击访问域名

  1. 返回如下页面,您就可以与通义千问对话啦。

3. 开始对话通义千问

您可以选择输入如下我们预置的问题,或者输入您自己的问题,与通义千问进行对话。每个阿里云账号将有30次对话额度。

给我一段转发/proxy路径下所有流量到www.aliyun.com的Nginx配置

4. 计费参考

小明使用函数计算部署了通义千问预体验大约要消耗多少函数计算资源呢?

函数计算配置:GPU8 GB、vCPU2核、内存4 GB、磁盘512 MB

进行一次对话的成本如下如下:

花费时间

CPU资源消耗

内存资源消耗

磁盘资源消耗

带宽资源消耗

费用累计

30s

(冷启动)

0.5 * 30= 15 vCPU-s

0.5 * 30= 15 GB-s

免费

1MB

15 vCPU-S*0.000127元 + 15 GB-S*0.0000127元 + (0.5元/1024*1) = 0.004298元

10s

(热启动)

0.5 * 10= 5 vCPU-s

0.5 * 10= 5 GB-s

免费

1MB

5 vCPU-S*0.000127元 + 5 GB-S*0.0000127元 + (0.5元/1024*1) = 0.001758元

假如小明0元购买了免费试用包,或老客专享资源包

资源包额度为:

  • vCPU试用额度:前50万vCPU*秒vCPU资源使用免费。
  • 内存试用额度:前100万GB*秒内存资源使用免费。
  • 函数调用试用额度:前400万次函数调用免费。
  • GPU试用额度:前10万GB*秒GPU资源使用免费。

那么小明在用完所有30次通义千问预体验额度时(连续对话只有首次冷启动,后续均为热启动),共花费:0.001758*29 + 0.004298*1 = 0.05528元

免费额度外,函数计算费用还包含磁盘使用量公网出流量

  • 当前应用磁盘使用量为512 MB,不需要支付费用。
  • 同时加载前端页面,需要支付一定的公网出流量费用(0.5元/GB)。前端加载需要约 1M 流量(约 0.00049 元)。

说明:预估费用仅供参考,实际费用与对话内容、调用频率等多种因素有关。

5. 释放函数资源

在实验完成之后,如果您需要长期使用,请忽略此步骤。如果您不需要长期使用,请按照如下步骤对资源进行释放。

  1. 应用页面,找到您部署的应用,单击右侧操作列下的删除

  1. 删除应用对话框中,选择我一确定资源删除的风险,依旧要删除上面已选择的资源,然后单击删除应用及所选资源

实验地址:https://developer.aliyun.com/adc/scenario/aed6fb72b0644a40a839740600507a88

相关实践学习
部署Stable Diffusion玩转AI绘画(GPU云服务器)
本实验通过在ECS上从零开始部署Stable Diffusion来进行AI绘画创作,开启AIGC盲盒。
相关文章
|
6月前
|
并行计算 PyTorch 算法框架/工具
社区供稿 | 本地部署通义千问大模型做RAG验证
这篇文章中,我们通过将模搭社区开源的大模型部署到本地,并实现简单的对话和RAG。
|
6月前
|
人工智能 Serverless 数据安全/隐私保护
云端服务器应用实践:函数计算X 通义千问快速部署 AI 个人助手应用
云端服务器应用实践:函数计算X 通义千问快速部署 AI 个人助手应用
392 2
|
6月前
|
人工智能 API 异构计算
基于PAI-EAS一键部署通义千问模型
本教程中,您将学习如何在阿里云模型在线服务(PAI-EAS)一键部署基于开源模型通义千问的WebUI应用,以及使用WebUI和API进行模型推理。
|
人工智能 Serverless 数据安全/隐私保护
函数计算X 通义千问快速部署 AI 个人助手应用
基于函数计算X 通义千问快速部署 AI 个人助手应用,用户可以根据需要选择不同角色的AI助手开启写作,角色包括职业顾问、小红书写手、心灵导师等,你可以尽情发挥创造力,通过限制提示词、字数、情节等各种条件生成短篇小说。
11636 16
函数计算X 通义千问快速部署 AI 个人助手应用
|
10天前
|
缓存 自然语言处理 并行计算
基于NVIDIA A30 加速卡推理部署通义千问-72B-Chat测试过程
本文介绍了基于阿里云通义千问72B大模型(Qwen-72B-Chat)的性能基准测试,包括测试环境准备、模型部署、API测试等内容。测试环境配置为32核128G内存的ECS云主机,配备8块NVIDIA A30 GPU加速卡。软件环境包括Ubuntu 22.04、CUDA 12.4.0、PyTorch 2.4.0等。详细介绍了模型下载、部署命令及常见问题解决方法,并展示了API测试结果和性能分析。
73 1
|
5月前
|
机器学习/深度学习 算法 开发工具
通义千问2(Qwen2)大语言模型在PAI-QuickStart的微调、评测与部署实践
阿里云的人工智能平台PAI,作为一站式的机器学习和深度学习平台,对Qwen2模型系列提供了全面的技术支持。无论是开发者还是企业客户,都可以通过PAI-QuickStart轻松实现Qwen2系列模型的微调、评测和快速部署。
|
6月前
|
人工智能 算法 开发工具
通义千问Qwen-72B-Chat基于PAI的低代码微调部署实践
本文将以 Qwen-72B-Chat 为例,介绍如何通过PAI平台的快速开始(PAI-QuickStart)部署和微调千问大模型。
|
4月前
|
SQL 人工智能 前端开发
若依修改01-通义灵码 AI智能编码,从这里开始,搭建,设计,编码,部署,使用AI辅助设计,通义千问把AI辅助设计放到快捷链接当中,vscode可以嵌入通义灵码,必须解决idea+vscode+通义灵
若依修改01-通义灵码 AI智能编码,从这里开始,搭建,设计,编码,部署,使用AI辅助设计,通义千问把AI辅助设计放到快捷链接当中,vscode可以嵌入通义灵码,必须解决idea+vscode+通义灵
|
6月前
|
人工智能 算法 开发工具
通义千问1.5(Qwen1.5)大语言模型在PAI-QuickStart的微调与部署实践
Qwen1.5(通义千问1.5)是阿里云最近推出的开源大型语言模型系列。作为“通义千问”1.0系列的进阶版,该模型推出了多个规模,从0.5B到72B,满足不同的计算需求。此外,该系列模型还包括了Base和Chat等多个版本的开源模型,为全球的开发者社区提供了空前的便捷性。阿里云的人工智能平台PAI,作为一站式的机器学习和深度学习平台,对Qwen1.5模型系列提供了全面的技术支持。无论是开发者还是企业客户,都可以通过PAI-QuickStart轻松实现Qwen1.5系列模型的微调和快速部署。
|
6月前
|
JSON 自然语言处理 对象存储

热门文章

最新文章