AI时代下,PAI快速开始(PAI-QuickStart)集成了业界流行的预训练模型,提供一站式、零代码的模型微调训练、服务部署、模型评测功能,帮助用户快速上手使用AI能力。模型涵盖众多AI场景,包括LLM、AIGC、CV、NLP等。
其实对于部署来说,阿里云实验室的部署步骤总是很详尽,这样带来的结果就是即使你是PAI平台操作小白,你也可以很轻松的实现你想要部署并达到的效果,这就是阿里云实验室的贴心。下面我们来操作部署一下今天的主角,部署地址:https://developer.aliyun.com/adc/scenario/f2f81c8f883543528140e80f1ced3069?
基于PAI 低代码实现大语言模型微调和部署
开始正式部署,我们点击上面提供的实验室部署地址打开操作页面
点击【立即开始】,默认选择个人账号资源,点击【确认开启实验】
点击【人工智能平台PAI】或者直接打开PAI控制台地址:https://pai.console.aliyun.com/?spm=a2c6h.13858378.0.0.73c8764ajE5TZP
如果没有创建过默认工作空间,是这样的
您可以选择需要开通的地域后,单击页面中间的【开通PAI并创建默认工作空间】配置开通参数
确认相关信息并完成配置后,单击【确认开通并创建默认工作空间】,当界面提示开通完成后,您即完成在当前地域的开通操作。我的账号已经开通过默认工作空间,那么我直接点击【工作空间列表】
点击工作空间名称,进入工作空间详情,点击【快速开始】-【Model Gallery】在搜索框输入【qwen2-0.5b-instruct】
点击模型名称【通义千问2-0.5B-Instruct】进入模型详情页面查看详情
单击右上角的【部署】按钮,在部署面板,配置保持默认即可,单击【部署】
在弹出的计费提醒,点击【确定】
服务创建中
等待大约等待3-5分钟,服务状态变为运行中,
服务部署完成后,单击【查看WEB应用】
进入在线测试页面,输入关键词信息【从中医角度分析 嗓子疼如何调养呢】
当然如果你有自己的数据,也可以选择【微调训练】,具体的操作按照文档操作就行。
释放资源
进入工作空间默认工作空间页面,选择【Model Gallery】,点击【任务管理】
在任务管理页面选择【部署任务】,选择刚才部署的模型点击右侧【删除】
在弹出的提示页面点击【确定】
部署的模型任务进入【删除中】状态,整个删除过程大概耗时10分钟左右,耐心等待
那么到这里整个基于PAI-快速开始,低代码实现大语言模型微调和部署的操作就完成了。这里如果你部署完成之后不使用的话建议释放资源,资源占用是比较费钱且浪费服务资源的。
使用体验
对于机器学习平台PAI,本次基于PAI 低代码实现大语言模型微调和部署的操作整体上需要个人开发者操作的很少,创建默认工作空间之后找到对应的模型点击【部署】后续就可以等待部署成功在线测试了,整个操作过程没有什么难度,操作流程也是一如既往的顺畅,没有什么学习的成本,对于小白新手也比较友好,有专业的小白部署文档指导。唯一的一点就是对于个人开发者来说,个人体验部署的资费比较贵点,一小时14元左右,后期如果有免费体验资源就更完美了。