基于PAI-EAS挂载OSS部署AIGC服务

本文涉及的产品
对象存储 OSS,20GB 3个月
对象存储 OSS,内容安全 1000次 1年
对象存储 OSS,恶意文件检测 1000次 1年
简介: 本场景中主要介绍如何使用模型在线服务(PAI-EAS)部署AIGC,例如Diffusion文图生成模型,并利用OSS挂载功能,使用户无需担心因为PAI服务停止或删除导致数据丢失的问题,充分解决AI服务持久化存储与扩容需求。

基于PAI-EAS挂载OSS部署AIGC服务


1. 实验资源选择

本步骤将指导您如何选择资源。

重要提示,请您务必看完如下内容再进行实验。

请您先单击右侧开通免费试用,下方会弹出领取内容,如下图所示:

  • 若您是新用户,且符合免费试用资格,那您在右侧可同时领取OSS和PAI的免费试用,请按照本小节2和3的步骤领取免费资源,并按照4步骤进入实验。
  • 若您是老用户,您可能没有OSS或PAI的免费试用资格,在右侧界面中该产品领取按钮会显示灰度,此时您可以依然领取拥有免费试用资格的产品,按照本小节2或3的步骤领取,并按照4步骤进入实验。若两个产品都没有免费试用资格,您依然可以单击我已开通,进入实验开始实验。进入实验后,若按照第二小节的步骤创建资源并使用,没有领取免费资源的产品,可能会产生一定的费用,如OSS,推荐您此时购买对象存储预留空间产品抵扣费用,也可按量付费进行使用。

其它说明:

  • 试用云产品开通在您的个人账号下,并占用您的试用权益。如试用超出免费试用额度,可能会产生一定费用。阿里云支持试用的产品列表、权益及具体规则说明请参考开发者试用中心
  • PAI-EAS抵扣包只适用于本教程中的PAI-EAS产品。如果您领取了PAI-EAS抵扣包后,使用了PAI-EAS及PAI的其他产品功能(如PAI-DSW、PAI-DLC等),PAI-EAS产品产生的费用由抵扣包抵扣,其他产品功能产生的费用无法抵扣,会产生对应的费用账单。
  1. 在实验开始前,请您选择开通免费试用。

  1. 领取对象存储OSS免费资源包

2.1 请选择实验资源的下方卡片中,选择对象存储OSS,单击立即试用

2.2 在对象存储OSS试用开通页面,根据页面引导进行开通对象存储OSS,选中服务协议,单击立即试用

  1. 领取模型在线服务PAI-EAS免费资源包。

3.1 返回资源领取页面,在卡片中,选择模型在线服务PAI-EAS,单击立即试用

3.2 在模型在线服务PAI-EAS面板,勾选服务协议后,单击立即试用,如弹出新的页面,您可先忽略。

  1. 领取完免费试用后,返回资源领取界面,单击我已开通,进入实验


2. 创建OSS以及PAI

本步骤指导您如何创建PAI-EAS和对象存储OSS。

  1. 创建对象存储OSS。

说明:如果您在上一小节中没有OSS试用资格,您此步的创建会用您个人的资源,使用期间可能会产生费用,OSS目前提供新人特惠包,如您符合新人条件,您可单击链接对象存储预留空间产品全新上线,在新人专区区域进行购买。

1.1 前往对象存储OSS控制台。如果您没有开通过OSS服务,系统会提示您开通OSS服务,请按照页面提示开通OSS服务。

1.2 在左侧导航栏中,单击Bucket列表

1.3 在Bucket列表页面,单击创建Bucket

1.4 在创建Bucket页面,根据页面引导进行创建Bucket,您可自定义Bucket名称,名称全局唯一,地域选择华南2(河源),其他配置保持默认即可,单击确定创建。

  1. 创建模型在线服务PAI-EAS。

说明:如果您在上一小节中没有PAI试用资格,您此步的创建会用您个人的资源,使用期间可能会产生费用。

2.1 返回实验室页面。前往PAI控制台

2.2 开通机器学习PAI并创建默认工作空间。其中关键参数配置如下。

  • 本教程地域选择:华南2(河源)
  • 组合开通:本教程无需使用其他产品,去除勾选MaxCompute和DataWorks产品。如果您勾选了MaxCompute和DataWorks产品,在开通时会产生如下图报错。

  • 服务角色授权:单击去授权,完成服务角色授权。

说明:更多详细内容,请参见开通并创建默认工作空间。如果您后续使用RAM用户来部署模型,您需要将RAM用户添加为默认工作空间的成员,并配置管理员角色,详情请参见管理成员;同时,需要为RAM用户授予PAI-EAS的管理权限,详情请参见云产品依赖与授权:EAS

2.3 返回如下页面,表示您已成功开通机器学习PAI并创建默认工作空间。

说明: 如果您在开通时出现Create workspace failed, status: FAILURE!报错提示,您可忽略此报错,继续进行下一步实验操作。



3. 在OSS创建PAI永久化存储目录

由于PAI系统盘容量有限,且停止或删除服务时,数据集及模型将会丢失,因此用户可以选择在OSS对象存储上创建目录并进行存储。本步骤指导您如何在OSS中创建目录。

  1. 前往对象存储OSS控制台
  2. 在左侧导航栏中,单击Bucket列表

  1. Bucket列表页面,找到您创建的Bucket,单击Bucket名称

  1. 文件列表页面,单击新建目录

  1. 新建目录面板,输入目录名data-oss,单击确定

返回如下页面,您会看到一个已创建的目录。


4. 使用OSS挂载并部署PAI服务

  1. 进入PAI-EAS控制台。

1.1 登录PAI控制台

1.2 在左侧导航栏,单击工作空间列表

1.3 在工作空间列表页面,找到默认工作空间,单击默认工作空间名称。

1.4 在左侧导航栏,选择模型部署>模型在线服务(EAS),进入PAI EAS模型在线服务页面。

说明:如果界面弹出一键授权对话框,单击授权即可。

  1. PAI EAS模型在线服务页面,单击部署服务

  1. 部署服务页面,单击新建服务,在模型服务信息配置以下关键参数,其他参数保持默认即可。

参数

描述

服务名称

自定义一个服务名称,本教程示例为sdwebui_test

部署方式

本教程选择镜像部署AI-Web应用

镜像选择

PAI平台镜像列表中选择stable-diffusion-webui;镜像版本选择2.2

  1. 单击填写模型配置,选择OSS挂载,单击文件夹图标。

  1. 选择OSS目录对话框中,选择相同地域的Bucket,选择之前的创建的文件夹,并单击确定

  1. 模型配置区域,在挂载路径中输入/code/stable-diffusion-webui/data-oss,将是否只读关闭,在运行命令中增加--data-dir data-oss

说明:在运行命令中增加--data-dir data-oss时,前面需要添加一个空格。

  1. 资源部署信息区域,配置如下参数。

参数

描述

资源组种类

选择公共资源组

资源配置方法

选择常规资源配置

资源配置选择

  • 如果您已领取在线模型服务PAI-EAS的免费试用资源包,本教程实例规格请选择试用活动页签的ecs.gn6i-c8g1.2xlarge.limit。 说明:阿里云免费试用提供的机型包括以下三种机型,仅选择试用活动页签下的这三种机型来部署服务产生的费用,才能使用抵扣包抵扣。 ecs.g6.xlarge.limit ecs.gn6i-c8g1.2xlarge.limit ecs.gn7i-c8g1.2xlarge.limit
  • 如果您未领取在线模型服务PAI-EAS的免费试用资源包,本教程实例规格请选择GPU页签的ml.gu7i.c8m30.1-gu30。

额外系统盘

本教程不需要额外系统盘,请单击图标,关闭额外系统盘。

说明:如果您已领取在线模型服务PAI-EAS的免费试用资源包,请参考资源部署信息图一。如果您未领取在线模型服务PAI-EAS的免费试用资源包,请参考资源部署信息图二。

资源部署信息图一

资源部署信息图二

  1. 部署服务页面下方,单击部署

  1. 部署服务对话框中,单击确定

  1. PAI EAS模型在线服务页面,等待1~3分钟,当模型状态创建中变为运行中,表明服务已成功部署,您可继续后续的模型推理操作。


5. 启动WebUI进行模型推理

  1. PAI EAS模型在线服务页面,找到您创建的服务,单击其服务方式列下的查看Web应用

  1. 在WebUI页面,进行模型推理验证。在文生图页签提示词(Prompt)区域,自定义输入内容,单击生成,即可开启您的AIGC之旅。

例如,在提示词(Prompt)区域输入cute dog,单击生成,推理结果类似下图所示。


6. 清理及后续

清理

  • OSS提供3个月的免费资源包,包含每月20 GB的标准(LRS)存储、每月2 GB的下行流量、每月20万次的请求数。
  • 如果无需继续使用OSS Bucket,您可以登录对象存储OSS控制台,在文件列表页面,找到相应文件,然后在文件右侧操作列,选择>彻底删除,根据界面提示删除文件。当您删除所有的文件及文件夹后,然后在左侧导航栏,选择删除Bucket,在删除Bucket页面,单击删除Bucket,然后根据界面提示删除Bucket。
  • 如果需继续使用OSS Bucket,请务必至少在资源包试用到期1小时前为您的阿里云账号充值或购买新的资源包。欠费后如果在延期免停权益额度内,您的服务将不会受到停服影响。欠费后如果超出了延期免停权益额度,OSS服务将自动停止。如果您在OSS停服后15天内未补足欠款,将视为您主动放弃OSS存储服务,阿里云将终止本产品服务条款并停止为您继续提供服务,您保存在阿里云的全部数据将会被清理删除,清理后数据不可恢复。
  • 如果无需继续使用EAS服务,您可以按照以下操作步骤删除模型服务。
  1. 登录PAI控制台
  2. 在页面左上方,选择服务的地域
  3. 在左侧导航栏,选择模型部署>模型在线服务(EAS),进入PAI EAS模型在线服务页面。
  4. 推理服务页面,单击目标服务操作列下的删除,删除模型服务。
  • 领取抵扣包后,请在抵扣包额度和有效期内使用。如果抵扣包额度用尽或超出有效期,继续使用计算资源,会产生后付费账单。

请前往节省计划页面,查看抵扣包剩余金额和过期时间。

  • 如果需要继续使用EAS服务,请务必至少在抵扣包额度用尽或试用到期1小时前为您的阿里云账号充值,到期未续费的EAS服务会因欠费而被自动停止。

后续

在抵扣包有效期期间,您还可自行构造测试数据,继续在SDWebUI页面进行推理验证。

实验链接:https://developer.aliyun.com/adc/scenario/519991bfd8e7497b879355e019159923

相关实践学习
借助OSS搭建在线教育视频课程分享网站
本教程介绍如何基于云服务器ECS和对象存储OSS,搭建一个在线教育视频课程分享网站。
相关文章
|
11天前
|
机器学习/深度学习 数据采集 Python
从零到一:手把手教你完成机器学习项目,从数据预处理到模型部署全攻略
【10月更文挑战第25天】本文通过一个预测房价的案例,详细介绍了从数据预处理到模型部署的完整机器学习项目流程。涵盖数据清洗、特征选择与工程、模型训练与调优、以及使用Flask进行模型部署的步骤,帮助读者掌握机器学习的最佳实践。
42 1
|
2月前
|
云栖大会 对象存储
PAI-EAS 和 OSS 免费资源包
【9月更文挑战第23天】
40 8
|
1月前
|
Linux Shell API
ollama 大模型部署 工具 | AIGC
Ollama是一个集成了多种大型语言模型的工具,它支持模型的部署、运行以及API的整合和调用。Ollama为不同操作系统的用户提供了便捷的安装方式,并具备丰富的命令行界面(CLI)和API接口,使得用户可以轻松地管理和运行大型模型。【10月更文挑战第1天】
124 0
|
3月前
|
人工智能 编解码 算法
使用PAI-DSW x Free Prompt Editing开发个人AIGC绘图小助理
本文介绍如何借助阿里云PAI-DSW及Free Prompt Editing算法开发个性化AIGC绘图助手,实现图像智能编辑与生成。首先需领取PAI-DSW免费试用资源并创建实例;随后通过运行教程文件完成环境搭建。WebUI界面预设了多种参数供调整,如图像分辨率、编辑层数量等,支持更改图像背景与风格等功能演示。完成实验后应及时清理资源以避免额外费用。此外,参与阿里云开发者社区的“AIGC绘图小助手”活动,不仅可获得免费云资源试用,还有机会赢得桌面折叠风扇、小度智能屏X9等礼品。
|
3月前
|
监控 数据安全/隐私保护 异构计算
借助PAI-EAS一键部署ChatGLM,并应用LangChain集成外部数据
【8月更文挑战第8天】借助PAI-EAS一键部署ChatGLM,并应用LangChain集成外部数据
89 1
|
3月前
|
机器学习/深度学习 数据采集 人工智能
揭秘大型机器学习模型背后的秘密:如何在技术深度与广度之间找到完美平衡点,探索那些鲜为人知的设计、训练与部署技巧,让你的作品脱颖而出!
【8月更文挑战第21天】大型机器学习模型是人工智能的关键方向,借助不断增强的计算力和海量数据,已实现在学术与产业上的重大突破。本文深入探讨大型模型从设计到部署的全过程,涉及数据预处理、模型架构(如Transformer)、训练技巧及模型压缩技术,旨在面对挑战时提供解决方案,促进AI技术的实用化进程。
69 1
|
3月前
|
机器学习/深度学习 监控 API
基于云计算的机器学习模型部署与优化
【8月更文第17天】随着云计算技术的发展,越来越多的数据科学家和工程师开始使用云平台来部署和优化机器学习模型。本文将介绍如何在主要的云计算平台上部署机器学习模型,并讨论模型优化策略,如模型压缩、超参数调优以及分布式训练。
624 2
|
3月前
|
机器学习/深度学习 JSON API
【Python奇迹】FastAPI框架大显神通:一键部署机器学习模型,让数据预测飞跃至Web舞台,震撼开启智能服务新纪元!
【8月更文挑战第16天】在数据驱动的时代,高效部署机器学习模型至关重要。FastAPI凭借其高性能与灵活性,成为搭建模型API的理想选择。本文详述了从环境准备、模型训练到使用FastAPI部署的全过程。首先,确保安装了Python及相关库(fastapi、uvicorn、scikit-learn)。接着,以线性回归为例,构建了一个预测房价的模型。通过定义FastAPI端点,实现了基于房屋大小预测价格的功能,并介绍了如何运行服务器及测试API。最终,用户可通过HTTP请求获取预测结果,极大地提升了模型的实用性和集成性。
232 1
|
3月前
|
机器学习/深度学习 人工智能 关系型数据库
【机器学习】Qwen2大模型原理、训练及推理部署实战
【机器学习】Qwen2大模型原理、训练及推理部署实战
605 0
【机器学习】Qwen2大模型原理、训练及推理部署实战
|
3月前
|
开发者 算法 虚拟化
惊爆!Uno Platform 调试与性能分析终极攻略,从工具运用到代码优化,带你攻克开发难题成就完美应用
【8月更文挑战第31天】在 Uno Platform 中,调试可通过 Visual Studio 设置断点和逐步执行代码实现,同时浏览器开发者工具有助于 Web 版本调试。性能分析则利用 Visual Studio 的性能分析器检查 CPU 和内存使用情况,还可通过记录时间戳进行简单分析。优化性能涉及代码逻辑优化、资源管理和用户界面简化,综合利用平台提供的工具和技术,确保应用高效稳定运行。
78 0

相关产品

  • 对象存储
  • 下一篇
    无影云桌面