将OSS里的 Stable diffusion 模型库挂载到PAI-EAS并部署推理

本文涉及的产品
交互式建模 PAI-DSW,5000CU*H 3个月
对象存储 OSS,20GB 3个月
云服务器 ECS,每月免费额度200元 3个月
简介: 本文将会介绍如何一键转存模型库到自己的对象存储OSS空间中,并给出将OSS挂载到PAI-EAS实现部署,并对模型进行灵活切换与推理。

步骤一:通过《Stable Diffusion 模型库,AIGC 画风任你选》活动页面转存模型文件

如果您已经通过活动页面将SD模型库文件转存到了自己的OSS Bucket中,请跳过步骤一。

进入《Stable diffusion模型库,AIGC画风任你选》页面活动,在方案1:使用对象存储 OSS 作为模型库存储空间处单击一键复制

image.png

  1. 单击一键复制按钮后,将会弹出公共库转存信息对话框,输入新建对象存储OSS Bucket名称,此处示例填写osstestforsd;地域请从杭州,上海,北京,乌兰察布这四个Region选择,此处选择华东2(上海);签署转存的授权协议;最后单击确认转存

image.png

  1. 确认转存后几秒钟,将会弹出文件框提示转存成功,记录对象存储OSS Bucket名称为 osstestforsd

  1. 前往对象存储OSS控制台,确认您刚才转存的模型文件。在Bucket列表找并单击osstestforsd

进入Bucket的文件管理-文件列表处,然后逐个单击文件夹,进入/data-oss/models的目录,可以看到模型文件已经转存进来。

步骤二:将OSS模型库挂载到PAI-EAS并部署模型

您已经将SD模型库的Stable Diffusion模型文件转存到了自己的对象存储OSS中,该存储空间中的模型可以被用于SDWebUI,另外也可以将未来训练和推理的结果保存到该OSS Bucket目录中。您可以通过如下文件挂载方式来实现。

  1. 前往PAI控制台。开通机器学习PAI并创建默认工作空间。其中关键参数配置如下,更多详细内容,请参见开通并创建默认工作空间。如果您后续使用RAM用户来部署模型,您需要将RAM用户添加为默认工作空间的成员,并配置管理员角色,详情请参见管理成员;同时,需要为RAM用户授予PAI-EAS的管理权限,详情请参见云产品依赖与授权:EAS
  • 本教程地域选择:华东2(上海)
  • 组合开通:本教程无需使用其他产品,去除勾选其他产品即可。
  • 服务角色授权:单击去授权,完成服务角色授权。

  1. 登录PAI控制台,进入PAI-EAS控制台。

   a.在左侧导航栏,单击工作空间列表

     

b.在工作空间列表页面,找到默认工作空间,单击默认工作空间名称。

c.在左侧导航栏,选择模型部署>模型在线服务(EAS),进入PAI EAS模型在线服务页面。

说明:如果界面弹出一键授权对话框,单击授权即可。

  1. 登录PAI控制台,进入在PAI EAS模型在线服务页面,单击部署服务

  1. 部署服务页面,单击新建服务,在模型服务信息配置以下关键参数,其他参数保持默认即可。
  • 服务名称:自定义一个服务名称,本教程示例为sdwebui_poc
  • 部署方式:本次选择镜像部署AI-WEB应用
  • 镜像选择:在PAI平台镜像列表中选择stable-diffusion-webui;镜像版本选择4.0-standard说明:由于版本迭代迅速,部署时镜像版本选择最高版本即可。
  • 勾选并同意PAI服务专用协议

image.png

  1. 在模型服务信息区域,配置以下参数。
  1. 单击填写模型配置,进行模型配置
  1. 模型配置选择OSS挂载,将OSS路径配置为步骤1中创建的OSS Bucket路径。例如:oss://osstestforsd/data-oss/
  2. 挂载路径:将您配置的OSS文件目录挂载到镜像的/code/stable-diffusion-webui路径下。例如配置为:/code/stable-diffusion-webui/data-oss
  3. 是否只读:开关关闭。

运行命令中增加--data-dir 挂载目录,其中挂载目录需要与模型配置挂载路径的最后一级目录一致。例如:

./webui.sh --listen --port 8000 --skip-version-check --no-hashing --no-download-sd-model --skip-install --api --api-log --time-log --sd-dynamic-cache --data-dir data-oss


image.png


  1. 在资源部署信息区域,配置如下参数
  1. 资源种类:选择公共资源组
  2. 资源配置方法:选择常规资源配置
  3. 资源配置选择:
  1. 如果您使用免费试用资源,本教程实例规格选择试用活动页签的ecs.gn6i-c8g1.2xlarge.limit说明:阿里云免费试用提供的机型包括以下三种机型,仅选择试用活动页签下的这三种机型来部署服务产生的费用,才能使用抵扣包抵扣。 ecs.g6.xlarge.limit ecs.gn6i-c8g1.2xlarge.limit ecs.gn7i-c8g1.2xlarge.limit
  2. 如果您使用个人账户资源,本教程实例规格选择试用活动页签的ecs.gn6i-c8g1.2xlarge.limit。
  1. 额外系统盘:本教程不需要额外系统盘。


  1. 部署服务页面下方,单击部署。

  1. 部署服务对话框中,单击确定

  1. PAI EAS模型在线服务页面,等待1~3分钟,当模型状态创建中变为运行中,表明服务已成功部署,您可继续后续的模型推理操作。

image.png

步骤三:启动WebUI进行模型切换与推理

  1. PAI EAS模型在线服务页面,找到您创建的服务,单击其服务方式列下的查看Web应用

image.png

  1. 启动WebUI。在WebUI页面Stable Diffusion模型(ckpt)下拉列表中切换指定模型,进行模型推理验证。此处选择名称为dreamshaper_7的模型,选择完成后,切换模型时间预计需要几十秒,请耐心等待。

image.png

切换完成后,在文生图页面输入如下信息:

  • 提示词:photo of the warrior Aragorn from Lord of the Rings, film grain
  • 反向提示词:BadDream, (UnrealisticDream:1.2)
  • 采样方法(Sampler):DPM++ SDE Karras
  • 迭代步数(steps):30
  • 相关性(CFG scale):4
  • 随机种(seed):82742

image.png

相关文章
|
4月前
|
机器学习/深度学习 数据采集 自然语言处理
机器学习模型的部署与上线:从训练到实际应用
在机器学习中,模型训练只是整个过程的一部分。将训练好的模型部署到实际应用中,并使其稳定运行,也是非常重要的。本文将介绍机器学习模型的部署与上线过程,包括数据处理、模型选择、部署环境搭建、模型调优等方面。同时,我们也会介绍一些实际应用场景,并分享一些经验和技巧。
|
4月前
|
人工智能 算法 开发工具
Mixtral 8X7B MoE模型在阿里云PAI平台的微调部署实践
Mixtral 8x7B 是Mixtral AI最新发布的大语言模型,是当前最为先进的开源大语言模型之一。阿里云人工智能平台PAI,提供了对于 Mixtral 8x7B 模型的全面支持,开发者和企业用户可以基于 PAI-快速开始轻松完成Mixtral 8x7B 模型的微调和部署。
|
2月前
|
机器学习/深度学习 存储 分布式计算
机器学习PAI常见问题之DLC的数据写入到另外一个阿里云主账号的OSS中如何解决
PAI(平台为智能,Platform for Artificial Intelligence)是阿里云提供的一个全面的人工智能开发平台,旨在为开发者提供机器学习、深度学习等人工智能技术的模型训练、优化和部署服务。以下是PAI平台使用中的一些常见问题及其答案汇总,帮助用户解决在使用过程中遇到的问题。
|
4月前
|
人工智能 算法 开发工具
通义千问Qwen-72B-Chat基于PAI的低代码微调部署实践
本文将以 Qwen-72B-Chat 为例,介绍如何通过PAI平台的快速开始(PAI-QuickStart)部署和微调千问大模型。
|
4天前
|
机器学习/深度学习 存储 人工智能
人工智能平台PAI产品使用合集之是否可以在模型部署发布后以http接口形式提供给业务开发人员使用
阿里云人工智能平台PAI是一个功能强大、易于使用的AI开发平台,旨在降低AI开发门槛,加速创新,助力企业和开发者高效构建、部署和管理人工智能应用。其中包含了一系列相互协同的产品与服务,共同构成一个完整的人工智能开发与应用生态系统。以下是对PAI产品使用合集的概述,涵盖数据处理、模型开发、训练加速、模型部署及管理等多个环节。
|
4天前
|
机器学习/深度学习 人工智能 运维
人工智能平台PAI产品使用合集之机器学习PAI可以通过再建一个done分区或者使用instance.status来进行部署吗
阿里云人工智能平台PAI是一个功能强大、易于使用的AI开发平台,旨在降低AI开发门槛,加速创新,助力企业和开发者高效构建、部署和管理人工智能应用。其中包含了一系列相互协同的产品与服务,共同构成一个完整的人工智能开发与应用生态系统。以下是对PAI产品使用合集的概述,涵盖数据处理、模型开发、训练加速、模型部署及管理等多个环节。
|
4天前
|
机器学习/深度学习 人工智能 NoSQL
人工智能平台PAI产品使用合集之机器学习PAI EasyRec训练时,怎么去除没有意义的辅助任务的模型,用于部署
阿里云人工智能平台PAI是一个功能强大、易于使用的AI开发平台,旨在降低AI开发门槛,加速创新,助力企业和开发者高效构建、部署和管理人工智能应用。其中包含了一系列相互协同的产品与服务,共同构成一个完整的人工智能开发与应用生态系统。以下是对PAI产品使用合集的概述,涵盖数据处理、模型开发、训练加速、模型部署及管理等多个环节。
|
4天前
|
机器学习/深度学习 人工智能 算法
人工智能平台PAI产品使用合集之PAI机器学习预置处理器在部署完成后怎么进行调用
阿里云人工智能平台PAI是一个功能强大、易于使用的AI开发平台,旨在降低AI开发门槛,加速创新,助力企业和开发者高效构建、部署和管理人工智能应用。其中包含了一系列相互协同的产品与服务,共同构成一个完整的人工智能开发与应用生态系统。以下是对PAI产品使用合集的概述,涵盖数据处理、模型开发、训练加速、模型部署及管理等多个环节。
|
4天前
|
机器学习/深度学习 人工智能 API
人工智能平台PAI产品使用合集之机器学习PAI-EAS部署好后,服务的公网API和URL怎么配置
阿里云人工智能平台PAI是一个功能强大、易于使用的AI开发平台,旨在降低AI开发门槛,加速创新,助力企业和开发者高效构建、部署和管理人工智能应用。其中包含了一系列相互协同的产品与服务,共同构成一个完整的人工智能开发与应用生态系统。以下是对PAI产品使用合集的概述,涵盖数据处理、模型开发、训练加速、模型部署及管理等多个环节。
|
4天前
|
机器学习/深度学习 人工智能 PyTorch
人工智能平台PAI 操作报错合集之机器学习PAI,用Triton Inference Server 22.05 部署模型,遇到SaveV3这个op的问题,如何解决
阿里云人工智能平台PAI (Platform for Artificial Intelligence) 是阿里云推出的一套全面、易用的机器学习和深度学习平台,旨在帮助企业、开发者和数据科学家快速构建、训练、部署和管理人工智能模型。在使用阿里云人工智能平台PAI进行操作时,可能会遇到各种类型的错误。以下列举了一些常见的报错情况及其可能的原因和解决方法。