怎么在ModelScope Jupyter部署SDwebui怀远？

要在ModelScope Jupyter中部署Stable Diffusion WebUI（SDWebUI）怀远，您可以按照以下步骤操作。此过程结合了阿里云人工智能平台PAI的相关功能和ModelScope的模型服务部署能力。

步骤一：准备环境与资源

1. 登录PAI控制台

   • 登录PAI控制台。
   • 在页面上方选择目标地域（如新加坡），并在右侧选择目标工作空间。如果没有可用的工作空间，请先创建工作空间。

2. 创建专有网络（VPC）和交换机

   • 进入专有网络控制台。
   • 创建一个专有网络（VPC）和交换机，确保其配置如下：
     • VPC名称：vpc_SDWebUI
     • IPv4网段：192.168.0.0/16
     • 交换机名称：vswitch_SDWebUI
     • 可用区：选择目标地域的可用区（如新加坡可用区A）。
     • 交换机IPv4网段：192.168.0.0/24

3. 创建公网NAT网关和弹性公网IP

   • 在专有网络控制台中，创建公网NAT网关并绑定弹性公网IP，以确保后续服务能够通过公网访问。

步骤二：部署SDWebUI服务

1. 进入模型在线服务（EAS）页面

   • 在PAI控制台中，单击左侧导航栏的模型部署 > 模型在线服务（EAS），进入EAS页面。

2. 选择自定义模型部署方式

   • 在推理服务页签下单击部署服务，选择自定义部署模式。

3. 配置关键参数

   • 基本信息：
     • 服务名称：自定义服务名称，例如sdwebui_huaiyuan。
   • 环境信息：
     • 部署方式：选择镜像部署并开启Web应用。
     • 镜像配置：
     • 镜像类型：官方镜像。
     • 镜像名称：选择stable-diffusion-webui:4.2-cluster-webui（建议使用最新集群版本）。
   • 模型配置：
     • 配置类型：通用型NAS。
     • 文件系统挂载点：选择NAS文件系统及其挂载点（如nas_SDWebUI）。
     • 文件系统路径：/。
     • 挂载路径：/code/stable-diffusion-webui/data-nas。
   • 运行命令：

     ./webui.sh -listen -port 8000 -skip-version-check -no-hashing -no-download-sd-model -skip-install -api -filebrowser -cluster-status -sd-dynamic-cache -data-dir /code/stable-diffusion-webui/data-nas
     

     注意：如果需要加速推理，可以在运行命令中增加-blade参数。

   • 端口号：8000。
   • 资源配置：
     • 资源类型：GPU。
     • 实例规格：推荐使用ecs.gn6i-c16g1.4xlarge或更高性能的GPU实例。
   • 专有网络（自动匹配）：
     • 系统会自动匹配之前创建的VPC、交换机和安全组。

4. 完成部署

   • 单击部署按钮，等待5~10分钟，直到服务状态变为“运行中”。

步骤三：验证与使用SDWebUI怀远

1. 启动WebUI页面

   • 在EAS页面中，找到已部署的服务，单击查看Web应用。
   • 首次登录时，可能需要等待约5分钟，然后单击进入Stable Diffusion WebUI。

2. 安装怀远相关插件

   • 在WebUI页面的扩展页签下，搜索并安装怀远相关的插件（如特定风格生成插件）。
   • 安装完成后，点击应用更改并重载前端。

3. 使用怀远功能进行推理

   • 切换到文生图页签，输入提示词（Prompt），例如描述怀远风格的关键词。
   • 点击生成，查看生成的图片效果。

注意事项

• 模型文件挂载：如果需要使用自定义模型文件，请将模型上传至OSS或NAS的models目录，并在EAS页面重启服务后切换模型。
• 服务卡住处理：如果服务长时间卡住，可以尝试重新打开WebUI页面或重启服务。必要时手动下载模型并上传至OSS进行挂载。
• 语言设置：默认语言为中文，如需切换为英文，可在WebUI页面的设置 > 用户界面中选择“无”并保存。

通过以上步骤，您可以在ModelScope Jupyter环境中成功部署并使用SDWebUI怀远功能。