基于ASK轻松部署企业级Stable Diffusion-阿里云开发者社区

基于ASK轻松部署企业级Stable Diffusion

2023-09-16 209

版权

本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。

本文涉及的产品

容器镜像服务 ACR，镜像仓库100个不限时长

容器服务 Serverless 版 ACK Serverless，952元额度多规格

容器服务 Serverless 版 ACK Serverless，317元额度多规格

简介： 本实验指导您在容器服务Serverless版（以下简称 ASK）中，通过Knative部署满足企业级弹性需求的Stable Diffusion服务。同时通过对该服务进行压测实验，体验ASK弹性能力。

基于ASK轻松部署企业级Stable Diffusion

1. 计费说明

必看！！必看！！必看！！

本实验为付费体验，需要消耗账号费用。体验后若不再需要使用，请及时释放资源，避免持续产生费用。

完成本实验，将要耗费ACK Serverless Pro集群的相关云资源费用说明如下。更多信息，详情请参见ACK Serverless 集群计费说明。

产品名	计费类型	费用	计费链接
微服务引擎MSE云原生网关	按量付费	0.84元/小时	云原生网关MSE计费概述
容器服务ACK Serverless Pro集群	限时免费	目前公测中，限时免费	ACK Serverless 集群计费说明
弹性容器实例	按量付费	11.74元/小时~15.46元/小时	ECI实例计费
NAT网关	按量付费	0.78元/小时	NAT计费概述

2. 环境准备

开通微服务引擎MSE。

说明：如果您的阿里云账号已开通微服务引擎MSE，您可以忽略此步骤。

1.1 前往MSE管理控制台。

1.2 在微服务引擎MSE服务开通页面，单击立即授权，开通微服务引擎MSE。

1.3 在授权对话框中页面，单击确定，完成MSE访问ECI的授权。

1.4 在微服务引擎MSE服务开通页面，单击下一步。

返回如下页面，表示微服务引擎MSE开通成功。

前往MSE访问ECI授权页面，单击同意授权，完成MSE访问ECI的授权。

说明：此步骤必须完成，请勿跳过。

创建ACK Serverless Pro版集群。

2.1 前往容器服务管理控制台，在左侧导航栏选择集群。

2.2 在集群列表页面，单击页面右上角的创建集群。

2.3 在创建集群页面的集群配置中，单击ACK Serverless集群，根据如下参数说明完成相关配置，其他配置项保持默认值，然后单击下一步：组件配置。

配置项	说明	示例值
集群名称	填写集群的名称。	knative-sd-demo
集群规格	选择集群规格，支持Pro 版和标准版	Pro版
地域	选择集群所在的地域。建议选择华北2（北京）地域。	华北2（北京）
专有网络	设置集群的网络。Kubernetes集群仅支持专有网络。支持自动创建和使用已有的VPC。	自动创建
可用区	选择集群所在的可用区。目前华北2（北京）支持的可用区如下：华北 2 可用区 C 华北 2 可用区 D 华北 2 可用区 G 华北 2 可用区 E 注意：请您在以上ECI支持GPU的四个可用区进行选择。	华北 2 可用区 G

2.3 在组件配置中，Ingress选择MSE Ingress，并选中开启Knative，其他配置项保持默认，单击下一步：确认配置。如您无需使用日志服务功能，可以取消选中使用日志服务，避免产生相关费用。

2.4 在确认配置中，确认配置信息，仔细阅读并选中服务协议，单击创建集群。

请您耐心等待大约3~5分钟，返回如下结果表示集群创建成功。

3. 部署Stable Diffusion服务

在左侧导航栏中，单击集群。

在集群列表页面，找到您创建的ACK Serverless 集群，单击右侧操作列下的详情。

在左侧导航栏中，选择应用>Knative。

在服务管理页签，单击使用模板创建。

在示例模板下拉列表中，选择Resouce - Knative Service，将以下消息处理服务的YAML示例粘贴至模板，然后单击创建，默认创建一个名为knative-sd-demo的服务。

apiVersion: serving.knative.dev/v1
kind: Service
metadata:
  name: knative-sd-demo
  annotations:
    serving.knative.dev.alibabacloud/affinity: "cookie"
    serving.knative.dev.alibabacloud/cookie-name: "sd"
    serving.knative.dev.alibabacloud/cookie-timeout: "1800"
spec:
  template:
    metadata:
      annotations:
        autoscaling.knative.dev/class: mpa.autoscaling.knative.dev
        autoscaling.knative.dev/maxScale: '10'
        autoscaling.knative.dev/targetUtilizationPercentage: "100"
        k8s.aliyun.com/eci-use-specs: ecs.gn5-c4g1.xlarge,ecs.gn5i-c8g1.2xlarge,ecs.gn5-c8g1.2xlarge  
    spec:
      containerConcurrency: 1
      containers:
      - args:
        - --listen
        - --skip-torch-cuda-test
        - --api
        command:
        - python3
        - launch.py
        image: yunqi-registry.cn-shanghai.cr.aliyuncs.com/lab/stable-diffusion@sha256:62b3228f4b02d9e89e221abe6f1731498a894b042925ab8d4326a571b3e992bc
        imagePullPolicy: IfNotPresent
        ports:
        - containerPort: 7860
          name: http1
          protocol: TCP
        name: stable-diffusion
        readinessProbe:
          tcpSocket:
            port: 7860
          initialDelaySeconds: 5
          periodSeconds: 1
          failureThreshold: 3

返回如下结果，表示创建成功，然后单击返回。

在服务管理页签，等待大约两分钟，刷新页面后，当knative-sd-demo的状态变为成功时，表明SD服务部署成功。

4. 访问Stable Diffusion服务并进行压测

部署压测服务portal-server，用于Stable Diffusion效果展示并发起压测。

在服务管理页签，单击使用模板创建。

在命名空间下拉列表中，选择default，在示例模板下拉列表中，选择自定义，将以下portal-server压测服务的YAML示例粘贴至模板，然后单击创建。

---
apiVersion: apps/v1
kind: Deployment
metadata:
  labels:
    app: portal-server
  name: portal-server
spec:
  replicas: 1
  selector:
    matchLabels:
      app: portal-server
  template:
    metadata:
      labels:
        app: portal-server
    spec:
      serviceAccountName: portal-server
      containers:
        - name: portal-server
          image: registry-vpc.cn-beijing.aliyuncs.com/acs/sd-yunqi-server:v1.0.2
          imagePullPolicy: IfNotPresent
          env:
            - name: MAX_CONCURRENT_REQUESTS
              value: "5"
            - name: POD_NAMESPACE
              value: "default"
          readinessProbe:
            failureThreshold: 3
            periodSeconds: 1
            successThreshold: 1
            tcpSocket:
              port: 8080
            timeoutSeconds: 1
---
apiVersion: v1
kind: Service
metadata:
  annotations:
    service.beta.kubernetes.io/alibaba-cloud-loadbalancer-address-type: internet
    service.beta.kubernetes.io/alibaba-cloud-loadbalancer-instance-charge-type: PayByCLCU
  name: portal-server
spec:
  externalTrafficPolicy: Local
  ports:
    - name: http-80
      port: 80
      protocol: TCP
      targetPort: 8080
    - name: http-8888
      port: 8888
      protocol: TCP
      targetPort: 8888
  selector:
    app: portal-server
  type: LoadBalancer
---
apiVersion: rbac.authorization.k8s.io/v1
kind: ClusterRole
metadata:
  name: pod-list-cluster-role
rules:
  - apiGroups: [""]
    resources: ["pods"]
    verbs: ["list"]
  - apiGroups: ["networking.k8s.io"]
    resources: ["ingresses"]
    verbs: ["get"]
---
apiVersion: rbac.authorization.k8s.io/v1
kind: ClusterRoleBinding
metadata:
  name: pod-list-cluster-role-binding
roleRef:
  apiGroup: rbac.authorization.k8s.io
  kind: ClusterRole
  name: pod-list-cluster-role
subjects:
  - kind: ServiceAccount
    name: portal-server
    namespace: default
---
apiVersion: v1
kind: ServiceAccount
metadata:
  name: portal-server
  namespace: default