在函数计算FC如何升级 torch+xformers？

在函数计算（FC）中升级 torch 和 xformers 需要结合容器镜像的构建和依赖管理来完成。以下是具体步骤：

1. 确认当前环境和依赖版本

在升级之前，您需要明确当前使用的 torch 和 xformers 版本，以及目标版本是否与函数计算平台的 CUDA 环境兼容。

• 函数计算 GPU 实例目前使用的驱动版本为 550.54.15，对应的 CUDA 用户态驱动版本为 12.4。
• 建议使用的 CUDA Toolkit 最低版本为 11.8，最高不超过平台提供的 CUDA 用户态驱动版本。

确保目标版本的 torch 和 xformers 支持上述 CUDA 版本。

2. 构建自定义容器镜像

函数计算支持通过自定义容器镜像部署代码和依赖。以下是构建镜像的具体步骤：

（1）准备 Dockerfile

创建一个 Dockerfile 文件，并在其中安装目标版本的 torch 和 xformers。以下是一个示例：

# 使用官方基础镜像
FROM nvidia/cuda:12.4.0-base-ubuntu20.04

# 安装必要的系统依赖
RUN apt-get update && apt-get install -y \
    python3 python3-pip git \
    && rm -rf /var/lib/apt/lists/*

# 升级 pip
RUN pip3 install --upgrade pip

# 安装目标版本的 torch 和 xformers
RUN pip3 install torch==2.0.1+cu124 torchvision==0.15.2+cu124 torchaudio==2.0.2 --index-url https://download.pytorch.org/whl/cu124
RUN pip3 install xformers==0.0.22.post4+cu124 --index-url https://download.pytorch.org/whl/cu124

# 复制函数代码到镜像中
COPY . /app
WORKDIR /app

# 设置启动命令
CMD ["python3", "your_function_entry.py"]

（2）解决 GPG 错误（如有）

如果在构建镜像时遇到 GPG 错误，例如：

W: GPG error: https://developer.download.nvidia.cn/compute/cuda/repos/ubuntu2004/x86_64 InRelease: The following signatures couldn't be verified because the public key is not available: NO_PUBKEY A4B469963BF863CC

可以在 Dockerfile 中添加以下命令以导入缺失的 GPG 密钥：

RUN apt-key adv --keyserver keyserver.ubuntu.com --recv-keys A4B469963BF863CC

（3）构建并推送镜像

使用以下命令构建并推送镜像到镜像仓库（如阿里云容器镜像服务）：

docker build -t your-image-name:tag .
docker tag your-image-name:tag registry.cn-hangzhou.aliyuncs.com/your-namespace/your-image-name:tag
docker push registry.cn-hangzhou.aliyuncs.com/your-namespace/your-image-name:tag

3. 更新函数配置

将构建好的镜像部署到函数计算实例中。

（1）通过控制台更新

1. 登录函数计算控制台。
2. 找到目标函数，进入函数配置页面。
3. 在“运行环境”中选择“自定义容器镜像”，并填写镜像地址（如 registry.cn-hangzhou.aliyuncs.com/your-namespace/your-image-name:tag）。
4. 保存配置并测试函数。

（2）通过 API 更新

使用 UpdateFunction API 更新函数配置。请求示例如下：

PUT /2021-04-06/services/{serviceName}/functions/{functionName} HTTP/1.1
Content-Type: application/json

{
  "customContainerConfig": {
    "image": "registry.cn-hangzhou.aliyuncs.com/your-namespace/your-image-name:tag"
  }
}

4. 验证升级结果

在函数中运行以下代码，验证 torch 和 xformers 是否成功升级：

import torch
import xformers

print("Torch version:", torch.__version__)
print("Xformers version:", xformers.__version__)

# 测试 CUDA 是否可用
print("CUDA available:", torch.cuda.is_available())

5. 注意事项

• 避免硬编码驱动版本：函数计算平台的驱动版本可能会随时间更新，请避免在镜像中硬编码特定驱动版本。
• 网络升级影响：如果您所在的地域正在进行内网升级（如 2024 年 10 月、11 月的升级计划），请留意可能的网络波动。
• 固定 IP 风险：函数计算不承诺提供固定的入口 IP 地址，请勿基于固定 IP 进行 ACL 访问控制。

通过以上步骤，您可以成功在函数计算 FC 中升级 torch 和 xformers，并确保其与平台的 GPU 环境兼容。