开发者社区 > 云原生 > Serverless > 正文

函数计算,我创建了一个gpu规格的函数,但是服务运行的时候并没用到gpu,这是怎么回事呢,我需要下载

函数计算,我创建了一个gpu规格的函数,但是服务运行的时候并没用到gpu,这是怎么回事呢,我需要下载cuda驱动到我镜像包里面嘛?

展开
收起
云原生那些事 2023-07-25 16:23:24 61 0
3 条回答
写回答
取消 提交回答
  • 北京阿里云ACE会长

    您创建了GPU函数,但函数没有使用GPU,主要是因为:

    您的函数代码没有使用GPU相关的库
    您的自定义运行环境没有安装CUDA驱动及相关库
    函数计算的GPU函数实际上就是一个标准的Linux容器运行环境,只不过底层有GPU设备供函数使用。

    如果要让函数能够使用GPU:

    函数代码需要使用CUDA/cuDNN/TensorFlow等相关库来完成GPU计算

    自定义运行时需要安装:

    CUDA驱动:比如当前最新nvidia-driver-440
    CUDA库:比如cuda-10.0 或 cuda-10.1
    cuDNN库:比如cudnn-10.0-gpu
    TensorFlow解析CUDA的库:比如tensorflow-gpu
    安装完相关库后,函数运行时才能调用GPU进行计算。

    所以总的来说:

    您的函数并没有使用GPU相关库,导致无法使用GPU
    您需要在自定义运行时安装CUDA驱动及相关库后,函数才能真正调用GPU

    2023-07-28 23:20:05
    赞同 展开评论 打赏
  • 在函数计算(Function Compute)中,使用 GPU 规格的函数需要确保以下几个条件:

    1. 选择正确的运行环境:您需要选择支持 GPU 的运行环境。例如,在阿里云函数计算中,您可以选择合适的 GPU 实例类型,如gpu_sharedgpu实例规格。

    2. 安装 GPU 驱动和 CUDA:对于某些云服务提供商,如阿里云,您需要将 GPU 驱动和 CUDA 安装到自定义镜像中以便函数能够使用 GPU 加速。这通常需要在构建函数镜像时将相关驱动和库安装到镜像中,以确保函数可以正确地访问 GPU 资源。

    3. 编写代码以利用 GPU:您需要编写代码来利用 GPU 资源进行计算。这可能涉及使用相应的 GPU 编程框架(如 CUDA、OpenCL 或 TensorFlow 等)来编写 GPU 加速的代码。请确保您的代码能够正确地调用和使用 GPU 资源。

    如果您的函数在使用了 GPU 规格后仍然没有使用到 GPU 资源,可以考虑以下几个方面:

    • 检查函数代码是否正确地配置和使用了 GPU 资源。
    • 确认您的自定义镜像已经安装了正确版本的 GPU 驱动和 CUDA,并且相关的环境变量和依赖项已正确设置。
    • 确保函数计算服务和所选的运行环境支持 GPU 规格,以及您是否为函数配置了正确的实例规格。
    2023-07-27 23:04:25
    赞同 展开评论 打赏
  • 参考:https://help.aliyun.com/document_detail/2358175.html?spm=a2c4g.148416.0.0.73c19659Mu9Oy3

    此答案来自钉钉群“阿里函数计算官网客户"

    2023-07-26 09:36:48
    赞同 展开评论 打赏

快速交付实现商业价值。

相关产品

  • 函数计算
  • 相关电子书

    更多
    All in Serverless 阿里云核心产品全面升级 立即下载
    AIGC 浪潮之上,森马的 Serverless 实践之旅 立即下载
    极氪大数据 Serverless 应用实践 立即下载