开发者社区 > 云原生 > Serverless > 正文

在阿里函数计算中,我想在函数用GPU资源,一定要配置GPU卡型吗?

在阿里函数计算中,我想在函数用GPU资源,一定要配置GPU卡型吗?

展开
收起
小小鹿鹿鹿 2023-10-30 21:51:21 84 0
4 条回答
写回答
取消 提交回答
  • 面对过去,不要迷离;面对未来,不必彷徨;活在今天,你只要把自己完全展示给别人看。

    要使用阿里云函数计算 (Function Compute, FC) 中的 GPU 资源,您必须配置 GPU 类型。FC 支持多种类型的 GPU,包括 NVIDIA T4、A100 等。您可以在函数配置中选择所需的 GPU 类型,并在支付过程中购买相关的 GPU 计算单元。
    需要注意的是,由于不同类型的 GPU 具有不同的计算能力和价格,请务必仔细阅读相关文档,并根据实际需求选择合适的 GPU 类型。另外,在 FC 中使用 GPU 还需要注意散热和能耗等问题,以免出现意外情况。

    2023-10-31 13:37:21
    赞同 展开评论 打赏
  • 不是必须的,函数计算支持CPU类型和GPU类型的实例。如果您想要使用GPU运算资源,则需要配置GPU卡型实例;如果不需要使用GPU,则可以选择CPU类型实例即可。

    2023-10-31 11:06:13
    赞同 展开评论 打赏
  • 在阿里云函数计算中使用GPU资源,不需要在函数配置中明确指定GPU卡型。当你开通函数计算的GPU权限后,函数计算会自动分配GPU资源,你可以在函数代码中直接使用GPU进行计算。

    然而,虽然你不需要明确指定GPU卡型,但你仍然需要在函数配置中显式指定使用GPU实例,否则函数计算将不会使用GPU实例来执行函数代码。

    此外,函数计算平台提供的GPU实例规格,允许你根据自己的工作负载选择不同的卡型,独立配置CPU/GPU/MEM/DISK。最小GPU规格小至1 GB显存/算力,将为您提供最贴合业务的实例规格。

    2023-10-31 10:28:57
    赞同 展开评论 打赏
  • 是要选择GPU实例规格的。

    您可以在推理应用场景下,根据业务需要,特别是算法模型所需要的CPU算力、GPU算力与显存、内存、磁盘,选择不同的GPU卡型与GPU实例规格。关于GPU实例规格的详细信息,请参见实例规格。

    本文介绍什么是准实时推理场景,以及如何使用GPU按量实例,以及如何基于GPU按量实例构建使用成本较低的准实时推理服务。https://help.aliyun.com/zh/fc/use-cases/quasi-real-time-inference-scenarios

    2023-10-31 09:44:02
    赞同 展开评论 打赏

快速交付实现商业价值。

相关产品

  • 函数计算
  • 相关电子书

    更多
    Hologres Serverless之路:揭秘弹性计算组 立即下载
    Serverless开发平台: 让研发效能再提升 立即下载
    Serverless 引领云上研发新范式 立即下载