开发者社区 > ModelScope模型即服务 > 计算机视觉 > 正文

在ModelScope中,若是想长期部署的话合适的GPU费用怎么计算?

我希望在创空间部署一个微调后的大模型应用,模型权重等已经上传到魔塔了。推理部分需要17G显存,请问若是想长期部署的话合适的GPU费用怎么计算?

展开
收起
崔问问 2023-11-29 16:15:26 44 0
2 条回答
写回答
取消 提交回答
  • 面对过去,不要迷离;面对未来,不必彷徨;活在今天,你只要把自己完全展示给别人看。

    在 ModelScope 中,GPU费用的计算通常取决于几个因素:

    1. GPU类型:不同型号和系列的GPU具有不同的性能和价格。一般来说,性能更高的GPU会比较昂贵。ModelScope支持多种GPU型号,您可以根据自己的需求选择适合的GPU。

    2. 使用时间:长期部署意味着您需要考虑使用GPU的时间长度。您需要确定每天使用GPU的小时数、每周使用的天数以及部署的持续时间。

    3. GPU数量:如果您需要部署多个GPU实例来满足高负载需求,那么您需要考虑每个GPU实例的费用,并将其乘以所需的GPU数量。

    4. 计费模式:ModelScope可能提供按小时、按月或按年等不同的计费模式。您需要了解平台上可用的计费选项,并根据您的需求来选择最合适的计费模式。

    为了计算长期部署的GPU费用,您可以将单个GPU实例的费用乘以使用时间,并乘以所需的GPU数量,再乘以部署的总时间长度。这样可以得到预估的总费用。

    需要注意的是,具体的GPU费用计算可能因平台和地区而有所不同。建议您参考 ModelScope 平台提供的定价信息或联系他们的团队,以获取详细的费用计算和定价信息。

    2023-11-30 14:58:12
    赞同 展开评论 打赏
  • 创空间支持使用自己的阿里云资源,GPU费用以阿里云的定价和账单为准哈。此回答整理自钉钉群:魔搭ModelScope开发者联盟群 ①

    2023-11-29 22:40:54
    赞同 展开评论 打赏

包含图像分类、图像生成、人体人脸识别、动作识别、目标分割、视频生成、卡通画、视觉评价、三维视觉等多个领域

相关产品

  • 视觉智能开放平台
  • 相关电子书

    更多
    DeepStream: GPU加速海量视频数据智能处理 立即下载
    阿里巴巴高性能GPU架构与应用 立即下载
    GPU在超大规模深度学习中的发展和应用 立即下载