开发者社区 > 云原生 > Serverless > 正文

函数计算fc中,使用gpu的时候,模型加载,业务还没有运行的时候,会计费吗?

函数计算fc中,使用gpu的时候,模型加载,业务还没有运行的时候,会计费吗?

展开
收起
三分钟热度的鱼 2024-07-17 22:36:33 19 0
2 条回答
写回答
取消 提交回答
  • 在阿里云函数计算(FC)服务中,当您配置并使用GPU实例时,费用的计费是从函数实例被创建并且开始运行时开始计算的,而不是从模型加载完成或者业务逻辑真正执行时才开始。这意味着,即使您的模型还在加载过程中,或者业务逻辑尚未执行,只要函数实例已经被激活并处于运行状态,就会产生相应的费用。
    具体到模型加载的阶段,如果您的函数实例因为加载大型模型而需要较长时间,这段时间也会被计入费用。因此,为了优化成本,建议您考虑以下几点:

    模型预热:对于需要加载较大模型的场景,可以利用函数计算的预留实例或预留GPU实例功能,减少冷启动带来的延迟和成本。预留实例会在没有请求时保持活跃状态,避免了每次请求时的初始化和模型加载过程。
    模型优化:尽量优化模型的大小和加载效率,比如使用模型压缩技术,减少模型加载时间,从而减少因模型加载而导致的计费周期。
    合理配置资源:根据实际业务需求合理选择GPU实例的规格,避免过度配置导致的不必要的成本支出。

    综上所述,即便业务逻辑还未执行,只要函数实例因加载模型或准备运行环境而激活,就会开始计费。因此,优化模型加载和实例管理策略对于成本控制至关重要。 此回答整理自钉群“阿里函数计算客户【已满,加2群:64970014484】”

    2024-07-18 08:52:55
    赞同 1 展开评论 打赏
  • 在函数计算(FC)服务中,GPU实例运行但未进行GPU计算,仍会进行计费。这是因为计费通常基于实例的运行时长,而不是基于实例的实际使用负载。对于 GPU 类型的实例,一旦实例启动并分配了 GPU 资源,即使没有请求,也会计费。

    image.png

    ——参考链接
    )。

    2024-07-18 08:49:16
    赞同 3 展开评论 打赏

快速交付实现商业价值。

相关产品

  • 函数计算
  • 相关电子书

    更多
    DeepStream: GPU加速海量视频数据智能处理 立即下载
    阿里巴巴高性能GPU架构与应用 立即下载
    GPU在超大规模深度学习中的发展和应用 立即下载