开发者社区 > 云原生 > Serverless > 正文

函数计算FC目前模型类型都是ckpt 的基础模型,这类模型,切换时间很长吗?

函数计算FC目前模型类型都是ckpt 的基础模型,这类模型,切换时间很长吗?

展开
收起
三分钟热度的鱼 2023-10-25 15:14:47 42 0
3 条回答
写回答
取消 提交回答
  • 函数计算FC的模型类型主要是基于.ckpt的基础模型。当需要进行模型切换时,主要的操作步骤包括:首先准备好新版本的模型参数文件(.ckpt或.ckptindex),然后将模型文件上传至函数计算可以访问的对象存储中,接着更新函数代码中加载模型文件的位置,最后重新部署函数以触发新版本模型的加载。

    关于模型切换的时间长短,具体因素可能包括新老版本模型的差异大小、网络状况、服务器性能等。如果新老版本差异较小,且服务器性能良好,那么模型切换的时间可能较短。反之,如果差异较大或者服务器性能较差,则切换时间可能会较长。因此,无法直接给出一个固定的时间长度。在实际操作过程中,可以根据具体情况和需求进行优化以提高模型切换的效率。

    2023-10-26 07:59:57
    赞同 展开评论 打赏
  • 关于函数计算FC中模型类型的切换时间,这取决于多种因素,例如模型的大小、模型的复杂度、网络的延迟等。通常情况下,大型的、复杂的模型需要更长的时间进行切换,因为它们需要加载更多的数据和计算更多的参数。此外,模型切换的过程也会受到网络延迟的影响。如果网络延迟较高,那么模型切换的过程可能会更慢。为了避免这种情况,你可以尝试在空闲的时间段进行模型切换,或者在稳定的网络环境下进行模型切换。
    模型切换的时间会受到多种因素的影响,而且具体情况会因模型和环境的不同而不同。

    2023-10-25 17:18:40
    赞同 展开评论 打赏
  • 之前看到过有一些文章说可以优化 ckpt 的内部格式,那种会快一点。一般切模型几十秒吧,sdxl 会再久一点。此回答整理自钉群“【答疑群】函数计算 AIGC 场景技术交流”

    2023-10-25 15:24:42
    赞同 展开评论 打赏

快速交付实现商业价值。

相关产品

  • 函数计算
  • 相关电子书

    更多
    Hologres Serverless之路:揭秘弹性计算组 立即下载
    Serverless开发平台: 让研发效能再提升 立即下载
    Serverless 引领云上研发新范式 立即下载