开发者社区 > 云原生 > Serverless > 正文

函数计算FC对固化模型和可上传模型怎么看?

函数计算FC对固化模型和可上传模型怎么看?期望:类似秋叶那种一键包我觉得稳定性和可推广性更好

展开
收起
冰激凌甜筒 2023-07-12 12:03:29 71 0
3 条回答
写回答
取消 提交回答
  • 函数计算(Function Compute,FC)是一种基于事件驱动的无服务器计算服务,它主要用于处理短时且高并发的任务。对于固化模型和可上传模型的支持,需要根据您具体的需求和使用场景来考虑。

    1. 固化模型:如果您的模型比较大且稳定,可以将模型存储在一个固定的位置(例如云存储服务或对象存储服务),然后在函数计算中直接引用该位置上的模型文件。这样,您可以通过函数计算来加载、预测和处理模型。固化模型适用于模型较大且相对稳定的情况,可以减少每次部署函数时上传模型的时间和资源消耗。

    2. 可上传模型:如果您的模型比较小或经常需要更新,可以选择将模型作为函数计算的一部分进行上传。在每次函数调用时,函数计算会将模型加载到内存中,并使用该模型进行预测和处理。这种方式允许您将模型与函数代码一起打包,从而实现一键部署和更好的可推广性。但请注意,由于函数计算的限制,模型的大小可能受到一些限制,具体取决于所使用的云服务提供商。

    在实际应用中,您可以根据模型的大小、稳定性要求和部署流程的复杂性来选择适合的方案。对于较大且稳定的模型,固化模型可能更为合适。对于小型或经常更新的模型,可上传模型可能更加方便。

    2023-07-22 23:48:38
    赞同 展开评论 打赏
  • 北京阿里云ACE会长

    阿里云函数计算(Function Compute)支持两种方式来使用模型:固化模型和可上传模型。

    固化模型是指将模型代码和参数打包成一个文件,然后上传到函数计算服务中运行。这种方式的优点是可以提高运行效率,因为模型参数已经打包好,不需要再次加载和初始化,减少了运行时间。但是,固化模型需要在本地环境中进行打包和上传,可能会受到环境差异的影响,因此需要注意兼容性和可移植性。

    可上传模型是指将模型代码和参数上传到某个存储服务中进行管理,然后在函数计算服务中动态加载和初始化模型。这种方式的优点是灵活性高,可以根据实际需要动态加载和更新模型,同时也可以方便地进行管理和迭代更新。但是,可上传模型需要进行网络传输和动态加载,可能会对运行效率产生一定的影响。

    提到的类似秋叶那种一键打包的方式。可以使用阿里云的自动化部署工具 Serverless Devs,通过配置 s.yaml 文件来一键部署函数计算服务和模型。Serverless Devs 可以支持多种语言和框架,同时也提供了丰富的插件和模板,方便快速构建和部署应用程序。

    2023-07-22 21:29:16
    赞同 展开评论 打赏
  • 新做的 sd 也算是一键包吧,塞不下太多模型,镜像打太大启动会变慢,目前我们新的 sd 模板里最大压缩前 15G,压缩后离 fc 支持的压缩后上限 10G 只错了不到 300M,已经塞到极限了,可以试下新的 sd 模板,初次体验应该足够了,此回答整理自钉群"【答疑群】人人都是创作家,Serverless 部署 AIGC 场景"

    2023-07-12 12:55:47
    赞同 展开评论 打赏
问答分类:
问答标签:
问答地址:
相关产品:

快速交付实现商业价值。

相关产品

  • 函数计算
  • 相关电子书

    更多
    Hologres Serverless之路:揭秘弹性计算组 立即下载
    Serverless开发平台: 让研发效能再提升 立即下载
    Serverless 引领云上研发新范式 立即下载