函数计算FC按量模式,模型加载计算的hash值值不会一直保存么?

函数计算FC按量模式,模型加载计算的hash值值不会一直保存么?刚手动加载计算一遍,然后一刷新就没了。4f0810af86f8ad1ed768dca679d901a5.png

展开
收起
三分钟热度的鱼 2023-08-15 13:15:05 83 分享 版权
2 条回答
写回答
取消 提交回答
  • 北京阿里云ACE会长

    我已经认真阅读了 你的问题:

    【 函数计算FC按量模式,模型加载计算的hash值值不会一直保存么?

    并思考了

    建议如下:


    模型加载优化:在每个请求中,尽量减少模型加载的时间和资源消耗。可以将模型的加载放在函数初始化时,而不是每次请求都重新加载。

    模型缓存:将模型加载到持久化的存储(例如云对象存储或文件系统)中,并在函数初始化时将模型缓存到函数计算实例的本地文件系统中。这样可以避免每次请求都加载模型,而是通过本地缓存来提高性能。

    使用全局变量:在函数计算中,可以使用全局变量(例如 Redis 或数据库)来存储模型加载的状态。这样可以在多个请求之间共享模型状态,并避免重复加载模型。

    需要注意的是,按量模式下的函数计算是无状态的,不保留会话数据。因此,您需要自行实现适合您的应用程序的模型加载和状态管理策略。

    2023-08-20 18:18:00
    赞同 展开评论
  • 会保存的,不过保存时机得看 sd 的实现。
    我自己测试的时候进页面会用上一次的模型的,可能需要在页面有操作才会保存。此回答整理自钉群“【答疑群】函数计算 AIGC 场景技术交流”

    2023-08-15 13:26:17
    赞同 展开评论

快速交付实现商业价值。

还有其他疑问?
咨询AI助理