函数计算FC按量模式,模型加载计算的hash值值不会一直保存么?刚手动加载计算一遍,然后一刷新就没了。
版权声明:本文内容由阿里云实名注册用户自发贡献,版权归原作者所有,阿里云开发者社区不拥有其著作权,亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容,填写侵权投诉表单进行举报,一经查实,本社区将立刻删除涉嫌侵权内容。
【 函数计算FC按量模式,模型加载计算的hash值值不会一直保存么?
】
模型加载优化:在每个请求中,尽量减少模型加载的时间和资源消耗。可以将模型的加载放在函数初始化时,而不是每次请求都重新加载。
模型缓存:将模型加载到持久化的存储(例如云对象存储或文件系统)中,并在函数初始化时将模型缓存到函数计算实例的本地文件系统中。这样可以避免每次请求都加载模型,而是通过本地缓存来提高性能。
使用全局变量:在函数计算中,可以使用全局变量(例如 Redis 或数据库)来存储模型加载的状态。这样可以在多个请求之间共享模型状态,并避免重复加载模型。
需要注意的是,按量模式下的函数计算是无状态的,不保留会话数据。因此,您需要自行实现适合您的应用程序的模型加载和状态管理策略。
会保存的,不过保存时机得看 sd 的实现。
我自己测试的时候进页面会用上一次的模型的,可能需要在页面有操作才会保存。此回答整理自钉群“【答疑群】函数计算 AIGC 场景技术交流”