modelscope我想预加载一个模型预加载的模型就不起作用了在子进程为什么还是会去加载一次模型？
请教个问题 modelscope我想预加载一个模型，然后用了subprocess去调用脚本启动项目，他开起了一个子进程，预加载的模型就不起作用了，在子进程还是会去加载一次模型，这个有什么好的解决方案或者建议吗？大概就是我在启动服务端前面预先加载了模型，然后调用项目的时候还会去加载一次模型，用的subprocess.run去启动的项目。
展开
收起
1
条回答
写回答
-
一般将pipeline初始化和推理分开，初始化一次，后面一直用就可以了。您看可不可以参考这种方式，flask搭建模型服务文档，https://modelscope.cn/docs/%E4%BD%BF%E7%94%A8Flask%E6%90%AD%E5%BB%BA%E6%A8%A1%E5%9E%8B%E6%9C%8D%E5%8A%A1 此回答整理自钉群“魔搭ModelScope开发者联盟群 ①”
2023-12-18 22:00:12赞同 展开评论
相关问答
相关文章
热门讨论
热门文章
展开全部
展开全部
还有其他疑问?
咨询AI助理