ModelScope哪位用过MS的零代码一键部署功能吗?我使用ZhipuAI/ChatGLM-6B 模型,一键部署后,阿里云可以看见部署成功后的函数。然后我开启了Notebook(预装 ModelScope Library预装镜像 ubuntu20.04-cuda11.8.0-py38-torch2.0.1-tf2.13.0-1.9.0),然后使用部署成功后,MS提供给我的py代码,请求函数,总是返回。这个是什么问题?谢谢
用的默认配置。我应该没有修改任何东西。陈鹤
非常抱歉!已经恢复了,您这边可以重试一下
另外LLM大模型建议开启预留GPU实例,可以显著减少首次调用耗时:
https://developer.aliyun.com/article/1307460?spm=5176.28261954.J_7341193060.1.43f42fdewvfTyq&scm=20140722.S_community@@%E6%96%87%E7%AB%A0@@1307460._.ID_1307460-RL_%E9%AD%94%E6%90%AD%20%E4%B8%80%E9%94%AE%E9%83%A8%E7%BD%B2-LOC_search~UND~community~UND~item-OR_ser-V_3-P0_0
https://developer.aliyun.com/article/1307460,此回答整理自钉群“魔搭ModelScope开发者联盟群 ①”