目的: 想在EAS上部署ChatGLM-6B-Int4模型
操作: 部署EAS,通过ModelScope的Api进行模型服务创建,代码如下图 服务日志报错,提示ModelScope Library版本不对,如下图 我看了下默认的服务配置,镜像地址是registry-vpc.cn-hangzhou.aliyuncs.com/modelscope-repo/modelscope:model_deploy-1.3.0,如下图 于是将镜像改成ModelScope教程中推荐的CPU环境镜像地址,如下图 然后部署,进行更新服务,但依然报错,如下图 我看报错里,貌似ModelScope版本还是1.3.0,没更换成1.5.0。有没有大佬指点一下,这种情况下应如何处理呀?
好的,以下是使用 ModelScope 的 API 在 EAS 上部署 ChatGLM-6B-Int4 模型的步骤:
首先,您需要创建一个 ModelScope 帐户并登录。
然后,您需要创建一个 EAS 实例。
创建 EAS 实例后,您需要创建一个模型服务。
在创建模型服务时,您需要选择 ChatGLM-6B-Int4 模型。
选择模型后,您需要配置模型服务的参数。
配置模型服务参数后,您需要单击“创建”按钮。
模型服务创建后,您将获得一个服务 ID。
您需要使用服务 ID 来调用模型服务的 API。