"请问ModelScope中，我正在安装 ChatGLM2-6B.一直报错，请问有啥文档吗？
"请问ModelScope中，我正在安装 ChatGLM2-6B.一直报错，请问有啥文档吗？
报错代码：KeyError: 'chatglm26b-text-generation is not in the pipelines registry group chat. Please make sure the correct version of ModelScope library is used.'
modelscope版本：(venv) PS D:\test-xz> modelscope;modelscope.version
2023-07-03 14:36:26,923 - modelscope - INFO - PyTorch version 1.11.0+cu113 Found.
2023-07-03 14:36:26,925 - modelscope - INFO - Loading ast index from C:\Users\admin.cache\modelscope\ast_indexer
2023-07-03 14:36:27,021 - modelscope - INFO - Loading done! Current index file version is 1.7.0, with md5 6341dcc8f8ac5a0f1381bd6d6668af62 and a total number of
861 components indexed
usage: modelscope []
推理代码：from modelscope.utils.constant import Tasks from modelscope.pipelines import pipeline pipe = pipeline(task=Tasks.chat, model='ZhipuAI/chatglm2-6b', model_revision='v1.0.4',device_map='auto') inputs = {'text':'你好', 'history': []} result = pipe(inputs) inputs = {'text':'介绍下江南大学', 'history': result['history']} result = pipe(inputs) print(result)
"
写回答
-
根据您提供的报错信息，您正在安装 ChatGLM2-6B 模型，并使用 Modelscope 进行推理。报错信息显示了一个 KeyError 以及一条错误消息。
在报错信息中，有一句提示："chatglm26b-text-generation is not in the pipelines registry group chat. Please make sure the correct version of ModelScope library is used." 这表明您尝试使用的 Modelscope 库版本可能不正确或不匹配。
为了解决这个问题，您可以尝试以下操作：
确认 Modelscope 版本：请确保您正在使用最新版本的 Modelscope。您可以通过升级 Modelscope 或查看其官方文档来获取相关信息。
查找模型名称和版本：检查 ChatGLM2-6B 模型在 Modelscope 上的注册名称和版本。确保您提供的模型名称和版本是正确且已经被注册在 Modelscope 上。
更新任务类型参数：根据报错信息中的提示，检查您所用的任务类型参数是否正确。确认您正在使用正确的任务类型参数，如 'chat'。
安装依赖项：根据您提供的推理代码，确保您已经安装了依赖项模块（例如 PyTorch）并按照正确的方式导入相关库。
2023-07-24 14:58:01赞同 展开评论 打赏 -
北京阿里云ACE会长安装 ChatGLM2-6B 的过程中遇到了什么错误，因此无法给出具体的解决方案。不过，您可以尝试查阅 ModelScope 的文档，以获取更多关于 ChatGLM2-6B 安装的信息和解决方案。
ModelScope 的文档包括使用指南、API 文档、示例代码等等，可以帮助您更好地了解如何使用 ModelScope 平台以及如何在其中安装和使用各种模型。您可以在 ModelScope 的官方网站上找到这些文档，网址是 https://modelscope.io/docs ↗。
如果您在阅读文档后仍然无法解决问题，
2023-07-18 08:53:44赞同 展开评论 打赏 -
意中人就是我呀！需要在python命令行中执行的，目前是不是在shell中执行的呢。
https://www.modelscope.cn/models/ZhipuAI/chatglm2-6b/summary
示例代码我更新了下，麻烦您在试一下。此回答整理自钉群“魔搭ModelScope开发者联盟群 ①”。2023-07-12 16:06:50赞同 展开评论 打赏
