chatglm6b is not in the text-generation
from modelscope.pipelines import pipeline
from modelscope.utils.constant import Tasks
p = pipeline('text-generation', 'ZhipuAI/ChatGLM-6B')
KeyError: 'chatglm6b-text-generation is not in the pipelines registry group text-generation. Please make sure the correct version of ModelScope library is used.'
展开
收起
1
条回答
写回答
写回答
-
from modelscope.utils.constant import Tasks from modelscope.pipelines import pipeline pipe = pipeline(task=Tasks.chat, model='ZhipuAI/ChatGLM-6B', model_revision='v1.0.14') inputs = {'text':'你好', 'history': []} result = pipe(inputs) inputs = {'text':'介绍下清华大学', 'history': result['history']} result = pipe(inputs) print(result)参考示例，这是一个对话task
2023-06-06 17:43:01赞同 展开评论 打赏
相关问答
热门讨论
热门文章
请问微调开元模型qwe1.5b 和 7b 分别支持数据集的上下文长度是多少个汉字/token？
426
如何提高qwen-7b-chat-int4的并行处理能力
956
如何下载llama模型到本地？
1999
modelscope-funasr的byte[] 8k 转16k 有什么好的方式吗？java？
29
Distributed package doesn't have NCCL built in
710
练的pth模型文件，怎么转成bin文件？
210
modelscope-funasr这个问题怎么解决？
22
modelscope-funasrbash的finetune.sh命令下载训练模型显示错误，怎么办？
22
Qwen-7B-Chat 私有化部署需要怎样的资源
1143
modelscope-funasr在finetune时报keyerror bpemodel是什么错？
21
展开全部
LLM 大模型学习必知必会系列(一)：大模型基础知识篇
168
LLM 大模型学习必知必会系列(二)：提示词工程-Prompt Engineering 以及实战闯关
123
检索增强生成(RAG)实践：基于LlamaIndex和Qwen1.5搭建智能问答系统
161
基于LangChain-Chatchat实现的本地知识库的问答应用-快速上手（检索增强生成(RAG)大模型）
170
RAG：AI大模型联合向量数据库和 Llama-index，助力检索增强生成技术
101
DashVector&千问7B模型，打造极简RAG 之 基于专属知识的问答服务实践
232
ModelScope X 昇腾910快速上手
187
中文大模型评测
760
表格问答
557
使用ModelScope社区搭建OCR应用
1194
展开全部
