codefuse 适用modelscope 本地加载模型时报错
codefuse 适用modelscope 本地加载模型时报错， 官方codefuse-ai/CodeFuse-CodeLlama-34B-4bits 中并没有pytorch_model-00001-of-00007.bin 文件
from modelscope.models import Model
# 加载模型和预处理器
# 传入模型ID 或 模型目录
model = Model.from_pretrained(model_name_or_path='codefuse-ai/CodeFuse-CodeLlama-34B-4bits', device='cuda:0')
展开
收起
2
条回答
写回答
写回答
-
从你提供的错误信息来看，你可能没有找到正确的模型文件。在官方的codefuse-ai/CodeFuse-CodeLlama-34B-4bits模型中，确实没有名为
pytorch_model-00001-of-00007.bin的文件。这可能是因为这个模型是使用TensorFlow而不是PyTorch构建的，因此没有对应的PyTorch版本。如果你需要使用PyTorch版本的模型，你可能需要寻找其他模型，或者在官方模型的基础上进行转换。另外，你也可以尝试使用其他的模型加载库，比如Hugging Face的Transformers库，它支持多种模型格式，包括TensorFlow和PyTorch。
2023-10-26 08:58:38赞同 1 展开评论 打赏 -
北京阿里云ACE会长modelscope无法在本地找到该模型。根据您提供的代码片段，您尝试从codefuse-ai/CodeFuse-Codellama-34B-4bits目录加载模型，但是该目录中并没有pytorch model-00001-of-00007.bin文件。
要解决这个问题，您需要确保您要加载的模型文件存在于指定的目录中。如果您是从GitHub或其他远程仓库克隆的模型，请确保已经下载了所有的模型文件。此外，请检查模型文件的名称是否与您尝试加载的文件名匹配。2023-10-26 08:05:35赞同 1 展开评论 打赏
相关问答
热门讨论
热门文章
modelscope-funasr的FunClip怎么安装的？
693
open webui的RAG功能根本用不起来
196
练的pth模型文件，怎么转成bin文件？
698
请问微调开元模型qwe1.5b 和 7b 分别支持数据集的上下文长度是多少个汉字/token？
967
modelscope-funasr怎么使用 gpu 加速啊？
328
报错AssertionError: choose a window size 400 that is
123
modelscope-funasr的 sense voice和funasr的底层asr能力是一样吗？
164
modelscope-funasr支持粤语么？
326
modelscope-funasr在AutoModel里设置了关闭了，结果还是会打日志，为什么？
302
如何下载llama模型到本地？
2613
展开全部
智胜未来：国内大模型+Agent应用案例精选，以及主流Agent框架开源项目推荐
568
RAG+AI工作流+Agent：LLM框架该如何选择，全面对比MaxKB、Dify、FastGPT、RagFlow、Anything-LLM,以及更多推荐
459
RAG：AI大模型联合向量数据库和 Llama-index，助力检索增强生成技术
533
LLM 大模型学习必知必会系列(二)：提示词工程-Prompt Engineering 以及实战闯关
777
LLM 大模型学习必知必会系列(一)：大模型基础知识篇
1184
检索增强生成(RAG)实践：基于LlamaIndex和Qwen1.5搭建智能问答系统
951
告别Hugging Face模型下载难题：掌握高效下载策略，畅享无缝开发体验
190
DashVector&千问7B模型，打造极简RAG 之 基于专属知识的问答服务实践
953
2024年6月118篇代码大模型论文最全整理
465
求助: 运行模型时报错module 'megatron_util.mpu' has no attribute 'get_model_parallel_rank'
376
展开全部
