开发者社区云计算文章正文

huggingface_hub.utils._validators.HFValidationError: Repo id must be in the form ‘repo_name‘ or ‘nam

2024-08-29 5029

版权

本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。

简介： 这篇文章介绍了在使用HuggingFace模型库时遇到的`Repo id`格式错误问题，并提供了将相对路径改为正确的绝对路径的解决办法。

huggingface_hub.utils._validators.HFValidationError: Repo id must be in the form ‘repo_name’ or ‘namespace/repo_name’: ‘./THUDM/chatglm-6b’. Use `repo_type` argument if needed.

一，前言

复现chatGLM的时候报了这个错。

二，解决办法

1，已下载的模型路径不对

这个报错实际上是本地找不到模型导致的，可以检查一下看看。

2，HuggingFace模型路径不对

model = AutoModel.from_pretrained(“./THUDM/chatglm-6b”, trust_remote_code=True).quantize(8).half().cuda()
比如这个这个，就用了相对地址应该用绝对地址
model = AutoModel.from_pretrained(“HuggingFace/THUDM/chatglm-6b”, trust_remote_code=True).quantize(8).half().cuda()

文章标签：

并行计算

风吹落叶花飘荡

真的很搞笑

自然语言处理 PyTorch 算法框架/工具

modelscope问题之安装失败如何解决

本合集将提供ModelScope安装步骤、配置要求和环境准备，以便用户顺利启动ModelScope进行模型开发和测试。

真的很搞笑

2933 1 1

游客7dgyrbdm3doqi

容器

vllm+vllm-ascend本地部署QwQ-32B

本指南介绍如何下载、安装和启动基于Ascend的vLLM模型。首先，可通过华为镜像或Hugging Face下载预训练模型；其次，安装vllm-ascend，支持通过基础镜像（如`quay.io/ascend/vllm-ascend:v0.7.3-dev`）或源码编译方式完成；最后，使用OpenAI兼容接口启动模型，例如运行`vllm serve`命令，设置模型路径、并行规模等参数。适用于大模型推理场景，需注意显存需求（如QwQ-32B需70G以上）。

游客7dgyrbdm3doqi

4686 17 19

Deephub

6月前

存储缓存调度

vLLM 吞吐量优化实战：10个KV-Cache调优方法让tokens/sec翻倍

十个经过实战检验的 vLLM KV-cache 优化方法 —— 量化、分块预填充、前缀重用、滑动窗口、ROPE 缩放、后端选择等等 —— 提升 tokens/sec。

Deephub

2305 10 10

Se7en258

11月前

存储机器学习/深度学习缓存

vLLM 核心技术 PagedAttention 原理详解

本文系统梳理了 vLLM 核心技术 PagedAttention 的设计理念与实现机制。文章从 KV Cache 在推理中的关键作用与内存管理挑战切入，介绍了 vLLM 在请求调度、分布式执行及 GPU kernel 优化等方面的核心改进。PagedAttention 通过分页机制与动态映射，有效提升了显存利用率，使 vLLM 在保持低延迟的同时显著提升了吞吐能力。

Se7en258

6799 21 22

不要葱姜蒜

搜索推荐物联网 PyTorch

Qwen2.5-7B-Instruct Lora 微调

本教程介绍如何基于Transformers和PEFT框架对Qwen2.5-7B-Instruct模型进行LoRA微调。

不要葱姜蒜

14014 34 44

Deephub

11月前

存储机器学习/深度学习人工智能

多模态RAG实战指南：完整Python代码实现AI同时理解图片、表格和文本

本文探讨了多模态RAG系统的最优实现方案，通过模态特定处理与后期融合技术，在性能、准确性和复杂度间达成平衡。系统包含文档分割、内容提取、HTML转换、语义分块及向量化存储五大模块，有效保留结构和关系信息。相比传统方法，该方案显著提升了复杂查询的检索精度（+23%），并支持灵活升级。文章还介绍了查询处理机制与优势对比，为构建高效多模态RAG系统提供了实践指导。

Deephub

2644 0 0

huggingface_hub.utils._validators.HFValidationError: Repo id must be in the form ‘repo_name‘ or ‘nam

huggingface_hub.utils._validators.HFValidationError: Repo id must be in the form ‘repo_name’ or ‘namespace/repo_name’: ‘./THUDM/chatglm-6b’. Use `repo_type` argument if needed.