huggingface.transformers安装教程

在线体验各类最新模型,更有模型 免费Token 额度领取!
立即体验
简介: 本部分介绍transformers包如何安装,安装后如何检验是否安装成功,以及cache的设置和离线模式如何操作。

1. 通过pip下载


pip install transformers


如果仅使用CPU,可以直接通过如下命令行同时安装PyTorch:

pip install transformers[torch]


2. 通过source下载


pip install git+https://github.com/huggingface/transformers


这个命令行下载的是最新的master版本,而不是稳定版。master版保持最新更新。


3. Editable install


如果您需要:1. 使用源码的master版本。2. 贡献给 🤗 Transformers,测试代码变化。

您就需要进行editable install,即clone GitHub项目并安装transformers包:


git clone https://github.com/huggingface/transformers.git
cd transformers
pip install -e .


这一命令会链接你下载的文件夹到Python包路径,Python会在常规包路径的基础上增加查看你所下载的这个路径。举例来说,如果你的Python包一般下到~/anaconda3/envs/main/lib/python3.7/site-packages/,Python在此基础上还会搜索你下载的这个文件夹:~/transformers/。

注意如果你想保留这个包,这个下载的文件夹就不能删。

对pip install命令的-e参数的更多解释可参考我之前撰写的博文:pip详解(持续更新ing…)_诸神缄默不语的博客-CSDN博客


如果你想更新到最新版本,运行如下代码即可:

cd ~/transformers/
git pull


4. 通过conda下载


conda install -c huggingface transformers


5. 验证transformers是否安装成功


python -c "from transformers import pipeline; print(pipeline('sentiment-analysis')('we love you'))"


python -c属于命令行参数,直接运行其后的Python语句1。也可以用command参数。通过man python命令可以查看其介绍:

Specify the command to execute (see next section).  This terminates the option list (following  options are passed as arguments to the command).


这个Python代码就是自动下载预训练模型,使用transformers的pipeline函数对“we love you”这句话运行情感分析操作,对pipeline的解释可参考我之前撰写的博文:huggingface.transformers速成笔记_诸神缄默不语的博客-CSDN博客

如代码成功运行并输出类似如下的内容,证明transformers安装成功:


[{'label': 'POSITIVE', 'score': 0.9998704791069031}]


6. cache设置


预训练模型会被自动下载并缓存到:~/.cache/huggingface/transformers/(shell environment variable TRANSFORMERS_CACHE)

(在Windows上则是:C:\Users\username\.cache\huggingface\transformers)


你可以改变以下shell environment variables(按优先级排序)以指定不同的缓存文件夹:


  1. Shell environment variable (default): TRANSFORMERS_CACHE
  2. Shell environment variable: HF_HOME + transformers/
  3. Shell environment variable: XDG_CACHE_HOME + /huggingface/transformers


(如果使用过transformers老版,并修改了 shell environment variables PYTORCH_TRANSFORMERS_CACHE 或 PYTORCH_PRETRAINED_BERT_CACHE),就会使用这些shell environment variables,除非修改了 shell environment variable TRANSFORMERS_CACHE


我没有试验过修改缓存路径,参考2,有3种方式修改缓存路径:


  1. 在Python代码中,在import transformers之前修改环境变量:
import os
os.environ['TRANSFORMERS_CACHE'] = '文件夹名'


  1. 在命令行中:export TRANSFORMERS_CACHE=文件夹名
  2. 在调用from_pretrained函数时使用cache_dir入参,指定缓存文件夹名


7. 离线模式


在不方便使用网络的情况下,🤗 Transformers也可以只使用本地文件。设置环境变量TRANSFORMERS_OFFLINE=1以开启该模式。


举例,原本运行代码的脚本为:

python examples/pytorch/translation/run_translation.py --model_name_or_path t5-small --dataset_name wmt16 --dataset_config ro-en ...


离线模式则为:

HF_DATASETS_OFFLINE=1 TRANSFORMERS_OFFLINE=1 \
python examples/pytorch/translation/run_translation.py --model_name_or_path t5-small --dataset_name wmt16 --dataset_config ro-en ...


另一种离线使用 🤗 Transformers 的方法是提前下载模型,然后用from_pretrained()指定文件夹加载tokenizer和预训练模型。

from_pretrained()函数的使用方法同样可参考我之前撰写的博文:huggingface.transformers速成笔记_诸神缄默不语的博客-CSDN博客


另,使用代码从huggingface_hub/src/huggingface_hub at main · huggingface/huggingface_hub下载模型:


python -m pip install huggingface_hub
#以T0模型的config.json为例
from huggingface_hub import hf_hub_download
hf_hub_download(repo_id="bigscience/T0_3B", filename="config.json", cache_dir="指定下载路径")


相关文章
pip install --upgrade transformers
pip install --upgrade transformers
1201 1
|
Python
项目依赖的python包requirements.txt文件的生成与安装
项目依赖的python包requirements.txt文件的生成与安装
1945 0
vllm+vllm-ascend本地部署QwQ-32B
本指南介绍如何下载、安装和启动基于Ascend的vLLM模型。首先,可通过华为镜像或Hugging Face下载预训练模型;其次,安装vllm-ascend,支持通过基础镜像(如`quay.io/ascend/vllm-ascend:v0.7.3-dev`)或源码编译方式完成;最后,使用OpenAI兼容接口启动模型,例如运行`vllm serve`命令,设置模型路径、并行规模等参数。适用于大模型推理场景,需注意显存需求(如QwQ-32B需70G以上)。
5075 17
|
7月前
|
Linux Docker 容器
docker下部署 vLLM 启动Qwen3-VL-32B-Instruct模型
本文介绍在CentOS系统、A10 6×24G显卡环境下,通过Docker部署vLLM并启动Qwen3-VL-32B-Instruct大模型的完整流程,涵盖镜像拉取、容器配置、多卡并行与显存优化设置,支持32K上下文,附带启动脚本及调用验证示例。
8791 2
|
存储 缓存 Shell
Transformers 4.37 中文文档(一)(3)
Transformers 4.37 中文文档(一)
2261 1
Transformers 4.37 中文文档(一)(3)
|
Linux iOS开发 Python
解决安装flash-attn时的错误报告
记住,程序包安装问题就像个顽皮的谜题,得一步步解开,耐心是解决问题的钥匙,没有什么问题是一顿猛敲键盘解决不了的,如果有,那就两顿。
2733 8
|
人工智能 自然语言处理 测试技术
🧠 用 AI 提升你的编程效率 —— 在 PyCharm 中体验通义灵码
通义灵码是一款基于大模型的智能编程辅助工具,现已上线PyCharm插件V2.5+版本。它能根据自然语言描述、注释或上下文生成高质量代码,支持多语言(Python、Java等),提供代码补全、优化建议、单元测试生成及异常排查等功能。集成魔搭MCP市场3000+服务,具备编程智能体模式与长期记忆能力,助开发者提升效率。适用初学者、资深开发者及团队协作场景。小红书、B站、抖音、微博均有相关资源分享。 小红书: http://xhslink.com/a/SvabuxSObf3db bilibili:https://b23.tv/1HJAdIx 抖音: https://v.douyin.com/1DAG
8679 6
|
文字识别 测试技术 语音技术
看听说写四维突破:Qwen2.5-Omni 端到端多模态模型开源!
今天,通义千问团队发布了 Qwen2.5-Omni,Qwen 模型家族中新一代端到端多模态旗舰模型。该模型专为全方位多模态感知设计,能够无缝处理文本、图像、音频和视频等多种输入形式,并通过实时流式响应同时生成文本与自然语音合成输出。
3630 6
看听说写四维突破:Qwen2.5-Omni 端到端多模态模型开源!
|
存储 人工智能 缓存
DiffSplat:输入文本或图像,2秒内生成3D建模!北大联合字节开源3D建模生成框架
DiffSplat 是由北京大学和字节跳动联合推出的一个高效 3D 生成框架,能够在 1-2 秒内从文本提示或单视图图像生成高质量的 3D 高斯点阵,并确保多视图下的一致性。
885 19
DiffSplat:输入文本或图像,2秒内生成3D建模!北大联合字节开源3D建模生成框架
|
机器学习/深度学习 缓存 负载均衡
Qwen MoE关键细节:通过全局负载均衡提升模型性能和专家的特异化程度
Qwen MoE关键细节:通过全局负载均衡提升模型性能和专家的特异化程度