本文已收录在Github,关注我,紧跟本系列专栏文章,咱们下篇再续! 。实战干货:编程严选网。
0 前言
Transformers支持 PyTorch、TensorFlow 2.0 和 Flax,并已在 Python 3.9+、PyTorch 2.1+、TensorFlow 2.6+ 和 Flax 0.4.1+ 上测试通过。
1 虚拟环境
使用虚拟环境可更好管理不同项目之间的依赖,避免兼容性问题。入门Python虚拟环境使用 pip 和 venv 安装包。
在项目目录中用 venv 创建并激活一个虚拟环境:
python -m venv .env
source .env/bin/activate
也可用 Rust 编写的快速 Python 包管理工具 uv:
uv venv .env
source .env/bin/activate
2 安装 Transformers
可用 pip 或 uv 来安装 Transformers。
用 pip 安装(适用于 Python):
pip install transformers
用 uv 安装(更快):
uv pip install transformers
如希望用 GPU 加速
按机器安装对应CUDA驱动:PyTorch、TensorFlow。
检查系统是否检测到NVIDIA GPU:
nvidia-smi
如只用 CPU
可用以下命令安装 CPU 版本:
pip install 'transformers[torch]'
uv pip install 'transformers[torch]'
苹果 M1 芯片用户
需先安装 CMake 和 pkg-config:
brew install cmake
brew install pkg-config
安装 TensorFlow 的 CPU 版本:
pip install 'transformers[tf-cpu]'
uv pip install 'transformers[tf-cpu]'
安装 Flax 支持:
pip install 'transformers[flax]'
uv pip install 'transformers[flax]'
验证是否安装成功:
python -c "from transformers import pipeline; print(pipeline('sentiment-analysis')('hugging face is the best'))"
输出结果应类似:
[{'label': 'POSITIVE', 'score': 0.9998704791069031}]
从源码安装
源码安装会获取 Transformers 的最新版本,而非稳定版。这通常适合想尝试新功能或修复某些未正式发布问题的用户。
安装命令如下:
pip install git+https://github.com/huggingface/transformers
安装成功后再次测试:
python -c "from transformers import pipeline; print(pipeline('sentiment-analysis')('hugging face is the best'))"
可编辑安装
可编辑安装(editable install)适用于本地开发场景。这种方式不会复制文件,而是将本地 Transformers 项目链接到 Python 的导入路径中。
git clone https://github.com/huggingface/transformers.git
cd transformers
pip install -e .
⚠️ 注意:必须保留本地 Transformers 文件夹,才能继续使用。
要更新本地版本:
cd ~/transformers/
git pull
使用 conda 安装
conda 是通用包管理工具。可从 conda-forge 频道安装:
conda install conda-forge::transformers
3 安装后的设置
安装完成后,配置 Transformers 缓存路径或设置离线使用。
3.1 缓存目录
用 [~PreTrainedModel.from_pretrained] 加载预训练模型时,会从 Hub 下载模型并保存在本地缓存中。
每次加载模型时,都会检查是否已缓存并为最新版本;若是则直接加载缓存模型,否则会更新缓存。
默认缓存目录为环境变量 TRANSFORMERS_CACHE 所指的路径,通常是 ~/.cache/huggingface/hub,Windows 下为 C:\Users\用户名\.cache\huggingface\hub。
要更改缓存位置,可设置以下环境变量(按优先级排序):
- HF_HUB_CACHE 或
TRANSFORMERS_CACHE(默认) - HF_HOME
- XDG_CACHE_HOME +
/huggingface(若未设置 HF_HOME)
老版本 Transformers 使用 PYTORCH_TRANSFORMERS_CACHE 或 PYTORCH_PRETRAINED_BERT_CACHE,除非设置新变量,否则建议保留。
3.2 离线模式
没有网络或有防火墙限制的环境中使用 Transformers,需提前下载好模型文件。
使用 [huggingface_hub.snapshot_download] 方法下载模型仓库:
from huggingface_hub import snapshot_download
snapshot_download(repo_id="meta-llama/Llama-2-7b-hf", repo_type="model")
加载模型时,设置 HF_HUB_OFFLINE=1,防止网络请求:
HF_HUB_OFFLINE=1 \
python examples/pytorch/language-modeling/run_clm.py --model_name_or_path meta-llama/Llama-2-7b-hf --dataset_name wikitext ...
或在 [~PreTrainedModel.from_pretrained] 中设置 local_files_only=True,只加载本地缓存文件:
from transformers import LlamaForCausalLM
model = LlamaForCausalLM.from_pretrained("./path/to/local/directory", local_files_only=True)