告别安装烦恼:一步步搭建你的Transformers开发环境

简介: Transformers支持 PyTorch、TensorFlow 2.0 和 Flax,并已在 Python 3.9+、PyTorch 2.1+、TensorFlow 2.6+ 和 Flax 0.4.1+ 上测试通过。

本文已收录在Github,关注我,紧跟本系列专栏文章,咱们下篇再续! 。实战干货:编程严选网。

0 前言

Transformers支持 PyTorch、TensorFlow 2.0 和 Flax,并已在 Python 3.9+、PyTorch 2.1+、TensorFlow 2.6+ 和 Flax 0.4.1+ 上测试通过。

1 虚拟环境

使用虚拟环境可更好管理不同项目之间的依赖,避免兼容性问题。入门Python虚拟环境使用 pip 和 venv 安装包。

在项目目录中用 venv 创建并激活一个虚拟环境:

python -m venv .env
source .env/bin/activate

也可用 Rust 编写的快速 Python 包管理工具 uv:

uv venv .env
source .env/bin/activate

2 安装 Transformers

可用 pip 或 uv 来安装 Transformers。

用 pip 安装(适用于 Python):

pip install transformers

用 uv 安装(更快):

uv pip install transformers

如希望用 GPU 加速

按机器安装对应CUDA驱动:PyTorch、TensorFlow。

检查系统是否检测到NVIDIA GPU:

nvidia-smi

如只用 CPU

可用以下命令安装 CPU 版本:

pip install 'transformers[torch]'
uv pip install 'transformers[torch]'

苹果 M1 芯片用户

需先安装 CMake 和 pkg-config:

brew install cmake
brew install pkg-config

安装 TensorFlow 的 CPU 版本:

pip install 'transformers[tf-cpu]'
uv pip install 'transformers[tf-cpu]'

安装 Flax 支持:

pip install 'transformers[flax]'
uv pip install 'transformers[flax]'

验证是否安装成功:

python -c "from transformers import pipeline; print(pipeline('sentiment-analysis')('hugging face is the best'))"

输出结果应类似:

[{'label': 'POSITIVE', 'score': 0.9998704791069031}]

从源码安装

源码安装会获取 Transformers 的最新版本,而非稳定版。这通常适合想尝试新功能或修复某些未正式发布问题的用户。

安装命令如下:

pip install git+https://github.com/huggingface/transformers

安装成功后再次测试:

python -c "from transformers import pipeline; print(pipeline('sentiment-analysis')('hugging face is the best'))"

可编辑安装

可编辑安装(editable install)适用于本地开发场景。这种方式不会复制文件,而是将本地 Transformers 项目链接到 Python 的导入路径中。

git clone https://github.com/huggingface/transformers.git
cd transformers
pip install -e .

⚠️ 注意:必须保留本地 Transformers 文件夹,才能继续使用。

要更新本地版本:

cd ~/transformers/
git pull

使用 conda 安装

conda 是通用包管理工具。可从 conda-forge 频道安装:

conda install conda-forge::transformers

3 安装后的设置

安装完成后,配置 Transformers 缓存路径或设置离线使用。

3.1 缓存目录

用 [~PreTrainedModel.from_pretrained] 加载预训练模型时,会从 Hub 下载模型并保存在本地缓存中。

每次加载模型时,都会检查是否已缓存并为最新版本;若是则直接加载缓存模型,否则会更新缓存。

默认缓存目录为环境变量 TRANSFORMERS_CACHE 所指的路径,通常是 ~/.cache/huggingface/hub,Windows 下为 C:\Users\用户名\.cache\huggingface\hub。

要更改缓存位置,可设置以下环境变量(按优先级排序):

  1. HF_HUB_CACHE 或 TRANSFORMERS_CACHE(默认)
  2. HF_HOME
  3. XDG_CACHE_HOME + /huggingface(若未设置 HF_HOME)

老版本 Transformers 使用 PYTORCH_TRANSFORMERS_CACHE 或 PYTORCH_PRETRAINED_BERT_CACHE,除非设置新变量,否则建议保留。

3.2 离线模式

没有网络或有防火墙限制的环境中使用 Transformers,需提前下载好模型文件。

使用 [huggingface_hub.snapshot_download] 方法下载模型仓库:

from huggingface_hub import snapshot_download

snapshot_download(repo_id="meta-llama/Llama-2-7b-hf", repo_type="model")

加载模型时,设置 HF_HUB_OFFLINE=1,防止网络请求:

HF_HUB_OFFLINE=1 \
python examples/pytorch/language-modeling/run_clm.py --model_name_or_path meta-llama/Llama-2-7b-hf --dataset_name wikitext ...

或在 [~PreTrainedModel.from_pretrained] 中设置 local_files_only=True,只加载本地缓存文件:

from transformers import LlamaForCausalLM

model = LlamaForCausalLM.from_pretrained("./path/to/local/directory", local_files_only=True)
目录
相关文章
|
6天前
|
Linux Go 开发工具
手机上跑 DeepSeek 智能体:开源安卓客户端 DSH Go 安装与使用指南
DSH Go 是一款开源安卓客户端,将 DeepSeek Harness 智能体引擎装进手机:免 Root、免 Termux,一键安装即用;支持本机运行(内置 Ubuntu+Node.js)或远程接管电脑会话;具备插话打断、过程折叠、屏幕操控、端到端加密分享等特色功能,真正实现智能体“口袋化”。
7917 19
|
6天前
|
弹性计算 人工智能 API
Codex超详细入门指南(下载·安装·登录·上手,全版本覆盖,2026最新版)
建议收藏本教程,2026 全年各版本更新随时回来查阅。如果你在搭建过程中遇到任何问题,欢迎结合 阿里云工单系统 提交技术支持请求,或在 阿里云开发者社区 搜索 Codex 相关话题交流。 祝你编码愉快,效率翻倍!
2518 12
|
1天前
|
人工智能 安全 应用服务中间件
NGINX 爆出两处高危漏洞 可导致未经身份验证的远程代码执行
NGINX曝出两个高危漏洞(CVE-2026-123633和CVE-2026-123007),CVSS 9.2分,均属HTTP/2内存安全缺陷,无需认证即可远程执行代码。影响自2015年起的多个版本,静态站点亦受威胁。修复版本为开源版1.30.7/1.31.9。(239字)
1230 0
NGINX 爆出两处高危漏洞 可导致未经身份验证的远程代码执行
|
4天前
|
传感器 安全 区块链
Windows 电脑运行安卓应用教程:开源工具 ApkStart 双击 APK 即装、独立窗口运行
ApkStart 是一款开源Windows工具,让安卓APP像原生软件一样运行:双击APK即安装、生成真实图标、独立窗口启动、开始菜单可搜索。无需传统模拟器,内置QEMU运行时,支持数据互通、ARM兼容与命令行操作。(239字)
|
9天前
|
人工智能 前端开发 API
阿里云Qwen4-Max 大模型详解:定位、特征、能力、适用场景与相对Qwen3-Max差异解析
2026年11月11日,阿里发布第四代旗舰模型Qwen4-Max预览版,首发千问AI平台Token Plan并接入千问办公、Qoder等入口。该版本聚焦知识理解、世界感知、编程与Agentic四项升级,主打复杂编程、专业办公、前端设计与专业软件操作等真实任务。预览期为11月11日10:00至11月25日24:00,仅支持Token Plan调用,到期后模型标识下线;限时2折、新用户再享5折,最低1折可体验。
|
9天前
|
JSON 前端开发 API
阿里云最新Qwen4-Max大模型介绍:模型定位、特征、能力、适用场景解析
2026 年 11 月 11 日,阿里发布第四代旗舰模型Qwen4-Max预览版,首发千问 AI 平台 Token Plan,并同步接入千问办公、Qoder 等入口。该版本聚焦知识理解、世界感知、编程与 Agentic 四项升级,主打复杂编程、专业办公、前端设计与专业软件操作。预览期至 11 月 25 日 24:00,到期后模型标识下线;限时 2 折、新用户再享 5 折,最低 1 折可体验。
|
22天前
|
Linux 开发工具 iOS开发
Codex保姆级教程(下载+安装+登录+使用,含所有版本,2026最新)
Codex是OpenAI推出的开源AI编程智能体,本地运行,可理解整个代码库,支持自然语言指令改代码、执行命令、跑测试、修Bug,兼容Win/macOS/Linux。(239字)
10628 59
|
5天前
|
人工智能 弹性计算 开发工具
零成本玩各大模型!DeepSeek Harness dsh-our-free-model 插件,13 个厂商模型直接用
总结一下:装这个插件,你不用注册、不用绑卡、不用填一个 Key,就能在 DeepSeek Harness 里用上 DeepSeek V4.1 Flash、Kimi K3 这一批前沿模型,而且是白嫖的、还不限量。三步搞定:下载插件,复制包含 `package.json` 的插件目录路径,在「添加插件」里粘贴路径安装并重启。无论是在阿里云 ECS 上通过命令行部署的 Web 版,还是本地的 Electron 桌面端,都能顺利跑通,快速搭建一套零成本的免费模型使用环境。
1151 1
|
7天前
|
Linux API iOS开发
【DSH】DeepSeek Harness新手保姆教程(下载+安装+配置+使用,2026最新实测)
DeepSeek Harness(dsh)是DeepSeek AI开源的智能体框架,秉持“一切皆插件”理念,支持读文件、改代码、跑命令、处理表格、联网搜索等操作。免费开源,兼容Windows/macOS/Linux,提供桌面端与网页端,可灵活安装插件扩展能力。

热门文章

最新文章