建立Hugging Face模型调用环境
简介:
本文介绍了如何在环境中导入transformers库,并从Hugging Face网站下载模型。如果使用镜像网站,需获取access token。部分模型需申请仓库权限,建议使用国外信息填写。有GPU的用户需先配置CUDA和pytorch-gpu。
1. 需要在环境中导入transformers库。
![PHOTO-2024-11-06-13-23-48.jpg](https://ucc.alicdn.com/pic/developer-ecology/vnd7ntwderoq2_4689f57f3dc8492a8fdb772fc70a5907.jpg?x-oss-process=image/resize,w_1400/format,webp)
2. 需要到Hugging Face网站下载模型。(TODO为下载保存的本地地址)
![PHOTO-2024-11-06-13-23-56.jpg](https://ucc.alicdn.com/pic/developer-ecology/vnd7ntwderoq2_84dbe11dd31b4a6c85a70aa6ab4b2ae5.jpg?x-oss-process=image/resize,w_1400/format,webp)
3. 网站下载模型时采用镜像网站的话,需要到Hugging Face原网站上获取access token。跳转链接见hf- mirror首页最下方。
![截屏2024-11-06 13.19.38.png](https://ucc.alicdn.com/pic/developer-ecology/vnd7ntwderoq2_84d0a31704634cf99e12daaae7d68d4b.png?x-oss-process=image/resize,w_1400/format,webp)
4. 个别模型需要申请仓库权限。节点地址、姓名、国家、联系方式都需要使用国外的才可以通过。建议设置如下。
![PHOTO-2024-11-06-13-12-52.jpg](https://ucc.alicdn.com/pic/developer-ecology/vnd7ntwderoq2_4511c088f8f1458b8ae183dd30bea887.jpg?x-oss-process=image/resize,w_1400/format,webp)
![PHOTO-2024-11-06-18-34-10.jpg](https://ucc.alicdn.com/pic/developer-ecology/vnd7ntwderoq2_ab86b85a2acf490598681aa70db1e44d.jpg?x-oss-process=image/resize,w_1400/format,webp)