建立Hugging Face模型调用环境

简介: 本文介绍了如何在环境中导入transformers库,并从Hugging Face网站下载模型。如果使用镜像网站,需获取access token。部分模型需申请仓库权限,建议使用国外信息填写。有GPU的用户需先配置CUDA和pytorch-gpu。

1. 需要在环境中导入transformers库。

PHOTO-2024-11-06-13-23-48.jpg

2. 需要到Hugging Face网站下载模型。(TODO为下载保存的本地地址)

PHOTO-2024-11-06-13-23-56.jpg

3. 网站下载模型时采用镜像网站的话,需要到Hugging Face原网站上获取access token。跳转链接见hf- mirror首页最下方。

截屏2024-11-06 13.19.38.png

4. 个别模型需要申请仓库权限。节点地址、姓名、国家、联系方式都需要使用国外的才可以通过。建议设置如下。

PHOTO-2024-11-06-13-12-52.jpg

5. 有GPU可以使用的,需要先配置CUDA和pytorch-gpu

PHOTO-2024-11-06-18-34-10.jpg

相关文章
|
前端开发 JavaScript 关系型数据库
手机商城网站的分析与设计(论文+源码)_kaic
手机商城网站的分析与设计(论文+源码)_kaic
|
6月前
|
前端开发 安全 Java
Hello AgentScope Java
AgentScope Java v0.2 发布,支持 ReAct 智能体核心能力,提供高代码透明性、多模态消息、钩子机制、会话持久化与结构化输出,助力开发者高效构建可追溯、易调试的 Agent 应用。
1728 1
|
9月前
|
Web App开发 人工智能 自然语言处理
快速搞定Dify+Chrome MCP:打造能操作网页的AI助手
本文介绍了如何通过Dify和Chrome MCP在3分钟内打造一个能操作浏览器的AI助手。结合Dify的LLM能力与Chrome MCP的浏览器控制功能,用户可用自然语言指令让AI自动填写表单、抓取数据、点击按钮,实现网页自动化操作。无需复杂编程,适合本地部署,可应用于数据监控、内容抓取等多种场景。
|
人工智能 自然语言处理 运维
让AI读懂K线图!ChatTS-14B:字节开源的时间序列理解和推理大模型,自然语言提问秒解趋势密码!
ChatTS-14B是字节跳动开源的时间序列专用大模型,基于Qwen2.5-14B微调优化,通过合成数据对齐技术显著提升分析能力,支持自然语言交互完成预测推理等复杂任务。
3228 1
让AI读懂K线图!ChatTS-14B:字节开源的时间序列理解和推理大模型,自然语言提问秒解趋势密码!
|
存储 Linux 开发工具
告别Hugging Face模型下载难题:掌握高效下载策略,畅享无缝开发体验
【8月更文挑战第2天】告别Hugging Face模型下载难题:掌握高效下载策略,畅享无缝开发体验
6379 64
告别Hugging Face模型下载难题:掌握高效下载策略,畅享无缝开发体验
|
Windows
win11出现:终止代码:SYSTEM SERVICE EXCEPTION解决方案实列(不懂请私信up主)
终止代码解释:SYSTEM_SERVICE_EXCEPTION,又称为异常处理程序,是一种常见的蓝屏错误码,代表Windows系统检测到内核代码发生错误,无法响应某些系统服务,而且无法继续运行。它特别容易发生在许多设备驱动程序中,如显示驱动程序和音频驱动程序,因为他们成为Windows系统的必要组成部分。
4491 0
|
缓存 监控 数据库
缓存穿透、击穿、雪崩的应对策略
本文系统分析了缓存穿透、击穿与雪崩的成因及应对策略,涵盖布隆过滤器、空值缓存、分布式锁、逻辑过期、随机过期时间、多级缓存等解决方案,并结合代码示例与监控告警机制,助力构建高可用缓存体系。
642 1
|
数据采集 人工智能 自然语言处理
OpenCSG开源SmolTalk Chinese数据集
近年来,人工智能(AI)领域尤其是自然语言处理(NLP)技术的迅猛发展,正在深刻改变着各行各业的运作模式。从智能客服到内容生成,从自动翻译到智能搜索,NLP技术的广泛应用使得语言模型在全球范围内的重要性日益凸显。与此密切相关的预训练模型(Pre-trained Models),凭借在海量数据上的训练积累了丰富的知识,成为NLP技术进步的核心支柱。然而,预训练模型的成功在很大程度上依赖于其背后数据集的质量。
500 13
|
8月前
|
机器学习/深度学习 人工智能 自然语言处理
学AI应该关注哪些博主或达人?这10位2025年最值得收藏的创作者请收好
2025年,AI重塑商业与社会,学习AI成必备技能。本文精选10位最具影响力的AI领域创作者,涵盖技术、商业、创业、战略等维度,助你精准找到学习路径,掌握时代先机。
1526 0
|
关系型数据库 Go 网络安全
go语言中PostgreSQL驱动安装
【11月更文挑战第2天】
877 5

热门文章

最新文章