AI 助理
文档备案控制台
开发者社区 云计算 文章 正文

GPT4All的简单使用

2024-10-12 784
版权
版权声明：
本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《 阿里云开发者社区用户服务协议》和 《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写 侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。
简介： 本文介绍了GPT4All，一个能在个人电脑上运行的开源大模型系统，支持在CPU和GPU上本地运行，使用的语言模型包括GPT-J和LLaMA，旨在提供隐私友好的聊天体验。

首先从官网上下载GPT4All软件

GPT4All

下载后，记得改一下安装目录

然后在gpt4all里面创建一个文件夹models

然后启动gpt4all，修改一下目录

改成我们那个models的目录即可。

接下来就是下载model，在这里面下载或者去浏览器里面下载。

在浏览器里面下载就要去它的官网

下载好了直接移到models目录即可

记住这里好像只能接受gguf格式的文件。至于gguf的格式文件是什么，大家可以看我上篇文章：

大模型中 .safetensors 文件、.ckpt文件、.gguf和.pth以及.bin文件区别、加载和保存以及转换方式

接下来就是测试，选择模型，开始测试

注意这个玩意跑CPU的，就单单为就兼容

文章标签：
异构计算
nanshaws
目录
相关文章
tokengo
|
人工智能 搜索推荐 物联网
如何训练个人的Gpt4ALL
如何训练个人的Gpt4ALL
tokengo
4214 0
如何训练个人的Gpt4ALL
布客飞龙
|
人工智能 自然语言处理 测试技术
使用 GPT4 和 ChatGPT 开发应用：第四章到第五章
使用 GPT4 和 ChatGPT 开发应用：第四章到第五章
布客飞龙
485 0
专有云小编
|
3月前
|
存储 人工智能 边缘计算
阿里云完成对ZStack进一步战略投资并实现控股
近日， 阿里云宣布完成对ZStack（云轴科技）的进一步战略投资，实现控股。双方将通过“飞天+ZStack”全栈生态，打造标准化和普惠化的云边一体整体解决方案，使得跨平台的云计算服务像安装标准软件一样简单易用，企业无论是调用远程云端大规模算力，还是在本地部署小规模算力集群，都能获得完全一致的体验 。 ZStack成立于2015年，专注于云计算基础软件，主要帮助企业构建和管理混合云以及面向AI时代的智算中心，是国家级专精特新重点“小巨人”企业。
专有云小编
550 0
sysin
|
4月前
|
安全 物联网 API
Windows 11 25H2 | 24H2 中文版、英文版 (x64、ARM64) 下载 (2025 年 12 月更新)
Windows 11, version 25H2 Enterprise Arm64 x64 (updated Dec 2025)
sysin
453 0
Windows 11 25H2 | 24H2 中文版、英文版 (x64、ARM64) 下载 (2025 年 12 月更新)
Promise微笑
|
5月前
|
人工智能 搜索推荐 知识图谱
深度实践：Geo优化中，如何基于“两大核心+四轮驱动”设计高信任度JSON-LD
在AI搜索时代，GEO正取代传统SEO。本文详解于磊老师首创的“两大核心+四轮驱动”GEO优化体系，揭示如何通过人性化设计与内容交叉验证，结合E-E-A-T、结构化数据等，打造高信任度JSON-LD，提升AI采纳率与获客效率。
Promise微笑
376 2
前端徐徐
|
Rust 前端开发 jenkins
Tauri 开发实践 — 使用 CI/CD 自动构建发布 Tauri 桌面端应用
本文介绍如何使用 CI/CD 自动构建发布 Tauri 应用。Tauri 是一个轻量级跨平台客户端框架，适合个人应用。文章首先概述了 CI/CD 的基本流程，并介绍了 GitHub Actions、GitLab CI 和 Jenkins 三种工具。最终选择了 GitHub Actions 进行配置。文中详细展示了使用 GitHub Actions 脚本实现 Tauri 应用构建的过程，并解决了权限和安全问题。项目源码可在 GitHub 上获取。
前端徐徐
1209 5
Tauri 开发实践 — 使用 CI/CD 自动构建发布 Tauri 桌面端应用
一个幽默的程序员
|
8月前
|
测试技术 API 开发者
Postman下载与安装全攻略：简单几步，高效上手！
本文介绍了如何从官方渠道下载并安装Postman，详细列出了安装步骤与注意事项，同时对比了国产工具Apifox的优势，探讨了API工具的发展趋势。
一个幽默的程序员
1708 0
javaedge
|
架构师 Linux Docker
三分钟让Dify接入Ollama部署的本地大模型！
本文详细介绍了如何在 Dify 中接入 Ollama 模型，包括模型添加、参数配置及常见问题解决。通过运行 Ollama 服务并与 qwen2:0.5b 模型交互，实现本地化大模型应用开发。同时提供了 Docker、Mac、Linux 和 Windows 平台上 Ollama 的部署与环境变量设置指南，帮助开发者快速上手。更多实战技巧可访问[编程严选网](http://www.javaedge.cn/)或关注作者的 Github 仓库。
javaedge
11775 5
三分钟让Dify接入Ollama部署的本地大模型！
技术内容小助手
|
数据采集 数据可视化 Apache
Qwen2.5-Coder全系列来咯！强大、多样、实用
Qwen2.5-Coder全系列来咯！强大、多样、实用
技术内容小助手
929 0

热门文章

最新文章

  • 1
    教你用Python发现即将流失的客户（附代码、安装教程、学习资源）
  • 2
    什么是缓存击穿？
  • 3
    tensorflow：流程，概念和简单代码注释
  • 4
    阿里云CDN加速和全站加速DCDN区别及如何选择？
  • 5
    iGraph 2015双促复盘总结
  • 6
    阿里云学生服务器购买价格及学生免费服务器配置领取条件
  • 7
    SpringCloud Alibaba - Nacos 作为配置中心 & 读取Properties配置信息
  • 8
    各大在线地图，使用的经纬度坐标为什么都精确到小数点之后第六位？
  • 9
    加载exe的PE信息并输出相关PE信息的一段c++代码
  • 10
    RhinoMock入门（7）——Do，With和Record-playback
  • 1
    Hermes Agent纯免费部署教程：适合新手尝鲜，阿里云提供ECS免费部署Hermes Agent
    43
  • 2
    新手也能搭！阿里云轻量服务器一键部署 Hermes Agent，开源自进化 AI 智能体
    75
  • 3
    Hermes Agent 部署教程：阿里云轻量服务器新手0基础搭建自进化AI智能体，太简单了
    88
  • 4
    超详细！Hermes Agent 一键部署全流程指南，轻松上手不踩坑
    239
  • 5
    普通摄像头秒变“透视仪”：黎曼分形透镜如何让微弱瑕疵无处遁形（军工项目之外研究）
    50
  • 6
    SpringBoot对接黄金白银期货数据API
    55
  • 7
    Maven 本地仓库替代私仓配置指南
    40
  • 8
    【SpringSecurity新手村系列】（4）验证码功能实现
    37
  • 9
    【SpringSecurity新手村系列】（3）自定义登录页与表单认证
    35
  • 10
    当旅行规划开始理解礼仪边界，Agent协同与​D​М‌X​Α‌РΙ才有用武之地
    44

    • 相关电子书

    更多
  • 低代码开发师（初级）实战教程
  • 冬季实战营第三期：MySQL数据库进阶实战
  • 阿里巴巴DevOps 最佳实践手册
    • 下一篇
    开通oss服务