AI 助理
文档备案控制台
开发者社区 云计算 文章 正文

GPT4All的简单使用

2024-10-12 1034
版权
版权声明：
本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《 阿里云开发者社区用户服务协议》和 《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写 侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。
简介： 本文介绍了GPT4All，一个能在个人电脑上运行的开源大模型系统，支持在CPU和GPU上本地运行，使用的语言模型包括GPT-J和LLaMA，旨在提供隐私友好的聊天体验。

首先从官网上下载GPT4All软件

GPT4All

下载后，记得改一下安装目录

然后在gpt4all里面创建一个文件夹models

然后启动gpt4all，修改一下目录

改成我们那个models的目录即可。

接下来就是下载model，在这里面下载或者去浏览器里面下载。

在浏览器里面下载就要去它的官网

下载好了直接移到models目录即可

记住这里好像只能接受gguf格式的文件。至于gguf的格式文件是什么，大家可以看我上篇文章：

大模型中 .safetensors 文件、.ckpt文件、.gguf和.pth以及.bin文件区别、加载和保存以及转换方式

接下来就是测试，选择模型，开始测试

注意这个玩意跑CPU的，就单单为就兼容

文章标签：
异构计算
nanshaws
目录
相关文章
tokengo
|
人工智能 搜索推荐 物联网
如何训练个人的Gpt4ALL
如何训练个人的Gpt4ALL
tokengo
4356 0
如何训练个人的Gpt4ALL
布客飞龙
|
人工智能 自然语言处理 测试技术
使用 GPT4 和 ChatGPT 开发应用：第四章到第五章
使用 GPT4 和 ChatGPT 开发应用：第四章到第五章
布客飞龙
581 0
Java方文山
|
前端开发 JavaScript 安全
前端框架Layui实现动态选项卡&iframe使用（附源码）
前端框架Layui实现动态选项卡&iframe使用（附源码）
Java方文山
2707 0
专有云小编
|
8月前
|
存储 人工智能 边缘计算
阿里云完成对ZStack进一步战略投资并实现控股
近日， 阿里云宣布完成对ZStack（云轴科技）的进一步战略投资，实现控股。双方将通过“飞天+ZStack”全栈生态，打造标准化和普惠化的云边一体整体解决方案，使得跨平台的云计算服务像安装标准软件一样简单易用，企业无论是调用远程云端大规模算力，还是在本地部署小规模算力集群，都能获得完全一致的体验 。 ZStack成立于2015年，专注于云计算基础软件，主要帮助企业构建和管理混合云以及面向AI时代的智算中心，是国家级专精特新重点“小巨人”企业。
专有云小编
1017 1
olnn3xpuk4r5u
|
10月前
|
人工智能 机器人 API
🤖 AstrBot 安卓 App：让每一个普通人都能拥有自己的 AI 聊天机器人
🤖 AstrBot 安卓 App：让每一个普通人都能拥有自己的 AI 聊天机器人
olnn3xpuk4r5u
2788 5
🤖 AstrBot 安卓 App：让每一个普通人都能拥有自己的 AI 聊天机器人
Promise微笑
|
10月前
|
人工智能 搜索推荐 知识图谱
深度实践：Geo优化中，如何基于“两大核心+四轮驱动”设计高信任度JSON-LD
在AI搜索时代，GEO正取代传统SEO。本文详解于磊老师首创的“两大核心+四轮驱动”GEO优化体系，揭示如何通过人性化设计与内容交叉验证，结合E-E-A-T、结构化数据等，打造高信任度JSON-LD，提升AI采纳率与获客效率。
Promise微笑
532 2
齐锦程
|
机器学习/深度学习 分布式计算 C语言
Julia
Julia
齐锦程
1119 0
阿迷创客
|
Android开发
Android Stadio Build 窗口字符串乱码问题
在使用Android Studio过程中，如果遇到Build窗口字符串乱码问题，可以通过编辑`studio.vmoptions`文件添加`-Dfile.encoding=UTF-8`配置并重启Android Studio来解决。
阿迷创客
981 2
Android Stadio Build 窗口字符串乱码问题
javaedge
|
架构师 Linux Docker
三分钟让Dify接入Ollama部署的本地大模型！
本文详细介绍了如何在 Dify 中接入 Ollama 模型，包括模型添加、参数配置及常见问题解决。通过运行 Ollama 服务并与 qwen2:0.5b 模型交互，实现本地化大模型应用开发。同时提供了 Docker、Mac、Linux 和 Windows 平台上 Ollama 的部署与环境变量设置指南，帮助开发者快速上手。更多实战技巧可访问[编程严选网](http://www.javaedge.cn/)或关注作者的 Github 仓库。
javaedge
14443 5
三分钟让Dify接入Ollama部署的本地大模型！

热门文章

最新文章

  • 1
    Qwen2.5-VL：阿里通义千问最新开源视觉语言模型，能够理解超过1小时的长视频
  • 2
    解决 git 报错 “fatal: unable to access ‘https://github.com/.../.git‘: Recv failure Connection was rese
  • 3
    阿里云服务器初始密码是什么？
  • 4
    无法唤起支付宝APP问题分析
  • 5
    PostgreSQL 恢复大法 - 恢复部分数据库、跳过坏块、修复无法启动的数据库
  • 6
    EasyPoi导入Excel
  • 7
    vue2数据响应式原理——数据劫持（数组篇）
  • 8
    HDOJ/HDU 2535 Vote(排序、)
  • 9
    Shell之sed用法 转滴
  • 10
    μcGUI学习笔记之三文本显示与数值显示
  • 1
    阿里云百炼 Token Plan 个人 & 团队版对比：定价、用量加油包、接入配置、活动权益完整说明
    37
  • 2
    船舶柴油机活塞烧蚀故障的热力学建模与可解释故障诊断
    24
  • 3
    用 TypeScript 实现贷款 IRR：从还款现金流计算年化利率
    34
  • 4
    AI 明明能做，为什么还要保留一些工作给人
    22
  • 5
    路面坑洼与积水目标检测数据集：2类别、1,500张图像 | 目标检测
    28
  • 6
    测试Skill开发三步走：SKILL.md + scripts + references实战指南
    32
  • 7
    阿里云HappyHorse服务平台全功能详解：多模式视频生成、原生音画同步、无限画布编排与API自动化接入实操指南
    62
  • 8
    阿里云Qoder CN服务平台完整功能解读：从本地IDE配置、终端CLI使用、云端部署到开放API全链路解读
    35
  • 9
    阿里云数字证书管理服务全功能详解：证书全生命周期、一键云部署、到期监控与API自动化运维实操指南
    30

    • 相关电子书

    更多
  • 低代码开发师（初级）实战教程
  • 冬季实战营第三期：MySQL数据库进阶实战
  • 阿里巴巴DevOps 最佳实践手册
    • 下一篇
    一条命令迁移，帮你实现 OpenClaw 与 Hermes Agent 记忆互通！