GPT4All的简单使用

简介: 本文介绍了GPT4All,一个能在个人电脑上运行的开源大模型系统,支持在CPU和GPU上本地运行,使用的语言模型包括GPT-J和LLaMA,旨在提供隐私友好的聊天体验。

首先从官网上下载GPT4All软件

GPT4All

下载后,记得改一下安装目录

然后在gpt4all里面创建一个文件夹models

然后启动gpt4all,修改一下目录

改成我们那个models的目录即可。

接下来就是下载model,在这里面下载或者去浏览器里面下载。

在浏览器里面下载就要去它的官网

下载好了直接移到models目录即可

记住这里好像只能接受gguf格式的文件。至于gguf的格式文件是什么,大家可以看我上篇文章:

大模型中 .safetensors 文件、.ckpt文件、.gguf和.pth以及.bin文件区别、加载和保存以及转换方式

接下来就是测试,选择模型,开始测试

注意这个玩意跑CPU的,就单单为就兼容

目录
相关文章
|
人工智能 搜索推荐 物联网
如何训练个人的Gpt4ALL
如何训练个人的Gpt4ALL
4192 0
如何训练个人的Gpt4ALL
|
人工智能 自然语言处理 测试技术
使用 GPT4 和 ChatGPT 开发应用:第四章到第五章
使用 GPT4 和 ChatGPT 开发应用:第四章到第五章
462 0
|
2月前
|
存储 人工智能 边缘计算
阿里云完成对ZStack进一步战略投资并实现控股
近日, 阿里云宣布完成对ZStack(云轴科技)的进一步战略投资,实现控股。双方将通过“飞天+ZStack”全栈生态,打造标准化和普惠化的云边一体整体解决方案,使得跨平台的云计算服务像安装标准软件一样简单易用,企业无论是调用远程云端大规模算力,还是在本地部署小规模算力集群,都能获得完全一致的体验 。 ZStack成立于2015年,专注于云计算基础软件,主要帮助企业构建和管理混合云以及面向AI时代的智算中心,是国家级专精特新重点“小巨人”企业。
417 0
|
3月前
|
安全 物联网 API
Windows 11 25H2 | 24H2 中文版、英文版 (x64、ARM64) 下载 (2025 年 12 月更新)
Windows 11, version 25H2 Enterprise Arm64 x64 (updated Dec 2025)
393 0
Windows 11 25H2 | 24H2 中文版、英文版 (x64、ARM64) 下载 (2025 年 12 月更新)
|
4月前
|
人工智能 搜索推荐 知识图谱
深度实践:Geo优化中,如何基于“两大核心+四轮驱动”设计高信任度JSON-LD
在AI搜索时代,GEO正取代传统SEO。本文详解于磊老师首创的“两大核心+四轮驱动”GEO优化体系,揭示如何通过人性化设计与内容交叉验证,结合E-E-A-T、结构化数据等,打造高信任度JSON-LD,提升AI采纳率与获客效率。
355 2
|
9月前
|
存储 算法 安全
Java中的对称加密算法的原理与实现
本文详细解析了Java中三种常用对称加密算法(AES、DES、3DES)的实现原理及应用。对称加密使用相同密钥进行加解密,适合数据安全传输与存储。AES作为现代标准,支持128/192/256位密钥,安全性高;DES采用56位密钥,现已不够安全;3DES通过三重加密增强安全性,但性能较低。文章提供了各算法的具体Java代码示例,便于快速上手实现加密解密操作,帮助用户根据需求选择合适的加密方案保护数据安全。
619 58
|
架构师 Linux Docker
三分钟让Dify接入Ollama部署的本地大模型!
本文详细介绍了如何在 Dify 中接入 Ollama 模型,包括模型添加、参数配置及常见问题解决。通过运行 Ollama 服务并与 qwen2:0.5b 模型交互,实现本地化大模型应用开发。同时提供了 Docker、Mac、Linux 和 Windows 平台上 Ollama 的部署与环境变量设置指南,帮助开发者快速上手。更多实战技巧可访问[编程严选网](http://www.javaedge.cn/)或关注作者的 Github 仓库。
10546 5
三分钟让Dify接入Ollama部署的本地大模型!
|
数据采集 数据可视化 Apache
Qwen2.5-Coder全系列来咯!强大、多样、实用
Qwen2.5-Coder全系列来咯!强大、多样、实用

热门文章

最新文章