GPT4All的简单使用

简介: 本文介绍了GPT4All,一个能在个人电脑上运行的开源大模型系统,支持在CPU和GPU上本地运行,使用的语言模型包括GPT-J和LLaMA,旨在提供隐私友好的聊天体验。

首先从官网上下载GPT4All软件

GPT4All

下载后,记得改一下安装目录

然后在gpt4all里面创建一个文件夹models

然后启动gpt4all,修改一下目录

改成我们那个models的目录即可。

接下来就是下载model,在这里面下载或者去浏览器里面下载。

在浏览器里面下载就要去它的官网

下载好了直接移到models目录即可

记住这里好像只能接受gguf格式的文件。至于gguf的格式文件是什么,大家可以看我上篇文章:

大模型中 .safetensors 文件、.ckpt文件、.gguf和.pth以及.bin文件区别、加载和保存以及转换方式

接下来就是测试,选择模型,开始测试

注意这个玩意跑CPU的,就单单为就兼容

目录
相关文章
|
4月前
|
人工智能 API Python
Openai python调用gpt测试代码
这篇文章提供了使用OpenAI的Python库调用GPT-4模型进行聊天的测试代码示例,包括如何设置API密钥、发送消息并接收AI回复。
|
5月前
|
人工智能 自然语言处理 前端开发
如何用GPT开发一个基于 GPT 的应用?
如何用GPT开发一个基于 GPT 的应用?
112 0
|
7月前
|
Python PyTorch 算法框架/工具
PyTorch 2.2 中文官方教程(十一)(3)
PyTorch 2.2 中文官方教程(十一)
79 2
PyTorch 2.2 中文官方教程(十一)(3)
|
7月前
|
Python C++ 前端开发
PyTorch 2.2 中文官方教程(十一)(1)
PyTorch 2.2 中文官方教程(十一)
176 1
PyTorch 2.2 中文官方教程(十一)(1)
|
7月前
|
人工智能 JSON 机器人
【Chat GPT】用 ChatGPT 运行 Python
【Chat GPT】用 ChatGPT 运行 Python
117 1
|
7月前
|
存储 JSON uml
流畅的 Python 第二版(GPT 重译)(十二)(3)
流畅的 Python 第二版(GPT 重译)(十二)
61 1
|
7月前
|
存储 缓存 安全
流畅的 Python 第二版(GPT 重译)(十二)(2)
流畅的 Python 第二版(GPT 重译)(十二)
106 1
|
7月前
|
存储 JSON 缓存
流畅的 Python 第二版(GPT 重译)(十二)(1)
流畅的 Python 第二版(GPT 重译)(十二)
83 1
|
7月前
|
设计模式 存储 缓存
流畅的 Python 第二版(GPT 重译)(十二)(4)
流畅的 Python 第二版(GPT 重译)(十二)
75 1
|
7月前
|
存储 网络协议 Java
流畅的 Python 第二版(GPT 重译)(十一)(2)
流畅的 Python 第二版(GPT 重译)(十一)
103 1
下一篇
无影云桌面