GPT4All的简单使用

简介: 本文介绍了GPT4All,一个能在个人电脑上运行的开源大模型系统,支持在CPU和GPU上本地运行,使用的语言模型包括GPT-J和LLaMA,旨在提供隐私友好的聊天体验。

首先从官网上下载GPT4All软件

GPT4All

下载后,记得改一下安装目录

然后在gpt4all里面创建一个文件夹models

然后启动gpt4all,修改一下目录

改成我们那个models的目录即可。

接下来就是下载model,在这里面下载或者去浏览器里面下载。

在浏览器里面下载就要去它的官网

下载好了直接移到models目录即可

记住这里好像只能接受gguf格式的文件。至于gguf的格式文件是什么,大家可以看我上篇文章:

大模型中 .safetensors 文件、.ckpt文件、.gguf和.pth以及.bin文件区别、加载和保存以及转换方式

接下来就是测试,选择模型,开始测试

注意这个玩意跑CPU的,就单单为就兼容

目录
相关文章
基于Gradio的GPT聊天程序
这篇文章介绍了如何使用Gradio库创建一个基于ChatGPT的聊天程序,包括详细的代码实现和所需的依赖库。
基于Gradio的GPT聊天程序
|
2月前
|
人工智能 API Python
Openai python调用gpt测试代码
这篇文章提供了使用OpenAI的Python库调用GPT-4模型进行聊天的测试代码示例,包括如何设置API密钥、发送消息并接收AI回复。
|
3月前
|
人工智能 自然语言处理 前端开发
如何用GPT开发一个基于 GPT 的应用?
如何用GPT开发一个基于 GPT 的应用?
86 0
|
4月前
|
人工智能 算法 关系型数据库
编程入门(三)【GPT工具的使用】
编程入门(三)【GPT工具的使用】
74 1
|
4月前
|
机器学习/深度学习 PyTorch 算法框架/工具
ChatGPT初体验——让他写代码,走起
ChatGPT初体验——让他写代码,走起
50 0
|
5月前
|
人工智能 JSON 机器人
【Chat GPT】用 ChatGPT 运行 Python
【Chat GPT】用 ChatGPT 运行 Python
|
5月前
|
机器学习/深度学习 人工智能 自然语言处理
总结几个GPT的超实用之处【附带Python案例】
总结几个GPT的超实用之处【附带Python案例】
|
5月前
|
存储 JSON uml
流畅的 Python 第二版(GPT 重译)(十二)(3)
流畅的 Python 第二版(GPT 重译)(十二)
56 1
|
5月前
|
存储 缓存 安全
流畅的 Python 第二版(GPT 重译)(十二)(2)
流畅的 Python 第二版(GPT 重译)(十二)
100 1
|
5月前
|
设计模式 存储 缓存
流畅的 Python 第二版(GPT 重译)(十二)(4)
流畅的 Python 第二版(GPT 重译)(十二)
72 1