首先从官网上下载GPT4All软件
下载后,记得改一下安装目录
然后在gpt4all里面创建一个文件夹models
然后启动gpt4all,修改一下目录
改成我们那个models的目录即可。
接下来就是下载model,在这里面下载或者去浏览器里面下载。
在浏览器里面下载就要去它的官网
下载好了直接移到models目录即可
记住这里好像只能接受gguf格式的文件。至于gguf的格式文件是什么,大家可以看我上篇文章:
大模型中 .safetensors 文件、.ckpt文件、.gguf和.pth以及.bin文件区别、加载和保存以及转换方式
接下来就是测试,选择模型,开始测试
注意这个玩意跑CPU的,就单单为就兼容