AI 助理
备案控制台
开发者社区 云计算 文章 正文

GPT4All的简单使用

2024-10-12 420
版权
版权声明：
本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《 阿里云开发者社区用户服务协议》和 《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写 侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。
简介： 本文介绍了GPT4All，一个能在个人电脑上运行的开源大模型系统，支持在CPU和GPU上本地运行，使用的语言模型包括GPT-J和LLaMA，旨在提供隐私友好的聊天体验。

首先从官网上下载GPT4All软件

GPT4All

下载后，记得改一下安装目录

然后在gpt4all里面创建一个文件夹models

然后启动gpt4all，修改一下目录

改成我们那个models的目录即可。

接下来就是下载model，在这里面下载或者去浏览器里面下载。

在浏览器里面下载就要去它的官网

下载好了直接移到models目录即可

记住这里好像只能接受gguf格式的文件。至于gguf的格式文件是什么，大家可以看我上篇文章：

大模型中 .safetensors 文件、.ckpt文件、.gguf和.pth以及.bin文件区别、加载和保存以及转换方式

接下来就是测试，选择模型，开始测试

注意这个玩意跑CPU的，就单单为就兼容

文章标签：
异构计算
nanshaws
目录
相关文章
tokengo
|
人工智能 搜索推荐 物联网
如何训练个人的Gpt4ALL
如何训练个人的Gpt4ALL
tokengo
3953 0
如何训练个人的Gpt4ALL
nanshaws
|
11月前
|
网络协议 Ubuntu
如何修改wsl的Ubuntu的dns，固定dns
本文介绍了如何在 WSL 中配置网络设置。首先，修改 `/etc/wsl.conf` 文件，添加 `generateResolvConf = false`。其次，编辑 `/etc/resolv.conf` 文件，指定 DNS 服务器地址。最后，重启 WSL 即可生效。
nanshaws
1273 2
ly~
|
12月前
|
存储 算法 编译器
游戏开发中，C 语言的性能优势体现在哪些方面？
在游戏开发中，C 语言凭借其对硬件的直接访问和内存操作的精准控制，能够显著提升性能。它允许开发者手动管理内存，优化数据存储和读取，充分利用显卡等硬件资源，实现流畅的图形渲染和音效处理。作为一种接近底层的语言，C 语言具有高效的执行速度，适用于物理引擎和碰撞检测等高性能需求模块，并且提供了丰富的运算符和数据类型，便于实现高效的算法。此外，C 语言代码具有良好的可移植性和跨平台性，支持多种操作系统和硬件平台，减少了多平台发布的开发成本。编译器提供的优化选项和手动代码优化的灵活性进一步提升了游戏的整体性能。
ly~
409 5
nanshaws
|
12月前
|
编解码 Oracle Java
java9到java17的新特性学习--github新项目
本文宣布了一个名为"JavaLearnNote"的新GitHub项目，该项目旨在帮助Java开发者深入理解和掌握从Java 9到Java 17的每个版本的关键新特性，并通过实战演示、社区支持和持续更新来促进学习。
nanshaws
336 3
Ganos全空间数据库
|
存储 关系型数据库 分布式数据库
GraphRAG：基于PolarDB+通义千问+LangChain的知识图谱+大模型最佳实践
本文介绍了如何使用PolarDB、通义千问和LangChain搭建GraphRAG系统，结合知识图谱和向量检索提升问答质量。通过实例展示了单独使用向量检索和图检索的局限性，并通过图+向量联合搜索增强了问答准确性。PolarDB支持AGE图引擎和pgvector插件，实现图数据和向量数据的统一存储与检索，提升了RAG系统的性能和效果。
Ganos全空间数据库
5915 136
nanshaws
|
12月前
|
PyTorch TensorFlow API
大模型中 .safetensors 文件、.ckpt文件、.gguf和.pth以及.bin文件区别、加载和保存以及转换方式
本文讨论了大模型中不同文件格式如`.safetensors`、`.ckpt`、`.gguf`、`.pth`和`.bin`的区别、用途以及如何在TensorFlow、PyTorch和ONNX等框架之间进行加载、保存和转换。
nanshaws
3624 2
不拿flag不改名
|
数据安全/隐私保护
攻防世界web-----easyupload
攻防世界web-----easyupload
不拿flag不改名
548 0
ZOMI酱
|
11月前
|
存储 人工智能 编译器
【AI系统】昇腾数据布局转换
华为昇腾NPU采用独特的NC1HWC0五维数据格式，旨在优化AI处理器的矩阵乘法运算和访存效率。此格式通过将C维度分割为C1份C0，适应达芬奇架构的高效计算需求，支持FP16和INT8数据类型。此外，昇腾还引入了NZ分形格式，进一步提升数据搬运和矩阵计算效率。AI编译器通过智能布局转换，确保在不同硬件上达到最优性能。
ZOMI酱
510 3
nanshaws
|
12月前
|
并行计算 异构计算
卸载原有的cuda，更新cuda
本文提供了一个更新CUDA版本的详细指南，包括如何查看当前CUDA版本、检查可安装的CUDA版本、卸载旧版本CUDA以及安装新版本的CUDA。
nanshaws
9097 3
卸载原有的cuda，更新cuda
天下无贼001
|
12月前
|
存储 缓存 API
构建高效后端：RESTful API 设计的最佳实践
【10月更文挑战第2天】在数字化时代，后端开发是连接用户与数据的桥梁。本文将深入探讨如何设计一个高效、易于维护的后端系统，特别是围绕RESTful API的设计原则和最佳实践。我们将从基础概念出发，逐步深入到实际案例分析，最终通过代码示例具体展示如何实现这些设计原则。无论你是初学者还是有经验的开发者，这篇文章都将为你提供价值，帮助你构建更优秀的后端服务。
天下无贼001
141 10