ChatGPT作为一种基于大型语言模型的生成式人工智能,不仅仅能够回答传统问题,涵盖了人文、科学、情感等各个领域,它还能够帮助写代码、改bug等。然而,要体验ChatGPT还是比较麻烦的,因为它没有开源。虽然也有其他的开源AI大语言模型,但是部署到本地流程太多,容易给人整不会了。没关系,今天介绍一个开源项目,帮你一键本地免费、无限用AI大模型聊天。
Text generation web UI简介
AI绘画界的Stable Diffuison Web UI,相信大家不会陌生,它做到了把非常复杂的AI绘画做成了可视化的网页,极大的提升了AI绘画的体验。而今天介绍的这款叫做Text generation web UI的开源项目,它的目标是成为文本生成领域的Stable Diffuison Web UI,即为类ChatGPT的大语言模型制作一款容易快速上手的网页。
Text generation web UI可以用于运行 LLaMA、llama.cpp、GPT-J、Pythia、OPT 和 GALACTICA 等开源的大型语言模型。
一键安装,免费!
通过以下链接,可以快速访问Text generation web UI:
https://github.com/oobabooga/text-generation-webui
找到“一键安装程序”区域,根据自己操作系统的类型,下载zip文件,将其解压。
然后双击“start-windows”即可。Web UI 及其所有依赖项将安装在同一文件夹中。
自动开始下载依赖环境。
中间会让你选择自己电脑的显卡是什么牌子的,大家按需选择即可。
等待片刻,下载完成后,还需要下载至少一个开源的大语言模型。进入以下目录中oobabooga_windows\text-generation-webui,在上方地址中输入“cmd”。
在打开的命令指示窗口,输入需要下载的模型,比如:
python download-model.py facebook/opt-350m
等待下载完成后,再回到项目目录,点击“start-windows”,即可启动。然后将下方弹窗中的地址,输入到浏览器。
可以愉快地跟你专属的AI大语言模型聊天了~感兴趣的朋友,快去试试吧,咱们下期再见~