由于 DeepSeek 开源版对硬件配置要求较高,普通用户的计算机往往难以满足,因此本地部署通常只能选择最低版本的模型。该版本算力大致相当于早期版本的 GPT-3.0,与当前最先进的模型相比存在较大差距。在这种情况下,本地部署 DeepSeek 的主要意义可能在于满足用户的好奇心和体验需求,其实用性相对有限。
对于日常需要AI创作的朋友,推荐使用: bardai.top
内置强大的AI模型,Gemini 2.0 Pro模型,(目前全球排名第一)能满足大家的一切需求!
Deepseek本地部署:
1.访问 ollama.com/download 下载windows安装包
2.然后双击安装包,在默认目录安装即可。
3.安装后可能啥没看到,我们需要打开电脑的-命令提示符-来查看是否安装成功。
在电脑搜索栏(或者按键盘的WIN+R),输入:cmd,打开命令控制符。
在命令控制符中,输入:ollama,如果弹出的跟我图片一样,就是安装成功。
4.安装成功之后,我们回到ollama官网,点击网页上这里MODELS,下载语言模型。
这里要看选择的版本
看上图,左边选择版本,右边选择复制
版本按自家电脑配置,不要乱来,看下图
5.我们在电脑搜索栏(或者按键盘的WIN+R)输入cmd运行,将刚才复制的内容直接在上面粘贴后回车
下载完成。
6.查询拥有的模型,有时候我们调用的时候会出错,需要查看有没有模型,我们还是在电脑搜索栏(或者按键盘的WIN+R)输入cmd运行,打开命令控制符之后,输入:ollama list,回车。
图片上显示的就是我拥有两个模型,1个14b,1个1.5b。
这样就完成了本地部署。
然后可以直接在这里用,就是没有界面啥的。
这里主要是介绍如何对接到一键成书里,大家喜欢也可以对接到别的软件去,但一键成书是进行批量处理跟网文针对开发。
以下以一键成书版本F为例(一键成书系列软件及数据快读BC操作相同)
6.打开软件,点击左下角的ai设置keys,会弹出配置界面
点击箭头那里,左键鼠标。
点击ollama本地大模型,就切换到了ollama。
这里需要注意一下,切换到ollama之后,我们需要在红框位置的1后面输入14b这样才能调用出ai。
设置好之后,需要我们测试一下,点击测试按键就可以看到是否接入成功了,本地大模型处理起来会慢一些。
当他出现图片这样的反馈之后,就说明我们已经设置好了