零门槛本地部署!手把手教你用Ollama+Chatbox玩转DeepSeek大模型

简介: 本教程介绍如何在个人电脑上免费部署DeepSeek模型,无需高端显卡。通过Ollama和Chatbox两款轻量工具,用户可以在普通CPU上流畅运行大型语言模型。Ollama支持跨平台操作,提供一键式安装和模型管理;Chatbox则是多平台AI客户端,支持多种主流模型。教程涵盖Ollama和Chatbox的安装、DeepSeek模型的下载与配置,帮助你在本地轻松搭建智能助手,适用于学术研究、代码编写和日常问答等场景。

9c5ff0082dd24faf9bc8240969fa84c0_0.png

在AI技术飞速发展的今天,大型语言模型已不再是云端服务的专属。本教程将教你如何通过Ollama和Chatbox两款轻量工具,在个人电脑上免费部署炙手可热的DeepSeek模型,无需高端显卡,普通CPU也能流畅运行!

ollama安装及部署Deepseek模型

首先我们需要在电脑上安装ollama,本文以windows为例。

ollama简介

Ollama 是一款开源的本地大模型部署工具,旨在让用户能够轻松在个人电脑上运行各种开源大型语言模型(如 Llama、Mistral、DeepSeek 等)。它支持跨平台操作(Windows/macOS/Linux),提供一键式安装和模型管理,优化了内存和计算资源的使用,即使是普通配置的设备也能流畅运行。通过 Ollama,开发者、研究者和爱好者可以快速部署私有化 AI 应用,无需依赖云端服务,同时享受高效、安全的本地 AI 体验。

ollama目前在github上已经拥有123k star

_20250209152319.jpg

ollama github地址:https://github.com/ollama/ollama

ollama安装

ollama安装比较简单,直接在官网下载windows安装包安装就可以了。

_20250209151707.jpg

ollama下载地址:https://ollama.com/download

安装完之后我们可以在dos窗口中使用以下命令查看版本

ollama -v

_20250209152601.jpg

使用ollama下载deepseek模型

根据自己的电脑配置选择合适的deepseek-r1模型进行安装,目前deepseek-r1有以下版本

_20250209152830.jpg

我下载的是14b的模型,下载命令如下(我已经下载过14b了,此处用8b做示范),

ollama run deepseek-r1:8b

如果之前未下载过模型文件,执行的命令的时候会下载

_20250209153143.jpg

下载完成之后我们就可以在窗口中使用deepseek-r1模型提问了

_20250209163200.jpg

ollama api默认只能在本机使用,如果我们想在局域网中使用我们模型的api,则需要在环境变量中添加以下两个配置:


OLLAMA_HOST   0.0.0.0

OLLAMA_ORIGINS   *

添加完成之后需要重启电脑、重启电脑、重启电脑才能生效

chatbox安装及api配置

chatbox 简介

Chatbox 是一个 AI 模型桌面客户端,支持 ChatGPT、Claude、Google Gemini、Ollama 等主流模型,适用于 Windows、Mac、Linux、Web、Android 和 iOS 全平台

该项目目前已经在github上拥有28.9k star

_20250209155230.jpg

github 地址: https://github.com/Bin-Huang/chatbox

chatbox安装

chatbox安装较为简单,下载最新安装包后直接安装就可以了,如果你之前安装过chatbox,卸载之后安装最新版本,不然会有点慢。

chatbox 下载地址:https://chatboxai.app/zh

_20250209155617.jpg

ollama api配置

chatbox安装完成之后就可以配置ollama api了,如果要在局域网中使用的话前面所说的环境变量务必要配置,不然只能使用127.0.0.1了。

在chatbox中点击设置,模型提供方选择OLLAMA API

_20250209160008.jpg

api 域名 填写模型安装机器的ip(本机安装的话也可以使用127.0.0.1):11434,
模型可以选择自己下载过的任意一个

_20250209160535.jpg

这样,我们就可以使用chatbox进行提问了

_20250209163730.jpg

总结

通过本教程,你已成功搭建了一个完全本地化的智能助手!无论是学术研究、代码编写还是日常问答,DeepSeek都能提供可靠支持。赶紧尝试用ollama list探索更多可用模型,开启你的本地AI之旅吧!

目录
相关文章
|
人工智能 文件存储 数据中心
Ollama部署本地大模型并通过Infortress APP远程访问保姆级教程
本文介绍如何快速上手本地大模型部署工具Ollama及AI远程访问工具Infortress。通过Ollama,开发者可轻松部署如Llama、Deepseek等主流开源模型,仅需几行命令即可完成安装与运行。结合Infortress,用户能实现对本地大模型的远程访问,支持多设备无缝对接,同时提供便捷的模型切换与知识库管理功能。Infortress更兼具NAS软件特性,成为个人AI数据中心的理想选择。
vllm+vllm-ascend本地部署QwQ-32B
本指南介绍如何下载、安装和启动基于Ascend的vLLM模型。首先,可通过华为镜像或Hugging Face下载预训练模型;其次,安装vllm-ascend,支持通过基础镜像(如`quay.io/ascend/vllm-ascend:v0.7.3-dev`)或源码编译方式完成;最后,使用OpenAI兼容接口启动模型,例如运行`vllm serve`命令,设置模型路径、并行规模等参数。适用于大模型推理场景,需注意显存需求(如QwQ-32B需70G以上)。
5032 17
|
人工智能 智能硬件
Claude 4来了 ,与DeepSeek/Qwen/Hunyuan 谁更强?
Claude 4发布,号称多项突破与超越。本文通过国内首款办公提效AI牛马智能体AiPy,在端午旅游规划场景下测评Claude 4、DeepSeek v3、Qwen-Plus和HunYuan-Turbos的表现。测评任务为制定1500元内端午旅行计划,并生成HTML报告。结果显示,Claude 4表现卓越但价格昂贵,是国产大模型的十倍以上;DeepSeek性价比高,值得称赞。国产大模型虽有亮点,但仍需努力追赶国际水平。测评结果附有各模型生成的报告截图对比。
|
传感器 人工智能 算法
场景入选|TsingtaoAI基于DeepSeek的具身智能实训入选河北省垂直大模型应用场景名单
河北省网络社会组织联合会正式公布《垂直大模型应用场景征集结果名单》,TsingtaoAI自主研发的“基于DeepSeek的具身智能高校实训解决方案——从DeepSeek+机器人到通用具身智能”成功入选河北省15个标杆应用场景。这一成果标志着TsingtaoAI在具身智能与大模型融合领域的技术创新与落地能力获得政府及行业权威认可,同时也为人工智能技术与实体产业深度融合提供了可复制的示范案例。
368 0
|
9月前
|
人工智能 IDE 开发工具
CodeGPT AI代码狂潮来袭!个人完全免费使用谷歌Gemini大模型 超越DeepSeek几乎是地表最强
CodeGPT是一款基于AI的编程辅助插件,支持代码生成、优化、错误分析和单元测试,兼容多种大模型如Gemini 2.0和Qwen2.5 Coder。免费开放,适配PyCharm等IDE,助力开发者提升效率,新手友好,老手提效利器。(238字)
6217 1
CodeGPT AI代码狂潮来袭!个人完全免费使用谷歌Gemini大模型 超越DeepSeek几乎是地表最强
|
11月前
|
人工智能 缓存 数据可视化
手把手玩转本地大模型:Ollama+DeepSeek+Dify 零门槛全流程指南
本文提供从零搭建本地AI工作站的完整指南,详解本地化部署大模型的核心优势(数据隐私/离线可用/成本可控),涵盖Ollama安装、DeepSeek-Coder模型部署、Dify可视化操作及API调用实战,助你打造安全高效的私有AI开发环境。
|
存储 人工智能
Ollama 本地运行 Qwen 3
本指南介绍如何安装和配置Ollama。首先,从官网下载Ollama并选择适合的安装方式:傻瓜式安装或指定路径安装。安装完成后,可通过系统环境变量配置模型下载路径(可选)。最后,运行对应模型命令进行测试使用,包括选择参数量、复制命令并在命令行工具中执行,验证安装是否成功。
6925 19
|
11月前
|
人工智能 搜索推荐 Linux
ollama部署本地DeepSeek大模型
本地部署大模型具有省钱省心、数据安全、使用自由、无需联网、量身定制及响应高效等优势。DeepSeek 提供满血版与多种蒸馏版模型,适配不同硬件条件。通过 Ollama 可便捷部署,并结合客户端工具如 AnythingLLM 提升交互体验,打造个性化本地 AI 助手。
1449 0
|
人工智能 自然语言处理 机器人
盘点集成DeepSeek大模型的智能语音机器人,看看哪款更适合你
对话式AI将降低高达25%的客服座席离职率,集成DeepSeek等大模型的智能语音机器人正成企业标配。其核心是实现7x24小时高效服务、优化成本并提供人性化交互。选型需聚焦AI模型能力、业务场景匹配度与数据安全。合力亿捷、阿里云等是市场主流选择,选对智能语音机器人是企业提升沟通效率、构筑核心竞争力的战略投资。
504 0

热门文章

最新文章