一文彻底拿下,赶紧本地部署DeepSeek体验一下最牛的大模型

本文涉及的产品
交互式建模 PAI-DSW,每月250计算时 3个月
模型在线服务 PAI-EAS,A10/V100等 500元 1个月
模型训练 PAI-DLC,100CU*H 3个月
简介: 本文介绍如何本地化部署DeepSeek大模型(deepseek-r1)及open-webui的安装过程,包括命令行操作、版本兼容性处理等详细步骤。DeepSeek号称“国运级”大模型,性能媲美OpenAI,支持直接对话,降低使用门槛。通过本教程,读者可以快速上手体验这一强大的推理模型。

程序员Feri一名12年+的程序员,做过开发带过团队创过业,擅长Java、鸿蒙、嵌入式、人工智能等开发,专注于程序员成长的那点儿事,希望在成长的路上有你相伴!君志所向,一往无前!


如果你还没安装Ollama,那么赶紧参考我上一篇博客《从0到1手把手教你本地部署大模型》

DeepSeek号称“国运级”,那么究竟怎么样?本篇主要带大家本地化部署

1.安装DeepSeek大模型

我们安装的是deepseek-r1,deepseek-r1是深度求索(DeepSeek)推出了第一代推理模型,其性能可与 OpenAI - o1 相媲美,其中包括基于 Llama 和通义千问(Qwen)从 DeepSeek - R1 提炼而来的六个稠密模型。

点击查看


直接管理员打开命令行,输入下面的命令:

ollama run deepseek-r1:7b

我选择的7b的参数哈,为啥不选择其他的,主要也是结合我自己笔记本的情况。

整整重试了3次,才搞定

快来体验一下:可以直接命令框进行聊天问答

2.安装open-webui

使用pip命令安装openweb-ui

第一步:先对pip进行换源

这样下载才杠杠的

执行命令:

pip config set global.index-url https://mirrors.aliyun.com/pypi/simple

第二步:下载open-webui

pip install open-webui

结果出错啦,错误信息如下所示:

so ga,原来是版本的问题,执行下面命令,升级pip的版本

python.exe -m pip install --upgrade pip


要注意,python的版本只能在3.11和3.12之间,要不然也不可以哈

继续下载open-webui

pip install open-webui

第四步:启动open-webui

open-webui serve

第五步:浏览器直接访问

http://localhost:8080/


第一个用户就是我们的管理员哈,注意喽!

image.png

第一次的时候,总是让人那么难忘,所以有点慢,需要点耐心,后面就666的飞起啦

image.png

其实我使用DeepSeek之后最大的感觉,她具备了一定的人的思考过程,降低了大模型的使用门槛,无需考虑提示词,可以直接对话,让其给出我们想要的内容。

好啦,本篇就到这啦,今天开工啦,祝愿所有兄弟姐妹们,开工大吉,2025顺势而为!

相关实践学习
使用PAI-EAS一键部署ChatGLM及LangChain应用
本场景中主要介绍如何使用模型在线服务(PAI-EAS)部署ChatGLM的AI-Web应用以及启动WebUI进行模型推理,并通过LangChain集成自己的业务数据。
机器学习概览及常见算法
机器学习(Machine Learning, ML)是人工智能的核心,专门研究计算机怎样模拟或实现人类的学习行为,以获取新的知识或技能,重新组织已有的知识结构使之不断改善自身的性能,它是使计算机具有智能的根本途径,其应用遍及人工智能的各个领域。 本课程将带你入门机器学习,掌握机器学习的概念和常用的算法。
相关文章
|
3月前
|
容器
vllm+vllm-ascend本地部署QwQ-32B
本指南介绍如何下载、安装和启动基于Ascend的vLLM模型。首先,可通过华为镜像或Hugging Face下载预训练模型;其次,安装vllm-ascend,支持通过基础镜像(如`quay.io/ascend/vllm-ascend:v0.7.3-dev`)或源码编译方式完成;最后,使用OpenAI兼容接口启动模型,例如运行`vllm serve`命令,设置模型路径、并行规模等参数。适用于大模型推理场景,需注意显存需求(如QwQ-32B需70G以上)。
1278 17
|
2月前
|
传感器 人工智能 算法
场景入选|TsingtaoAI基于DeepSeek的具身智能实训入选河北省垂直大模型应用场景名单
河北省网络社会组织联合会正式公布《垂直大模型应用场景征集结果名单》,TsingtaoAI自主研发的“基于DeepSeek的具身智能高校实训解决方案——从DeepSeek+机器人到通用具身智能”成功入选河北省15个标杆应用场景。这一成果标志着TsingtaoAI在具身智能与大模型融合领域的技术创新与落地能力获得政府及行业权威认可,同时也为人工智能技术与实体产业深度融合提供了可复制的示范案例。
106 0
|
3月前
|
人工智能 Linux API
119K star!无需GPU轻松本地部署多款大模型,DeepSeek支持!这个开源神器绝了
"只需一行命令就能在本地运行Llama 3、DeepSeek-R1等前沿大模型,支持Windows/Mac/Linux全平台,这个开源项目让AI开发从未如此简单!"
129 0
|
7天前
|
人工智能 搜索推荐 Linux
ollama部署本地DeepSeek大模型
本地部署大模型具有省钱省心、数据安全、使用自由、无需联网、量身定制及响应高效等优势。DeepSeek 提供满血版与多种蒸馏版模型,适配不同硬件条件。通过 Ollama 可便捷部署,并结合客户端工具如 AnythingLLM 提升交互体验,打造个性化本地 AI 助手。
154 0
|
4月前
|
人工智能 自然语言处理 数据可视化
DeepSeek使用终极指南:解锁国产大模型的隐藏实力
DeepSeek作为国产大语言模型的佼佼者,支持多模态交互,在编码、数学和逻辑推理等方面表现卓越。本文从基础操作到进阶技巧全面解析其高效使用方法,涵盖精准提问法则、文件交互技巧、高级指令应用等,并提供智能客服、数据分析、教育培训等典型场景实战案例。同时提醒用户注意提问禁忌与安全规范,帮助开发者和普通用户充分挖掘DeepSeek的潜能,提升工作效率,探索智能解决方案。
179 0
|
2月前
|
人工智能 Linux iOS开发
本地部署大模型DeepSeek并通过Infortress App远程访问
本地部署DeepSeek大模型后,如何在外网用手机随时随地访问?无需复杂设置,通过Infortress App即可轻松实现!只需三步:安装Infortress服务端、一键部署DeepSeek大模型、安装手机/电脑客户端。Infortress支持纯图形化操作,适合新手,还自带内网穿透功能,跨网络访问无忧。让本地AI随身携带,数据掌控在手,随时随地使用!
本地部署大模型DeepSeek并通过Infortress App远程访问
|
25天前
|
人工智能 自然语言处理 机器人
盘点集成DeepSeek大模型的智能语音机器人,看看哪款更适合你
对话式AI将降低高达25%的客服座席离职率,集成DeepSeek等大模型的智能语音机器人正成企业标配。其核心是实现7x24小时高效服务、优化成本并提供人性化交互。选型需聚焦AI模型能力、业务场景匹配度与数据安全。合力亿捷、阿里云等是市场主流选择,选对智能语音机器人是企业提升沟通效率、构筑核心竞争力的战略投资。
62 0
|
3月前
|
Kubernetes 调度 异构计算
生产环境 K8S + Deepseek 实现大模型部署 和 容器调度(图解+史上最全)
生产环境 K8S + Deepseek 实现大模型部署 和 容器调度(图解+史上最全)
生产环境 K8S + Deepseek 实现大模型部署 和 容器调度(图解+史上最全)
|
3月前
|
人工智能 安全 数据安全/隐私保护
本地部署阿里通义千问Qwen3:一键远程访问,还能解决Ollama安全隐患
阿里开源模型通义千问Qwen3本地部署教程来啦!借助Ollama与Open WebUI,轻松实现图形化操作。通过贝锐花生壳内网穿透,不仅可安全远程访问,还有效防止未授权访问,保障AI资源私密性。从安装Ollama、配置参数到使用Open WebUI及花生壳设置,手把手教你完成全部流程!
2408 1
|
2月前
|
人工智能 智能硬件
Claude 4来了 ,与DeepSeek/Qwen/Hunyuan 谁更强?
Claude 4发布,号称多项突破与超越。本文通过国内首款办公提效AI牛马智能体AiPy,在端午旅游规划场景下测评Claude 4、DeepSeek v3、Qwen-Plus和HunYuan-Turbos的表现。测评任务为制定1500元内端午旅行计划,并生成HTML报告。结果显示,Claude 4表现卓越但价格昂贵,是国产大模型的十倍以上;DeepSeek性价比高,值得称赞。国产大模型虽有亮点,但仍需努力追赶国际水平。测评结果附有各模型生成的报告截图对比。
AI助理

你好,我是AI助理

可以解答问题、推荐解决方案等

登录插画

登录以查看您的控制台资源

管理云资源
状态一览
快捷访问