DeepSeek R1+Open WebUI实现本地知识库的搭建和局域网访问

简介: 本文介绍了使用 DeepSeek R1 和 Open WebUI 搭建本地知识库的详细步骤与注意事项,涵盖核心组件介绍、硬件与软件准备、模型部署、知识库构建及问答功能实现等内容,适用于本地文档存储、向量化与检索增强生成(RAG)场景的应用开发。

以下是使用 DeepSeek R1Open WebUI 搭建本地知识库的详细步骤和注意事项:


1.了解核心组件

  • DeepSeek R1:一个开源的本地化部署的大型语言模型(LLM),提供自然语言理解和生成能力。
  • Open WebUI:类似 Ollama WebUI 的开源交互界面,支持通过网页与 LLM 对话,常用于 RAG(检索增强生成)场景。
  • 知识库核心功能:本地文档的存储、向量化、检索与问答。

2.准备工作

(1)硬件要求

  • 显存:建议 16GB+(如 NVIDIA RTX 4090)以运行大模型。
  • 内存:32GB+ 以保证数据处理流畅。
  • 存储:至少 50GB 空闲空间(用于模型、文档、向量数据库)。

(2) 软件依赖


3. 部署流程

(1) 部署 DeepSeek R1,嵌入向量模型下载模型: 下载并安装ollama,地址:https://ollama.com/


在官网Models里搜索并使用 ollama run deepseek-r1 命令直接下载和配置模型,可以指定版本如 deepseek-r1:70b


同样的方法下载ollama pull nomic-embed-text模型


本地启动模型 : 直接运行命令'ollama run 模型名'可以启动对应模型,查看已经下载的模型使用命令'ollama list'


验证模型



(2) 部署 Open WebUI

使用pip命令快速部署可以指定国内清华源下载,安装过程中如果出现报错,可能缺少Microsoft Visual C++ Build Tools依赖,可以在https://visualstudio.microsoft.com/zh-hans/visual-cpp-build-tools/官网下载并安装配置使用C++的桌面开发的相关依赖包。

pip install open-webui -i HYPERLINK https://pypi.tuna.tsinghua.edu.cn/simple normalLink \tdfe -10 \tdlt text \tdlf FromInput \tdsub normalLink \tdkey 4oa8akhttps://pypi.tuna.tsinghua.edu.cn/simple

启动Open WebUI 打开CMD窗口输入命令'open-webui serve'启动服务

open-webui serve

出现下面信息则启动成功


打开浏览器,输入地址http://localhost:8080/访问,首次访问需要注册一个管理员账号


(3) 构建知识库

1.创建知识库,点击工作空间-知识库,再点击右上角的‘+’新建知识库。


2.点击创建的知识库,上传文件,此时上传部分格式文件如pdf可能会提示解析失败,此时我们需要到管理页面切换默认的嵌入向量模型库来处理。


左下角点击用户打开管理员设置页面


点击文档选择本地ollama安装好的嵌入向量模型如nomic-embed-textbge-m3,如果切换了模型,之前上传的文件需要重新上传处理


(4) 使用知识库

在对话问答框里使用#选择对应的知识库进行提问,系统会根据知识库检索并做出回答


验证问答功能:

在 Web 界面输入问题后,系统将自动执行以下流程:

问题向量化 → 2. 从知识库检索相关内容 → 3. 将结果拼接为 Prompt → 4. 调用 DeepSeek R1 生成答案。


(5) 实现局域网内访问知识库

在部署ollama的电脑上修改配置,重启后生效,访问主机IP:11434查看生效情况,网页显式“Ollama is running”则修改成功。

setx OLLAMA_HOST "0.0.0.0" setx OLLAMA_ORIGINS "*"


修改Open WebUI设置,修改ollama外部访问链接,地址为主机地址和端口


更详细的知识库管理可以参考官方文档设置:https://openwebui-doc-zh.pages.dev/features/workspace/knowledge/

关于嵌入模型的概念说明:https://sca.aliyun.com/en/docs/ai/tutorials/embedding/

目录
相关文章
|
3月前
|
安全 API Docker
[大模型实战 02] 图形化的大模型交互: Open WebUI部署指南
本文教你用 Docker 一键部署 Open WebUI,为本地 Ollama 模型打造媲美 ChatGPT 的图形化界面:支持流畅对话、本地知识库(RAG)检索增强、自定义角色(Agent),全程私有化、零数据上传,10分钟即可启用!
|
2月前
|
Linux API 网络安全
OpenClaw(Clawdbot)本地+阿里云部署实操:知识库搭建与大模型API对接全流程
在2026年的AI办公实践中,将本地分散的PDF、Markdown、Word等文档转化为可检索、可问答的智能知识库,成为提升工作效率的核心需求。但实际操作中,开发者常面临资料检索效率低、向量库搭建环境依赖复杂、大模型对接流程不清晰等问题。OpenClaw(原Clawdbot)作为轻量级的RAG(检索增强生成)框架,可实现本地文档的快速向量化、检索与问答闭环,同时支持本地多系统(MacOS/Linux/Windows11)与阿里云服务器部署,还能灵活对接阿里云千问系列大模型及免费的Coding Plan API,兼顾数据隐私性与AI问答能力。本文将详细拆解2026年OpenClaw的全平台部署步
2524 13
|
17天前
|
人工智能 Linux Docker
Docker 部署 Open WebUI + Ollama 完整教程(Windows / Linux 通用)—— 打造自己的本地OpenAI
无需复杂配置!Docker一键部署Open WebUI+Ollama,Windows/Linux通用,新手也能轻松上手。无需依赖云端,打造专属本地OpenAI,实现可视化聊天交互,兼顾数据隐私,还附带常见问题排查,全程步骤清晰,快速拥有本地大模型平台!
798 0
Docker 部署 Open WebUI + Ollama 完整教程(Windows / Linux 通用)—— 打造自己的本地OpenAI
|
10月前
|
存储 人工智能 自然语言处理
DeepSeek R1+Ollama+Cherry Studio实现本地知识库的搭建
本文介绍了如何使用Ollama和CherryStudio搭建本地知识库,涵盖核心组件介绍、硬件与软件准备、模型部署流程及知识库构建方法。通过配置DeepSeek R1模型、嵌入模型和Cherry Studio平台,实现本地化自然语言处理与知识检索功能。
3286 0
|
2月前
|
存储 Linux API
OpenClaw 个人智能知识库完全指南:second-brain 搭建、全平台部署与大模型API配置教程
在信息爆炸的日常工作与学习中,绝大多数人都会遇到知识碎片化、存储分散、检索困难、难以复用的问题。读书笔记、会议纪要、灵感碎片、文档资料散落在备忘录、电脑文件夹、笔记软件、纸质记录中,想要调取某条信息时往往需要花费大量时间翻找,甚至彻底遗忘。OpenClaw 生态中的 **second-brain(第二大脑)** 插件,正是为解决这一问题而生的轻量化知识管理工具。它可以将所有类型的信息统一收纳、语义理解、自动关联、智能检索,无需手动分类,依靠AI实现“所想即所得”。本文基于 2026 年最新使用流程,完整讲解 second-brain 的安装、配置、使用方法,同时补充阿里云云端部署、MacOS/
2475 0
|
3月前
|
人工智能 数据可视化 测试技术
玩转Ollama:命令行操作、上下文长度调优与模型导入全攻略
Ollama是轻量级本地大模型运行工具,零配置即可快速启动AI模型。本文详解三大核心:高频CLI命令(运行/管理/创建模型)、上下文长度(Context Length)调优技巧、多格式(GGUF/Safetensors)自定义模型导入与量化分享,新手跟做即上手。
|
10月前
|
人工智能 自然语言处理 数据可视化
Open WebUI 和 Dify 在构建企业AI应用时的主要区别
本文对比了企业AI应用构建中的两大开源工具——Open WebUI与Dify,在技术架构、核心能力及适用场景方面的差异。Open WebUI适合轻量级对话场景,侧重本地部署与基础功能;而Dify则聚焦复杂业务流程,提供可视化工作流编排与端到端RAG支持。文章结合典型用例与落地建议,助力企业合理选型并实现高效AI集成。
|
人工智能 Kubernetes API
Dify+DeepSeek实战教程!企业级 AI 文档库本地化部署,数据安全与智能检索我都要
接下来这篇文章,就打算用最接地气的方式,手把手带你从 0 到 1 搭建一套专属的本地知识库系统。无论你是想优化企业内部文档检索(不用担心敏感数据上传云端的风险),还是像我一样想为用户打造更智能的文档服务,都能跟着步骤一步步实现。咱们不卖关子,直接上干货
4101 14
Dify+DeepSeek实战教程!企业级 AI 文档库本地化部署,数据安全与智能检索我都要