开源实战:从零实现「视频→知识库」全流程(下载/转写/向量检索/时间戳问答)

简介: 开源项目「知映」:一键将B站/YouTube视频转为带时间戳引用的知识库。支持下载→转写(三级ASR降级)→画面识别→向量+全文混合检索→RAG问答,答案自动附跳转链接。Windows离线安装,MCP协议接入Agent,全程Apache-2.0开源。

开源实战:从零实现「视频→知识库」全流程(下载/转写/向量检索/时间戳问答)

在这里插入图片描述

本文你能学到什么

  • yt-dlp 处理 B 站视频的工业级用法(格式回退、字幕探测、断点续传)
  • ASR 三级降级架构:平台字幕 → 云端 SenseVoice → 本地 Whisper,链路永不断
  • pgvector「向量 + 全文」混合检索的表设计与 SQL 细节
  • 答案强制带时间戳引用的 RAG prompt 设计(含「无据不编造」的兜底)
  • MCP Server 开发:让 Claude Code / Codex / OpenClaw 直接调用你的服务
  • 不依赖 Docker 的 Windows 离线安装器方案(Inno Setup + 嵌入式 PostgreSQL)

项目全程开源,今天把这些实战经验一次性拆给你。

项目简介

知映 zhiying:丢一个视频链接(B站 / YouTube / 本地文件),自动完成 下载 → 语音转写 → 画面识别 → 多模态文案对齐 → 结构化摘要 → 向量入库,之后直接对知识库提问,答案附带时间戳的引用卡片——点击跳回原视频对应秒数。

在这里插入图片描述
(提问 → 答案 + 时间戳引用)

项目地址:zhiying-platform/zhiying(觉得有用点个 Star ⭐)

整体架构

Web / Agent(MCP) / CLI
        ↓ REST API (FastAPI :8600)
  download(yt-dlp) → transcribe(字幕→SenseVoice→Whisper)
  → frames(PySceneDetect) → vlm(LongCat-2.5 适配器)
  → assemble(A1 双形态) → summarize(A3) → kb(pgvector 入库)
        ↓
  检索(向量+全文混合) → RAG 问答(引用深链)

这条流水线实际操作起来是这样的——粘贴链接提交任务,四个阶段自动推进:
在这里插入图片描述
在这里插入图片描述

核心实现拆解

1. 多源下载层(yt-dlp)

  • 格式回退链:B 站 4K/1080P 需大会员,无 cookie 时自动降级到可拉取的最高画质
  • 字幕探测:B 站字幕必须登录 cookie 才能拉取,探测失败自动进入下一级转写
  • 断点续传 + 片段级重跑:失败只重跑失败阶段,产物全缓存

2. ASR 三级降级(保底可用)

平台字幕(免费)→ SenseVoiceSmall(云端,实测 118s 视频 8s 音频计费)
→ 本地 Whisper(离线兜底)

每级失败自动降级,transcribe_origin 字段记录实际来源——排查质量问题时先看这个字段。

3. pgvector 混合检索(向量 + 全文)

纯向量检索对专有名词容易飘,方案是双路召回合并排序:

  • 向量路:bge-m3 embedding(冻结 1024 维,维度写进 DDL 契约,换模型需迁移表结构)
  • 全文路:jieba 应用侧分词 → tsvector 列 + GIN 索引(migration 002)
  • 两路结果按分数归一化合并,专有名词靠全文路兜住,语义问题靠向量路兜住

4. 时间戳溯源的 RAG 设计

segments 表从第一天就带 start_ts / end_ts,这是整个产品的灵魂:

  • 检索命中后引用卡片直接生成深链 URL(?t=秒数),B 站前端原生支持跳转
  • 答案 prompt 强制模型引用检索片段原文,无据可答时明确说「知识库中无依据」而不是编造

5. MCP Server:Agent 原生接入

暴露 5 个工具(入库/检索/问答/文档/状态):

claude mcp add zhiying -- <仓库路径>\scripts\zhiying-mcp.cmd

接入后对话里说「帮我把这个视频入库:<链接>」,Agent 自己调工具。

踩坑实录(重点避坑)

1. Windows 后台进程整树回收:Start-Process 拉起的常驻服务随父会话退出被杀,app.log 无 shutdown 记录但进程消失。解法:WMI Win32_Process.Create 启动才跨会话存活;嵌入式 PG 的 pg_ctl start 必须 DEVNULL 重定向(capture_output 等 EOF 会等到超时)。

2. 全新安装入库必败:schema_v1 建表缺后来加的 content_hash 列(migration 只写了文件没接进 init 流程),fresh install 知识库入库 100% 报 column does not exist。教训:init 必须连 migrations 目录一起执行 + verify 检查关键列,只跑 base schema 的 init 是半个 init。

3. 问答缓存投毒:入库前问过的问题会把「无依据」缓存进内存(key=问题文本),入库后同题命中缓存依旧「无依据」。缓存 key 应含知识库水位,或提供主动失效手段。

快速开始

普通用户:Releases 下载 zhiying-setup.exe(144MB),双击安装即用。嵌入式 PostgreSQL 随包,零环境依赖,完全离线。

开发者:

git clone https://github.com/zhiying-platform/zhiying
git clone https://github.com/zhiying-platform/zhiying-web
# cp .env.example .env(填 2 个模型 Key)→ docker compose up -d

系列预告

下一篇拆 pgvector 混合检索的 SQL 细节:两路召回的分数归一化、tsvector 与 jieba 的配合、维度冻结契约的迁移策略——关注不迷路。

开源信息

觉得有用点个 Star ⭐;问题直接开 Issue。

目录
相关文章
|
5天前
|
Linux Go 开发工具
手机上跑 DeepSeek 智能体:开源安卓客户端 DSH Go 安装与使用指南
DSH Go 是一款开源安卓客户端,将 DeepSeek Harness 智能体引擎装进手机:免 Root、免 Termux,一键安装即用;支持本机运行(内置 Ubuntu+Node.js)或远程接管电脑会话;具备插话打断、过程折叠、屏幕操控、端到端加密分享等特色功能,真正实现智能体“口袋化”。
5867 13
|
5天前
|
弹性计算 人工智能 API
Codex超详细入门指南(下载·安装·登录·上手,全版本覆盖,2026最新版)
建议收藏本教程,2026 全年各版本更新随时回来查阅。如果你在搭建过程中遇到任何问题,欢迎结合 阿里云工单系统 提交技术支持请求,或在 阿里云开发者社区 搜索 Codex 相关话题交流。 祝你编码愉快,效率翻倍!
2173 8
|
8天前
|
人工智能 前端开发 API
阿里云Qwen4-Max 大模型详解:定位、特征、能力、适用场景与相对Qwen3-Max差异解析
2026年11月11日,阿里发布第四代旗舰模型Qwen4-Max预览版,首发千问AI平台Token Plan并接入千问办公、Qoder等入口。该版本聚焦知识理解、世界感知、编程与Agentic四项升级,主打复杂编程、专业办公、前端设计与专业软件操作等真实任务。预览期为11月11日10:00至11月25日24:00,仅支持Token Plan调用,到期后模型标识下线;限时2折、新用户再享5折,最低1折可体验。
|
7天前
|
JSON 前端开发 API
阿里云最新Qwen4-Max大模型介绍:模型定位、特征、能力、适用场景解析
2026 年 11 月 11 日,阿里发布第四代旗舰模型Qwen4-Max预览版,首发千问 AI 平台 Token Plan,并同步接入千问办公、Qoder 等入口。该版本聚焦知识理解、世界感知、编程与 Agentic 四项升级,主打复杂编程、专业办公、前端设计与专业软件操作。预览期至 11 月 25 日 24:00,到期后模型标识下线;限时 2 折、新用户再享 5 折,最低 1 折可体验。
|
3天前
|
传感器 安全 区块链
Windows 电脑运行安卓应用教程:开源工具 ApkStart 双击 APK 即装、独立窗口运行
ApkStart 是一款开源Windows工具,让安卓APP像原生软件一样运行:双击APK即安装、生成真实图标、独立窗口启动、开始菜单可搜索。无需传统模拟器,内置QEMU运行时,支持数据互通、ARM兼容与命令行操作。(239字)
|
20天前
|
Linux 开发工具 iOS开发
Codex保姆级教程(下载+安装+登录+使用,含所有版本,2026最新)
Codex是OpenAI推出的开源AI编程智能体,本地运行,可理解整个代码库,支持自然语言指令改代码、执行命令、跑测试、修Bug,兼容Win/macOS/Linux。(239字)
9916 59
|
3天前
|
人工智能 弹性计算 开发工具
零成本玩各大模型!DeepSeek Harness dsh-our-free-model 插件,13 个厂商模型直接用
总结一下:装这个插件,你不用注册、不用绑卡、不用填一个 Key,就能在 DeepSeek Harness 里用上 DeepSeek V4.1 Flash、Kimi K3 这一批前沿模型,而且是白嫖的、还不限量。三步搞定:下载插件,复制包含 `package.json` 的插件目录路径,在「添加插件」里粘贴路径安装并重启。无论是在阿里云 ECS 上通过命令行部署的 Web 版,还是本地的 Electron 桌面端,都能顺利跑通,快速搭建一套零成本的免费模型使用环境。
986 0
|
6天前
|
Linux API iOS开发
【DSH】DeepSeek Harness新手保姆教程(下载+安装+配置+使用,2026最新实测)
DeepSeek Harness(dsh)是DeepSeek AI开源的智能体框架,秉持“一切皆插件”理念,支持读文件、改代码、跑命令、处理表格、联网搜索等操作。免费开源,兼容Windows/macOS/Linux,提供桌面端与网页端,可灵活安装插件扩展能力。
|
15天前
|
Linux 开发工具 iOS开发
2026最新codex下载安装保姆级使用教程(下载+安装+登录+使用,含所有历史版本)
本文详解OpenAI Codex国内快速上手指南:提供Win/macOS/Linux全平台免安装包、npm/Homebrew等多方式安装、账号/API Key双登录、简体中文切换,覆盖下载、安装、汉化、使用及高频避坑(如微软商店失败、npm超时等),10分钟即可跑通。
3370 9