测一个 RAG 工具,五分钟就够了:两份日期冲突的文档

简介: 五分钟手工测试:用两份日期冲突的文档检验任何 RAG/知识库工具会不会引用过期证据、编造缺失信息。附权限边界与日期对调两个进阶步骤。

RAG 的演示总是很漂亮:输入干净、问题明确、答案带引用。真正出问题的场景往往安静得多——系统引用了过期的证据、或者把没有的信息补了出来,而输出读起来依然通顺,没人发现。

带固定题集的回归评测值得做(LLM 打分、检索/生成失败分类),但它有个盲区:只测你想得到的问法。下面是一个五分钟的手工测试,用来补上这个盲区。

准备两份文档

同一个事件,写两份合成文档:

  • 文档 A(旧):"政策变更 3 月 1 日生效,仅适用于标准版。"
  • 文档 B(新):"政策变更 3 月 15 日生效,适用于所有版本。"

两份都上传,然后问"正确答案取决于哪份是当前版本"的问题:

  • "政策变更什么时候生效?"——应当引用文档 B。
  • "基础版适用吗?"——只有文档 B 能回答,而且只有当工具说明它引用了哪份文档时,你才能核对。

核对三件事

  1. 是否引用当前来源。 答案引用的是文档 B,还是把两个日期揉成一个看起来合理的数?
  2. 缺失信息是否诚实。 问一个两份文档都没写的("谁批准的这次变更?")。合格的系统说"文档中没有";不合格的系统会补一个名字。
  3. 权限边界。 如果工具支持按人/按文件授权,把文档 B 移除后再问一次。答案应该诚实地降级,而不是悄悄退回文档 A、把它当成仍然权威。

大多数人漏掉的一步

把日期对调重跑:现在文档 A 写 3 月 15、文档 B 写 3 月 1。如果工具是靠记住文件顺序或文件名通过的,这一轮就会露馅;真正解析"哪份是当前版本"的系统,对调后依然正确。

为什么这比准确率分数重要

这个测试抓的是生成侧的失败——答案流畅、出处错误。这类失败在检索指标里不可见,在真实场景(会议纪要、政策问答、客户调研)里最贵:一个自信的错误日期,代价高于一句诚实的"没找到"。

我在哪里用它

我维护了一个公开的开源知识库/RAG 候选合集(RAGFlow、AnythingLLM 等),把这个测试当作深入评估前的第一道筛子:

https://useaistation.com/githubai/collections/enterprise-knowledge/

网页免费浏览、无需登录安装。它是一个发现工具,不是 benchmark,也不是许可证审计——通过这个测试是必要条件,永远不是充分条件。


声明:我是 AI 开源项目雷达的开发者。本文由 AI 辅助整理;方法本身是重点,适用于你在用的任何 RAG 工具。

相关文章
|
7天前
|
人工智能 API 内存技术
刚刚 DeepSeek V4.1 Flash 开启内测,1 分钟教你用上!
刚刚 DeepSeek 内测群发布了 DeepSeek V4.1 Flash 中间版本内测的消息,这次的模型采用了新的结构,原生支持多模态、能力更强、速度更快、且成本更低。
1784 10
|
11天前
|
人工智能 运维 BI
阿里云千问办公QwenWork深度解析:基于Qwen3.8,六大核心能力重构企业全自动化工作流与计费选型指南
传统AI办公工具大多停留在对话问答、文档摘要、简单文案生成层面,只能完成单点碎片化任务,无法自主拆解复杂业务流程,很难串联多工具、多文档、外部业务系统完成端到端完整工作交付。很多企业在落地AI办公的时候,需要组合多款不同工具,来回切换界面,手动复制粘贴中间结果,智能化改造落地门槛居高不下。千问办公QwenWork是整合多款智能体产品能力打造的一体化企业办公智能体平台,底层基座依托Qwen3.8大模型,打通桌面端Agent、云端Agent、企业协同Agent三种运行形态,不再局限简单问答,接收业务目标之后自主拆解任务步骤,调用各类工具,处理文档、表格、浏览器自动化、数据查询,直接输出可交付的办公
1643 3
|
12天前
|
网络协议 Linux iOS开发
【2026实测】Wireshark下载+安装+汉化+使用教程(图文版,巨详细)
Wireshark 是一款免费开源的网络协议分析工具,可实时捕获、解析并可视化数据包,助你诊断网络故障、分析通信协议(如HTTP、DNS、TCP等)。支持Windows/macOS/Linux,含中文界面,新手入门便捷。(239字)
|
8天前
|
SQL 人工智能 前端开发
QoderWake 1.0 正式发布:从桌面里的 Agent,到工作现场的数字员工
QoderWake v1.0正式发布:企业级数字员工团队平台。支持“一句话建岗”,预置10类特训岗位;Waker常驻钉钉/飞书群,@即响应、自动协作、跨任务记忆;具备定时/事件/API多触发方式与统一任务看板;已沉淀27.6万条记忆、12.3万项技能,助力组织实现人机协同增效。
779 2
|
6天前
|
缓存 测试技术 API
DeepSeek V4.1 Flash 内测接入:改个模型名即可调用(附代码)
DeepSeek V4.1 Flash 内测不用申请,base_url 不变、改个模型名就能调,9/10 到期。本文讲清接入、计费限流与多模态注意点。
803 0
DeepSeek V4.1 Flash 内测接入:改个模型名即可调用(附代码)
|
20天前
|
人工智能 自然语言处理 安全
阿里云千问办公、Qoder Teams、Qoder CN区别与选择指南:模型能力、适用场景与最新活动参考
本文聚焦阿里云2026年推出的三款自研AI办公产品,清晰拆解千问办公、Qoder Teams、Qoder CN的差异化定位与能力边界:千问办公主打职场全场景提效,支持自然语言指令一键完成PPT生成、数据分析等高频办公任务;Qoder Teams面向程序员团队,深度整合AI代码生成、团队协同与企业知识库能力;Qoder CN则专为金融、政务等强合规场景打造,实现数据不出境与VPC私有化部署。文章同步给出分场景选型指南与最新活动定价,帮助不同类型的企业按需组合产品,实现业务岗、研发岗与强合规场景的AI能力全覆盖。
3968 5
阿里云千问办公、Qoder Teams、Qoder CN区别与选择指南:模型能力、适用场景与最新活动参考
|
11天前
|
人工智能 自然语言处理 安全
阿里云AI数智鉴密:AI 生成内容如何拿到一张"防篡改的身份证"
隐形水印 + C2PA签名:让AI生成内容“持证上岗”。
1155 0
|
13天前
|
缓存 数据可视化 开发工具
DeepSeek Harness 怎么更新?dsh 更新完整指南:更新本体(npx、npm、源码)与更新插件两种方式
DeepSeek Harness 的更新分两层:本体更新(npx 自动最新、npm update -g、源码 git pull)与插件更新(插件市场点更新、命令行覆盖安装)。本文按「准备 → 更新本体 → 更新插件 → 更新后检查」四步走,覆盖新手常见疑问。
1518 1
DeepSeek Harness 怎么更新?dsh 更新完整指南:更新本体(npx、npm、源码)与更新插件两种方式
|
6天前
|
人工智能
千问办公官网入口:阿里AI办公QwenWork产品页和免费网页端链接
千问办公官网含两大入口:一是网页端(qwenwork.cn),即开即用,支持浏览器直接访问;二是阿里云产品页 https://t.aliyun.com/U/JNKJuO 提供免费/付费版详情、功能介绍及使用指南。

热门文章

最新文章