测一个 RAG 工具,五分钟就够了:两份日期冲突的文档

简介: 五分钟手工测试:用两份日期冲突的文档检验任何 RAG/知识库工具会不会引用过期证据、编造缺失信息。附权限边界与日期对调两个进阶步骤。

RAG 的演示总是很漂亮:输入干净、问题明确、答案带引用。真正出问题的场景往往安静得多——系统引用了过期的证据、或者把没有的信息补了出来,而输出读起来依然通顺,没人发现。

带固定题集的回归评测值得做(LLM 打分、检索/生成失败分类),但它有个盲区:只测你想得到的问法。下面是一个五分钟的手工测试,用来补上这个盲区。

准备两份文档

同一个事件,写两份合成文档:

  • 文档 A(旧):"政策变更 3 月 1 日生效,仅适用于标准版。"
  • 文档 B(新):"政策变更 3 月 15 日生效,适用于所有版本。"

两份都上传,然后问"正确答案取决于哪份是当前版本"的问题:

  • "政策变更什么时候生效?"——应当引用文档 B。
  • "基础版适用吗?"——只有文档 B 能回答,而且只有当工具说明它引用了哪份文档时,你才能核对。

核对三件事

  1. 是否引用当前来源。 答案引用的是文档 B,还是把两个日期揉成一个看起来合理的数?
  2. 缺失信息是否诚实。 问一个两份文档都没写的("谁批准的这次变更?")。合格的系统说"文档中没有";不合格的系统会补一个名字。
  3. 权限边界。 如果工具支持按人/按文件授权,把文档 B 移除后再问一次。答案应该诚实地降级,而不是悄悄退回文档 A、把它当成仍然权威。

大多数人漏掉的一步

把日期对调重跑:现在文档 A 写 3 月 15、文档 B 写 3 月 1。如果工具是靠记住文件顺序或文件名通过的,这一轮就会露馅;真正解析"哪份是当前版本"的系统,对调后依然正确。

为什么这比准确率分数重要

这个测试抓的是生成侧的失败——答案流畅、出处错误。这类失败在检索指标里不可见,在真实场景(会议纪要、政策问答、客户调研)里最贵:一个自信的错误日期,代价高于一句诚实的"没找到"。

我在哪里用它

我维护了一个公开的开源知识库/RAG 候选合集(RAGFlow、AnythingLLM 等),把这个测试当作深入评估前的第一道筛子:

https://useaistation.com/githubai/collections/enterprise-knowledge/

网页免费浏览、无需登录安装。它是一个发现工具,不是 benchmark,也不是许可证审计——通过这个测试是必要条件,永远不是充分条件。


声明:我是 AI 开源项目雷达的开发者。本文由 AI 辅助整理;方法本身是重点,适用于你在用的任何 RAG 工具。

相关文章
|
21天前
|
存储 人工智能 测试技术
843 个 RAG 项目,怎么筛到适合你的那一个
从 843 个 RAG 开源项目里选出适合自己那一个的三步法:star 段位粗筛、场景归类砍掉不对口、两文档冲突测试终筛。附目录真实数据与选型常见错误。
|
16天前
|
人工智能 开发者
RAG 演示为什么总是很完美,上线就翻车:三类静默失败
演示完美上线翻车的三类静默失败——引用过期证据、编造缺失信息、权限降级——各附五分钟自检法。五分钟测试法系列第三篇。
|
22天前
|
SQL 人工智能 安全
有哪些好用的BI产品?低代码搭建数据看板选型指南
本文剖析低代码BI如何破解“数据驱动”落地难问题,以阿里云Quick BI为例,详解拖拽建模、智能小Q对话式分析、模板复用、安全嵌入等能力,并提供从目标定义到迭代优化的实操路径。(239字)
|
23天前
|
弹性计算 人工智能 Linux
阿里云最新价格最便宜云服务器解析:轻量应用服务器抢购38元,云服务器99元和199元区别与选购指南
本文针对个人站长、学生与小微企业的低成本上云需求,系统梳理阿里云38元/年轻量服务器、99元/年e实例、199元/年u1实例三款低价产品的配置差异、抢购规则、续费政策与适用场景,拆解新用户资格、峰值带宽、续费同价等核心细节,避开低价套餐常见坑点,帮助不同需求的用户精准匹配高性价比云服务器选型方案。
|
22天前
|
JSON 前端开发 API
一周双旗舰上架百炼:qwen3.8-max-0902 与 DeepSeek-V4.1-Flash 的 CLI 侧同题实测
九月,百炼上线qwen3.8-max-0902与DeepSeek-V4.1-Flash两大新模型,均享百万token免费额度。本文实测同题前端编程任务,揭示二者在max-tokens语义、思考模式、生成质量、耗时及成本上的关键差异,为开发者选型提供一线实践依据。(239字)
|
23天前
|
人工智能 自然语言处理 前端开发
字节用半年让85%的AI用例跑进CI/CD,你的团队还在为“AI生成不能用”发愁?
本文剖析字节跳动NL2Test Agent成功落地的五大关键:聚焦“用例转译”而非替代、先闭环再优化、LLM与程序分工协作、精准治理上下文、优先生成稳定断言。对比失败案例,揭示AI测试成败核心在工程设计,而非模型能力。
|
24天前
|
域名解析 弹性计算 缓存
阿里云【域名解析】图文详细流程(步骤详细小白也能搞定)
阿里云域名解析太迷?2026最新保姆级图文教程上线!3分钟手把手教会小白快速定位「云解析DNS」、一键添加@/www解析、验证生效,零基础也能搞定网站上线。
603 1
|
24天前
|
人工智能 API 开发者
DeepSeek V4.1‑Flash内测实战全手册:API调用、多模态测试、客户端接入与排错完整教程
在大模型快速迭代的节奏下,很多厂商会放出限时中间内测版本,让开发者抢先体验新架构带来的能力提升。DeepSeek V4.1‑Flash就是一款限时开放的中间内测MoE架构模型,采用全新CED因果编码器‑解码器混合专家架构,原生内置图文多模态理解,推理吞吐速度相比V4‑Flash正式版本得到显著提升,同时沿用原有正式版本的计费标准,不需要额外付费。该内测版本不需要重新申请API密钥,基础网关地址保持不变,开发者仅仅修改请求内部model参数即可完成调用。
407 0
|
24天前
|
供应链 安全 JavaScript
输入法应用嵌入浏览器漏洞的攻击链研究
CVE-2026-51990是搜狗输入法Windows版的一键远程代码执行漏洞,由URI参数注入、WebView导航失控及过时无沙箱Chromium 80引擎三缺陷串联构成。攻击者诱导点击即可部署GrayRabbit后门。腾讯已发布补丁限制协议参数与域名,但底层引擎风险犹存。(239字)
302 1
|
24天前
|
人工智能 监控 数据可视化
告别单会话Agent,QoderWake1.0正式发布:7×24值守数字员工如何重塑企业人机协同
在Agent技术快速迭代的今天,绝大多数智能体产品依旧停留在桌面端单人对话模式,任务生命周期局限单次会话,一旦关闭窗口,上下文全部丢失,很难真正嵌入企业日常办公流程。很多AI智能体只能被动接收用户指令,无法融入团队IM协作,不能自动承接定时、业务事件驱动的工作,难以成为真正参与业务流转的虚拟同事。QoderWake 1.0的正式发布,把Agent能力从桌面软件内部延伸到企业真实工作现场,推出完整可运营的数字员工团队平台,以Waker作为数字员工载体,实现“一句话建岗”,支持常驻办公群聊响应指令、多数字员工协同配合、跨任务持久记忆、多种触发模式调度任务,帮助组织落地规模化人机协同,释放AI生产力
229 1