测一个 RAG 工具,五分钟就够了:两份日期冲突的文档

简介: 五分钟手工测试:用两份日期冲突的文档检验任何 RAG/知识库工具会不会引用过期证据、编造缺失信息。附权限边界与日期对调两个进阶步骤。

RAG 的演示总是很漂亮:输入干净、问题明确、答案带引用。真正出问题的场景往往安静得多——系统引用了过期的证据、或者把没有的信息补了出来,而输出读起来依然通顺,没人发现。

带固定题集的回归评测值得做(LLM 打分、检索/生成失败分类),但它有个盲区:只测你想得到的问法。下面是一个五分钟的手工测试,用来补上这个盲区。

准备两份文档

同一个事件,写两份合成文档:

  • 文档 A(旧):"政策变更 3 月 1 日生效,仅适用于标准版。"
  • 文档 B(新):"政策变更 3 月 15 日生效,适用于所有版本。"

两份都上传,然后问"正确答案取决于哪份是当前版本"的问题:

  • "政策变更什么时候生效?"——应当引用文档 B。
  • "基础版适用吗?"——只有文档 B 能回答,而且只有当工具说明它引用了哪份文档时,你才能核对。

核对三件事

  1. 是否引用当前来源。 答案引用的是文档 B,还是把两个日期揉成一个看起来合理的数?
  2. 缺失信息是否诚实。 问一个两份文档都没写的("谁批准的这次变更?")。合格的系统说"文档中没有";不合格的系统会补一个名字。
  3. 权限边界。 如果工具支持按人/按文件授权,把文档 B 移除后再问一次。答案应该诚实地降级,而不是悄悄退回文档 A、把它当成仍然权威。

大多数人漏掉的一步

把日期对调重跑:现在文档 A 写 3 月 15、文档 B 写 3 月 1。如果工具是靠记住文件顺序或文件名通过的,这一轮就会露馅;真正解析"哪份是当前版本"的系统,对调后依然正确。

为什么这比准确率分数重要

这个测试抓的是生成侧的失败——答案流畅、出处错误。这类失败在检索指标里不可见,在真实场景(会议纪要、政策问答、客户调研)里最贵:一个自信的错误日期,代价高于一句诚实的"没找到"。

我在哪里用它

我维护了一个公开的开源知识库/RAG 候选合集(RAGFlow、AnythingLLM 等),把这个测试当作深入评估前的第一道筛子:

https://useaistation.com/githubai/collections/enterprise-knowledge/

网页免费浏览、无需登录安装。它是一个发现工具,不是 benchmark,也不是许可证审计——通过这个测试是必要条件,永远不是充分条件。


声明:我是 AI 开源项目雷达的开发者。本文由 AI 辅助整理;方法本身是重点,适用于你在用的任何 RAG 工具。

相关文章
|
1月前
|
存储 人工智能 测试技术
843 个 RAG 项目,怎么筛到适合你的那一个
从 843 个 RAG 开源项目里选出适合自己那一个的三步法:star 段位粗筛、场景归类砍掉不对口、两文档冲突测试终筛。附目录真实数据与选型常见错误。
|
1月前
|
人工智能 开发者
RAG 演示为什么总是很完美,上线就翻车:三类静默失败
演示完美上线翻车的三类静默失败——引用过期证据、编造缺失信息、权限降级——各附五分钟自检法。五分钟测试法系列第三篇。
|
1月前
|
SQL 人工智能 安全
有哪些好用的BI产品?低代码搭建数据看板选型指南
本文剖析低代码BI如何破解“数据驱动”落地难问题,以阿里云Quick BI为例,详解拖拽建模、智能小Q对话式分析、模板复用、安全嵌入等能力,并提供从目标定义到迭代优化的实操路径。(239字)
|
25天前
|
人工智能 开发者
周报写到周五下午五点?换个分工:AI 排版,你出三条事实
AI 周报工具的正确分工:AI 排版整理,你只做挑事实、定量定性、承诺边界三件事。附免费免登录工具入口。
|
1月前
|
弹性计算 人工智能 Linux
阿里云最新价格最便宜云服务器解析:轻量应用服务器抢购38元,云服务器99元和199元区别与选购指南
本文针对个人站长、学生与小微企业的低成本上云需求,系统梳理阿里云38元/年轻量服务器、99元/年e实例、199元/年u1实例三款低价产品的配置差异、抢购规则、续费政策与适用场景,拆解新用户资格、峰值带宽、续费同价等核心细节,避开低价套餐常见坑点,帮助不同需求的用户精准匹配高性价比云服务器选型方案。
|
1月前
|
人工智能 机器人 开发者
真香!机器人终于不只会回消息:3.3 万 Star AstrBot 把多平台、插件和 Agent 拧成一套开源底座
AstrBot 是一个开源的一体化 Agent 聊天机器人平台,把 QQ、企业微信、微信公众号、飞书、Telegram、Slack 等平台接入同一个 Agent 工作台。
430 1
|
1月前
|
JSON 前端开发 API
一周双旗舰上架百炼:qwen3.8-max-0902 与 DeepSeek-V4.1-Flash 的 CLI 侧同题实测
九月,百炼上线qwen3.8-max-0902与DeepSeek-V4.1-Flash两大新模型,均享百万token免费额度。本文实测同题前端编程任务,揭示二者在max-tokens语义、思考模式、生成质量、耗时及成本上的关键差异,为开发者选型提供一线实践依据。(239字)
|
1月前
|
人工智能 自然语言处理 前端开发
字节用半年让85%的AI用例跑进CI/CD,你的团队还在为“AI生成不能用”发愁?
本文剖析字节跳动NL2Test Agent成功落地的五大关键:聚焦“用例转译”而非替代、先闭环再优化、LLM与程序分工协作、精准治理上下文、优先生成稳定断言。对比失败案例,揭示AI测试成败核心在工程设计,而非模型能力。
|
1月前
|
人工智能 API 开发者
DeepSeek V4.1‑Flash内测实战全手册:API调用、多模态测试、客户端接入与排错完整教程
在大模型快速迭代的节奏下,很多厂商会放出限时中间内测版本,让开发者抢先体验新架构带来的能力提升。DeepSeek V4.1‑Flash就是一款限时开放的中间内测MoE架构模型,采用全新CED因果编码器‑解码器混合专家架构,原生内置图文多模态理解,推理吞吐速度相比V4‑Flash正式版本得到显著提升,同时沿用原有正式版本的计费标准,不需要额外付费。该内测版本不需要重新申请API密钥,基础网关地址保持不变,开发者仅仅修改请求内部model参数即可完成调用。
611 0
|
1月前
|
人工智能 API
全新 Token Plan 个人版重磅上线
面向个人用户,推出Token Plan 个人版,支持统一订阅与预算管理,仅需一个 API Key,即可无缝调用文本、语音、图像、视频等全模态 AI 能力
245 0
全新 Token Plan 个人版重磅上线