目前在做一个应用（chatflow）。防幻觉上已做了一套链路内的工程拦截：① 检索空结果直接走兜底、不生成；② 检索结果与问题不相关时用闸门拦下，避免拿着无关文档硬编；③ 生成后加一道 deepseek（temp=0）质检，拦截越权承诺和未覆盖内容；④ 再做覆盖度判断，把"资料没写死"的内容降级为兜底或人工兜底；生成侧用 glm 低温。这套能挡住"没资料硬答"和"越权承诺"，但卡在 没有一套可量化的测评体系来度量幻觉率本身 ——既说不清这些手段能治理掉多大比例幻觉，也无法证明幻觉率能稳定压在 10% 以下。
想请教：大家一般怎么搭测评体系来治理 90% 以上幻觉的？具体到评估集怎么建、指标（faithfulness / 引文一致性等）怎么选、线上怎么抽样回归，有没有把幻觉率稳定做到 10% 以下的可复现做法？
版权声明：本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。
基于千问系列大模型和开源大模型的一站式大模型服务平台，提供「生成式大模型的全流程应用工具」和「企业大模型的全链路训练工具」。为大模型，也为小应用。阿里云百炼产品介绍页面：https://www.aliyun.com/product/bailian 阿里云百炼控制台首页：https://bailian.console.aliyun.com/promotion
