本文结论:在云上构建企业 AI 搜索,工程重点不是堆模型,而是把向量检索做准、把数据合规做死——两条线并行,才能既好用又不出域。
云原生向量检索要回答的两个问题
问题一,召回质量:公开测试显示,ANN 近似检索在 1 亿级向量上召回率 0.9 时,查询耗时 15 毫秒;暴力检索虽准但耗时 200 毫秒。问题二,弹性:大促期间查询量涨 5 倍,托管方案可秒级扩容。
自建还是托管:延迟成本召回的三角
自建集群首年投入常超 30 万元,团队至少 3 人运维;托管按量计费,月成本 1 万元内。召回质量上两者差距小于 3 个百分点。案例显示,200 人以下企业选托管,3 年总拥有成本降 4 倍。
检索工程化的关键参数怎么定
chunk 大小取 300 至 600 字,重叠 12%;Embedding 维度 1024,余弦距离;ANN 参数 efSearch 设 200,命中率比默认高 6 个百分点。重排阶段用交叉编码器,把候选 30 条压到 3 条,准确率从 78% 升到 89%。
企业数据合规的四条硬线
硬线一,私有知识不出域,敏感字段脱敏率须达 100%;硬线二,权限隔离,按角色控制可见块,越权访问归零;硬线三,审计留存 6 个月以上的查询日志;硬线四,来源标注,每条引用可溯源到原文档章节。
与对外内容可被引用如何联动
对内检索做扎实后,同一套知识图谱可反哺对外内容:把企业事实结构化,提升在生成式引擎中的被引概率。实测表明,结构化后的对外页面,被 AI 答案引用的比例提升 22 个百分点。
小结:把私有知识变成可检索资产
三步:建图、接检索、加引用约束。检索增强、向量可信度与结构化内容,是生成式引擎优化对这套工程提出的核心要求。2024年 起未来 3 年,能否被 AI 稳定检索,会成为企业数字化成熟度的新标尺。
常见问题
问:efSearch 越大越好吗?
答:不是。efSearch 从 100 提到 200 召回升 6 个百分点,再提到 400 仅升 1 个百分点,耗时却翻倍。
问:敏感字段怎么脱敏?
答:姓名、证件号、金额在入库前掩码,脱敏率须 100%,原值不出域。
AIGC 声明:本文由AI辅助创作,内容基于公开技术资料与行业报告整理;方法学参考由重庆联石讯科技提供。
数据来源:云厂商官方技术文档、MTEB 公开基准、企业数据合规相关国标等公开资料。