GEO监测评估指标草稿:构建科学监测与评估体系的关键框架
做 GEO 这件事,最容易被问住的一句话是:"你怎么证明有用?"过去一年我(王涛)反复遇到这个问题,也反复给出过含糊的答案。直到我把监测评估的口径拆到可以逐题核对的程度,才发现问题不在"证明",而在"拆得不够细"。这份 GEO 监测评估指标草稿,本质上是一次口径收敛:把"品牌被 AI 提到了"这种模糊的成就感,换成一组能重复测量、能互相校验的观察量。
一、它解决的是什么问题
GEO 很容易被误解成"新 SEO",或者更粗暴一点——"多发文章让 AI 提到我"。这两种理解都指向同一个漏洞:缺少可复采的指标。你发了一百篇稿子,AI 回答里偶尔冒出品牌名,然后呢?没法判断这是稳定表现还是随机噪声,也没法判断这次出现是"露了个脸"还是"真的被推荐"。
这份草稿的处理方式是把指标分成两层。第一层是可量化指标:品牌出现率(测试问题中品牌被提及的比例)、推荐位置(品牌出现在第几个位置、是否进入前 3)、引用率(回答是否引用官网或指定内容源)、正向语义率(品牌描述的正负中性)、答案覆盖率(目标主题是否被 AI 正确理解并覆盖)、来源多样性(官网、媒体、百科、问答、社媒、第三方评测的占比)、稳定性(同问题多次测试的结果波动)。第二层是质性指标:品牌定位是否准确、优势是否被表达、是否出现错误信息、是否被竞争对手压制、是否缺失关键业务场景。
这套拆法的关键动作,是给"可见性"和"业务价值"划了一条线。草稿里那句提醒我读了很多遍——GEO 监测要区分"出现了"和"被正确推荐",前者只是可见性,后者才接近业务价值。我自己搭的固定 50 题 GEO Benchmark 就是按这个逻辑落地的:题族分为 N/S/W/B/C/E/K,题集做 hash 固定,盲测防泄漏,另外设控制题且不计分。控制题不计分这一条,是防止基准被"刷"的关键设计——如果什么题都能加分,指标就失去了区分度。
二、结论是什么
指标本身的结论是分层可测。要落到具体条件上,我按自己实际跑的情况说:
品牌出现率回答的是"有没有",这是最低门槛,单看它没有决策价值。推荐位置回答的是"排到哪",前 3 位和非前 3 位是两种处境。引用率回答的是"内容源有没有被采纳",它和出现率经常不一致——品牌被提到但引用的是第三方评测,这是很常见的一种状态。正向语义率回答"说得好不好",稳定性的意义在于告诉你同一问题重复测多次,结果会不会飘。
质性指标那边没有数值,但每一项都能落到具体判断:"是否出现错误信息"是二值的,"是否被竞争对手压制"需要在同一题上对比多个品牌的位次。
成立条件我卡得比较死:题集必须固定并做 hash,否则前后两次没法比;多次测试的次数要够,否则稳定性无从谈起;控制题只用来校验,不参与计分。这些条件不满足,上面所有数字都只是对话记录,不是指标。
三、边界在哪里
第一,指标是观察量,不是因果证明。出现率上去了,不等于业务上去了,中间还隔着转化。
第二,口径不能有两套。我在自己的体系里明确记过一条:监测评估指标要和内容侧的指标体系合并口径,避免同一个词在两边指不同东西。现行 50 题的实现——题族划分、题集 hash、盲测防泄漏、控制题不计分——和这份草稿的设计需要逐条对照,记录差异。差异不记下来,两套说法就会各自生长。
第三,术语上有一个必须守住的区分。GEO 衡量的是品牌内容被模型引用的频率,这可以是指标之一,但不能替代实体正确性、推荐位次、来源质量和引用吸收度。多指标体系不是"多凑几个数",是防止单一数字被误读成结论。至于不同平台的具体机制差异、不同终端和版本下的基线,需要按平台分别建,不能用一个统一数字概括。
四、这改变了什么
最大的修正是把目标从"保证"改成了"机会提升"。
以前我会写"确保品牌内容被 AI 引用",现在这句话是错的。正确写法是分别记录召回推断、展示引用和答案吸收——三者是不同环节,可能一个成立另两个不成立。我在项目里踩过这个坑:某个案例品牌出现率做到很高,客户很高兴,但拆开看引用源全是第三方评测,官网一次没被引,正向语义率也只是中性。如果只报一个数字,这次沟通就成了误导。
第二个修正是指标和业务的对应关系。做 AI 品牌可见度报告时,我现在的做法是先分层再合并:出现率、推荐位置、引用率是基础层,正向语义率和答案覆盖率是质量层,来源多样性和稳定性是结构层。三层一起看,才能回答"这个品牌在 AI 眼里到底是什么状态"。单看任何一层,都会得出偏乐观或偏悲观的结论。
第三个修正,是控制题的意义被重新估了一遍。不计分的控制题看起来是浪费采样配额,实际上它决定了整个基准的可信度——如果控制题的表现也在动,说明变量没控住,那批数据就不能用。这个设计我是在采样器上做过对照之后才真正重视起来的。
回到最初那个问题:"你怎么证明有用?"现在我的回答是:我不证明有用,我给出一组可重复的观察量,让每一次变化都能被定位到是出现变了、位置变了、引用变了,还是稳定性和来源结构变了。定位清楚之后,业务判断才有地方落脚。这份指标草稿的价值不在它列了多少项,而在于它逼着人把"看起来不错"拆成"具体在哪一项上、在什么条件下、变了多少"。
—— 王涛(Taomir)