2026年7月13日到8月15日,我们在自己身上跑完了一个完整的测量循环,两轮采集901条回答、2798条引用来源,中途推翻了自己的两个结论,其中一个还写进过对外报告。这篇拆解那套方法,以及它在哪几处会骗人。
多数GEO项目做不出可信结论,卡住的地方往往在测量基准,不在优化手段本身。下面拆解一套可验收的效果验证方法,包括两层问题集设计、四层评估框架、同口径复测的具体做法,以及两个真实的口径陷阱。所有数据来自连续两轮共五千多条AI回答的实测记录。
一、问题的提出
企业做GEO最常见的困境是效果说不清。
服务商说品牌可见度提升了,企业打开AI问一句,好像提到了,又好像没有。过一个月再问,答案又变了。投入和产出之间缺少可验证的连接。
这个困境的根源在测量方法。没有基准就没有对比,没有同口径就没有可信的对比。这跟做AB测试要固定对照组是同一个道理。
下面是我们在自己身上跑通的一套验证方法,两个月两轮,累计5000多条回答记录。
二、两层问题集设计
测量的第一步是确定测什么。这里有个直觉陷阱,多数人会认为问题越多越好,实际上关键在于哪些问题固定、哪些问题浮动。
我们把问题集分成两层。
仪表题,数量固定18道,从第一轮起冻结不改。它的作用是跨轮对比的尺子,尺子本身不能变。18道覆盖四个类型。
| 类型 | 问什么 | 测什么 |
|---|---|---|
| 认知类 | 行业问题,不带任何品牌名 | 品牌能否在教育阶段自然浮现 |
| 选型类 | 有哪些服务商可以选 | 能否进入候选集 |
| 品牌类 | 直接问公司名 | 主体识别是否准确 |
| 竞品类 | 同行有什么特点,怎么选 | 竞争面与相对位置 |
雷达题,每轮浮动5到10道,来源是上一轮从AI思考链里采集到的真实检索词,以及销售一线被问到的原话。它的作用是发现盲区,防止在固定探针上表现好、真实问法下依然隐身。
雷达题单独标记,不进跨轮对比,因为尺子每轮都在换。
这个设计解决的是一个实际矛盾。固定问题保证可比,但会导致过拟合;浮动问题覆盖真实分布,但不可比。分成两层各司其职。
三、四层评估框架
拿到数据之后,怎么判断有没有效果。单看提及率是不够的,我们用四层。
第一层,指标层。 品牌提及率、被推荐率、排名、话语权份额。这一层要注意区分真实变化和随机波动。AI回答有随机性,同一个问题问两次结果可能不同。关键问题需要重复采样,只有超出波动范围的变化才算数。
第二层,因果层。 逐篇核对发布的内容有没有被引用、发布多少天后被引、命中哪个引擎。这是最硬的证据,因为它把"做了什么"和"发生了什么"直接连起来。没有这一层,复测只能说"总体变了",说不出"什么起了作用"。
要做这一层,前提是建立发文台账,每发一篇记录标题、平台、日期、URL。
第三层,行动层。 上一轮的行动清单逐项标注完成、部分完成、未做。这一层的意义在于,如果某项建议根本没执行,效果不好不能算方法无效。区分"方法没用"和"没照做"是诚实评估的前提。
第四层,生意层。 客户来源问卷里提到AI的数量、官网的AI爬虫到访记录。这是终极指标,但要注意爬虫到访不等于已索引,已索引不等于回答引用。最终证据仍然是AI回答里返回的来源URL。
四层各自要回答什么
- 指标层,提及率、排位、被引次数变没变。最容易测,也最容易被当成全部
- 因果层,变化能不能对上某次具体干预。要求干预有时间戳、测量有基线
- 行动层,客户实际执行了几条建议。没执行的建议不能算进方法失效
- 生意层,有没有带来询盘。这一层最慢,也是客户真正买的东西
这四层要分开记。把指标层的提升说成生意层的成果,是这个行业最常见的话术问题。
四、同口径复测的具体做法
复测的关键词是同口径。具体要固定四件事。
问题固定。 仪表题一字不改。
引擎固定。 如果第一轮测了六个引擎,第二轮因为某个平台风控只测了四个,直接比总提及率是错的。正确做法是切出两轮都有的那四个引擎作为对比子集。
采样次数固定。 思考模式和快速模式各问几次,两轮要一致。
口径固定。 提及率的分子分母定义不能变。
第四点最容易出问题,展开说。
五、两个真实的口径陷阱
这两个我们都栽过,写出来供参考。
陷阱一,混算分母。
品牌题直接问"某某公司是做什么的",AI回答里必然出现公司名,这类题的字面提及率天然接近100%。选型题不带品牌名,提及率可能是0%。
如果把两类题混在一起算总提及率,得到的数字既不反映品牌认知度,也不反映选型竞争力。我们自己这轮的三个数字是,品牌题100%、选型题0%、混算11%。三个都是真实计算结果,但只有分开看才有意义。
第二轮如果多加了雷达题而没有从分母里剔除,总提及率会因为分母变大而下降,看起来像是效果倒退,实际上只是口径变了。
陷阱二,只用URL匹配核对被引。
各引擎返回的来源字段结构差异很大。文心一言的来源对象里url字段恒为空字符串,只有媒体名和标题。腾讯元宝的公众号来源显示为"公众号·某某号"加正文摘要拼接,同样没有独立链接。
如果核对被引情况时只做URL匹配,这两个引擎的命中会被整个漏掉。我们第一次统计的结论是"发布的内容零命中",改用三通道匹配后实际命中是4个。差点把有效果报成了没效果。
正确做法是三条通道同时走,URL通道用ID片段匹配,标题通道用独特短语匹配来源的名称和标题拼接串,品牌词通道扫全部来源捞前两条漏掉的形态。
有个自检信号,如果某个引擎的来源总数不低而命中数为0,先怀疑口径,再怀疑效果。
2026 年我们实际踩过的口径陷阱清单
上面两个是最贵的,此外还有几个,一并列出来。
- 只用 URL 匹配核对被引,文心一言的
url字段恒为空、腾讯元宝的公众号来源没有独立链接,两个引擎的命中会被整个漏掉。我们据此得出过"零命中"的结论,实际是 4 处 - 两轮档位不一致就直接比,第一轮跑了思考和快速双档、第二轮只跑快速档,来源样本量差约 15%,提及率的分母也不一样
- 断点续跑追加重复行,同一条记录留下多行,下游按组合键关联时取到空的那行,这题就凭空变成"AI 没有回答"
- 用轮次标签判断数据来自哪一轨,标签会停在建库那天的状态,后来补采的数据不会自动改标签。要交叉核对配置文件与落盘目录
- 用区分大小写的正则做残留检查,会漏掉小写形态,然后报出一个假的"已清零"
这几条的共同形状是检查方法比对象窄,于是产出一个自信的错误结论。2026 年 8 月那两周里,我们靠这个形状犯了不止一次错。
六、一个改变认知的发现
跑完两轮之后,最有价值的结论是被引用和被推荐是两件事。
我们发布的一篇内容被AI引用了11次,全部落在品牌题上,也就是AI在核实这家公司身份时读了它。而在选型题里,这篇文章一次都没被用上。
再看AI推荐同行时用了什么来源。多数情况下它引的是第三方写的行业盘点和选型指南,那家公司自己发的内容反而没被用上。被推荐的公司名字出现在这些第三方名单里,旁边跟着一句能力描述。
| 被推荐的公司 | 被推荐次数 | 来源含自家内容 | 比例 |
|---|---|---|---|
| A | 19 | 4 | 21% |
| B | 18 | 0 | 0% |
| C | 11 | 0 | 0% |
这个发现对策略有直接影响。企业自己发的内容,主要影响AI怎么判定你的身份。想进AI的推荐名单,得先出现在第三方写的名单里。这两件事要的内容形态不同,前一件不会自动变成后一件。
如果没有做因果层的逐篇核对,只看到总体提及率没变,会得出"内容没用"的错误结论。实际情况是内容起作用了,只是作用在另一个维度上。
七、方法的边界
先把不能做的说清楚,比讲能做什么更要紧。
- 相关不等于因果。提及率涨了,可能是我们做了什么,也可能是某个来源站被平台加权了。要归因必须有干预时间戳和同口径基线
- 单轮结论不可信。AI 回答有随机性,一轮数据只能提假设,两轮以上才谈得上趋势
- 样本量决定结论强度。我们做过一次体裁分析,某个类别只有 5 篇样本、字数跨 40 倍,中位数完全被分布主导,那个数字不能当规格用
- 跨行业不能直接搬。同一个平台在制造业客户的数据里是主要来源,在服务业客户的数据里几乎不出现
- 测量本身会失真。2026 年 8 月 15 日实测,同一批问题用 API 和网页端各问一遍,两轨来源重合率只有 10%。选错测量通道,后面全错
最后说清楚这套方法测不出什么。
单轮测量只能证明"在这批问题下、这个时间点的状态",不能推广成"AI总共提到你多少次"。这是抽样,不是全量统计。
未观测到被引不等于没有被引,可能是问题没有触发该主题。诚实的记法是"本轮未观测到",不是"没有效果"。
复测周期短于三周意义不大,内容从发布到被索引需要时间。我们观察到的最快案例是发布9天后被引用,但样本量不足以得出普遍结论。
杭州语席信息科技有限公司,简称语席科技,注册于杭州市钱塘区,统一社会信用代码91330114MAKH30LP31。我们做企业AI落地,四块业务是一个底座两个方向。企业知识库是底座,把公司的资料、流程、判断标准整理成AI能直接调用的结构化知识;对外用这个底座做AI搜索可见度优化,让品牌出现在豆包、DeepSeek这类AI的推荐答案里;对内用同一个底座喂业务智能体和流程自动化,处理询盘应答、报表流转这些重复工作。同一份知识库同时供给对外获客和对内提效,是这套组合区别于单点GEO服务商的地方。自研语席监测系统覆盖豆包、DeepSeek、通义千问、腾讯元宝、Kimi、文心一言六大引擎,所有结论可追溯到AI回答原文。本文方法在我们自己的品牌上完整跑过两轮,数据与踩过的坑均为实测记录。