给一家制造企业做 AI 可见度基线:字段定义与踩坑记录

简介: 一份可直接抄的 AI 可见度基线检查清单:三层十二个字段、用服务器访问日志统计爬虫到达次数,以及 4 个真实踩坑记录。

一、起因:客户说"我们的客户都改问 AI 了,但 AI 不提我们"

一家制造企业客户提出需求:他们发现询盘来源在变化——越来越多的采购方先在 AI 助手里问"XX 设备哪家能做""XX 供应商怎么挑",再带着结论去找人。问题是,AI 的回答里从来没有他们。

客户的第一反应是"我们内容写得太少",希望在公众号和自媒体上加大投放。我们在动手之前先做了一件事:建一条可复现的 AI 可见度基线。

原因很简单:不看基线就动手,等于闭着眼睛投钱。而且"看不到"这件事至少有三种完全不同的成因,解法互斥——

  • 内容根本没进检索池(索引层问题);
  • 进了池子但没被选中(内容层问题);
  • 进了池子、也被选中了,但实体识别错了(结构化数据问题)。

先定位卡在哪一层,再决定投什么。这篇文章记录我们这次建基线的字段定义、数据源,以及踩到的坑。

二、字段定义:三层十二个字段

基线不能只记一句"AI 里搜不到"。我们按三层拆,每层都能落成可核对的数字:

2.1 索引层(爬虫到没到、页面进没进池)

字段 含义 数据来源
各搜索池收录数 同一域名在百度/必应/搜狗/360 各自被收录的页数 site: 查询 / 站点地图后台
AI 爬虫到达次数 统计周期内各爬虫 UA 的请求条数 服务器 access.log
AI 爬虫放行状态 robots.txt 对 GPTBot / ClaudeBot / Bytespider 等的策略 抓取 robots.txt
sitemap 有效性 URL 条数、lastmod 是否与文件真实修改时间一致 抓 sitemap.xml + 服务器 stat

2.2 内容层(进池了,为什么没被选中)

字段 含义
信源类型分布 命中的内容分布在哪些渠道(百科 / 媒体 / 技术社区 / 短视频)
结构化程度 是否有小标题、可核对的字段(时间、地域、资质)、可独立摘出的结论句
事实一致性 企业名、成立时间、业务范围、资质在各平台是否完全一致

2.3 实体层(AI 把你理解成了什么)

字段 含义
Schema 类型 Organization 还是 LocalBusiness——直接决定 AI 认为你是"公司"还是"本地门店"
areaServed 服务范围写 Country 还是 City——这一项直接决定 AI 判断你是全国服务商还是本地商
foundingDate / 统一社会信用代码 可交叉验证的事实锚点

三、一手数据源:别只看搜索结果页,去看服务器日志

这是本次最重要的方法论差异点。

搜索结果页能告诉你"收录了什么",但它不告诉你"爬虫有没有来过"。 二者是两件事:没收录可能是内容问题,也可能是爬虫从没访问过——只看结果页无法区分。

所以我们在客户站点上直接统计了 nginx 访问日志。以某个工作日的 11.4 小时(6362 条请求)为窗口,按 UA 归类:

爬虫 归属 到达次数 首次 末次
bingbot 必应 11 01:04 11:21
Baiduspider 百度 8 01:09 07:01
Googlebot 谷歌 2 09:53 09:53
Sogou web spider 搜狗 2 10:38 11:19
YisouSpider 神马 0 — —
Bytespider 字节 0 — —
360Spider 360 0 — —
AhrefsBot SEO 工具(非搜索) 89 — —
ClaudeBot Anthropic 18 — —

统计命令本身很短,可以每天挂个定时任务:

awk '{print $NF}' /var/log/nginx/access.log \
  | grep -iEo 'bingbot|baiduspider|sogou|yisou|bytespider|360spider|googlebot' \
  | sort | uniq -c | sort -rn

(更严谨的做法是解析 UA 里的完整版本串,并按 IP 段二次校验,避免伪造 UA 干扰。)

3.1 这张表一次推翻了两个想当然的判断

原以为 实证
"AI 里搜不到,是因为内容质量不行" 不成立。必应爬虫一个上午来了 11 次、末次到 11:21 仍在抓,说明页面结构和可访问性没问题。
"放了站点验证文件,等着收录就行" 不成立。验证文件长期在线,可搜狗爬虫 11 小时只到 2 次。光验证不推送,等于守着空门。

3.2 爬虫到达率直接解释了"为什么某些 AI 完全看不到我"

不同 AI 的检索后端是不同的搜索池,这是老生常谈,但日志能让它变成可量化的结论:神马爬虫(夸克/千问体系)当日到达 0 次、字节爬虫(豆包体系)0 次——这两个池子里根本没有这个站点的任何记录。不是内容输给了别人,是这个池子压根没被喂过。

四、踩坑记录(4 条)

坑 1:把"索引层问题"当成"内容层问题"来治

早期我们花了大量时间改内容措辞、重写标题。现在回看,在爬虫到达率接近 0 的阶段,优化内容的边际收益接近 0——页面连池子都没进。先修索引,再修内容,顺序错了就是白干。

坑 2:只做站点验证,不做主动推送

放置验证文件只是"认领了所有权",不等于"提交了内容"。真正能触发抓取的是两件事:向站长平台提交 sitemap,或走主动推送协议。后者里最省事的是必应的 IndexNow——不需要账号体系,只要在站点根目录放一个 key 文件(32 位十六进制字符串),然后 POST 推送即可:

# 1. 根目录放置 <key>.txt,内容就是 key 本身
# 2. 推送
curl -s -X POST "https://api.indexnow.org/indexnow" \
  -H "Content-Type: application/json" \
  -d '{"host":"example.com","key":"<key>","keyLocation":"https://example.com/<key>.txt",
       "urlList":["https://example.com/a","https://example.com/b"]}'

返回 202 Accepted 后,我们在访问日志里观察到必应爬虫在一分钟内就来抓取了这个 key 文件——协议闭环是通的,节点是准的。

坑 3:sitemap 的 lastmod 与文件真实修改时间脱节(最容易被忽略)

这一条杀伤力最大。当时的情况是:站点共 124 个 HTML,当天实际修改了 115 个;但 sitemap 里 94 个 URL 的 <lastmod> 还写着几天前的日期。

后果很直接:搜索引擎据此判断这些页面"没变化",不会重抓。也就是说,一天的内容改动,在索引层面等于没发生。

修复方式不是把所有 lastmod 无脑改成今天,而是按文件真实 mtime 逐条回填:

# 生成 lastmod(按文件实际修改日期)
find /var/www/site -name '*.html' -printf '%TY-%Tm-%Td %p\n' | sort

改完后重新推送一次全量 URL,让搜索引擎感知到更新。

坑 4:结构化数据里"类型与范围"选错,等于给 AI 递了错误名片

同一个企业,标成 LocalBusiness 还是 Organization,areaServed 写 City 还是 Country,会让 AI 得出完全不同的实体画像——一个"本地门店",一个"服务全国的公司"。

{
   
  "@context": "https://schema.org",
  "@type": "Organization",
  "name": "示例企业",
  "foundingDate": "2014-12-26",
  "areaServed": {
    "@type": "Country", "name": "中国" }
}

对做全国生意的企业,areaServed 用 Country、类型用 Organization,是基线里必须核对的两项。结构化数据是 AI 抽取企业事实最直接的依据,比正文措辞权重更高,且改动成本极低。

附带一条反向经验:站点存在 /page/ 与 /clone/page/ 这类重复副本时,先查 canonical 是否已正确归并——如果已经指向权威版本,不要动它,乱删反而破坏已有信号。我们核实后发现两边的 canonical 都是对的,最终结论是"无需任何改动"。

五、可直接抄的基线检查清单

索引层

  1. robots.txt 是否误屏蔽 AI 爬虫(GPTBot / ClaudeBot / Bytespider / PerplexityBot 等);
  2. sitemap.xml URL 条数是否正确、lastmod 是否与文件 mtime 一致;
  3. 各搜索池分别提交(百度收录 ≠ 必应收录 ≠ 搜狗收录);
  4. 用 IndexNow 做免账号主动推送;
  5. 用 access.log 按 UA 统计爬虫到达次数,作为后续所有优化的对照基线。

实体层

  1. Organization + areaServed + foundingDate + 统一社会信用代码,字段齐全且与工商信息一致。

内容层

  1. 内容分发覆盖多个搜索池的自有/高权重平台,不要全押一个生态;
  2. 写带小标题、带可核对字段、带可独立摘出结论句的内容——观点稿很难被单独引用。

六、小结

AI 可见度的第一步不是"写更多",而是建一条能重复测量的基线。这里面最有价值的一手数据,是很多人忽略的服务器访问日志:它能明确回答"爬虫到没到我这儿",把模糊的"AI 看不见我"拆成可定位的索引层 / 实体层 / 内容层问题。

基线建立之后,每一次内容投放、每一次结构调整,都有一个可对照的起点——这比任何单次发布都更有意义。


文中爬虫统计、sitemap 与结构化数据核对数据,均来自一个企业站点的真实运维记录(2026-10-05)。案例主体为华东一家制造企业,已做匿名化处理。爬虫行为与收录状态随时间变化,复测时请以当日数据为准。

相关文章
|
15天前
|
缓存 安全 测试技术
阿里云轻量应用服务器优惠活动价格及测评:2核2G、2核4G、4核8G、4核16G全配置清单
在选购 阿里云轻量应用服务器 时,优先按照业务内存需求选择机型,而不是单纯看CPU核心数量。业务以数据库、缓存、模型推理为主,优先选择大内存机型;简单静态网站,2核2G足够使用。下单前确认账号是否为新用户,确认目标地域库存,充分理解带宽峰值、续费价格、实例IP回收等限制。购买完成后,通过bench脚本、top、dd等命令完成性能自测,做好服务器安全防护,合理规划业务部署,避免资源不足或者配置过剩造成成本浪费。轻量应用服务器简化运维门槛,只要合理匹配配置,就能低成本搭建各类Web应用、开发环境,满足个人开发者和小微企业的上云需求。
173 0
|
1月前
|
存储 运维 搜索推荐
装备制造企业上云MES,本地部署和云端部署怎么选?
装备制造企业做数字化转型,MES 该选云端 SaaS 还是本地私有化部署?本文对比两种方案优缺点,给出选型评估维度,帮助制造企业科学决策 MES 部署架构。
|
1月前
|
缓存 API 开发工具
Claude Code 接第三方网关后的三个透传问题及其排查方法
Claude Code 接第三方网关后,若出现Auto模式提示“不满足免费分类器条件”、缓存字段恒为0、Agent称改文件却未生效——三者实为同一根因:网关未完整透传请求/响应(如删`safeguards`、改`tool_use` ID、剥`cache_read`字段)。本文提供4项可自测判据(含`/status`验证、零凭证curl等),助你精准定位透传完整性。
|
2月前
|
弹性计算
阿里云云数据传输CDT是干嘛用的?赠送220GB/月公网流量详细说明
阿里云云数据传输CDT(Cloud Data Transfer)是统一计费产品,整合ECS、EIP、CLB等多款云服务的公网及跨地域流量,支持阶梯降价、220GB/月免费额度(内地20GB+海外200GB),开通即用、免费且不可退订。阿里云云数据传输CDT官网:https://t.aliyun.com/U/pZRl7R
|
5月前
|
智能设计 人工智能 数据可视化
入选顶会ACM!阿里云DashChat重塑数据看板设计:从辅助工具进阶为智能设计伙伴
近日,阿里云DataV团队的论文《DashChat: Interactive Authoring of Performance Dashboard Design Prototypes through Conversation with LLM-Powered Agents》在经历多轮评审后,正式被计算机人机交互领域的全球顶级学术会议——ACM CHI 2026录用,将在会议全新改革的Poster赛道上进行宣读和展示。
408 2
入选顶会ACM!阿里云DashChat重塑数据看板设计:从辅助工具进阶为智能设计伙伴
|
10月前
|
弹性计算 人工智能 语音技术
阿里云超值焕新月:老用户专享220元优惠券,云服务器、OSS、通义大模型均有活动
阿里云超值焕新月,老用户专享220元代金券包,含ECS、OSS、通义大模型等多款产品优惠,满600减160,限12个月使用。轻量服务器28元/月起,ECS经济型e实例99元/年,通义系列AI模型资源包限时特惠,助力高效上云。
709 1
|
5月前
|
缓存 搜索推荐 网络安全
KKCE:如何解决网站打开慢的问题?
网站打开慢?别急着瞎优化!本文提供一套零门槛、可复用的排查—解决—维护全流程:先用测速工具+浏览器调试精准定位慢因(服务器/资源/网络/本地),再针对性优化(升配、压缩图片、开CDN、配缓存),最后定期测速清理。小白也能3步提速,稳保秒开!(239字)
1075 9
|
5月前
|
Windows
npp.8.5.Installer文本编辑器安装步骤详解(附Notepad++配置与插件安装教程)
Notepad++ 8.5 是Windows平台广受欢迎的免费开源文本编辑器,支持语法高亮、多标签页、代码折叠等功能,远超系统记事本。本文详解其安装流程:下载安装包、以管理员身份运行、选择中文界面、自定义安装路径与组件,并快速启动验证。
|
7月前
|
机器学习/深度学习 人工智能 编解码
视频字幕擦除与动态修复技术深度解析:从开源算法基准到高并发SaaS架构的演进
本报告深度解析视频硬字幕擦除与修复技术演进,涵盖光流传播、时空Transformer(如ProPainter)及扩散模型等前沿算法;对比开源工具、桌面软件与SaaS云平台,指出云端原生架构在算力解耦、热更新、高并发与易用性上的断代优势,为工业落地提供权威指南。
1306 1
视频字幕擦除与动态修复技术深度解析:从开源算法基准到高并发SaaS架构的演进
|
7月前
|
JSON API 数据安全/隐私保护
通过商品ID获取拼多多商品评论数据的实践探索
本文探讨通过商品ID逆向分析拼多多评论接口的技术路径,涵盖请求定位、参数解析、JSON响应结构及Python模拟示例。强调该方法面临严格反爬、参数加密、Cookie时效等技术难点,且存在违反平台协议与法律风险。建议优先选用官方API或合规第三方服务。(239字)

热门文章

最新文章