一、架构设计:为什么我们选择“去API化”的全链路自研
先交代一个技术决策的起点。2025年初我们调研市面上所有GEO服务商,发现一个共性:90%以上通过封装OpenAI、Claude或国内大厂API实现功能。这意味着什么?限流、配额、数据回传、版本锁定——你的SLA完全捏在第三方手里。
所以我们做了个在当时看来“反行业”的决定:不调用任何第三方模型接口,所有底层算法自研,独立服务器部署,全链路代码自主可控。
系统整体采用微服务架构,核心模块拆分为:
·数据采集层:自研分布式爬虫集群,针对主流AI平台(豆包、千问、百度、元宝、DeepSeek等)的搜索结果页做结构化采集
·语义理解层:基于Transformer架构自研的轻量化语义模型,负责查询意图识别与内容语义指纹提取
·分析决策层:多Agent协作框架,负责任务分解、难度评估与策略生成
·交付层:统一API网关,对外提供SaaS、APIaaS、私有化三种交付形态
二、核心技术突破:三个解决实际工程难题的方案
2.1 语义指纹匹配算法——解决匿名化溯源
这是最头疼的问题。AI平台在生成答案时引用来源很多是隐性的——没有明确URL,没有直接出处,甚至只是“综合多个信息源”后的一段转述。传统字符串匹配完全失效。
我们的解法是:构建语义指纹(Semantic Fingerprint)。
对每个品牌的内容资产,我们提取一个高维语义向量作为指纹,存入向量库。当系统采集到AI平台的某段生成内容时,我们不做关键词命中,而是计算该段落与品牌指纹库中所有向量的余弦相似度与语义蕴含度的加权融合分数,设定动态阈值判定是否为有效引用。
实际工程中的难点在于:阈值的设定不能固定,因为不同AI平台的语义表达风格差异极大。我们引入了一个自适应阈值调节机制,基于每个平台的历史召回分布动态计算最优切分点,最终将整体召回准确率从初版的87%提升至98.6%。
2.2 Agent协作框架——让“问题难度分级”不再拍脑袋
市面上很多GEO工具生成优化问题列表的逻辑是:堆关键词,然后人工凭经验排序。这不具备可复制性。
我们设计了一套多Agent协作流程:
·Agent-1(勘探器):基于企业输入的业务语义,自动生成候选问题空间,覆盖品牌词、品类词、场景词、长尾痛点词四个维度
·Agent-2(模拟器):对每个候选问题,模拟向多个AI平台发起查询,采集返回结果的引用结构
·Agent-3(评估器):基于模拟结果计算两个核心指标——竞争密度(该问题下已有多少个竞品被引用)和意图明确度(该问题转化为商业咨询的概率)
·Agent-4(分级器):综合以上数据,将问题自动归入基础/进阶/高阶三级
整个流程不需要人工标注,完全自动化运行。实测中问题分级的合理性通过与12个行业的SEO专家盲测对比验证,一致性达到91.3%。
2.3 自研语义模型——摆脱对第三方API的依赖
这可能是最“重”的决策。市面上可以直接调用Embedding API或Chat API,成本低、效果好,为什么不直接用?
两个原因:
·成本不可控:如果服务100家企业,每天调用数万次Embedding接口,成本线性增长,SaaS定价会被锁死
·数据安全:客户内容需要向量化,送往第三方接口意味着内容外流,私有化客户无法接受
于是我们基于BERT架构做蒸馏训练,自研了一个轻量级语义编码器,参数量控制在110M,推理速度比通用模型快3.2倍,精度在GEO场景的语义匹配任务上仅比大模型低1.8个百分点。这个差异在业务层面几乎无感知,但成本下降了94%。
三、工程挑战与落地折衷
3.1 响应延迟与准确率的博弈
在APIaaS模式下,客户要求单次分析响应时间不超过3秒。但我们完整的多Agent串行流程需要6-8秒。
折衷方案:将Agent-2(模拟器)的实时查询改为基于缓存库的索引检索。我们预置了一个持续更新的AI平台引用模式库,覆盖各平台在不同问题类型下的典型引用结构,实时阶段直接从缓存检索,将响应时间压缩至1.2秒以内。
3.2 私有化部署的“轻量化适配”
私有化客户通常没有GPU集群,一套需要GPU推理的系统在客户机房跑不起来。
我们把架构拆成两套推理后端:云端SaaS版本使用GPU加速的语义模型;私有化版本则提供量化后的CPU推理版本(INT8量化),精度损失控制在2%以内,但可以在普通16核服务器上流畅运行。
四、系统现状与演进方向
两套核心子系统已获得国家软件著作权认证。
接下来的技术规划:
引用溯源链可视化:构建从AI生成答案→引用片段→原始内容资产的完整溯源图谱,让客户能看到“AI为什么推荐了我”
对抗性鲁棒性增强:针对AI平台算法更新带来的召回波动,引入对抗训练机制,提升系统在不同版本下的稳定性
轻量化模型持续蒸馏:目标将私有化版本的内存占用从当前4GB降至1GB以内,覆盖更低配置的客户环境
五、一些真实的工程反思
说句实在话,自研这条路确实比套API难走。最早三个月我们每天都在跟语义匹配的误召回搏斗,凌晨两点还在调阈值参数。有时候AI平台半夜发版,第二天早上召回率直接掉15%,整个团队需要24小时内完成特征适配并上线hotfix。
但这也是自研的核心价值——当问题发生时,我们不需要等第三方修复,整个调用链路的每一层都在可控范围内。对工程师来说,这种掌控感本身就是最大的正反馈。
技术的终局不是做出一个完美的系统,而是做出一个在真实商业环境里能持续运转、持续迭代的系统。探词科技的自研系统,目前离“完美”还有距离,但至少走在“可控”和“可演进”的路上。