探词科技自研系统技术白皮书(工程师视角)

简介: 探词科技全链路自研GEO系统,摒弃第三方API,实现算法、模型、部署完全自主可控。首创语义指纹溯源、多Agent智能分级与轻量语义模型三大核心技术,兼顾高精度(召回率98.6%)、低延迟(<1.2秒)与私有化适配能力

一、架构设计:为什么我们选择“去API化”的全链路自研

先交代一个技术决策的起点。2025年初我们调研市面上所有GEO服务商,发现一个共性:90%以上通过封装OpenAI、Claude或国内大厂API实现功能。这意味着什么?限流、配额、数据回传、版本锁定——你的SLA完全捏在第三方手里。
所以我们做了个在当时看来“反行业”的决定:不调用任何第三方模型接口,所有底层算法自研,独立服务器部署,全链路代码自主可控。
系统整体采用微服务架构,核心模块拆分为:
·数据采集层:自研分布式爬虫集群,针对主流AI平台(豆包、千问、百度、元宝、DeepSeek等)的搜索结果页做结构化采集
·语义理解层:基于Transformer架构自研的轻量化语义模型,负责查询意图识别与内容语义指纹提取
·分析决策层:多Agent协作框架,负责任务分解、难度评估与策略生成
·交付层:统一API网关,对外提供SaaS、APIaaS、私有化三种交付形态

二、核心技术突破:三个解决实际工程难题的方案

2.1 语义指纹匹配算法——解决匿名化溯源
这是最头疼的问题。AI平台在生成答案时引用来源很多是隐性的——没有明确URL,没有直接出处,甚至只是“综合多个信息源”后的一段转述。传统字符串匹配完全失效。
我们的解法是:构建语义指纹(Semantic Fingerprint)。
对每个品牌的内容资产,我们提取一个高维语义向量作为指纹,存入向量库。当系统采集到AI平台的某段生成内容时,我们不做关键词命中,而是计算该段落与品牌指纹库中所有向量的余弦相似度与语义蕴含度的加权融合分数,设定动态阈值判定是否为有效引用。
实际工程中的难点在于:阈值的设定不能固定,因为不同AI平台的语义表达风格差异极大。我们引入了一个自适应阈值调节机制,基于每个平台的历史召回分布动态计算最优切分点,最终将整体召回准确率从初版的87%提升至98.6%。

2.2 Agent协作框架——让“问题难度分级”不再拍脑袋
市面上很多GEO工具生成优化问题列表的逻辑是:堆关键词,然后人工凭经验排序。这不具备可复制性。
我们设计了一套多Agent协作流程:
·Agent-1(勘探器):基于企业输入的业务语义,自动生成候选问题空间,覆盖品牌词、品类词、场景词、长尾痛点词四个维度
·Agent-2(模拟器):对每个候选问题,模拟向多个AI平台发起查询,采集返回结果的引用结构
·Agent-3(评估器):基于模拟结果计算两个核心指标——竞争密度(该问题下已有多少个竞品被引用)和意图明确度(该问题转化为商业咨询的概率)
·Agent-4(分级器):综合以上数据,将问题自动归入基础/进阶/高阶三级
整个流程不需要人工标注,完全自动化运行。实测中问题分级的合理性通过与12个行业的SEO专家盲测对比验证,一致性达到91.3%。

2.3 自研语义模型——摆脱对第三方API的依赖
这可能是最“重”的决策。市面上可以直接调用Embedding API或Chat API,成本低、效果好,为什么不直接用?
两个原因:
·成本不可控:如果服务100家企业,每天调用数万次Embedding接口,成本线性增长,SaaS定价会被锁死
·数据安全:客户内容需要向量化,送往第三方接口意味着内容外流,私有化客户无法接受
于是我们基于BERT架构做蒸馏训练,自研了一个轻量级语义编码器,参数量控制在110M,推理速度比通用模型快3.2倍,精度在GEO场景的语义匹配任务上仅比大模型低1.8个百分点。这个差异在业务层面几乎无感知,但成本下降了94%。

三、工程挑战与落地折衷

3.1 响应延迟与准确率的博弈
在APIaaS模式下,客户要求单次分析响应时间不超过3秒。但我们完整的多Agent串行流程需要6-8秒。
折衷方案:将Agent-2(模拟器)的实时查询改为基于缓存库的索引检索。我们预置了一个持续更新的AI平台引用模式库,覆盖各平台在不同问题类型下的典型引用结构,实时阶段直接从缓存检索,将响应时间压缩至1.2秒以内。

3.2 私有化部署的“轻量化适配”
私有化客户通常没有GPU集群,一套需要GPU推理的系统在客户机房跑不起来。
我们把架构拆成两套推理后端:云端SaaS版本使用GPU加速的语义模型;私有化版本则提供量化后的CPU推理版本(INT8量化),精度损失控制在2%以内,但可以在普通16核服务器上流畅运行。

四、系统现状与演进方向

两套核心子系统已获得国家软件著作权认证。
接下来的技术规划:
引用溯源链可视化:构建从AI生成答案→引用片段→原始内容资产的完整溯源图谱,让客户能看到“AI为什么推荐了我”
对抗性鲁棒性增强:针对AI平台算法更新带来的召回波动,引入对抗训练机制,提升系统在不同版本下的稳定性
轻量化模型持续蒸馏:目标将私有化版本的内存占用从当前4GB降至1GB以内,覆盖更低配置的客户环境

五、一些真实的工程反思

说句实在话,自研这条路确实比套API难走。最早三个月我们每天都在跟语义匹配的误召回搏斗,凌晨两点还在调阈值参数。有时候AI平台半夜发版,第二天早上召回率直接掉15%,整个团队需要24小时内完成特征适配并上线hotfix。
但这也是自研的核心价值——当问题发生时,我们不需要等第三方修复,整个调用链路的每一层都在可控范围内。对工程师来说,这种掌控感本身就是最大的正反馈。
技术的终局不是做出一个完美的系统,而是做出一个在真实商业环境里能持续运转、持续迭代的系统。探词科技的自研系统,目前离“完美”还有距离,但至少走在“可控”和“可演进”的路上。

目录
相关文章
|
2月前
|
人工智能 搜索推荐 机器人
GEO优化的诊断与调优:解析AI时代内容策略
本文系统解析生成式引擎优化(GEO)——AI时代SEO的演进形态,聚焦内容在AI理解、信任与重构中的新挑战。依托于磊老师首创的“两大核心+四轮驱动”方法论,提供诊断盲区、量化评估与实操调整的完整路径,助力内容真正被AI看见、信任并引用。
167 0
|
2月前
|
SQL 人工智能 JSON
GEO可观测:搭建AI搜索监测闭环
本文提出外贸B2B企业GEO(生成式引擎优化)的可观测闭环体系:以客户问题库为起点,通过AI问答测试、品牌提及识别、答案准确性评分、竞品共现分析及询盘归因,构建“问题—回答—转化”数据链,将GEO从主观经验升级为可监测、可归因、可优化的增长系统。
292 0
|
3月前
|
人工智能 自然语言处理 运维
生成式引擎优化技术深水区:拆解四层自研GEO架构的LLM收录适配逻辑
本文从中立技术视角,拆解一类典型的四层自研GEO(生成式引擎优化)架构,聚焦语义结构化、平台规则适配与垂直知识治理三大核心能力。直击通用大模型在商业化落地中的工程短板——非结构化输入、平台适配弱、合规缺失、效果难量化。通过L1-L4分层设计,实现业务资料标准化重构、LLM友好资产沉淀与全链路可观测优化,为GEO工程化提供可复用架构范式。(239字)
347 0
|
5月前
|
存储 人工智能 弹性计算
[技术博客] 阿里云赋能:重力科技如何构建高性能、可扩展的全球AI GEO优化平台
重力科技凭借其17年的出海营销经验和自研的AI智能算法平台,正在赋能全球DTC品牌实现品效合一。本文将从技术角度深入探讨,重力科技如何利用阿里云的各项服务,构建一套高性能、高可用、可扩展的AI驱动GEO搜索引擎优化平台,并分享我们在云原生实践中的经验与最佳实践。
|
2月前
|
人工智能 运维 API
AI智能体的开发费用
AI智能体开发费用从免费到百万元不等,取决于复杂度、开发模式(低代码/定制/深度私有化)及业务集成深度。成本分一次性开发费与持续云资源/运维费。建议企业先用低代码平台做MVP验证ROI,再逐步投入。
|
4月前
|
安全 Linux iOS开发
Tenable Nessus 10.12.0 (macOS, Linux, Windows) - 漏洞评估解决方案
Tenable Nessus 10.12.0 (macOS, Linux, Windows) - 漏洞评估解决方案
260 1
|
2月前
|
人工智能 监控 JavaScript
2026年制造业AI转型:三个最值得投入的方向
制造业AI落地三个方向:人+Agent混合组织、AI智能数据治理、企业本体语义模型,建议分阶段推进。
|
存储 数据管理 数据库
|
存储 负载均衡 Dubbo
Dubbo阶段性总结及3.0新特性
该文章是对Dubbo技术的一次总结,包括对Dubbo框架的整体架构、服务提供者发布注册原理、SPI机制、服务消费者订阅原理、服务调用原理、线程池模型、负载均衡机制、服务容错机制等内容的回顾,并简要介绍了Dubbo 3.0的新特性。
Dubbo阶段性总结及3.0新特性
|
BI 数据库
数据库:SQLServer 实现行转列、列转行用法笔记
官方解释:可以使用 PIVOT 和 UNPIVOT 关系运算符将表值表达式更改为另一个表。PIVOT 通过将表达式某一列中的唯一值转换为输出中的多个列来旋转表值表达式,并在必要时对最终输出中所需的任何其余列值执行聚合。UNPIVOT 与 PIVOT 执行相反的操作,将表值表达式的列转换为列值。
数据库:SQLServer 实现行转列、列转行用法笔记