只给 Agent 一个 search 入口:Context Engine 在背后做的取舍

简介: Context Engine 为 Agent 提供统一 search 接口,内部融合向量、全文与图检索,屏蔽底层复杂性;兼顾相关性与有效性过滤,支持渐进式披露、多轮迭代与后台资产治理,兼顾召回精度与系统可维护性。

设计 Context Engine 的对外接口时,我们讨论最久的问题是:Agent 应该看到几种检索方式。


底层可选的东西很多。语义相似要靠向量检索,产品名、字段名、错误码要靠全文检索,对象之间的归属和依赖要靠图查询;原始文件放在对象存储里,来源、权限、版本和生命周期记在元数据库里。如果把这些能力逐一暴露成工具,Agent 每次都要先判断用哪一种、参数怎么配、结果怎么合并,提示词里也得塞进一段检索策略说明。


讨论的结论是只给 Agent 一个 search 入口,把向量、全文和图检索之间的差异屏蔽在引擎内部。这个决定让接入变得简单,代价是出问题时更难看清内部发生了什么。下面按一次召回的顺序往下讲,末尾一节回到这个代价,说说排查时现在能用上什么。

为什么没有把检索策略交给 Agent

另一种设计是把向量、全文、图三种检索分别做成工具,由 Agent 根据任务自行选择和组合。支持这种做法的理由是 Agent 最了解当前任务,理应由它决定怎么查。


我们没有这样做。最先碰到的障碍是索引知识:选哪种检索,取决于哪些内容建了图、哪些字段适合精确匹配、某个知识库怎么分块。Agent 不掌握这些。要让它掌握,就得把大量索引细节写进提示词,这些说明本身又要占上下文预算。


过滤也是个问题。权限和有效性过滤必须在每一路检索上一致执行,如果 Agent 能直接调用某一路底层检索,过滤逻辑就得在每个工具里各实现一遍,漏掉一处,就多一条绕开治理的路。另外,一键接入、MCP 和原生 API 背后共用同一套上下文服务,入口越简单,几种接入方式的行为越容易保持一致。


单一入口也不等于只能查一次。我们支持 Agentic 多轮迭代检索,Agent 可以根据上一轮的结果调整问题继续追问,只是每一轮仍然走同一个入口,组合与过滤由引擎完成。

引擎负责的两件事

Context Engine 做两件事。第一件是检索与组合:接到 Agent 的请求后,从 Knowledge、Memory、Skill 三类资产中找出相关内容,组织成可以交给模型的上下文,并附上来源引用。第二件是后台加工:数据写进来之后,通过后台任务持续整理,比如解决记忆之间的冲突、替换已经被取代的旧知识,让资产在引擎内部持续流转,避免写入后原地堆积。


支撑这两件事的是一套多模存储,包括行存、列存、向量、图和对象存储。检索链路用到其中三种索引,对象存储保存原始文件,元数据库描述每条内容"能不能用"。这样分工的理由很直接:判断内容是否相关和判断内容是否有效,依赖的信息完全不同,前者在索引里,后者在元数据里。

三种查询各管一类问题

向量检索回答"哪些内容语义上接近"。用户提问时没有用资料里的原词,或者经验本身是以自然语言记录的,向量检索能把召回范围扩大到同义表达。它的局限是语义接近不等于业务上适用,也不保证命中的是有效版本。


全文检索回答"哪些内容明确包含这个词"。产品名、字段名、编号、错误码和固定术语需要精确匹配。只用向量召回,形式相近的标识容易混在一起;只用全文检索,又会漏掉换了说法的同一含义。


问题涉及对象归属、规则适用范围、上下游依赖或负责人时,片段像不像帮不上太多,要看关联路径。这时用的是图关联查询,它回答"这个对象还和什么有关"。图的质量依赖入库时的实体识别和关系构建,知识库可以开启本体抽取并配置本体约束规则,让图谱更贴近业务。


我们没有把这三种查询做成固定的先后流水线。引擎对外提供的检索方式包括语义与关键词的混合检索、多路召回、Agentic 多轮迭代检索和图谱增强检索。一个任务里包含明确标识时,精确命中应保留较高权重;涉及跨对象约束时,需要补充图关联;开放式的描述则更依赖语义召回。具体到某类任务该怎样配比,我们的建议是放进评估里确定,不要凭直觉调。


一个常见的组合场景是这样的:用户问"某个错误码出现时应该找哪个团队处理"。错误码本身需要全文检索精确命中,否则可能被形式相近的编号干扰;处理办法往往写在排障经验里,措辞和提问并不一致,需要语义召回补上;"找哪个团队"则涉及错误码所属组件和组件负责人之间的关系,要靠图关联查询沿实体展开。三路结果各自只覆盖问题的一部分,调用方不需要知道背后走了哪几路,描述问题本身就够了。

记忆的组织方式决定了召回的样子

知识库的检索对象是 chunk,记忆的检索对象则是提炼后的事实。记忆写入时,服务端从对话中提炼原子事实,再归到实体上,进一步组织成结构化图谱。这种组织方式让召回可以沿实体展开:问到某个项目时,和这个项目有关的偏好、决策、约束能被一并找到,而不依赖它们在原对话中的措辞是否相近。


memory search 返回的每条结果包含 id、memory 和 score。memory add 返回的 event 有 ADD、UPDATE、NONE 三种取值,分别对应新增事实、更新已有事实和没有可提炼的新事实。看懂这几个取值,大致就能判断召回结果为什么是现在这样。


通过一键接入或 CLI 接入的 Agent,召回还有一条自动路径:Hooks 会在每次提交 prompt 时,用 prompt 作为查询召回记忆,并以 <recalled-memories> 注入上下文。这条路径和 Agent 主动调用 search 共用同一套检索与过滤逻辑。通过 MCP 接入的 Agent 没有 Hooks,需要由 Agent 自己决定何时检索。

知识单元和原始文件同时保留

解析之后的知识单元适合检索和组合,原始文件保留完整语境,用来核验。我们的知识单元由两部分构成:按 chunk 切分组织的图谱内容,以及保存在对象存储中的原始文档。Agent 获取知识时,先通过实体找到关联实体;需要继续下钻时,系统会告诉它对应的原始文档,再取回原文。我们把这称为渐进式披露的加载方式。


同样出于核验的考虑,kb search 返回的 graph_context 带有 citation_eligible: false,只帮模型理解对象之间的关系,可引用的证据限定在 chunks 上。加 --verbose 时,每条 chunk 会带上 doc_name、kb_id、doc_id 和 tags,调用方凭这些字段就能找回原始文档。


两种极端做法我们都没有采用。把原始文件整份交给模型,会很快占满上下文预算,也会混进大量无关段落;只保留切片,又容易丢掉章节结构、表格上下文和相邻段落里的限定条件。


切分粒度也是同样的道理。切得过细,条件和结论可能被分到两个 chunk 里;切得过粗,定位精度会下降。我们采用多策略分块,目标是尽量保住文档原有的语义结构,避免统一按字符数切。具体到某一类文档效果怎样,还需要用户用自己的资料检验。

有效性判断先于相关性排序

检索系统通常把相关性排序放在中心位置。企业场景下,候选内容在排序之前要先通过另一类判断:在当前身份、时间和任务范围内,它是否有效。


当前调用者无权访问的内容,再相关也不该进上下文包;被新版本取代的规则,文本再匹配也不能和有效版本同等对待。来源不明的执行经验稍复杂一些,可以当作待核验的线索,但不宜包装成组织规则。


在权限这件事上,我们的立场比较明确:过滤要在内容交给模型之前完成。先把敏感内容召回,再在提示词里要求模型"不要使用",算不上隔离。知识库按成员和用户组分级配置 Read、Write、Control 权限,工作空间授权之后再按任务召回;Memory 默认私有,只在单个 Agent 内召回。

后台加工持续在跑

数据会持续新增、修改和删除,权限也会变化。如果引擎只负责在线检索,索引和业务事实会逐渐脱节,后台任务做的就是这部分维护。


记忆侧,每晚自动整理一次,合并重复、更新属性,处理机制包括去重、冲突和衰减,遗忘管理可以按自定义条件和召回频率执行。知识侧,后台会记录知识片段被召回的情况,检测长期没有被召回的内容和图谱里的孤立节点,再判断它是否过期、是否已被替代、是否仍然适用:仍然有效的经修订和补充关联后继续使用,已经失效的归档并保留追溯。


这些后台处理都受治理规则约束。我们在设计上明确了两件事不会自动发生:冲突内容不会自动覆盖已有知识,需要经过冲突审核;Skill 不会自动发布,只生成候选版本,评估后才能上线。后台任务可以发现问题、给出建议,最终的发布决定留给人。


需要区分的是,这里的后台处理用到的模型与算法能力属于引擎内部,用于整理资产、检测冲突和评估生命周期,与接入方自己的 Agent 无关。Agent Context 的控制台里另有一个内置智能助手,用户可以用自然语言让它整理知识、解决记忆冲突、基于已有上下文生成报告,它操作的是同一套资产。把这种助手的 Agent 能力通过 API 开放给客户,目前还在规划阶段;原生 API 中 Agents API 的公开信息也以定位为主,接口细节尚未公布。现阶段自建应用接入引擎,应以 HTTP API、MCP 或 CLI 为准。

留给调用方调节的参数

入口只有一个,调用方也还有能调的东西。召回的覆盖与噪声之间存在天然的拉扯:放宽召回能提高覆盖率,同时增加噪声和 Token 消耗;收紧过滤能让上下文更聚焦,也可能漏掉低频但关键的内容。我们把几个关键参数留给了调用方。


在 Agent Context 的设计里,这类取舍的出发点是一个朴素的约束:模型可用的上下文空间和任务时延都是有限的,我们要做的是在有限的 Token 预算下,把更相关、仍然有效的内容交给模型。返回条数并非越多越好。召回的条目里如果只有少数几条有用,其余内容会稀释模型的注意力,也可能把旧版本的说法带进回答。所以引擎返回的每条内容都带分数和来源,调用方可以据此决定保留多少、按什么顺序排列;如果任务对时延敏感,也可以只取排在前面的少数几条,再视需要让 Agent 发起下一轮检索。


memory search 可以用 --top-k 控制返回条数,用 --threshold 设定相似度阈值,默认值是 0.4;加上 --knowledge 时会同时检索知识库,实现记忆与知识的联合检索。kb search 可以用 --kb 指定知识库、用 --top-k 控制条数。默认阈值是我们在通用场景下的折中,不同团队的资料密度和提问方式差别很大,我们建议用一批真实问题做一轮测试,再决定是否调整。

排查一次召回,目前能看到什么

回到开头的代价。当一次任务的结果不对,开发者需要知道 Agent 当时到底拿到了什么上下文。我们目前提供的手段是调试回放:

ctxdb debug enable
ctxdb debug recall --session=<id>


开启调试后,可以按会话或事件回放一次任务中实际注入的内容,比如 <recalled-memories> 和 <available-knowledge-bases> 两部分,加 --full 可以看到完整内容。结合 kb search --verbose 返回的文档标识,大多数"为什么答错"的问题可以定位到是召回没有命中,还是命中了旧内容。


回放展示的是最终注入了什么。某条内容在哪一路检索中没有命中、在哪一步被过滤掉,需要开发者结合 verbose 字段和自己的用例集去比对推断。


我们建议接入方自己准备一份小规模的用例集,覆盖精确术语、换了说法的同义提问和跨对象关联三类问题,用 kb search --verbose 逐条确认命中的文档,并把结果保存下来。之后每次调整阈值、返回条数或者知识库内容,都用这份用例集重跑一遍,召回漏掉的情况能早一点发现,不用等线上任务出错再去回放。


还要分清职责。Context Engine 负责发现、过滤和组织上下文,可以把相关的规则、状态和 Skill 交给 Agent;但工具是否调用、参数是否合法、操作是否成功,仍然由 Agent 的编排逻辑和业务系统判断。执行结果写回来之后,也只是进入候选和评估流程,不会直接改写正式资产。所以在评估接入效果时,我们建议把召回质量和执行结果分开统计:前者靠用例集和调试回放检查,后者要看工具调用记录和业务系统的反馈,两类问题的修正方式并不相同。

目录
相关文章
|
30天前
|
自然语言处理 数据管理 关系型数据库
2026 云栖回顾 | Agent Context 精选
阿里云在2026云栖大会发布Agent Context——企业级智能体数据底座,解决Agent“记不住、接不上、复用难”痛点。通过Memory/Knowledge/Skill三类资产沉淀与Context Growth Loop机制,实现上下文跨会话、跨Agent复用,提升知识任务准确率50%,支撑万级智能体协同。
|
人工智能 缓存 调度
技术改变AI发展:RDMA能优化吗?GDR性能提升方案(GPU底层技术系列二)
随着人工智能(AI)的迅速发展,越来越多的应用需要巨大的GPU计算资源。GPUDirect RDMA 是 Kepler 级 GPU 和 CUDA 5.0 中引入的一项技术,可以让使用pcie标准的gpu和第三方设备进行直接的数据交换,而不涉及CPU。
140396 6
|
2月前
|
存储 人工智能 安全
阿里云国际代理商:云栖大会Agentic Cloud全解读 智能体从Demo到生产的工程化路径
本文介绍2026云栖大会上阿里云发布的Agentic Cloud战略:以智能体为中心的新型云架构,涵盖AI Native、Agent Native与Context Engine三层技术栈,并推出AgentCore、Agent Sandbox等生产级工具,推动AI从Demo迈向规模化落地。(239字)
|
JSON NoSQL Redis
redis-full-check校验工具
redis-full-check是阿里云Redis&MongoDB团队开源的用于校验2个redis数据是否一致的工具,通常用于redis数据迁移后正确性的校验。
28182 0
|
1月前
|
存储 人工智能 监控
2026 Agent 开发者调研报告丨Alibaba Cloud AI Agent Handbook
今年,我们在北京、深圳、广州、上海、杭州等城市举办了多场线下开发者沙龙,旨在了解 Agent 在各行业的发展现状。此次开发者调研回收了有效问卷 1906 份,受访者以企业的技术决策者、架构师、一线工程师和产品经理为主。本文将呈现我们的调研详情,希望对从业者们能提供一些参考。
2026 Agent 开发者调研报告丨Alibaba Cloud AI Agent Handbook
|
12天前
|
人工智能 缓存 API
HiRoute 开源:让 Agent 更能干,让模型订阅更耐用
一个运行在本地的 Agent 智能路由与协作引擎。
|
24天前
|
人工智能 运维 Cloud Native
阿里云刚发布的 AgentCore 有何不同?
本文整理自阿里云智能集团云原生应用平台负责人周琦和 AgentCore 产品经理李国强在云栖大会的分享。
|
12天前
|
消息中间件 人工智能 运维
|
1月前
|
存储 运维 关系型数据库
PB 级海量数据实时分析选什么数仓?阿里云瑶池 AnalyticDB MySQL 云原生数仓首选方案解析
PB 级海量数据实时分析,阿里云瑶池 AnalyticDB MySQL 是首选方案。
128 0
|
1月前
|
人工智能 API
什么是 Jev?在测试领域中可以怎么应用?
最近有个AI热点概念: Jev ,一款专门用来做判断的 AI 模型。 它和 ChatGPT、Claude 这类通用大模型不同:不聊天、不写代码文案,专门给程序做决策判断,API 调用后直接返回代码可读取的结构化结果 核心能力: Noul 是非判断 :输出 0\~1 概率值,做二分类判定。例:校验接口返回是否符合预期。 Choice 多选判定 :最多支持 255 个自定义选项,选出最优结果并附带置信度,适合 UI 自动化选择页面元素、判断业务分支。 Score 分级打分 :2\~10 档评分,用来评估风险等级、缺陷严重程度这类有强弱差异的场景。 最近有些测试同学对这方面感兴趣,我花时间调研并简单
178 0