基于 UModel 高效构建可观测场景统一实体搜索引擎

简介: 在复杂的云原生环境中,服务、Pod、主机等可观测实体动辄成千上万,散落在 APM、K8s、云资源等多个系统中。当故障发生时,如何快速从海量数据中“找到那个出问题的服务”,成为 SRE 和运维工程师的核心挑战。

作者:路遥


01 背景


在可观测性系统中,UModel 定义了统一的数据模型(Schema),UModel 查询专注于探索知识图谱元数据,而 Entity 查询则用于查询和检索具体的实体实例数据。Entity 查询基于 USearch 引擎,提供了强大的全文检索、精确查找、条件过滤等能力,支持跨域、跨实体类型的联合查询。


与 UModel 查询关注 Schema 定义不同,Entity 查询专注于运行时实体数据,帮助用户快速定位、检索和分析具体的实体实例,如服务实例、Pod 实例、主机实例等。


1.1 Entity 查询解决的问题

在实际的可观测性场景中,我们经常需要:

  1. 快速定位实体根据关键词、属性值快速找到相关实体
  2. 跨域检索在多个域(APM、K8s、云资源等)中联合搜索
  3. 精确查询根据已知的实体 ID 批量查询详细信息
  4. 条件过滤基于实体属性进行复杂的条件筛选
  5. 统计分析对实体数据进行聚合分析和计算


Entity 查询通过 USearch 引擎的统一接口,解决了传统多系统查询的痛点,提供了高效、灵活的实体检索能力。


1.2 三种查询类型的区别

在 EntityStore 中,存在三种不同类型的查询:


EntityStore 是 UModel 系统中的统一存储引擎,负责存储和管理可观测性领域的核心 Metadata 数据,包括 UModel 元数据、实体数据和实体关系数据。它为可观测性分析提供高性能的数据存储和查询能力。

1765183643219_04598e57b6f546a382fde6aa1022ef31.png

Entity 查询专注于实体实例数据,是日常运维和问题排查中最常用的查询方式。


02 Entity 查询介绍


2.1 数据模型

三层存储结构

USearch 采用分层存储结构,确保数据的逻辑隔离和高效查询:

  1. Workspace 层最顶层隔离单位,不同 workspace 之间完全隔离
  2. Domain 层域级别的分类,用于业务逻辑分组(如 apm、k8s、acs 等)
  3. EntityType 层具体的实体类型,包含实际的实体数据(如 apm.service、k8s.pod 等)


Workspace: my-observability
├── Domain: apm
│   ├── EntityType: apm.service
│   ├── EntityType: apm.host  
│   └── EntityType: apm.instance
├── Domain: k8s
│   ├── EntityType: k8s.pod
│   ├── EntityType: k8s.node
│   └── EntityType: k8s.service
└── Domain: acs
    ├── EntityType: acs.ecs.instance
    └── EntityType: acs.rds.instance


数据存储特点

  • 唯一性保证在同一 EntityType 下,__entity_id__ 保证唯一性
  • 列式存储支持多行多列的表结构数据,支持 SPL 进行统计分析
  • 索引优化针对检索场景进行全文索引优化,支持多关键词检索和 Ranking 打分
  • 时序支持支持基于时间范围的数据查询和过滤,支持回溯任意时刻的实体和关系状态


2.2 USearch 核心功能

检索能力

USearch 提供强大的全文检索能力,支持:

  • 多类型联合检索跨多个 domain 和 entity_type 进行联合查询,统一打分排序
  • 多关键词检索打分基于词权重、字段权重等信息计算相关性分数
  • 智能分词自动分词和相关性打分,提高检索准确性


-- 检索所有domain中包含"cart"的实体
.entity with(domain='*', name='*', query='cart')

扫描能力

除了检索模式,USearch 还支持扫描模式,读取原始数据后通过 SPL 进行更多的过滤和计算,适用于需要复杂数据处理的场景。


-- 扫描apm域中香港区域的应用数量
.entity with(domain='apm', name='apm.service')
| where region_id = 'cn-hongkong'
| stats count = count()


2.3 查询语法

基础语法结构


.entity with(
    domain='domain_pattern',     -- 域过滤模式
    name='type_pattern',         -- 类型过滤模式  
    query='search_query',        -- 查询条件
    topk=10,                     -- 返回条数
    ids=['id1','id2','id3']      -- 精确ID查询
)

参数详解

1765183811214_1f24018569954df4957173361a27dca5.png

fnmatch 语法说明支持通配符匹配,如 *匹配任意字符,?匹配单个字符。参考 fnmatch 文档:https://docs.python.org/3/library/fnmatch.html

域和类型过滤模式


-- 匹配模式示例
.entity with(domain='ac*')           -- ac开头的domain
.entity with(domain='a*c')           -- a开头、c结尾的domain  
.entity with(name='*instance')       -- 以instance结尾的类型
.entity with(name='k8s.*')           -- k8s域下的所有类型
.entity with(domain='*', name='*')   -- 所有domain和类型


03 查询模式详解


3.1 精确 ID 查询

当知道具体的实体 ID 时,使用 ids 参数进行精确查询:


-- 查询特定ID的实体
.entity with(
    domain='apm', 
    name='apm.service', 
    ids=['4567bd905a719d197df','973ad511dad2a3f70a']
)


适用场景

  • 根据告警中的实体 ID 查询详细信息
  • 验证特定实体的存在性和状态
  • 批量查询已知 ID 的实体信息


3.2 全文检索模式

基础全文搜索


-- 简单关键词搜索
.entity with(query='web application')
-- 多词OR关系(默认行为)
.entity with(query='kubernetes docker container')


搜索特性

  • 多个词之间是 OR 关系,出现任意一个词即满足条件
  • 搜索所有字段,包括系统字段和自定义字段
  • 自动分词和相关性打分

短语搜索

对于通过符号连接(-)的词,必须在同一字段下完整匹配:


-- 完整短语匹配
.entity with(query='opentelemetry.io/name-fraud-detection')
-- 普通搜索(命中任意一个词)
.entity with(query='opentelemetry.io/name cart')

字段限定搜索

指定在特定字段中搜索:


-- 在描述字段中搜索
.entity with(query='description:"error handling service"')
-- 在自定义属性中搜索
.entity with(query='cluster_name:production')
-- 在标签中搜索
.entity with(query='labels.team:backend')

逻辑条件组合

支持 and、or、not 逻辑运算符:


-- AND条件:同时满足两个条件
.entity with(query='service_name:web AND status:running')
-- OR条件:满足任一条件
.entity with(query='environment:prod OR environment:staging')
-- NOT条件:满足左侧、不满足右侧
.entity with(query='type:service NOT status:stopped')
-- 复杂组合
.entity with(query='(cluster:prod OR cluster:staging) AND NOT status:maintenance')


特殊字符处理

  • 包含特殊字符(如 |:)的查询必须用双引号包含
  • 示例:query='description:"ratio is 1:2"'


3.3 多类型联合检索

支持跨多个 domain 和 entity_type 进行联合查询,统一打分排序:


-- 检索所有domain中包含"cart"的实体
.entity with(domain='*', name='*', query='cart') 
-- 检索所有domain中包含"service"的实体类型,属性中存在"production"的实体
.entity with(domain='*', name='*service*', query='production')
-- 检索特定domain下的多种实体类型,属性中存在"error"或"rate"的实体
.entity with(domain='apm', name='apm.*', query='error rate')


3.4 结合 SPL 进行数据计算分析

无论检索模式还是扫描模式,都可以结合 SPL 进行更深入的数据计算:


-- 检索apm域中在香港区域的不同语言的应用数量,按照应用数量降序排列
.entity with(domain='apm', name='apm.service') 
| where region_id = 'cn-hongkong'
| stats count = count() by language 
| project language, count 
| sort count desc


04 打分和排序机制


4.1 相关性打分

USearch 使用多因素综合打分算法:

  1. 词频权重关键词在文档中出现的频率
  2. 字段权重不同字段的重要性权重(如名称字段权重高于描述字段)
  3. 文档长度较短文档中的匹配通常得分更高
  4. 逆文档频率稀有词汇获得更高权重


4.2 排序规则

默认按相关性分数降序排列,分数相同时按时间戳排序:


-- 默认相关性排序
.entity with(query='web service error', topk=20)
-- 结合SPL自定义排序
.entity with(query='kubernetes pod')
| sort __last_observed_time__ desc
| limit 50
-- 多字段排序
.entity with(domain='apm', name='apm.service')
| sort cluster asc, service_name asc


05 Entity 查询具体应用场景


5.1 场景一:快速定位和检索实体

问题描述线上出现告警或需要查找特定实体时,需要快速定位相关实体实例。

解决方案根据场景选择不同的查询方式。


-- 方式1:根据告警中的实体ID精确查询
.entity with(
    domain='apm', 
    name='apm.service', 
    ids=['4567bd905a719d197df','973ad511dad2a3f70a']
)
-- 方式2:根据关键词全文检索
.entity with(query='user-service error', topk=10)
-- 方式3:字段限定精确查询
.entity with(query='service_name:user-service')
-- 方式4:通过标签查找特定团队的服务
.entity with(
    domain='apm', 
    name='apm.service', 
    query='labels.team:backend AND labels.language:java AND status:running'
)


效果:快速获取问题实体的完整信息,包括状态、属性、标签等,支持多种查询方式满足不同场景需求。


5.2 场景二:跨域联合检索

问题描述需要在多个域(APM、K8s、云资源等)中搜索包含特定关键词的实体,避免在多系统间切换。

解决方案使用多类型联合检索。


-- 在所有域中搜索包含"error"的实体
.entity with(domain='*', name='*', query='error', topk=50)
-- 检索特定前缀domain下的多种实体类型
.entity with(domain='apm*', name='*', query='error', topk=50)


效果统一接口检索跨域实体,打破数据孤岛,提高查询效率。


5.3 场景三:条件过滤和数据分析

问题描述需要找出满足特定条件的实体,并进行统计分析,识别问题模式或进行数据洞察。

解决方案结合 SPL 进行条件过滤和聚合分析。


-- 找出java语言的apm服务,按集群统计
.entity with(domain='apm', name='apm.service') 
| where language='java'
| stats count=count() by cluster
-- 查询生产环境或预发环境中运行的服务
.entity with(query='(environment:prod OR environment:staging) AND status:running')
| stats count=count() by environment, cluster
-- 检索apm域中ARMS生产应用在不同区域的数量,按照应用数量降序排列
.entity with(domain='apm', query='environment:prod') 
| where telemetry_client='ARMS' 
| stats service_count = count() by service, region_id 
| project region_id, service, service_count 
| sort service_count desc


效果快速识别问题实体,进行数据聚合分析,发现数据模式。


06 性能优化建议


6.1 使用精确匹配

字段限定查询比全文搜索更高效:


-- ❌ 全文搜索(较慢)
.entity with(query='production')
-- ✅ 字段限定(更快)
.entity with(query='environment:production')


6.2 避免前缀通配符

后缀通配符比前缀通配符性能更好:


-- ❌ 前缀通配符(较慢)
.entity with(name='*service')
-- ✅ 后缀通配符(更快)
.entity with(name='service*')


6.3 合理使用逻辑运算符

简单的 AND 条件比复杂的 OR 条件更高效:


-- ✅ 简单AND条件
.entity with(query='status:running AND cluster:prod')
-- ⚠️ 复杂OR条件(性能较差)
.entity with(query='name:a OR name:b OR name:c OR name:d')


6.4 合理设置 topk

根据实际需求设置 topk 值,避免返回过多不必要的数据:


-- 只需要前10条结果
.entity with(query='error', topk=10)
-- 需要更多结果时再增加
.entity with(query='error', topk=100)


07 总结


Entity 查询作为 EntityStore 中用于查询实体实例的核心接口,为可观测性场景提供了强大的检索和分析能力。通过 Entity 查询,用户可以:


  1. 快速定位通过关键词、ID、条件快速找到目标实体
  2. 跨域检索统一接口查询多个域的实体数据
  3. 精确查询支持字段限定、逻辑组合等精确查询方式
  4. 数据分析结合 SPL 进行复杂的数据过滤和统计分析


这些能力使得 Entity 查询成为日常运维、问题排查、数据分析等场景中不可或缺的工具,为可观测性数据的有效利用提供了坚实的基础。

相关文章
|
21天前
|
存储 SQL JSON
打通可观测性的“任督二脉”:实体与关系的终极融合
阿里云推出图查询能力,基于 graph-match、graph-call、Cypher 三重引擎,实现服务依赖、故障影响、权限链路的秒级可视化与自动化分析,让可观测从‘看板时代’迈向‘图谱时代’。
238 39
|
20天前
|
人工智能 运维 Serverless
一杯咖啡成本搞定多模态微调:FC DevPod + Llama-Factory 极速实战
告别显存不足、环境配置难、成本高昂的微调困境!基于阿里云函数计算FC与Llama-Factory,5分钟搭建微调流水线,一键完成多模态模型的微调。
203 20
|
26天前
|
Kubernetes Cloud Native Nacos
MCP 网关实战:基于 Higress + Nacos 的零代码工具扩展方案
本文介绍一种基于开源 Higress 与 Nacos 的私有化 MCP 智能体网关架构,实现工具动态注册、Prompt 实时更新、多租户安全隔离,并支持在无外网、无 Helm 的生产环境中一键部署。
275 25
MCP 网关实战:基于 Higress + Nacos 的零代码工具扩展方案
|
27天前
|
监控 Kubernetes 调度
干货推荐:容器可观测新视角—SysOM 延时抖动监控助力定位业务抖动原因
为了解决这一挑战,本文将结合实战案例,介绍如何在 Kubernetes 环境中使用 ack-sysom-monitor Exporter 对内核延迟进行可视化分析与定位,帮助你快速识别问题根因,并高效缓解由延迟引发的业务抖动。
|
13天前
|
人工智能 安全 数据可视化
面向业务落地的AI产品评测体系设计与平台实现
在AI技术驱动下,淘宝闪购推进AI应用落地,覆盖数字人、数据分析、多模态创作与搜推AI化四大场景。面对研发模式变革与Agent链路复杂性,构建“评什么、怎么评、如何度量”的评测体系,打造端到端质量保障平台,并规划多模态评测、可视化标注与插件市场,支撑业务持续创新。
259 38
|
29天前
|
JSON 监控 数据可视化
云监控 UModel Explorer:用“图形化”重新定义可观测数据建模
阿里云 UModel Explorer 正式发布:告别复杂配置,拖拽即建模,点击即洞察,实现建模、探索、分析一体化,让可观测真正高效协同,开启可视化运维新时代!
297 45
|
13天前
|
消息中间件 人工智能 NoSQL
AgentScope x RocketMQ:打造企业级高可靠 A2A 智能体通信基座
Apache RocketMQ 推出轻量级通信模型 LiteTopic,专为 AI 时代多智能体协作设计。它通过百万级队列支持、会话状态持久化与断点续传能力,解决传统架构中通信脆弱、状态易失等问题。结合 A2A 协议与阿里巴巴 AgentScope 框架,实现高可靠、低延迟的 Agent-to-Agent 通信,助力构建稳定、可追溯的智能体应用。现已开源并提供免费试用,加速 AI 应用落地。
245 36
AgentScope x RocketMQ:打造企业级高可靠 A2A 智能体通信基座