干货 | Elasticsearch 8.11 ES|QL 初体验

本文涉及的产品
检索分析服务 Elasticsearch 版,2核4GB开发者规格 1个月
简介: 干货 | Elasticsearch 8.11 ES|QL 初体验

这里没有理论,只有验证后的结论和体验。

前提:这是 8.11 版本的新功能,必须提前安装最新 8.11 版本。

1、对比参考实现

1.1 DSL 原始语法

POST kibana_sample_data_ecommerce/_search

1.2 ES|QL 检索语法, 类似SQL实现

POST /_query?format=txt
{
  "query": """
FROM kibana_sample_data_ecommerce
  """
}

输出如下:

1.1 和 1.2 等价。

1.3 DSL 常规检索+排序

POST kibana_sample_data_ecommerce/_search
{
  "size": 3,
  "query": {
    "range": {
      "products.price": {
        "gte": 50
      }
    }
  },
  "sort": [
    {
      "products.created_on": {
        "order": "desc"
      }
    }
  ]
}

1.4 ES|QL 使用排序 + limit 限制输出

POST /_query?format=json
{
  "query": """
FROM kibana_sample_data_ecommerce
| WHERE products.price > 50
| LIMIT 3
| SORT products.created_on DESC
  """
}

1.3 和 1.4 等价。

1.5 DSL 使用 wildcard 模糊匹配

POST kibana_sample_data_ecommerce/_search
{
  "size":30,
  "query": {
    "wildcard": {
      "products.product_name.keyword": {
        "value": "Basic*"
      }
    }
  },
  "sort": [
    {
      "products.created_on": {
        "order": "desc"
      }
    }
  ]
}

1.6 ES|QL使用的 like 模糊匹配

POST /_query?format=json
{
  "query": """
FROM kibana_sample_data_ecommerce
| WHERE   products.product_name LIKE "Basic*" 
| LIMIT 30
| SORT products.created_on DESC
  """
}

1.5 同 1.6 等价。

1.7 DSL 聚合操作

GET kibana_sample_data_ecommerce/_search
{
  "size": 0,
  "aggs": {
    "data_histogram": {
      "date_histogram": {
        "field": "order_date",
        "fixed_interval": "1d"
      }
    }
  }
}

1.8 ES|QL 聚合操作

POST /_query?format=json
{
  "query": """
FROM kibana_sample_data_ecommerce
| KEEP order_date
| EVAL bucket = AUTO_BUCKET (order_date, 31, "2023-10-01T00:00:00Z", "2023-10-31T23:59:59Z")
| STATS COUNT(*) BY bucket
  """
}

1.7 和 1.8 等价。

2、ES|QL REST API 使用注意

2.1 限制字段输出

POST /_query?format=txt
{
  "query": "FROM kibana_sample_data_ecommerce | KEEP  order_date, currency,customer_first_name, customer_full_name | SORT order_date DESC | LIMIT 5"
}

输出结果如下:

换做如下的语法格式也可以!

POST /_query?format=txt
{
  "query": """
  FROM kibana_sample_data_ecommerce 
  | KEEP  order_date, currency,customer_first_name, customer_full_name 
  | SORT order_date DESC 
  | LIMIT 5
  """
}

3、ES|QL 在 Kibana 上也可以使用

4、 ES|QL 究竟为何物?

Elasticsearch 查询语言(ES|QL)是一种强大的工具,用于在 Elasticsearch 中过滤、转换和分析数据。它易于学习和使用,适用于各种用户,包括终端用户、SRE 团队、应用程序开发人员和管理员。

ES|QL 支持广泛的命令和功能,用于执行各种数据操作,如过滤、聚合和时间序列分析。ES|QL 使用“管道”(|)按顺序操作数据,使复杂数据转换和分析成为可能。

此外,ES|QL 不仅是一种语言,还代表 Elasticsearch 新计算能力的重大投资。

为了满足 ES|QL 的功能和性能要求,必须构建全新的计算架构。ES|QL 的搜索、聚合和转换功能直接在 Elasticsearch 内部执行,而不是转换为 Query DSL 执行。这种设计使 ES|QL 性能高效且多功能。

ES|QL 执行引擎针对性能优化,采用分块而非逐行操作,专注于向量化、缓存局部性、专业化和多线程处理,与现有的 Elasticsearch 聚合框架具有不同的性能特征。

其实在这之前咱们一直使用 DSL,认证专家考试也只考 DSL,在往后 Elasticsearch 推出了 类似 SQL 的 Elastic SQL,但是不能完全适配所有应用场景。其实企业里用的少。最后才有了现在的 ES | QL。

个人理解有点一语双关的意思。

  • 一方面:ESQL == Elasticsearch SQL。
  • 另一方面:ESQL = ES + QL, ES = Elasticsearch, QL 等于 SQL。
  • 再有, | 代表过滤的意思,也类似 linux 命令行。

5、参考

推荐阅读


更短时间更快习得更多干货!

中国50%+Elastic认证专家出自于此!

比同事抢先一步学习进阶干货!


相关实践学习
使用阿里云Elasticsearch体验信息检索加速
通过创建登录阿里云Elasticsearch集群,使用DataWorks将MySQL数据同步至Elasticsearch,体验多条件检索效果,简单展示数据同步和信息检索加速的过程和操作。
ElasticSearch 入门精讲
ElasticSearch是一个开源的、基于Lucene的、分布式、高扩展、高实时的搜索与数据分析引擎。根据DB-Engines的排名显示,Elasticsearch是最受欢迎的企业搜索引擎,其次是Apache Solr(也是基于Lucene)。 ElasticSearch的实现原理主要分为以下几个步骤: 用户将数据提交到Elastic Search 数据库中 通过分词控制器去将对应的语句分词,将其权重和分词结果一并存入数据 当用户搜索数据时候,再根据权重将结果排名、打分 将返回结果呈现给用户 Elasticsearch可以用于搜索各种文档。它提供可扩展的搜索,具有接近实时的搜索,并支持多租户。
相关文章
|
7月前
|
存储 人工智能 自然语言处理
Elasticsearch Relevance Engine---为AI变革提供高级搜索能力[ES向量搜索、常用配置参数、聚合功能等详解]
Elasticsearch Relevance Engine---为AI变革提供高级搜索能力[ES向量搜索、常用配置参数、聚合功能等详解]
Elasticsearch Relevance Engine---为AI变革提供高级搜索能力[ES向量搜索、常用配置参数、聚合功能等详解]
|
7月前
【ElasticSearch】关于es跨域的问题
【ElasticSearch】关于es跨域的问题
196 1
|
7月前
|
存储 自然语言处理 Java
【elasticsearch】记录ES查询数据结果为空的问题(单个字搜索可以,词语搜索为空)
【elasticsearch】记录ES查询数据结果为空的问题(单个字搜索可以,词语搜索为空)
311 0
|
4天前
Elasticsearch【问题记录 02】【不能以root运行es + max virtual memory areas vm.max_map_count [65530] is too low处理】
【4月更文挑战第12天】Elasticsearch【问题记录 02】【不能以root运行es + max virtual memory areas vm.max_map_count [65530] is too low处理】
22 3
|
3天前
|
SQL 监控 API
实时计算 Flink版产品使用合集之可以用来同步数据到 Elasticsearch(ES)吗
实时计算Flink版作为一种强大的流处理和批处理统一的计算框架,广泛应用于各种需要实时数据处理和分析的场景。实时计算Flink版通常结合SQL接口、DataStream API、以及与上下游数据源和存储系统的丰富连接器,提供了一套全面的解决方案,以应对各种实时计算需求。其低延迟、高吞吐、容错性强的特点,使其成为众多企业和组织实时数据处理首选的技术平台。以下是实时计算Flink版的一些典型使用合集。
12 0
实时计算 Flink版产品使用合集之可以用来同步数据到 Elasticsearch(ES)吗
|
4天前
|
SQL JSON DataWorks
DataWorks产品使用合集之DataWorks 数据集成任务中,将数据同步到 Elasticsearch(ES)中,并指定 NESTED 字段中的 properties 类型如何解决
DataWorks作为一站式的数据开发与治理平台,提供了从数据采集、清洗、开发、调度、服务化、质量监控到安全管理的全套解决方案,帮助企业构建高效、规范、安全的大数据处理体系。以下是对DataWorks产品使用合集的概述,涵盖数据处理的各个环节。
25 0
|
7月前
|
安全 Java Linux
ElasticSearch第四讲:ES详解:ElasticSearch和Kibana安装
ElasticSearch第四讲:ES详解:ElasticSearch和Kibana安装
214 0
|
4天前
|
数据安全/隐私保护
spring-boot-starter-data-elasticsearch es带x-pack后台配置
spring-boot-starter-data-elasticsearch es带x-pack后台配置
27 0
|
4天前
|
索引
ES(elasticsearch)删除指定索引
ES(elasticsearch)删除指定索引
187 0
|
4天前
|
自然语言处理 Java 关系型数据库
Elasticsearch【环境搭建 01】elasticsearch-6.4.3 单机版不能以root用户运行es 及 max_map_count 问题解决(含 安装包+分词插件 云盘资源)
Elasticsearch【环境搭建 01】elasticsearch-6.4.3 单机版不能以root用户运行es 及 max_map_count 问题解决(含 安装包+分词插件 云盘资源)
32 0

热门文章

最新文章