ES聚合查询详解(一)

简介: ES聚合查询详解(一)

前言


本文主要介绍ES中的聚合查询。


一、聚合查询简介


聚合查询可以将数据汇总为度量、统计或其他分析。


聚合查询主要分为三个类别:


Metric 指标聚合

Bucket 桶聚合

Pipeline 管道聚合


二、聚合函数的使用


1、如何运行一个聚合查询

GET /my-index-000001/_search
{
  "aggs": {
    "my-agg-name": {
      "terms": {
        "field": "my-field"
      }
    }
  }
}


说明:

aggs 说明采用的是聚合查询

my-agg-name 是聚合查询的名称

terms 说明采用的是Terms aggregation多值聚合:一个基于多桶值源的聚合,其中桶是动态构建的——每个唯一值一个桶。统计每个唯一值的个数。

field 指定需要统计的字段。


2、限制聚合查询的范围

GET /my-index-000001/_search
{
  "query": {
    "range": {
      "@timestamp": {
        "gte": "now-1d/d",
        "lt": "now/d"
      }
    }
  },
  "aggs": {
    "my-agg-name": {
      "terms": {
        "field": "my-field"
      }
    }
  }
}


3、仅返回聚合结果

默认情况下,包含聚合的查询会同时返回搜索命中的结果和聚合结果。若要只返回聚合结果,请将大小设置为0

GET /my-index-000001/_search
{
  "size": 0,
  "aggs": {
    "my-agg-name": {
      "terms": {
        "field": "my-field"
      }
    }
  }
}

4、运行多个聚合

GET /my-index-000001/_search
{
  "aggs": {
    "my-first-agg-name": {
      "terms": {
        "field": "my-field"
      }
    },
    "my-second-agg-name": {
      "avg": {
        "field": "my-other-field"
      }
    }
  }
}

5、子聚合

统计索引中my-field字段的每个唯一值的记录数,并计算每组记录中my-other-field字段的平均值。

典型的场景:先分组,再计算

GET /my-index-000001/_search
{
  "aggs": {
    "my-agg-name": {
      "terms": {
        "field": "my-field"
      },
      "aggs": {
        "my-sub-agg-name": {
          "avg": {
            "field": "my-other-field"
          }
        }
      }
    }
  }
}

执行结果:

{
  ...
  "aggregations": {
    "my-agg-name": {                           
      "doc_count_error_upper_bound": 0,
      "sum_other_doc_count": 0,
      "buckets": [
        {
          "key": "foo",
          "doc_count": 5,
          "my-sub-agg-name": {                 
            "value": 75.0
          }
        }
      ]
    }
  }
}


6、聚合查询中使用scripts脚本

采用script脚本提取运行时字段,并对运行时字段message.length进行聚合。

GET /my-index-000001/_search?size=0
{
  "runtime_mappings": {
    "message.length": {
      "type": "long",
      "script": "emit(doc['message.keyword'].value.length())"
    }
  },
  "aggs": {
    "message_length": {
      "histogram": {
        "interval": 10,
        "field": "message.length"
      }
    }
  }
}


7、聚合结果分页

GET /my-index-000001/_search
 {
      "size":0,
      "aggs" : {
          "group_account" : {
              "terms" : {
                "size": 2,
                "field" : "account",
                "order": {
                  "sum_gmv" : "desc" 
                }
              },
              "aggs": {
                  "sum_gmv": {
                      "sum": {"field": "bus_ep_gmv"}
                  }
              }
          }
      }
  }


8、聚合查询缓存说明

为了获得更快的响应,Elasticsearch 将频繁运行的聚合结果缓存到切分请求缓存中。

若要获取缓存结果,请对每次搜索使用相同的首选项字符串。

如果您不需要搜索命中、只返回聚合结果,请将大小设置为0,以避免填充缓存。


总结


本文主要是聚合查询进行了简单的介绍。

1、聚合查询主要使用场景:数据的统计分析。

2、聚合查询主要分为三个类别:


Metric 指标聚合

Bucket 桶聚合

Pipeline 管道聚合


3、聚合查询的简单使用示例。

目录
相关文章
|
5月前
|
SQL 安全 数据挖掘
Elasticsearch如何聚合查询多个统计值,如何嵌套聚合?并相互引用,统计索引中某一个字段的空值率?语法是怎么样的?
Elasticsearch聚合查询用于复杂数据分析,包括统计空值率。示例展示了如何计算字段`my_field`非空非零文档的百分比。查询分为三步:总文档数计数、符合条件文档数计数及计算百分比。聚合概念涵盖度量、桶和管道聚合。脚本在聚合中用于动态计算。常见聚合类型如`sum`、`avg`、`date_histogram`等。组合使用可实现多值统计、嵌套聚合和空值率计算。[阅读更多](https://zhangfeidezhu.com/?p=515)
297 0
Elasticsearch如何聚合查询多个统计值,如何嵌套聚合?并相互引用,统计索引中某一个字段的空值率?语法是怎么样的?
|
6月前
|
自然语言处理 索引
03_ES数据查询操作
03_ES数据查询操作
88 0
|
6月前
|
SQL 搜索推荐 数据库
8. 聚合查询
8. 聚合查询
|
存储
ES聚合查询详解(四):管道聚合
ES聚合查询详解(四):管道聚合
543 0
ES聚合查询详解(四):管道聚合
es聚合查询并且返回对应组的数据
es聚合查询并且返回对应组的数据
440 0
|
分布式计算 大数据 Spark
聚合操作_多维聚合_rollup 案例 | 学习笔记
快速学习聚合操作_多维聚合_rollup 案例
聚合操作_多维聚合_rollup 案例 | 学习笔记
|
大数据 开发者
聚合操作_多维聚合_rollup | 学习笔记
快速学习聚合操作_多维聚合_rollup
聚合操作_多维聚合_rollup | 学习笔记
|
关系型数据库 MySQL
ES复杂查询-结果过滤, 排序,分页
ES复杂查询-结果过滤, 排序,分页
|
存储 SQL
ES聚合查询详解(三):指标聚合
ES聚合查询详解(三):指标聚合
330 0
ES聚合查询详解(三):指标聚合