elasticsearch的字符串动态映射

在线体验各类最新模型,更有模型 免费Token 额度领取!
立即体验
简介: 在使用elasticsearch的动态映射能力时,字符串内容映射有些要注意的地方,咱们通过实战一起了解

欢迎访问我的GitHub

这里分类和汇总了欣宸的全部原创(含配套源码): https://github.com/zq2599/blog_demos
  • 映射用来定义文档及其字段如何被存储和索引,文档写入es时,es可根据写入内容的类型自动识别,这种机制就是动态映射(Dynamic field mapping),本文关注的是写入内容为字符串时,该内容被识别的字段类型;

环境信息

  1. 操作系统:Ubuntu 18.04.2 LTS
  2. elasticsearch:6.7.1
  3. kibana:6.7.1

官网解释

在这里插入图片描述

  • 官网的解释为:
  1. 如果是日期类型,就映射为date;
  2. 如果是数字,就映射为double或者long;
  3. 否则就是text,并且还会带上keyword子类型
  • 映射为text好理解,但是带上keyword子类型怎么理解呢?应该是达到静态绑定的映射参数fields效果,让该字段有两种索引方式,这样可以用text类型做全文检索,再用keyword类型做聚合和排序;
  • 接下来实战验证:

创建文档

  • 在Kibana上执行以下命令,创建索引、类型、一个文档:
PUT book/es/101
{"title":"Elasticsearch IN ACTION","language":"java","author":"Radu Gheorghe","price":58.80,"publish_time":"2018-10-01","description":"本书主要展示如何使用Elasticsearch构建可扩展的搜索应用程序。"}
  • 再创建一条:
PUT book/es/102
{"title":"ELK Stack权威指南 ","language":"java","author":"拉斐尔·酷奇","price":62.40,"publish_time":"2017-05-01","description":"本书涵盖了Elasticsearch的许多中高级功能。"}

检查动态映射结果

  • 执行命令GET book/_mapping查看动态映射结果,字符串动态映射后,字段类型为text,但是都有了fields参数,里面是keyword的子类型:
{
  "book" : {
    "mappings" : {
      "es" : {
        "properties" : {
          "author" : {
            "type" : "text",
            "fields" : {
              "keyword" : {
                "type" : "keyword",
                "ignore_above" : 256
              }
            }
          },
          "description" : {
            "type" : "text",
            "fields" : {
              "keyword" : {
                "type" : "keyword",
                "ignore_above" : 256
              }
            }
          },
          "language" : {
            "type" : "text",
            "fields" : {
              "keyword" : {
                "type" : "keyword",
                "ignore_above" : 256
              }
            }
          },
          "price" : {
            "type" : "float"
          },
          "publish_time" : {
            "type" : "date"
          },
          "title" : {
            "type" : "text",
            "fields" : {
              "keyword" : {
                "type" : "keyword",
                "ignore_above" : 256
              }
            }
          }
        }
      }
    }
  }
}

验证检索

  • 执行以下检索命令验证检索:
GET book/_search
{
  "query": {
    "match": {"title":"Elasticsearch"}
  }
}
  • 第一条记录都可以搜索到,证明description字段已经被分词和索引了;
  • title字段还有一种索引方式keyword,也来试试,查keyword是要用完整内容做查询条件的,如下:
GET book/_search
{
  "query": {
    "term": {"title":"Elasticsearch IN ACTION"}
  }
}
  • 得到的结果如下,没有记录
{
  "took" : 0,
  "timed_out" : false,
  "_shards" : {
    "total" : 5,
    "successful" : 5,
    "skipped" : 0,
    "failed" : 0
  },
  "hits" : {
    "total" : 0,
    "max_score" : null,
    "hits" : [ ]
  }
}
  • 这是怎么回事呢?对于这种sub-field的查询,不能直接使用title,而是要用title.keyword,改成如下请求:
GET book/_search
{
  "query": {
    "term": {"title.keyword":"Elasticsearch IN ACTION"}
  }
}
  • 这次顺利查到:
{
  "took" : 0,
  "timed_out" : false,
  "_shards" : {
    "total" : 5,
    "successful" : 5,
    "skipped" : 0,
    "failed" : 0
  },
  "hits" : {
    "total" : 1,
    "max_score" : 0.2876821,
    "hits" : [
      {
        "_index" : "book",
        "_type" : "es",
        "_id" : "101",
        "_score" : 0.2876821,
        "_source" : {
          "title" : "Elasticsearch IN ACTION",
          "language" : "java",
          "author" : "Radu Gheorghe",
          "price" : 58.8,
          "publish_time" : "2018-10-01",
          "description" : "本书主要展示如何使用Elasticsearch构建可扩展的搜索应用程序。"
        }
      }
    ]
  }
}

验证聚合

  • 执行以下命令,以language字段进行分组,统计每个分组的文档数:
GET book/_search
{
  "aggs": {
    "per_count": {
      "terms":{
        "field":"language.keyword"
      }

    }
  }
}
  • 得到结果如下,可以成功统计language字段为java的文档数量为2,可见动态映射给language设定的keyword类型能够直接用于聚合(text类型不能直接用于聚合,会返回status=400错误,修改参数后可以将text类用于聚合,但是会消耗更多内存资源):
{
  "took" : 2,
  "timed_out" : false,
  "_shards" : {
    "total" : 5,
    "successful" : 5,
    "skipped" : 0,
    "failed" : 0
  },
  "hits" : {
    "total" : 2,
    "max_score" : 1.0,
    "hits" : [
      {
        "_index" : "book",
        "_type" : "es",
        "_id" : "101",
        "_score" : 1.0,
        "_source" : {
          "title" : "Elasticsearch IN ACTION",
          "language" : "java",
          "author" : "Radu Gheorghe",
          "price" : 58.8,
          "publish_time" : "2018-10-01",
          "description" : "本书主要展示如何使用Elasticsearch构建可扩展的搜索应用程序。"
        }
      },
      {
        "_index" : "book",
        "_type" : "es",
        "_id" : "102",
        "_score" : 1.0,
        "_source" : {
          "title" : "ELK Stack权威指南 ",
          "language" : "java",
          "author" : "拉斐尔·酷奇",
          "price" : 62.4,
          "publish_time" : "2017-05-01",
          "description" : "本书涵盖了Elasticsearch的许多中高级功能。"
        }
      }
    ]
  },
  "aggregations" : {
    "per_count" : {
      "doc_count_error_upper_bound" : 0,
      "sum_other_doc_count" : 0,
      "buckets" : [
        {
          "key" : "java",
          "doc_count" : 2
        }
      ]
    }
  }
}
  • 以上就是字符串在动态映射逻辑中的结果和验证,您使用动态映射的过程中,如果在词项查询和聚合等操作中遇到疑惑,希望本文能提供些参考;

欢迎关注阿里云开发者社区博客:程序员欣宸

学习路上,你不孤单,欣宸原创一路相伴...
相关实践学习
以电商场景为例搭建AI语义搜索应用
本实验旨在通过阿里云Elasticsearch结合阿里云搜索开发工作台AI模型服务,构建一个高效、精准的语义搜索系统,模拟电商场景,深入理解AI搜索技术原理并掌握其实现过程。
ElasticSearch 最新快速入门教程
本课程由千锋教育提供。全文搜索的需求非常大。而开源的解决办法Elasricsearch(Elastic)就是一个非常好的工具。目前是全文搜索引擎的首选。本系列教程由浅入深讲解了在CentOS7系统下如何搭建ElasticSearch,如何使用Kibana实现各种方式的搜索并详细分析了搜索的原理,最后讲解了在Java应用中如何集成ElasticSearch并实现搜索。  
相关文章
|
存储 自然语言处理 数据库
使用Elasticsearch映射定义索引结构
使用Elasticsearch映射定义索引结构
338 0
|
自然语言处理 关系型数据库 数据库
ElasticSearch 映射类型及数据类型区分
ElasticSearch 映射类型及数据类型区分
320 0
|
自然语言处理 关系型数据库 定位技术
分布式系列教程(35) -ElasticSearch文档映射
分布式系列教程(35) -ElasticSearch文档映射
205 0
|
存储 JSON 定位技术
深入理解Elasticsearch的索引映射(mapping)
深入理解Elasticsearch的索引映射(mapping)
|
数据采集 机器学习/深度学习 自然语言处理
Elasticsearch 8.X 如何动态的为正文添加摘要字段?
Elasticsearch 8.X 如何动态的为正文添加摘要字段?
|
JSON Java API
Elasticsearch进阶使用-动态模版
Elasticsearch进阶使用-动态模版
288 0
|
存储 SQL 缓存
|
存储 JSON 自然语言处理
九.全文检索ElasticSearch经典入门-ElasticSearch映射修改
九.全文检索ElasticSearch经典入门-ElasticSearch映射修改

热门文章

最新文章