PB数据毫秒级搜索之Elasticsearch(二)基础了解

本文涉及的产品
检索分析服务 Elasticsearch 版,2核4GB开发者规格 1个月
简介: PB数据毫秒级搜索之Elasticsearch(二)基础了解

首先进行安装(官网下载就行啦) 下载资源包然后启动

在bin 下面有个脚本   
./bin/elasticsearch  -d 是后台运行

ES基础概念

索引 含有相同属性的文档集合

ES在创建索引时,默认是创建5个分片,一个备份,这个数量是可以修改的,分片是只能创建时修改,备份可以动态修改。在索引中,还存在几个概念:

  1. 分片: 每个索引都有多个分片吧,每个分片是一个lucene索引
  2. 备份: 拷贝一份分片就完成了分片的备份,主分片如果损坏,备份的分片还可以提供搜索
  • 类型 索引可以定义一个或多个类型,文档必须属于一个类型
  • 文档 文档是可以被索引的基本数据单位

索引可以看成数据库的库   类型可以看成数据表 文档可以看成表中的某条数据

  • 比如说: 我们存储一个数据有几个大类: 动物 书籍,可以把动物和书籍设置为索引,但是书籍或者动物都有小类别,把这些小类别设置为类型   那么具体的书籍或者动物的信息就是文档

添加索引

添加索引后可以查看索引信息

  1. 结构化

非结构化

mappings后面为{} 则为非结构化,创建结构化索引

http://localhost:9200/book/novel/_mappings    给book索引添加类型
{
"novel": {      novel下面创建类型
 "properties": {   
   "title": {
     "type": "text"
   }
 }
}
}
创建索引及类型
http://localhost:9200/pople 创建peplo索引
{
"settings":{   设置索引分片数量
    "number_of_shards": 1,
    "number_of_replicas":1 设置索引备份数量
},
"mappings":{   设置类型
    "man":{
        "properties":{
            "name":{
                "type":"text"
            },
            "country":{
                "type":"keyword"
            },
            "age":{
                "type":"date",
                "format":"yyyy-MM-dd HH:mm:ss||yyyy-MM-dd||epoch_millis 时间戳" 
            }
        } 
    }
}
}

插入

指定文档id插入

PUT 方式
http://localhost:9200/pople/man/1       完全基于resultful API 索引路由格式基本就是这种风格
                /索引/类型/指定文档id
根据类型字段发送JSON
例如:
{
"country": "US",
"name": "mike",
"age": "2019-07-01"
}

自动产生文档id插入

自动产生文档id需要使用post方式插入
http://localhost:9200/pople/man
数据格式还是按照类型写入 即可

修改

直接修改文档

http://localhost:9200/pople/man/1/_update   POST
修改的文本JSON
{
 "doc":{
     "name":"test"
 }
}

脚本修改文档

http://localhost:9200/pople/man/1/_update   POST
修改的文本JSON
{
 "script":{
     "lang":"painless",    ES自带语言  还支持其他脚本语言  例如 python
     "inline":"ctx._source.age += 10  (或者写成  age = parmas.age)",   ctx上下文对象 _source当前文档
     "params":{
         "age":100
     }
 }
}

删除

删除文档

http://localhost:9200/pople/man/1              DELETE方式 直接删除即可

删除索引

慎重删除索引
删除后索引及文档全部删除
http://localhost:9200/pople              DELETE方式 直接删除即可

查询

简单查询

http://localhost:9200/索引/类型/id         GET方式即可

条件查询

http://localhost:9200/book/_search        POST
  查询JSON
  {
    "query":{
        "match_all":{}   查询所有
    },
    "from":1,            设置数据偏移量
    "size":1            设置获取数据条数   结合可做分页
  }
  {
    "query":{
        "match":{
              "title":"test"      搜索该索引 类型为title  文档带有test字符的数据
        }
    },
    "sort":[                默认是_score进行排序   我们指定排序 _score属性会变成null
            {
                "publish_date":{  以publish_date倒序排序
                    "order":"desc"
                }
            }
        ]
  }
  对于match 查询  针对不同的类型查询结果也不一样
   keyword是关键字不可切分的,是全匹配的
   使用match_phrase  短语匹配  完整匹配

聚合查询

{
    "aggs":{
        "group_by_word_count":{       分组名称  自定义  可以对多个字段进行分组
            "terms":{
                "field":"word_count"
            }
        },
        "group_by_publish_date":{
            "terms":{
                "field":"publish_date"
            }
        }
    }
  }
  {
    "aggs":{
        "grades_word_count":{
  (可以直接设置成max 或avg min等函数)  "stats":{   计算聚合  可以求平均  最大 最小 求和
                "field":"word_count"
            }
        }
    }
  }

自条件查询 特定字段查询所指特定值

query context

在查询过程中,除了判断文档是否满足查询条件外,ES还会计算一个_score来表示匹配程度,旨在判断目标文档和查询条件匹配有多好

全文本查询 针对文本类型数据

{
"query":{
    "multi_match":{
        "query":"张三",
        "fields":["author","title"]
    }
}
}
多字段查询   
语法查询
{
"query":{
    "query_string":{
        "query":"三 OR JAVA",   可以设置正常查询条件 OR  AND  还可以使用()设置优先级
        "fields":["author","title"]
    }
}
}

字段级别查询

针对结构化数据 如 数字,日期等

{
"query":{
    "term":{
        "author":"张三"
    }
}
}
term是代表完全匹配,也就是精确查询
范围查询range   gte大于   lte小于  可以设置日期 和数字等
日期查询
"get":2017-01-01 
"lte":now  查询从2017-01-01 到现在时间
{
"query":{
    "range":{
            "word_count":{  针对word_count字段 
                "gte":1000, 
                "lte":5000
            }
    }
}
}

filter context

在查询过程中.只判断该文档是否满足条件,只有YesNo   而query还会使用分析器去分析匹配程度

filter相对query查询较快

filter会自动缓存 需要集合bool一起使用

```
 {
    "query":{
        "bool":{
            "filter":{
                "term":{
                    "word_count":1000
                }
            }
        }
    }
 }
 ```

复合条件查询 以一定逻辑组合子条件查询

固定分数查询

{
"query":{
    "constant_score":{   分数查询
        "filter":{  只支持filter 不能用match
            "match":{
                "title":"JAVA"
            }
        },
        "boost":2  设置分数为2
    }
}
}

布尔查询

{
"query":{
    "bool":{
        "should":[     should是OR条件  满足其中一即可   如果要AND条件 使用must关键词
            {
                "match":{
                    "author":"张三"
                }
            },
            {
                "match":{
                    "title":"JAVA"
                }
            }
        ]
    }
}
}
{
"query":{
    "bool":{
        "must":[
            {
                "match":{
                    "title":"JAVA"
                }
            }
        ],
        "filter":{    设置多条件  大于1000小于2000
            "range":{
                "word_count":{
                    "gte":1000,
                    "lte":2000
                }
            }
        }
    }
}
}
只查看author不是张三的
{
"query":{
    "bool":{
        "must_not":{
            "term":{
                "author":"张三"
            }
        }
    }
}
}

本文为作者原创,手码不易,允许转载,转载后请以链接形式说明文章出处。

相关实践学习
使用阿里云Elasticsearch体验信息检索加速
通过创建登录阿里云Elasticsearch集群,使用DataWorks将MySQL数据同步至Elasticsearch,体验多条件检索效果,简单展示数据同步和信息检索加速的过程和操作。
ElasticSearch 入门精讲
ElasticSearch是一个开源的、基于Lucene的、分布式、高扩展、高实时的搜索与数据分析引擎。根据DB-Engines的排名显示,Elasticsearch是最受欢迎的企业搜索引擎,其次是Apache Solr(也是基于Lucene)。 ElasticSearch的实现原理主要分为以下几个步骤: 用户将数据提交到Elastic Search 数据库中 通过分词控制器去将对应的语句分词,将其权重和分词结果一并存入数据 当用户搜索数据时候,再根据权重将结果排名、打分 将返回结果呈现给用户 Elasticsearch可以用于搜索各种文档。它提供可扩展的搜索,具有接近实时的搜索,并支持多租户。
目录
相关文章
|
2月前
|
存储 自然语言处理 BI
|
9天前
|
机器学习/深度学习 人工智能 运维
阿里云技术公开课直播预告:基于阿里云 Elasticsearch 构建 AI 搜索和可观测 Chatbot
阿里云技术公开课预告:Elastic和阿里云搜索技术专家将深入解读阿里云Elasticsearch Enterprise版的AI功能及其在实际应用。
阿里云技术公开课直播预告:基于阿里云 Elasticsearch 构建 AI 搜索和可观测 Chatbot
|
12天前
|
存储 人工智能 API
(Elasticsearch)使用阿里云 infererence API 及 semantic text 进行向量搜索
本文展示了如何使用阿里云 infererence API 及 semantic text 进行向量搜索。
|
8天前
|
搜索推荐 API 定位技术
一文看懂Elasticsearch的技术架构:高效、精准的搜索神器
Elasticsearch 是一个基于 Lucene 的开源搜索引擎,以其强大的全文本搜索功能和快速的倒排索引技术著称。它不仅支持数字、文本、地理位置等多类型数据,还提供了可调相关度分数、高级查询 DSL 等功能。Elasticsearch 的核心技术流程包括数据导入、解析、索引化、查询处理、得分计算及结果返回,确保高效处理大规模数据并提供准确的搜索结果。通过 RESTful API、Logstash 和 Filebeat 等工具,Elasticsearch 可以从多种数据源中导入和解析数据,支持复杂的查询需求。
43 0
|
1月前
|
存储 缓存 固态存储
Elasticsearch高性能搜索
【11月更文挑战第1天】
50 6
|
1月前
|
API 索引
Elasticsearch实时搜索
【11月更文挑战第2天】
50 1
|
2月前
|
人工智能
云端问道12期-构建基于Elasticsearch的企业级AI搜索应用陪跑班获奖名单公布啦!
云端问道12期-构建基于Elasticsearch的企业级AI搜索应用陪跑班获奖名单公布啦!
187 2
|
2月前
|
Web App开发 JavaScript Java
elasticsearch学习五:springboot整合 rest 操作elasticsearch的 实际案例操作,编写搜索的前后端,爬取京东数据到elasticsearch中。
这篇文章是关于如何使用Spring Boot整合Elasticsearch,并通过REST客户端操作Elasticsearch,实现一个简单的搜索前后端,以及如何爬取京东数据到Elasticsearch的案例教程。
236 0
elasticsearch学习五:springboot整合 rest 操作elasticsearch的 实际案例操作,编写搜索的前后端,爬取京东数据到elasticsearch中。
|
2月前
|
消息中间件 监控 关系型数据库
MySQL数据实时同步到Elasticsearch:技术深度解析与实践分享
在当今的数据驱动时代,实时数据同步成为许多应用系统的核心需求之一。MySQL作为关系型数据库的代表,以其强大的事务处理能力和数据完整性保障,广泛应用于各种业务场景中。然而,随着数据量的增长和查询复杂度的提升,单一依赖MySQL进行高效的数据检索和分析变得日益困难。这时,Elasticsearch(简称ES)以其卓越的搜索性能、灵活的数据模式以及强大的可扩展性,成为处理复杂查询需求的理想选择。本文将深入探讨MySQL数据实时同步到Elasticsearch的技术实现与最佳实践。
200 0
|
1月前
|
存储 安全 数据管理
如何在 Rocky Linux 8 上安装和配置 Elasticsearch
本文详细介绍了在 Rocky Linux 8 上安装和配置 Elasticsearch 的步骤,包括添加仓库、安装 Elasticsearch、配置文件修改、设置内存和文件描述符、启动和验证 Elasticsearch,以及常见问题的解决方法。通过这些步骤,你可以快速搭建起这个强大的分布式搜索和分析引擎。
54 5