ES

本文涉及的产品
检索分析服务 Elasticsearch 版,2核4GB开发者规格 1个月
简介: ES

一、ES主要解决的问题:
1)检索相关数据;
2)返回统计结果;
3)速度要快。

二、es核心概念
1、cluster:集群
ES可以作为一个独立的单个搜索服务器。不过,为了处理大型数据集,实现容错和高可用性,ES可以运行在许多相互合作的服务器上。这些服务器的集合称为集群。
2、Node:节点
形成集群的每个服务器称为节点。
3、Shard:分片
当有大量的文档时,由于内存的限制、磁盘处理能力不足、无法足够快的相应客户端的请求等,一个节点可能不够。这种情况下,数据可以分为较小的分片。每个分片放到不同的服务器上。
当你查询的索引分布在多个分片上时,ES会把查询发送到每个相关的分片,并将结果组合在一起,而应用程序并不知道分片的存在。即:这个过程对用户来说是透明的。
4、Replia : 副本
为提高查询吞吐量或者实现高可用性,可以使用分片副本。
副本是一个分片的精确复制,每个分片可以有零个或多个副本。ES中可以有许多相同的分片,其中之一被选择更改索引操作,这种特殊的分片称为主分片。
当主分片丢失时,如:该分片所在的数据不可用时,集群将副本提升为新的主分片。
5、全文索引。
全文索引就是对一篇文章进行索引,可以根据关键字索引,类似于mysql里的like语句。
全文索引就是把内容根据词的意义进行分词,然后分别创建索引,例如“你们的思维是因为什么事情来的” 可能会被分词成:“你们”, “思维”,“什么事情”,“来”等,这样当“你们” 或者“思维” 都会把这句搜出来。

6.Es数据架构的主要概念(与关系数据库MYsql对比)

(1)关系型数据库中的数据库(database),等价于ES中的索引(index)。
(2)一个数据库下面有N张表(Table),等价于1个索引index下面有N多类型(Type)
(3) 一个数据库表(Table)下的数据由多行(Row)多列(column)组成,等价于1个Type由多个文档(Document)和多Field组成。
(4)在一个关系型数据库里面,schema定义了表、每个表的字段,还有表和字段之间的关系。与之对应的,在ES中:Mapping定义索引下的TYpe的字段处理规则,即索引如何建立、索引类型、是否保存原始索引JSOn文档、是否压缩原始JSON文档、是否需要分词处理、如何进行分词处理等。
(5)在数据库中insert、delete、update、select操作等价于es中的增put/post、删delete、改update、查get.

7、elk是什么?
elk = elasticsearch + logstash + kibana
elasticsearch :后台分布式存储以及全文检索

logstash:日志加工、“搬运工”

kibana:数据可视化展示。
elk架构为数据分布式存储、可视化查询和日志解析创建了一个功能强大的管理链。三者相互配合,取长补短,共同完成分布式大数据处理工作。

三、ES特点和优势
(1)分布式实时文件存储,可将每一个字段存入索引,使其可以被检索到。
(2)实时分析的分布式搜索引擎。
分布式:索引分拆成多个分片,每个分片可有零个或多个副本。集群中的每个数据节点都可承载一个或多个分片,并且协调和出合理各种操作;
负载再平衡和路由在大多数情况下自动完成。
(3)可以扩展到上百台服务器,处理PB级别的结构化或非结构化数据。也可以运行在单台pc上。
(4)支持插件机制,分词插件,同步插件,hadoop插件,可视化插件等。

四、es性能
1、性能结果展示
(1)硬件配置
CPU 16核 AuthenticAMD
内存 总量:32GB
硬盘 总量:500GB 非SSD

2、在上述硬件指标的基础上测试性能如下:
1)平均索引吞吐量: 12307docs/s(每个文档大小:40B/docs)
2)平均CPU使用率: 887.7%(16核,平均每核:55.48%)
3)构建索引大小: 3.30111 GB
4)总写入量: 20.2123 GB
5)测试总耗时: 28m 54s.

3、为什么要用ES?
4.1 ES国内外使用优秀案例
1) 2013年初,GitHub抛弃了Solr,采取ElasticSearch 来做PB级的搜索。 “GitHub使用ElasticSearch搜索20TB的数据,包括13亿文件和1300亿行代码”。

2)维基百科:启动以elasticsearch为基础的核心搜索架构。
3)SoundCloud:“SoundCloud使用ElasticSearch为1.8亿用户提供即时而精准的音乐搜索服务”。
4)百度:百度目前广泛使用ElasticSearch作为文本数据分析,采集百度所有服务器上的各类指标数据及用户自定义数据,通过对各种数据进行多维分析展示,辅助定位分析实例异常或业务层面异常。目前覆盖百度内部20多个业务线(包括casio、云分析、网盟、预测、文库、直达号、钱包、风控等),单集群最大100台机器,200个ES节点,每天导入30TB+数据。

相关实践学习
使用阿里云Elasticsearch体验信息检索加速
通过创建登录阿里云Elasticsearch集群,使用DataWorks将MySQL数据同步至Elasticsearch,体验多条件检索效果,简单展示数据同步和信息检索加速的过程和操作。
ElasticSearch 入门精讲
ElasticSearch是一个开源的、基于Lucene的、分布式、高扩展、高实时的搜索与数据分析引擎。根据DB-Engines的排名显示,Elasticsearch是最受欢迎的企业搜索引擎,其次是Apache Solr(也是基于Lucene)。 ElasticSearch的实现原理主要分为以下几个步骤: 用户将数据提交到Elastic Search 数据库中 通过分词控制器去将对应的语句分词,将其权重和分词结果一并存入数据 当用户搜索数据时候,再根据权重将结果排名、打分 将返回结果呈现给用户 Elasticsearch可以用于搜索各种文档。它提供可扩展的搜索,具有接近实时的搜索,并支持多租户。
相关文章
|
8月前
|
前端开发 JavaScript Java
ES11,ES12,ES13
ES11,ES12,ES13
75 1
|
4天前
|
存储 JavaScript 前端开发
ES6
ES6
19 1
|
7月前
|
前端开发 JavaScript API
|
7月前
es_详解
es_详解
27 0
|
8月前
ES6(二)
es6相关知识
35 0
|
8月前
|
网络架构 索引
ES6(一)
- 使用let,声明的变量仅在块级作用域内有效 - var命令声明的,在全局范围内都有效 - const声明一个只读的常量。一旦声明,常量的值就不能改变。 - const的作用域与let命令相同:只在声明所在的块级作用域内有效。 - let命令改变了语法行为,它所声明的变量一定要在声明后使用,否则报错。 - let不允许在相同作用域内,重复声明同一个变量。 - 什么时候用 let,什么使用用 const——如果不知道用什么的时候,就用 const
34 0
|
9月前
ES6 Day02
ES6 Day02
38 0
|
9月前
|
前端开发 容器
ES6 Day04
ES6 Day04
57 0
|
JSON JavaScript 前端开发
ES5和ES6的介绍
《前端基础》
320 0
|
前端开发 JavaScript 网络架构
除了ES6,ES还有那些必须要懂得知识?
Includes 方法用来检测数组中是否包含某个元素,返回布尔类型值。
91 0
除了ES6,ES还有那些必须要懂得知识?