严选 | Elasticsearch史上最全最常用工具清单

本文涉及的产品
检索分析服务 Elasticsearch 版,2核4GB开发者规格 1个月
日志服务 SLS,月写入数据量 50GB 1个月
可观测可视化 Grafana 版,10个用户账号 1个月
简介: 1、题记工欲善其事必先利其器,ELK Stack的学习和实战更是如此,特将工作中用到的“高效”工具分享给大家。希望能借助“工具”提高开发、运维效率!

2、工具分类概览

2.1 基础类工具

1、Head插件

1)功能概述:

ES集群状态查看、索引数据查看、ES DSL实现(增、删、改、查操作)

比较实用的地方:json串的格式化

image.png

2)地址:http://mobz.github.io/elasticsearch-head/

2、Kibana工具

除了支持各种数据的可视化之外,最重要的是:支持Dev Tool进行RESTFUL API增删改查操作。

——比Postman工具和curl都方便很多。

image.png

地址:https://www.elastic.co/products/kibana

3、ElasticHD工具

强势功能——支持sql转DSL,不要完全依赖,可以借鉴用。

image.png

地址:https://github.com/360EntSecGroup-Skylar/ElasticHD

2.2 集群监控工具

4、cerebro工具

image.png

地址:https://github.com/lmenezes/cerebro


5、Elaticsearch-HQ工具


管理elasticsearch集群以及通过web界面来进行查询操作


地址:https://github.com/royrusso/elasticsearch-HQ


2.3 集群迁移工具

6、Elasticsearch-migration工具


支持多个版本间的数据迁移,使用scroll+bulk


地址:https://github.com/medcl/elasticsearch-migration


7、Elasticsearch-Exporter


将ES中的数据向其他导出的简单脚本实现。


地址:https://github.com/mallocator/Elasticsearch-Exporter


8、Elasticsearch-dump


移动和保存索引的工具。


地址:https://github.com/taskrabbit/elasticsearch-dump


2.4 集群数据处理工具

9、elasticsearch-curator


elasticsearch官方工具,能实现诸如数据只保留前七天的数据的功能。


地址:

https://pypi.python.org/pypi/elasticsearch-curator


另外 ES6.3(还未上线) 有一个 Index LifeCycle Management 可以很方便的管理索引的保存期限。


2.5 安全类工具

10、x-pack工具

image.png

地址:https://www.elastic.co/downloads/x-pack


11、search-guard 第三方工具


Search Guard 是 Elasticsearch 的安全插件。它为后端系统(如LDAP或Kerberos)提供身份验证和授权,并向Elasticsearch添加审核日志记录和文档/字段级安全性。


Search Guard所有基本安全功能(非全部)都是免费的,并且内置在Search Guard中。 Search Guard支持OpenSSL并与Kibana和logstash配合使用。


地址:https://github.com/floragunncom/search-guard


2.6 可视化类工具

12、grafana工具

image.png

地址:https://grafana.com/grafana

grafana工具与kibana可视化的区别:

  1. 如果你的业务线数据较少且单一,可以用kibana做出很棒很直观的数据分析。
  2. 而如果你的数据源很多并且业务线也多,建议使用grafana,可以减少你的工作量
  3. image.png
  4. 对比:

https://www.zhihu.com/question/54388690

2.7 自动化运维工具

elasticsearch免费的自动化运维工具


13、Ansible


https://github.com/elastic/ansible-elasticsearch


14、Puppet


https://github.com/elastic/puppet-elasticsearch


15、Cookbook


https://github.com/elastic/cookbook-elasticsearch


以上三个工具来自medcl大神社区问题的回复,我没有实践过三个工具。


2.8 类SQl查询工具

16、Elasticsearch-sql 工具


sql 一款国人NLP-china团队写的通过类似sql语法进行查询的工具


地址:https://github.com/NLPchina/elasticsearch-sql


ES6.3+以后的新版本会集成sql。


2.9 增强类工具

17、Conveyor 工具


kibna插件——图形化数据导入工具


地址:http://t.cn/REOhwGT


18、kibana_markdown_doc_view 工具


Kibana文档查看强化插件,以markdown格式展示文档


地址:http://t.cn/REOhKgB


19、 indices_view工具


indices_view 是新蛋网开源的一个 kibana APP 插件项目,可以安装在 kibana 中,快速、高效、便捷的查看elasticsearch 中 indices 相关信息


地址:https://gitee.com/newegg/indices_view


20、dremio 工具

image.png

image.png

- 支持sql转DSL,

- 支持elasticsearch、mysql、oracle、mongo、csv等多种格式可视化处理;

- 支持ES多表的Join操作


地址:https://www.dremio.com/


2.10 报警类

1、elastalert

ElastAlert 是 Yelp 公司开源的一套用 Python2.6 写的报警框架。属于后来 Elastic.co 公司出品的 Watcher 同类产品。官网地址见:http://elastalert.readthedocs.org/


使用举例:当我们把ELK搭建好、病顺利的收集到日志,但是日志里发生了什么事,我们并不能第一时间知道日志里到底发生了什么,运维需要第一时间知道日志发生了什么事,所以就有了ElastAlert的邮件报警。


2、sentinl

SENTINL 6扩展了Siren Investigate和Kibana的警报和报告功能,使用标准查询,可编程验证器和各种可配置操作来监控,通知和报告数据系列更改 - 将其视为一个独立的“Watcher” “报告”功能(支持PNG / PDF快照)。


SENTINL还旨在简化在Siren Investigate / Kibana 6.x中通过其本地应用程序界面创建和管理警报和报告的过程,或通过在Kibana 6.x +中使用本地监视工具来创建和管理警报和报告的过程。


3、小结

突然想起鲁迅先生笔下的孔乙己“茴香豆的茴字有几种写法?”


管几种写法,适合自己的工具才是最好的!


https://www.elastic.co/guide/en/elasticsearch/plugins/6.2/index.html



加入知识星球,更短时间更快习得更多干货!

相关实践学习
使用阿里云Elasticsearch体验信息检索加速
通过创建登录阿里云Elasticsearch集群,使用DataWorks将MySQL数据同步至Elasticsearch,体验多条件检索效果,简单展示数据同步和信息检索加速的过程和操作。
ElasticSearch 入门精讲
ElasticSearch是一个开源的、基于Lucene的、分布式、高扩展、高实时的搜索与数据分析引擎。根据DB-Engines的排名显示,Elasticsearch是最受欢迎的企业搜索引擎,其次是Apache Solr(也是基于Lucene)。 ElasticSearch的实现原理主要分为以下几个步骤: 用户将数据提交到Elastic Search 数据库中 通过分词控制器去将对应的语句分词,将其权重和分词结果一并存入数据 当用户搜索数据时候,再根据权重将结果排名、打分 将返回结果呈现给用户 Elasticsearch可以用于搜索各种文档。它提供可扩展的搜索,具有接近实时的搜索,并支持多租户。
相关文章
|
1月前
|
关系型数据库 MySQL
elasticsearch对比mysql以及使用工具同步mysql数据全量增量
elasticsearch对比mysql以及使用工具同步mysql数据全量增量
34 0
|
1月前
|
监控 Java 测试技术
【Elasticsearch专栏 13】深入探索:Elasticsearch使用Curator工具删除Elasticsearch中的历史数据
使用Curator工具可以有效管理Elasticsearch中的旧数据,通过编写YAML配置文件定义删除操作。配置中指定了基于索引名称前缀和年龄的过滤器,确保仅删除符合条件的旧索引。执行删除操作时,Curator会应用过滤器识别目标索引,并向Elasticsearch发送删除请求。通过设置选项,如忽略空列表和超时时间,可以确保操作的灵活性和稳定性。使用Curator不仅释放了存储空间,还提高了查询性能,是维护Elasticsearch健康的重要工具
61 0
|
弹性计算 JavaScript Linux
ElasticSearch备份与恢复-elasticdump工具
ElasticSearch备份与恢复-elasticdump工具
|
数据可视化 前端开发 Java
ElasticSearch可视化管理工具cerebro的安装与简单使用
ElasticSearch可视化管理工具cerebro的安装与简单使用
1413 0
ElasticSearch可视化管理工具cerebro的安装与简单使用
|
17天前
|
运维 监控 数据可视化
cerebro【ElasticSearch可视化工具】
cerebro【ElasticSearch可视化工具】
18 1
|
23天前
|
存储 安全 数据管理
如何在 Rocky Linux 8 上安装和配置 Elasticsearch,帮助你快速搭建起这个强大的工具
【6月更文挑战第7天】本文档详细介绍了如何在Rocky Linux 8上安装和配置Elasticsearch,首先通过添加Elasticsearch仓库并使用yum安装。接着,配置Elasticsearch,包括修改`elasticsearch.yml`、设置内存和文件描述符,以及可选的安全设置。启动Elasticsearch后,通过验证日志和测试连接确保其正常运行。文章还列举了常见问题及解决方法,如启动失败、内存不足和网络问题。按照这些步骤,用户可以在Rocky Linux 8上成功部署Elasticsearch,为数据管理与分析提供强大支持。
38 5
|
7月前
|
JSON 数据格式 索引
实际使用Elasticdump工具对Elasticsearch集群进行数据备份和数据还原
就可以通过Elasticsearch的导入导出工具Elasticdump来实现,可以将Elasticsearch不同集群的数据进行索引备份和还原。
142 0
|
7月前
|
存储 数据可视化 搜索推荐
分布式系列教程(26) -分布式日志搜集工具Elasticsearch简介
分布式系列教程(26) -分布式日志搜集工具Elasticsearch简介
67 0
|
1月前
|
自然语言处理 数据可视化 算法
史上最详细Docker安装Elasticsearch、ik分词器、可视化工具,每一步都带有步骤图!!!
史上最详细Docker安装Elasticsearch、ik分词器、可视化工具,每一步都带有步骤图!!!
581 0
史上最详细Docker安装Elasticsearch、ik分词器、可视化工具,每一步都带有步骤图!!!
|
10月前
|
SQL 数据可视化 前端开发
简单好用的ElasticSearch可视化工具:es-client和Head
使用 ElasticSearch(简称 es) 的过程中,经常有一些临时查询(如 排查问题、验证效果),一个趁手的可视化工具 可以提高工作效率。个人倾向于 免费(最好开源)、易于安装(如 浏览器插件),`es-client` 就是 比较简单好用的一个,尤其是 查询
1567 0