第 21 章 ElasticSearch + Logstash + Kibana

本文涉及的产品
检索分析服务 Elasticsearch 版,2核4GB开发者规格 1个月
简介:

目录

21.1. 安装
21.1.1. 6.x
21.1.2. ElasticSearch + Logstash + Kibana 安装
21.1.2.1. ElasticSearch 安装
21.1.2.2. Kibana 安装
21.1.2.3. Logstash 安装
21.1.2.4. 从 5.x 升级到 6.x
21.2. logstash 命令简单应用
21.2.1. -e 命令行运行
21.2.2. -f 指定配置文件
21.2.3. -t:测试配置文件是否正确,然后退出。
21.2.4. -l:日志输出的地址
21.2.5. log.level 启动Debug模式
21.3. 配置 Broker(Redis)
21.3.1. indexer
21.3.2. shipper
21.4. logstash 配置项
21.4.1. input
21.4.1.1. 标准输入输出
21.4.1.2. rubydebug
21.4.1.3. 本地文件
21.4.1.3.1. 指定文件类型
21.4.1.3.1.1. Nginx
21.4.1.4. TCP/UDP
21.4.1.5. Redis
21.4.1.6. Kafka
21.4.1.7. jdbc
21.4.2. filter
21.4.2.1. 日期格式化
21.4.2.2. patterns
21.4.2.3. syslog
21.4.2.4. csv
21.4.2.5. 使用ruby 处理 CSV文件
21.4.2.6. 执行 ruby 代码
21.4.2.7. grok debug 工具
21.4.3. output
21.4.3.1. stdout
21.4.3.2. file 写入文件
21.4.3.3. elasticsearch
21.4.3.3.1. 自定义 index
21.4.3.4. exec 执行脚本
21.5. Example
21.5.1. Spring boot logback
21.5.2. 索引切割实例
21.5.3.
21.5.3.1.
21.6. FAQ
21.6.1. 查看 Kibana 数据库
21.6.2. logstash 无法写入 elasticsearch
21.6.3. 标准输出
21.6.4. 5.x 升级至 6.x 的变化

官方网站https://www.elastic.co

环境准备:

操作系统: CentOS 7

Java 1.8

Redis

ElasticSearch + Logstash + Kibana 均使用 5.2 版本

以下安装均使用 Netkiller OSCM 脚本一键安装

21.1. 安装

21.1.1. 6.x

			
curl -s https://raw.githubusercontent.com/oscm/shell/master/search/elastic/elastic-6.x.sh | bash
			
			

21.1.2. ElasticSearch + Logstash + Kibana 安装

21.1.2.1. ElasticSearch 安装

粘贴下面命令到Linux控制台即可一键安装

				
curl -s https://raw.githubusercontent.com/oscm/shell/master/search/elasticsearch/elasticsearch-5.x.sh | bash
				
				
21.1.2.2. Kibana 安装
				
curl -s https://raw.githubusercontent.com/oscm/shell/master/log/kibana/kibana-5.x.sh | bash
						
				
21.1.2.3. Logstash 安装
curl -s https://raw.githubusercontent.com/oscm/shell/master/log/kibana/logstash-5.x.sh | bash		
				
21.1.2.4. 从 5.x 升级到 6.x

升级仓库

				
curl -s https://raw.githubusercontent.com/oscm/shell/master/search/elastic/elastic-6.x.sh | bash		
				
				
				
yum update logstash
				
		





原文出处:Netkiller 系列 手札
本文作者:陈景峯
转载请与作者联系,同时请务必标明文章原始出处和作者信息及本声明。

相关实践学习
使用阿里云Elasticsearch体验信息检索加速
通过创建登录阿里云Elasticsearch集群,使用DataWorks将MySQL数据同步至Elasticsearch,体验多条件检索效果,简单展示数据同步和信息检索加速的过程和操作。
ElasticSearch 入门精讲
ElasticSearch是一个开源的、基于Lucene的、分布式、高扩展、高实时的搜索与数据分析引擎。根据DB-Engines的排名显示,Elasticsearch是最受欢迎的企业搜索引擎,其次是Apache Solr(也是基于Lucene)。 ElasticSearch的实现原理主要分为以下几个步骤: 用户将数据提交到Elastic Search 数据库中 通过分词控制器去将对应的语句分词,将其权重和分词结果一并存入数据 当用户搜索数据时候,再根据权重将结果排名、打分 将返回结果呈现给用户 Elasticsearch可以用于搜索各种文档。它提供可扩展的搜索,具有接近实时的搜索,并支持多租户。
目录
相关文章
|
10天前
|
数据可视化 索引
elasticsearch head、kibana 安装和使用
elasticsearch head、kibana 安装和使用
|
1月前
|
监控 安全 Linux
【Elasticsearch专栏 14】深入探索:Elasticsearch使用Logstash的日期过滤器删除旧数据
使用Logstash的日期过滤器可以有效删除Elasticsearch中的旧数据,释放存储空间并提高集群性能。通过配置Logstash,可以指定索引模式、筛选时间戳早于特定阈值的文档,并在输出阶段删除这些旧数据。执行配置时,需确保Logstash与Elasticsearch连接正常,并监控日志以确保操作安全。定期执行此操作可确保旧数据不会过多积累。总之,Logstash的日期过滤器提供了一种简单而高效的方法,帮助管理和优化Elasticsearch中的数据。
|
4月前
|
JavaScript 大数据 Python
原生大数据|elasticSearch|低版本kibana组件的汉化
原生大数据|elasticSearch|低版本kibana组件的汉化
29 0
|
6月前
|
人工智能 数据可视化 Java
ElasticSearch安装、插件介绍及Kibana的安装与使用详解
ElasticSearch安装、插件介绍及Kibana的安装与使用详解
ElasticSearch安装、插件介绍及Kibana的安装与使用详解
|
7月前
|
JSON NoSQL 关系型数据库
Logstash同步MySql数据到Elasticsearch
Logstash同步MySql数据到Elasticsearch
117 0
|
6月前
|
安全 Java Linux
ElasticSearch第四讲:ES详解:ElasticSearch和Kibana安装
ElasticSearch第四讲:ES详解:ElasticSearch和Kibana安装
199 0
|
3月前
|
存储 自然语言处理 Java
Elasticsearch全文搜索技术之二kibana的简介和使用
Elasticsearch全文搜索技术之二kibana的简介和使用
26 2
|
4月前
|
数据可视化 Java 关系型数据库
Elasticsearch【环境搭建 02】最新版 elasticsearch + kibana(7.15.0)安装、配置、启动(多个问题处理 + kibana仪表盘使用举例)
Elasticsearch【环境搭建 02】最新版 elasticsearch + kibana(7.15.0)安装、配置、启动(多个问题处理 + kibana仪表盘使用举例)
83 0
|
4月前
|
安全 大数据 API
elasticsearch|大数据|kibana的安装(https+密码)
elasticsearch|大数据|kibana的安装(https+密码)
44 0
|
6月前
|
数据安全/隐私保护 Docker 容器
使用docker安装elastic search[ES]和kibana
使用docker安装elastic search[ES]和kibana
129 4

热门文章

最新文章