logstash日志系统搭建

本文涉及的产品
检索分析服务 Elasticsearch 版,2核4GB开发者规格 1个月
日志服务 SLS,月写入数据量 50GB 1个月
简介:

本文将介绍如果使用logstashelasticsearchkibana搭建一个日志分析系统。Logstash支持的日志类型非常的广泛,支持nginx,postfix.windows系统日志,java日志以及mysql慢查询日志,Docker日志等,并带有强大的过滤器功能,还可以输出到elasticsearchnagios,mail等,功能相当的强大,在我们要部署的日志分析系统中logstash用来收集各种日志,然后推送给elasticsearchkibana负责通过web接口最终展示出来。

环境介绍:

操作系统版本:centos6.6 64bit

Logstash版本: logstash-2.0.0.tar.gz

Elasticsearch版本:elasticsearch-2.1.0.tar.gz

Kibana版本:Kibana 4.2.1

Java版本:1.8.0_45

 

一:软件下载

1
2
3
# wget https://download.elastic.co/logstash/logstash/logstash-2.0.0.tar.gz
# wget https://download.elasticsearch.org/elasticsearch/release/org/elasticsearch/distribution/tar/elasticsearch/2.1.0/elasticsearch-2.1.0.tar.gz
# wget https://download.elastic.co/kibana/kibana/kibana-4.2.1-linux-x64.tar.gz

二:软件安装

1:安装java环境

1
2
3
4
# java -version 
java version "1.8.0_45"
Java(TM) SE Runtime Environment (build 1.8.0_45-b14)
Java HotSpot(TM) 64-Bit Server VM (build 25.45-b02, mixed mode)

2:解压软件包

1
2
3
4
5
6
# tar -zxvpf logstash-2.0.0.tar.gz 
# mv logstash-2.0.0 /usr/local/logstash
# tar -zxvpf  elasticsearch-2.1.0.tar.gz
# mv elasticsearch /usr/local/elasticsearch
# tar -zxvpf kibana-4.2.1-linux-x64.tar.gz
# mv kibana-4.2.1 /usr/local/kibana

3:启动elasticsearchkibana

这里可以根据自己的实际需求来修改yml配置文件

1
2
3
4
# useradd  yang
# chown  -R  yang.yang /usr/local/elasticsearch/
# nohup su - yang -c /usr/local/elasticsearch/bin/elasticsearch &
# /usr/local/kibana/bin/kibana

4:配置logstash,运行测试

1
# logstash -e 'input{stdin{}}output{stdout{codec=>rubydebug}}'

wKioL1ZewQujURhJAABW-A5JlTY920.png

配置文件方式运行logstash测试将数据推送到elasticsearch

1
2
3
4
5
6
7
8
9
10
11
12
13
# cat /usr/local/logstash/etc/logstash.conf 
input {
  stdin { }
}
 
output {
  stdout {
  codec => rubydebug {}
}
  elasticsearch { 
  hosts => "192.168.115.5" } 
# /usr/local/logstash/bin/logstash -f /usr/local/logstash/etc/logstach.conf

wKiom1ZewNTBGy1LAACzo8qWIr0866.png

http://192.168.115.5:9200/_search?q=hello

wKiom1ZewO_h0ZgeAABrfyRsKko499.png

Kibana上配置相应的索引前缀

wKioL1ZewXmC43YaAAFisphsO_w189.pngwKiom1ZewSSRFV-4AAEUkydcaik776.png

本文转自斩月博客51CTO博客,原文链接http://blog.51cto.com/ylw6006/1718983如需转载请自行联系原作者


ylw6006

相关实践学习
日志服务之使用Nginx模式采集日志
本文介绍如何通过日志服务控制台创建Nginx模式的Logtail配置快速采集Nginx日志并进行多维度分析。
相关文章
|
22天前
|
存储 监控 安全
|
19天前
|
存储 Linux Docker
centos系统清理docker日志文件
通过以上方法,可以有效清理和管理CentOS系统中的Docker日志文件,防止日志文件占用过多磁盘空间。选择合适的方法取决于具体的应用场景和需求,可以结合手动清理、logrotate和调整日志驱动等多种方式,确保系统的高效运行。
19 2
|
21天前
|
存储 JSON 监控
开源日志分析Logstash
【10月更文挑战第22天】
35 1
|
30天前
|
XML JSON 监控
告别简陋:Java日志系统的最佳实践
【10月更文挑战第19天】 在Java开发中,`System.out.println()` 是最基本的输出方法,但它在实际项目中往往被认为是不专业和不足够的。本文将探讨为什么在现代Java应用中应该避免使用 `System.out.println()`,并介绍几种更先进的日志解决方案。
48 1
|
1月前
|
监控 网络协议 安全
Linux系统日志管理
Linux系统日志管理
46 3
|
1月前
|
监控 应用服务中间件 网络安全
#637481#基于django和neo4j的日志分析系统
#637481#基于django和neo4j的日志分析系统
35 4
|
1月前
|
监控 Linux 测试技术
Linux系统命令与网络,磁盘和日志监控总结
Linux系统命令与网络,磁盘和日志监控总结
58 0
|
1月前
|
监控 Linux 测试技术
Linux系统命令与网络,磁盘和日志监控三
Linux系统命令与网络,磁盘和日志监控三
41 0
|
2月前
|
JSON 缓存 fastjson
一行日志引发的系统异常
本文记录了一行日志引发的系统异常以及作者解决问题的思路。
使用装饰器实现自动化日志系统
使用装饰器实现自动化日志系统
下一篇
无影云桌面