ELK平台搭建 ES

本文涉及的产品
检索分析服务 Elasticsearch 版,2核4GB开发者规格 1个月
云数据库 Redis 版,社区版 2GB
推荐场景:
搭建游戏排行榜
简介:

系统环境:

System: Centos 6.5

ElasticSearch: 2.3.3

Logstash: 2.3.3

Kibana: 4.5.1

Java: jdk_1.8.0_71


新建用户:

ELK不允许root用户启动

1
#useradd elk

JDK或JRE下载安装:

java也可到这个地址下载https://www.reucon.com/cdn/java/

1
2
3
# mkdir /usr/java/ 
# cd /usr/java
# tar -zxvf jdk-8u71-linux-x64.tar.gz

1
2
3
4
5
6
7
8
9
10
11
12
# 修改文件夹名,防止异常,养成好习惯
# mv jdk1.8.0_71 jdk18071
# 配置环境变量
# vi /etc/profile
     export  JAVA_HOME= /usr/java/jdk18071
     export  JAVA_BIN=$JAVA_HOME /bin
     export  JRE_HOME=$JAVA_HOME /jre
     export  JRE_bin=$JRE_HOME /bin
     export  CLASSPATH=.:$JAVA_HOME /lib :$JRE_HOME /lib
     export  PATH=$JAVA_BIN:$PATH
# 配置生效
# source /etc/profile

Redis安装

1
2
# yum install epel-release –y
# yum install redis –y

修改redis配置文件使redis监听所有ip,默认情况下只监听127.0.0.01

1
2
# vi /etc/redis.conf
    bind 0.0.0.0

启动Redis

CentOS 6

1
# service redis start

CentOS 7

1
# systemctl restart redis.service


下载:

ELK下载:https://www.elastic.co/downloads/

wKiom1dsz-CieVOVAAEYEzx-v0s956.png-wh_50


ElasticSearch安装:

建立存放目录:

切记:涉及ElasticSearch的目录和文件,一定要全修改权限,否则启动报错。

1
2
# mkdir -p /elk/{data,logs,work,plugins,scripts}
# chown -R elk:elk /elk

配置ElasticSearch:

1
2
3
# tar -zxvf elasticsearch-2.3.3.tar.gz
#  chown -R elk:elk elasticsearch-2.3.3
# cd elasticsearch-2.3.3

安装Head插件(Optional):

1
# ./bin/plugin install mobz/elasticsearch-head

wKioL1ds0I_Dfs0YAACTX2xuGnc271.png

然后编辑ES的配置文件:

1
# vi config/elasticsearch.yml

修改以下配置项:

1
2
3
4
5
6
7
8
9
10
11
cluster.name:cluster(集群名称)
node.name: "test-node1" (集群结点名称)
path.data: /elk/data (数据)
path.logs: /elk/logs (日志路径)
node.master:  true (是否可被选为主结点,默认 true
node.data:  true (结点是否存储数据,默认 true )
index.number_of_shards:5(索引分片数)
index.number_of_replicas:1(索引副本数)
transport.tcp.port:9300(数据传输IP)
network.host:192.168.1.100(当前 hostname 或IP,我这里是IP)
http.port: 9200(对外访问监听IP)

启动ES:

使用ctrl+C停止,参数-d 或& 为后台启动

1
$ . /bin/elasticsearch  -d

1
$ . /bin/elasticsearch  &

测试:

1
curl -X GET http: //IP :9200

返回展示了配置的cluster_name和name,以及安装的ES的版本等信息。

刚刚安装的head插件,它是一个用浏览器跟ES集群交互的插件,可以查看集群状态、集群的doc内容、执行搜索和普通的Rest请求等。

现在也可以使用它打开http://IP:9200/_plugin/head页面来查看ES集群状态。

wKioL1ds-ZHgWnCNAACfMEgaqm4147.png可以看到,现在,ES集群中没有index,也没有type,因此这两条是空的。


Logstash安装:


配置Logstash:

1
2
tar  -zxvf logstash-2.1.1. tar .gz
cd  logstash-2.1.1


编写配置文件(名字和位置可以随意,这里我放在config目录下,取名为log4j_to_es.conf):

1
2
mkdir  config
vi  config /log4j_to_es .conf

输入以下内容:

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
# For detail structure of this file
# Set: https://www.elastic.co/guide/en/logstash/current/configuration-file-structure.html
input {
   # For detail config for log4j as input, 
   # See: https://www.elastic.co/guide/en/logstash/current/plugins-inputs-log4j.html
   log4j {
     mode =>  "server"
     host =>  "192.168.1.100"  #IP or HostName
     port => 4567
   }
}
filter {
   #Only matched data are send to output.
}
output {
   # For detail config for elasticsearch as output, 
   # See: https://www.elastic.co/guide/en/logstash/current/plugins-outputs-elasticsearch.html
   elasticsearch {
     action =>  "index"           #The operation on ES
     hosts  =>  "192.168.1.100:9200"  #IP or HostName,ElasticSearch host, can be array.
     index  =>  "applog"          #The index to write data to.
   }
}


启动:

使用agent来启动它(使用-f指定配置文件):

1
. /bin/logstash  agent -f config /log4j_to_es .conf

启动成功

wKiom1dtBNSS152DAABM913Yarw032.png





参考文章:

http://my.oschina.net/itblog/blog/547250

http://blog.csdn.net/gongzi2311/article/details/51699958

http://blog.csdn.net/laoyang360/article/details/51417097




本文转自 piazini 51CTO博客,原文链接:http://blog.51cto.com/wutou/1792548
相关实践学习
使用阿里云Elasticsearch体验信息检索加速
通过创建登录阿里云Elasticsearch集群,使用DataWorks将MySQL数据同步至Elasticsearch,体验多条件检索效果,简单展示数据同步和信息检索加速的过程和操作。
ElasticSearch 入门精讲
ElasticSearch是一个开源的、基于Lucene的、分布式、高扩展、高实时的搜索与数据分析引擎。根据DB-Engines的排名显示,Elasticsearch是最受欢迎的企业搜索引擎,其次是Apache Solr(也是基于Lucene)。 ElasticSearch的实现原理主要分为以下几个步骤: 用户将数据提交到Elastic Search 数据库中 通过分词控制器去将对应的语句分词,将其权重和分词结果一并存入数据 当用户搜索数据时候,再根据权重将结果排名、打分 将返回结果呈现给用户 Elasticsearch可以用于搜索各种文档。它提供可扩展的搜索,具有接近实时的搜索,并支持多租户。
相关文章
|
消息中间件 数据采集 监控
ELK搭建(五):linux系统日志监控平台搭建
现在的生产系统多使用linux系统,在实际生产过程中我们除了需要监控一些业务日志之外,有时也需要监控linux系统本身的日志,来帮助我们进行一些排错和判断。那么这一期,我们就针对linux系统日志监控平台的搭建来进行讲解 与往期一样,我们针对实际搭建教程更多是快速搭建为主,不做过多的原理性讲解,这一类讲解我们放到后期单独开几期博客来探讨。
766 0
ELK搭建(五):linux系统日志监控平台搭建
|
2月前
|
存储 监控 数据可视化
日志分析对决:揭示 ELK 与 GrayLog 的优势和差异
日志分析对决:揭示 ELK 与 GrayLog 的优势和差异
222 0
|
3月前
|
存储 Prometheus 监控
Prometheus vs. ELK Stack:容器监控与日志管理工具的较量
随着容器化技术的广泛应用,容器监控与日志管理成为了关键任务。本文将对两种常用工具进行比较与选择,分别是Prometheus和ELK Stack。Prometheus是一款开源的监控系统,专注于时序数据的收集和告警。而ELK Stack则是一套完整的日志管理解决方案,由Elasticsearch、Logstash和Kibana三个组件组成。通过比较它们的特点、优势和适用场景,读者可以更好地了解如何选择适合自己需求的工具。
|
3月前
|
Go 数据处理 Docker
elk stack部署自动化日志收集分析平台
elk stack部署自动化日志收集分析平台
79 0
|
4月前
|
存储 监控 数据可视化
小白带你学习linux的ELK日志收集系统
小白带你学习linux的ELK日志收集系统
157 0
|
3月前
|
存储 监控 安全
ELK7.x日志系统搭建 1. elk基础搭建
ELK7.x日志系统搭建 1. elk基础搭建
67 0
|
3月前
|
消息中间件 数据可视化 关系型数据库
ELK7.x日志系统搭建 4. 结合kafka集群完成日志系统
ELK7.x日志系统搭建 4. 结合kafka集群完成日志系统
147 0