ELK平台搭建 ES

本文涉及的产品
检索分析服务 Elasticsearch 版,2核4GB开发者规格 1个月
云数据库 Tair(兼容Redis),内存型 2GB
Redis 开源版,标准版 2GB
推荐场景:
搭建游戏排行榜
简介:

系统环境:

System: Centos 6.5

ElasticSearch: 2.3.3

Logstash: 2.3.3

Kibana: 4.5.1

Java: jdk_1.8.0_71


新建用户:

ELK不允许root用户启动

1
#useradd elk

JDK或JRE下载安装:

java也可到这个地址下载https://www.reucon.com/cdn/java/

1
2
3
# mkdir /usr/java/ 
# cd /usr/java
# tar -zxvf jdk-8u71-linux-x64.tar.gz

1
2
3
4
5
6
7
8
9
10
11
12
# 修改文件夹名,防止异常,养成好习惯
# mv jdk1.8.0_71 jdk18071
# 配置环境变量
# vi /etc/profile
     export  JAVA_HOME= /usr/java/jdk18071
     export  JAVA_BIN=$JAVA_HOME /bin
     export  JRE_HOME=$JAVA_HOME /jre
     export  JRE_bin=$JRE_HOME /bin
     export  CLASSPATH=.:$JAVA_HOME /lib :$JRE_HOME /lib
     export  PATH=$JAVA_BIN:$PATH
# 配置生效
# source /etc/profile

Redis安装

1
2
# yum install epel-release –y
# yum install redis –y

修改redis配置文件使redis监听所有ip,默认情况下只监听127.0.0.01

1
2
# vi /etc/redis.conf
    bind 0.0.0.0

启动Redis

CentOS 6

1
# service redis start

CentOS 7

1
# systemctl restart redis.service


下载:

ELK下载:https://www.elastic.co/downloads/

wKiom1dsz-CieVOVAAEYEzx-v0s956.png-wh_50


ElasticSearch安装:

建立存放目录:

切记:涉及ElasticSearch的目录和文件,一定要全修改权限,否则启动报错。

1
2
# mkdir -p /elk/{data,logs,work,plugins,scripts}
# chown -R elk:elk /elk

配置ElasticSearch:

1
2
3
# tar -zxvf elasticsearch-2.3.3.tar.gz
#  chown -R elk:elk elasticsearch-2.3.3
# cd elasticsearch-2.3.3

安装Head插件(Optional):

1
# ./bin/plugin install mobz/elasticsearch-head

wKioL1ds0I_Dfs0YAACTX2xuGnc271.png

然后编辑ES的配置文件:

1
# vi config/elasticsearch.yml

修改以下配置项:

1
2
3
4
5
6
7
8
9
10
11
cluster.name:cluster(集群名称)
node.name: "test-node1" (集群结点名称)
path.data: /elk/data (数据)
path.logs: /elk/logs (日志路径)
node.master:  true (是否可被选为主结点,默认 true
node.data:  true (结点是否存储数据,默认 true )
index.number_of_shards:5(索引分片数)
index.number_of_replicas:1(索引副本数)
transport.tcp.port:9300(数据传输IP)
network.host:192.168.1.100(当前 hostname 或IP,我这里是IP)
http.port: 9200(对外访问监听IP)

启动ES:

使用ctrl+C停止,参数-d 或& 为后台启动

1
$ . /bin/elasticsearch  -d

1
$ . /bin/elasticsearch  &

测试:

1
curl -X GET http: //IP :9200

返回展示了配置的cluster_name和name,以及安装的ES的版本等信息。

刚刚安装的head插件,它是一个用浏览器跟ES集群交互的插件,可以查看集群状态、集群的doc内容、执行搜索和普通的Rest请求等。

现在也可以使用它打开http://IP:9200/_plugin/head页面来查看ES集群状态。

wKioL1ds-ZHgWnCNAACfMEgaqm4147.png可以看到,现在,ES集群中没有index,也没有type,因此这两条是空的。


Logstash安装:


配置Logstash:

1
2
tar  -zxvf logstash-2.1.1. tar .gz
cd  logstash-2.1.1


编写配置文件(名字和位置可以随意,这里我放在config目录下,取名为log4j_to_es.conf):

1
2
mkdir  config
vi  config /log4j_to_es .conf

输入以下内容:

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
# For detail structure of this file
# Set: https://www.elastic.co/guide/en/logstash/current/configuration-file-structure.html
input {
   # For detail config for log4j as input, 
   # See: https://www.elastic.co/guide/en/logstash/current/plugins-inputs-log4j.html
   log4j {
     mode =>  "server"
     host =>  "192.168.1.100"  #IP or HostName
     port => 4567
   }
}
filter {
   #Only matched data are send to output.
}
output {
   # For detail config for elasticsearch as output, 
   # See: https://www.elastic.co/guide/en/logstash/current/plugins-outputs-elasticsearch.html
   elasticsearch {
     action =>  "index"           #The operation on ES
     hosts  =>  "192.168.1.100:9200"  #IP or HostName,ElasticSearch host, can be array.
     index  =>  "applog"          #The index to write data to.
   }
}


启动:

使用agent来启动它(使用-f指定配置文件):

1
. /bin/logstash  agent -f config /log4j_to_es .conf

启动成功

wKiom1dtBNSS152DAABM913Yarw032.png





参考文章:

http://my.oschina.net/itblog/blog/547250

http://blog.csdn.net/gongzi2311/article/details/51699958

http://blog.csdn.net/laoyang360/article/details/51417097




本文转自 piazini 51CTO博客,原文链接:http://blog.51cto.com/wutou/1792548
相关实践学习
使用阿里云Elasticsearch体验信息检索加速
通过创建登录阿里云Elasticsearch集群,使用DataWorks将MySQL数据同步至Elasticsearch,体验多条件检索效果,简单展示数据同步和信息检索加速的过程和操作。
ElasticSearch 入门精讲
ElasticSearch是一个开源的、基于Lucene的、分布式、高扩展、高实时的搜索与数据分析引擎。根据DB-Engines的排名显示,Elasticsearch是最受欢迎的企业搜索引擎,其次是Apache Solr(也是基于Lucene)。 ElasticSearch的实现原理主要分为以下几个步骤: 用户将数据提交到Elastic Search 数据库中 通过分词控制器去将对应的语句分词,将其权重和分词结果一并存入数据 当用户搜索数据时候,再根据权重将结果排名、打分 将返回结果呈现给用户 Elasticsearch可以用于搜索各种文档。它提供可扩展的搜索,具有接近实时的搜索,并支持多租户。
相关文章
|
6月前
|
Go 数据处理 Docker
elk stack部署自动化日志收集分析平台
elk stack部署自动化日志收集分析平台
174 0
|
消息中间件 监控 数据可视化
一口气完成ELK 日志平台的搭建,我感觉我又行了!
最近在玩 ELK 日志平台,它是 Elastic 公司推出的一整套日志收集、分析和展示的解决方案。
|
消息中间件 数据采集 监控
ELK搭建(五):linux系统日志监控平台搭建
现在的生产系统多使用linux系统,在实际生产过程中我们除了需要监控一些业务日志之外,有时也需要监控linux系统本身的日志,来帮助我们进行一些排错和判断。那么这一期,我们就针对linux系统日志监控平台的搭建来进行讲解 与往期一样,我们针对实际搭建教程更多是快速搭建为主,不做过多的原理性讲解,这一类讲解我们放到后期单独开几期博客来探讨。
1100 0
ELK搭建(五):linux系统日志监控平台搭建
|
存储 NoSQL Redis
容器部署日志分析平台ELK7.10.1(Elasisearch+Filebeat+Redis+Logstash+Kibana)
容器部署日志分析平台ELK7.10.1(Elasisearch+Filebeat+Redis+Logstash+Kibana)
536 0
|
2月前
|
存储 消息中间件 网络协议
日志平台-ELK实操系列(一)
日志平台-ELK实操系列(一)
|
3月前
|
存储 Kubernetes 监控
在K8S中,ELK是如何实现及如何优化的ES?
在K8S中,ELK是如何实现及如何优化的ES?
一文吃透企业级elk技术栈:10. es数据生命周期管理
一文吃透企业级elk技术栈:10. es数据生命周期管理
一文吃透企业级elk技术栈:2. ES集群搭建
一文吃透企业级elk技术栈:2. ES集群搭建
|
6月前
|
监控 应用服务中间件 nginx
使用 Docker Compose V2 快速搭建日志分析平台 ELK (Elasticsearch、Logstash 和 Kibana)
ELK的架构有多种,本篇分享使用的架构如图所示: Beats(Filebeat) -> -> Elasticsearch -> Kibana,目前生产环境一天几千万的日志,内存占用大概 10G
389 4
|
JSON 搜索推荐 BI
快速用ELK搭建日志收集平台
快速用ELK搭建日志收集平台
167 0
下一篇
无影云桌面