Centos7_ELK5.4.1配置部署

本文涉及的产品
检索分析服务 Elasticsearch 版,2核4GB开发者规格 1个月
日志服务 SLS,月写入数据量 50GB 1个月
简介: Centos7_ELK5.4.1配置部署一、概念1、核心组成ELK由Elasticsearch、Logstash和Kibana三部分组件组成;Elasticsearch是个开源分布式搜索引擎,它的特点有:分布式,零配置,自动发现,索引自动分片,索引副本机制,restful风格接口,多数据源,自动搜索负载等。

Centos7_ELK5.4.1配置部署

一、概念

1、核心组成

ELKElasticsearchLogstashKibana三部分组件组成;

Elasticsearch是个开源分布式搜索引擎,它的特点有:分布式,零配置,自动发现,索引自动分片,索引副本机制,restful风格接口,多数据源,自动搜索负载等。

Logstash是一个完全开源的工具,它可以对你的日志进行收集、分析,并将其存储供以后使用

kibana 是一个开源和免费的工具,它可以为 Logstash ElasticSearch 提供的日志分析友好的 Web 界面,可以帮助您汇总、分析和搜索重要数据日志

2.下载

官网下载地址:https://www.elastic.co/downloads

wKiom1lCpuixe7YuAAFFu5aAnnk873.png

从中获取最新版软件包软件包列表:

https://artifacts.elastic.co/downloads/elasticsearch/elasticsearch-5.4.1.tar.gz

https://artifacts.elastic.co/downloads/kibana/kibana-5.4.1-linux-x86_64.tar.gz

https://artifacts.elastic.co/downloads/logstash/logstash-5.4.1.tar.gz

https://artifacts.elastic.co/downloads/beats/filebeat/filebeat-5.4.1-linux-x86_64.tar.gz

3.注意事项

  a所有节点操作系统版本最好保持一致,centos6.5测试最新版本内核不支持,尽可能使用目前centos7.3稳定版本。Elk服务器配置需要,如果条件运行使用2C4G

  b、本文档为单机版,即将ElasticsearchLogstashKibana安装在一台服务器上,生产环境建议将其在docker中分开安装,以便快速迁移至物理服务器。

  c、关闭selinux,关闭firewalld或添加端口例外.修改主机名称。

二、安装部署

1.安装jdk

yum install -y java-1.8.0-openjdk
hostnamectl set-hostname elk-1            #修改主机名
systemctl stop firewalld                  #关闭firewalld
setenforce 0

2.下载软件包

wKioL1lCp1yBfh0xAAEXSBIS8EM516.png

3.安装elasticsearch

cd /usr/local/tools
tar zxf elasticsearch-5.4.1.tar.gz
mv elasticsearch-5.4.1 /usr/local/elasticsearch
cd /usr/local/elasticsearch/config/

编辑elasticsearch.yml

wKiom1lCp9LyaI-KAAD9D9mlb80830.png

mkdir -p /usr/local/elasticsearch/data /usr/local/elasticsearch/logs
useradd elasticsearch
chown -R elasticsearch:elasticsearch /usr/local/elasticsearch
echo "vm.max_map_count = 655360" >>/etc/sysctl.conf && sysctl -p

elasticsearch不可用root用户启动,新建elasticsearch运行用户

编辑/etc/security/limits.conf文件,新增以下内容

* soft nofile 65536 
* hard nofile 65536 
* soft nproc 65536 
* hard nproc 65536

启动elasticsearch

su - elasticsearch 
cd /usr/local/elasticsearch 
bin/elasticsearch &

wKioL1lCqFmx51WYAAdOXVtwja8881.png

查看端口监听信息

wKioL1lCqViS7T1PAAKAAZPzGYw554.png

curl测试

wKiom1lCqX7AUSZ6AAJywJKerUc230.png

4.安装logstash

cd /usr/local/tools
tar -zxvf logstash-5.4.1.tar.gz
mv logstash-5.4.1 /usr/local/logstash
cd /usr/local/logstash/config
vim 01-syslog.conf

wKiom1lCqbzzYaq9AAFdsSDwEuk860.png

安装filebeat

cd /usr/local/tools/
tar -zxvf filebeat-5.4.1-linux-x86_64.tar.gz
mv filebeat-5.4.1-linux-x86_64 /usr/local/filebeat
vim /usr/local/filebeat/filebeat.yml

wKioL1lCqgGTSnzCAAEN3He6xks745.png

启动filebeat

/usr/local/filebeat
./filebeat &

wKioL1lCqjuh_mH_AAMCu7WVQGo774.png

启动logstash(加载配置文件启动

cd /usr/local/logstash/
bin/logstash -f config/01-syslog.conf &

查看监听端口

wKiom1lCqrmC7gUAAAKFOBXj2h8186.png

稍等以后屏幕会输出返回的结果

wKioL1lCqvizKa1YAAJtxvKQz00343.png

可以用名称测试:curl http://172.17.10.198:9200/_search?pretty

wKioL1lCqzSRMvM8AAG7t9whExc545.png

我们想以web形式展现数据,就需要安装kibana

5.安装kibana

cd /usr/local/tools/
tar -zxf kibana-5.4.1-linux-x86_64.tar.gz
mv kibana-5.4.1-linux-x86_64 /usr/local/kibana
cd /usr/local/kibana/config
vim /usr/local/kibana/config/kibana.yml

wKiom1lCq6_RybkAAAD9It8D214373.png

启动

/bin/kibana &

wKioL1lCq9vwl0DoAAJd8REwfXA781.png

查看端口监听情况

wKioL1lCrA7RFDRDAAKcUmRK0rw888.png

三、测试

通过web界面访问,创建index patterns

wKiom1lCrFGz4J58AALF5PZWuPc079.png

查看创建对应的日志

wKioL1lCrkGT2KNsAAJnn6KBWhE204.png

本文为个人测试ELK最新版本最基础的搭建,可以将其在docker中各应用拆分开部署,后期学习elk的高级用法。

相关实践学习
使用阿里云Elasticsearch体验信息检索加速
通过创建登录阿里云Elasticsearch集群,使用DataWorks将MySQL数据同步至Elasticsearch,体验多条件检索效果,简单展示数据同步和信息检索加速的过程和操作。
ElasticSearch 入门精讲
ElasticSearch是一个开源的、基于Lucene的、分布式、高扩展、高实时的搜索与数据分析引擎。根据DB-Engines的排名显示,Elasticsearch是最受欢迎的企业搜索引擎,其次是Apache Solr(也是基于Lucene)。 ElasticSearch的实现原理主要分为以下几个步骤: 用户将数据提交到Elastic Search 数据库中 通过分词控制器去将对应的语句分词,将其权重和分词结果一并存入数据 当用户搜索数据时候,再根据权重将结果排名、打分 将返回结果呈现给用户 Elasticsearch可以用于搜索各种文档。它提供可扩展的搜索,具有接近实时的搜索,并支持多租户。
目录
相关文章
|
NoSQL 开发工具 Redis
|
监控 网络协议 Java
|
26天前
|
SQL 存储 Linux
从配置源到数据库初始化一步步教你在CentOS 7.9上安装SQL Server 2019
【11月更文挑战第8天】本文介绍了在 CentOS 7.9 上安装 SQL Server 2019 的详细步骤,包括系统准备、配置安装源、安装 SQL Server 软件包、运行安装程序、初始化数据库以及配置远程连接。通过这些步骤,您可以顺利地在 CentOS 系统上部署和使用 SQL Server 2019。
|
27天前
|
SQL 存储 Linux
从配置源到数据库初始化一步步教你在CentOS 7.9上安装SQL Server 2019
【11月更文挑战第7天】本文介绍了在 CentOS 7.9 上安装 SQL Server 2019 的详细步骤,包括系统要求检查与准备、配置安装源、安装 SQL Server 2019、配置 SQL Server 以及数据库初始化(可选)。通过这些步骤,你可以成功安装并初步配置 SQL Server 2019,进行简单的数据库操作。