Centos7_ELK5.4.1配置部署

本文涉及的产品
检索分析服务 Elasticsearch 版,2核4GB开发者规格 1个月
日志服务 SLS,月写入数据量 50GB 1个月
简介:

Centos7_ELK5.4.1配置部署

一、概念

1、核心组成

ELKElasticsearchLogstashKibana三部分组件组成;

Elasticsearch是个开源分布式搜索引擎,它的特点有:分布式,零配置,自动发现,索引自动分片,索引副本机制,restful风格接口,多数据源,自动搜索负载等。

Logstash是一个完全开源的工具,它可以对你的日志进行收集、分析,并将其存储供以后使用

kibana 是一个开源和免费的工具,它可以为 Logstash  ElasticSearch 提供的日志分析友好的 Web 界面,可以帮助您汇总、分析和搜索重要数据日志

2.下载

官网下载地址:https://www.elastic.co/downloads

wKiom1lCpuixe7YuAAFFu5aAnnk873.png

从中获取最新版软件包软件包列表:

https://artifacts.elastic.co/downloads/elasticsearch/elasticsearch-5.4.1.tar.gz

https://artifacts.elastic.co/downloads/kibana/kibana-5.4.1-linux-x86_64.tar.gz

https://artifacts.elastic.co/downloads/logstash/logstash-5.4.1.tar.gz

https://artifacts.elastic.co/downloads/beats/filebeat/filebeat-5.4.1-linux-x86_64.tar.gz

3.注意事项

  a所有节点操作系统版本最好保持一致,centos6.5测试最新版本内核不支持,尽可能使用目前centos7.3稳定版本。Elk服务器配置需要,如果条件运行使用2C4G

  b、本文档为单机版,即将ElasticsearchLogstashKibana安装在一台服务器上,生产环境建议将其在docker中分开安装,以便快速迁移至物理服务器。

  c、关闭selinux,关闭firewalld或添加端口例外.修改主机名称。

二、安装部署

1.安装jdk

1
2
3
4
yum  install  -y java-1.8.0-openjdk
hostnamectl  set - hostname  elk-1             #修改主机名
systemctl stop firewalld                   #关闭firewalld
setenforce 0

2.下载软件包

wKioL1lCp1yBfh0xAAEXSBIS8EM516.png

3.安装elasticsearch

1
2
3
4
cd  /usr/local/tools
tar  zxf elasticsearch-5.4.1. tar .gz
mv  elasticsearch-5.4.1  /usr/local/elasticsearch
cd  /usr/local/elasticsearch/config/

编辑elasticsearch.yml

wKiom1lCp9LyaI-KAAD9D9mlb80830.png

1
2
3
4
mkdir  -p  /usr/local/elasticsearch/data  /usr/local/elasticsearch/logs
useradd  elasticsearch
chown  -R elasticsearch:elasticsearch  /usr/local/elasticsearch
echo  "vm.max_map_count = 655360"  >> /etc/sysctl .conf && sysctl -p

elasticsearch不可用root用户启动,新建elasticsearch运行用户

编辑/etc/security/limits.conf文件,新增以下内容

1
2
3
4
* soft nofile 65536 
* hard nofile 65536 
* soft nproc 65536 
* hard nproc 65536

启动elasticsearch

1
2
3
su  - elasticsearch 
cd  /usr/local/elasticsearch 
bin /elasticsearch  &

wKioL1lCqFmx51WYAAdOXVtwja8881.png

查看端口监听信息

wKioL1lCqViS7T1PAAKAAZPzGYw554.png

curl测试

wKiom1lCqX7AUSZ6AAJywJKerUc230.png

4.安装logstash

1
2
3
4
5
cd  /usr/local/tools
tar  -zxvf logstash-5.4.1. tar .gz
mv  logstash-5.4.1  /usr/local/logstash
cd  /usr/local/logstash/config
vim 01-syslog.conf

wKiom1lCqbzzYaq9AAFdsSDwEuk860.png

安装filebeat

1
2
3
4
cd  /usr/local/tools/
tar  -zxvf filebeat-5.4.1-linux-x86_64. tar .gz
mv  filebeat-5.4.1-linux-x86_64  /usr/local/filebeat
vim  /usr/local/filebeat/filebeat .yml

wKioL1lCqgGTSnzCAAEN3He6xks745.png

启动filebeat

1
2
/usr/local/filebeat
. /filebeat  &

wKioL1lCqjuh_mH_AAMCu7WVQGo774.png

启动logstash(加载配置文件启动

1
2
cd  /usr/local/logstash/
bin /logstash  -f config /01-syslog .conf &

查看监听端口

wKiom1lCqrmC7gUAAAKFOBXj2h8186.png

稍等以后屏幕会输出返回的结果

wKioL1lCqvizKa1YAAJtxvKQz00343.png

可以用名称测试:curl http://172.17.10.198:9200/_search?pretty

wKioL1lCqzSRMvM8AAG7t9whExc545.png

我们想以web形式展现数据,就需要安装kibana

5.安装kibana

1
2
3
4
5
cd  /usr/local/tools/
tar  -zxf kibana-5.4.1-linux-x86_64. tar .gz
mv  kibana-5.4.1-linux-x86_64  /usr/local/kibana
cd  /usr/local/kibana/config
vim  /usr/local/kibana/config/kibana .yml

wKiom1lCq6_RybkAAAD9It8D214373.png

启动

1
/bin/kibana  &

wKioL1lCq9vwl0DoAAJd8REwfXA781.png

查看端口监听情况

wKioL1lCrA7RFDRDAAKcUmRK0rw888.png

三、测试

通过web界面访问,创建index patterns

wKiom1lCrFGz4J58AALF5PZWuPc079.png

查看创建对应的日志

wKioL1lCrkGT2KNsAAJnn6KBWhE204.png

本文为个人测试ELK最新版本最基础的搭建,可以将其在docker中各应用拆分开部署,后期学习elk的高级用法。










本文转自 KaliArch 51CTO博客,原文链接:http://blog.51cto.com/kaliarch/1937321,如需转载请自行联系原作者
相关实践学习
使用阿里云Elasticsearch体验信息检索加速
通过创建登录阿里云Elasticsearch集群,使用DataWorks将MySQL数据同步至Elasticsearch,体验多条件检索效果,简单展示数据同步和信息检索加速的过程和操作。
ElasticSearch 入门精讲
ElasticSearch是一个开源的、基于Lucene的、分布式、高扩展、高实时的搜索与数据分析引擎。根据DB-Engines的排名显示,Elasticsearch是最受欢迎的企业搜索引擎,其次是Apache Solr(也是基于Lucene)。 ElasticSearch的实现原理主要分为以下几个步骤: 用户将数据提交到Elastic Search 数据库中 通过分词控制器去将对应的语句分词,将其权重和分词结果一并存入数据 当用户搜索数据时候,再根据权重将结果排名、打分 将返回结果呈现给用户 Elasticsearch可以用于搜索各种文档。它提供可扩展的搜索,具有接近实时的搜索,并支持多租户。
目录
相关文章
|
5天前
|
机器学习/深度学习 文字识别 Linux
百度飞桨(PaddlePaddle) - PP-OCRv3 文字检测识别系统 基于 Paddle Serving快速使用(服务化部署 - CentOS 7)
百度飞桨(PaddlePaddle) - PP-OCRv3 文字检测识别系统 基于 Paddle Serving快速使用(服务化部署 - CentOS 7)
11 1
百度飞桨(PaddlePaddle) - PP-OCRv3 文字检测识别系统 基于 Paddle Serving快速使用(服务化部署 - CentOS 7)
|
3天前
|
Linux 开发工具
成功解决:CentOS 7中如何配置修改Vim
这篇文章介绍了如何在CentOS 7系统中配置和修改Vim编辑器的设置。文章首先指导读者如何检查Vim是否已经安装,如果未安装完全,提供了安装Vim的命令。接着,文章详细说明了如何编辑`/etc/vimrc`文件来配置Vim,包括设置显示行号、显示当前模式、光标位置信息、自动缩进和语法高亮等。最后,文章通过对比展示了配置前后使用vi和vim打开相同文本的效果差异,强调了Vim配置后的优势。
成功解决:CentOS 7中如何配置修改Vim
|
5天前
|
存储 安全 Linux
新 CentOS 7 服务器的基本配置
新 CentOS 7 服务器的基本配置
14 1
|
8天前
|
Java Linux Docker
CentOS7 Docker 安装,配置国内镜像
CentOS7 Docker 安装,配置国内镜像
220 1
|
12天前
|
监控 安全 Linux
centos7安全防护配置
centos7安全防护配置
|
4天前
|
网络协议 Linux 网络安全
Hyper-v 如何配置 Centos7 虚拟机网络?
Hyper-v 如何配置 Centos7 虚拟机网络?
|
5天前
|
存储 安全 Java
在CentOS 7上安装和配置Elasticsearch的方法
在CentOS 7上安装和配置Elasticsearch的方法
18 0
|
5天前
|
JSON 运维 Linux
在CentOS 7上安装和配置Ansible的方法
在CentOS 7上安装和配置Ansible的方法
17 0
|
5天前
|
应用服务中间件 Linux 网络安全
如何在 CentOS 6.5 上使用 Unicorn 和 Nginx 部署 Rails 应用
如何在 CentOS 6.5 上使用 Unicorn 和 Nginx 部署 Rails 应用
8 0
|
5天前
|
存储 安全 Linux
如何在 CentOS VPS 上配置 vsftpd 使用 SSL/TLS
如何在 CentOS VPS 上配置 vsftpd 使用 SSL/TLS
9 0