【日志审计】极易上手搭建自己日志采集服务器分析日志(winlogbeat+Elasticsearch+Kibana)

本文涉及的产品
检索分析服务 Elasticsearch 版,2核4GB开发者规格 1个月
日志服务 SLS,月写入数据量 50GB 1个月
简介: 【日志审计】极易上手搭建自己日志采集服务器分析日志(winlogbeat+Elasticsearch+Kibana)

00前言:


需求是小编需要采集windows 上面的系统日志,所以要搭建个日志采集系统

首先说下什么是ELK呢?


ELK 是三个开源项目的首字母缩写,这三个项目分别是:Elasticsearch、


Logstash 和 Kibana。


  • Elasticsearch 是一个搜索和分析引擎。
  • Logstash 是服务器端数据处理管道,能够同时从多个来源采集数据,转换数据,然后将数据发送到诸如 Elasticsearch 等存储库中。
  • Kibana 则可以让用户在 Elasticsearch 中使用图形和图表对数据进行可视化。

640.png

不过小编采用的是winlogbeat + ES + Kibina的组合进行日志收集,优点就是轻量级,因为去掉了笨重的logstash, 占用资源更少。

640.png

如上图所示,该ELK框架由beats(这里我们采用winlogbeat)+elasticsearch+kibana构成,这个框架比较简单,入门级的框架。

01准备工作:


Centos7虚拟机一台作为服务端Windows 虚拟机一台作为客户端

640.png


各软件包下载好并上传到Centos7服务上/opt目录下


02关闭selinux:


临时关闭selinux:

获取当前selinux状态  getenforce      Enforcing为开启,Permissive为关闭

640.png

临时关闭:setenforce 0

640.png

永久关闭selinux:vim /etc/sysconfig/selinux

SELINUX=enforcing 替换为SELINUX=disabled

640.png

重启机器后后,运行命令sestatus

SELinux status :  disabled

640.png



03部署JDK:


首先进入/opt目录然后做如下操作


[root@localhost /]# tar zxvf jdk1.8.0_131.tar.gz[root@localhost /]# mv jdk1.8.0_131 /usr/[root@localhost /]# vim /etc/profile

添加


export JAVA_HOME=/usr/jdk1.8.0_131/export CLASSPATH=$CLASSPATH:$JAVA_HOME/lib:$JAVA_HOME/jre/libexport PATH=$JAVA_HOME/bin:$JAVA_HOME/jre/bin:$PATH:$HOMR/bin

640.png

[root@localhost /]# source /etc/profile[root@localhost /]#  java –version

640.png

这样JDK就安装好了



04部署Elasticsearch:


[root@localhost /]# tar xzf elasticsearch-5.3.0.tar.gz[root@localhost /]# mv elasticsearch-5.3.0 /usr/local/elasticsearch[root@localhost /]#  ll /usr/local/elasticsearch/

640.png

[root@localhost /]#  useradd  elk     创建用户[root@localhost /]#  chown -R elk /usr/local/elasticsearch/[root@localhost /]#  ll /usr/local/elasticsearch/

640.png


[root@localhost /]# vim  /etc/security/limits.conf

添加


* soft nofile 65536* hard nofile 65536

640.png


[root@localhost /]# vim /etc/security/limits.d/20-nproc.conf

添加


soft  nproc  2048

640.png


root@localhost /]# vi /etc/sysctl.conf

添加

640.png


[root@localhost /]# sysctl –p

640.png

注意:做完几步后 建议重启系统


[root@localhost /]# cd /usr/local/elasticsearch/config/[root@localhost config]# vim jvm.options

640.png

注释:如果你虚拟机是2G以上不需要改


[root@localhost config]# vim elasticsearch.yml

1.修改监听的网络地址为0.0.0.0

640.png

改成

640.png

2.开启监听的端口

640.png

去掉#

640.png

3. data,用于存放索引分片数据文件,logs,用于存放日志

640.png640.png


文件夹如果没有需要自己创建。注意文件夹创建好后chown –R elk data和logs下。


[root@localhost /]# su - elk       进入elk用户启动[elk@localhost ~]$ /usr/local/elasticsearch/bin/elasticsearch -d    启动[elk@localhost ~]$ tail -fn 50 /usr/local/elasticsearch/logs/elasticsearch.log

640.png

或看端口 9200  9300 是否启动了


[root@localhost elk]# netstat -ntlp|grep -E "9200|9300"

640.png

浏览器中输入:http://IP:9200测试是否正常(以下为正常)


640.png

05部署Kibana:


[root@localhost /]# tar xzf kibana-5.3.0-linux-x86_64.tar.gz[root@localhost /]# mv kibana-5.3.0-linux-x86_64 /usr/local/kibana[root@localhost /]#  cd /usr/local/kibana/config/[root@localhost config]# vim kibana.yml

1.修改监听的网络地址为0.0.0.0

640.png

改成

640.png

去掉#号(改成EC服务器的ip地址) 这台和EC在一起所以不用改 如果有对个分布式集群用,隔开

640.png

2.开启监听的端口

640.png

640.png


[root@localhost config]# cd ..[root@localhost kibana]# cd bin/  进入bin目录[root@localhost bin]#  nohup ./kibana &      后台启动 [root@localhost bin]# netstat -tnlp|grep -E "9200|9300|5601"

640.png

浏览器http://192.168.125.139:5601

640.png

至此服务端搭建完毕。


06部署Winlogbeat客户端:


1.首先把下载好的文件上传的客户端机器上

640.png

2.解压到C:\Program Files

640.png

3.安装winlogbeat服务

640.png

重新命名文件夹为winlogbeat

用管理员身份打开windows的 powershell

640.png

  • 运行以下命令来安装服务


C:\Users\Administrator> cd 'C:\Program Files\Winlogbeat'C:\Program Files\Winlogbeat> .\install-service-winlogbeat.ps1

640.png

如果在系统上禁用了脚本执行,则需要为当前会话设置执行策略以允许脚本运行。


PowerShell.exe -ExecutionPolicy UnRestricted -File .\install-service-winlogbeat.ps1.

640.png

安装好后即可在系统服务中看到了

640.png

然后启动服务

640.png

4.配置winlogbeat.yml文件

用winlogbeat收集日志,发送到elasticsearch
修改配置文件 :winlogbeat.yml
修改tags信息,因为winlogbeat没有ip自带,查看日志时不方便区分,顾在此字段中添加ip+mac

640.png

填写要输出到es的地址

640.png

修改此处即可

640.png

这里是要采集的日志类型,默认已配置好无需修改

5.重启服务

640.png

最后登录kibana配置winlogbeat索引查看获取的日志

640.png

640.png

可以看到已经接收到刚才开启winlogbeat服务的日志信息了

640.png

Tags中也有所填信息方便以后索引查看

640.png

至此实验完成。

相关实践学习
使用阿里云Elasticsearch体验信息检索加速
通过创建登录阿里云Elasticsearch集群,使用DataWorks将MySQL数据同步至Elasticsearch,体验多条件检索效果,简单展示数据同步和信息检索加速的过程和操作。
ElasticSearch 入门精讲
ElasticSearch是一个开源的、基于Lucene的、分布式、高扩展、高实时的搜索与数据分析引擎。根据DB-Engines的排名显示,Elasticsearch是最受欢迎的企业搜索引擎,其次是Apache Solr(也是基于Lucene)。 ElasticSearch的实现原理主要分为以下几个步骤: 用户将数据提交到Elastic Search 数据库中 通过分词控制器去将对应的语句分词,将其权重和分词结果一并存入数据 当用户搜索数据时候,再根据权重将结果排名、打分 将返回结果呈现给用户 Elasticsearch可以用于搜索各种文档。它提供可扩展的搜索,具有接近实时的搜索,并支持多租户。
相关文章
|
14天前
|
存储 SQL 监控
|
1月前
|
存储 运维 监控
Elasticsearch Serverless 高性价比智能日志分析关键技术解读
本文解析了Elasticsearch Serverless在智能日志分析领域的关键技术、优势及应用价值。
Elasticsearch Serverless 高性价比智能日志分析关键技术解读
|
14天前
|
自然语言处理 监控 数据可视化
|
14天前
|
运维 监控 安全
|
18天前
|
存储 监控 安全
|
17天前
|
存储 数据采集 监控
开源日志分析Elasticsearch
【10月更文挑战第22天】
44 5
|
17天前
|
机器学习/深度学习 运维 监控
开源日志分析Kibana
【10月更文挑战第22天】
28 3
|
9天前
|
机器学习/深度学习 人工智能 弹性计算
什么是阿里云GPU云服务器?GPU服务器优势、使用和租赁费用整理
阿里云GPU云服务器提供强大的GPU算力,适用于深度学习、科学计算、图形可视化和视频处理等多种场景。作为亚太领先的云服务提供商,阿里云的GPU云服务器具备灵活的资源配置、高安全性和易用性,支持多种计费模式,帮助企业高效应对计算密集型任务。
|
11天前
|
存储 分布式计算 固态存储
阿里云2核16G、4核32G、8核64G配置云服务器租用收费标准与活动价格参考
2核16G、8核64G、4核32G配置的云服务器处理器与内存比为1:8,这种配比的云服务器一般适用于数据分析与挖掘,Hadoop、Spark集群和数据库,缓存等内存密集型场景,因此,多为企业级用户选择。目前2核16G配置按量收费最低收费标准为0.54元/小时,按月租用标准收费标准为260.44元/1个月。4核32G配置的阿里云服务器按量收费标准最低为1.08元/小时,按月租用标准收费标准为520.88元/1个月。8核64G配置的阿里云服务器按量收费标准最低为2.17元/小时,按月租用标准收费标准为1041.77元/1个月。本文介绍这些配置的最新租用收费标准与活动价格情况,以供参考。
|
9天前
|
机器学习/深度学习 人工智能 弹性计算
阿里云GPU服务器全解析_GPU价格收费标准_GPU优势和使用说明
阿里云GPU云服务器提供强大的GPU算力,适用于深度学习、科学计算、图形可视化和视频处理等场景。作为亚太领先的云服务商,阿里云GPU云服务器具备高灵活性、易用性、容灾备份、安全性和成本效益,支持多种实例规格,满足不同业务需求。