【日志审计】极易上手搭建自己日志采集服务器分析日志(winlogbeat+Elasticsearch+Kibana)

本文涉及的产品
检索分析服务 Elasticsearch 版,2核4GB开发者规格 1个月
简介: 【日志审计】极易上手搭建自己日志采集服务器分析日志(winlogbeat+Elasticsearch+Kibana)

00前言:


需求是小编需要采集windows 上面的系统日志,所以要搭建个日志采集系统

首先说下什么是ELK呢?


ELK 是三个开源项目的首字母缩写,这三个项目分别是:Elasticsearch、


Logstash 和 Kibana。


  • Elasticsearch 是一个搜索和分析引擎。
  • Logstash 是服务器端数据处理管道,能够同时从多个来源采集数据,转换数据,然后将数据发送到诸如 Elasticsearch 等存储库中。
  • Kibana 则可以让用户在 Elasticsearch 中使用图形和图表对数据进行可视化。

640.png

不过小编采用的是winlogbeat + ES + Kibina的组合进行日志收集,优点就是轻量级,因为去掉了笨重的logstash, 占用资源更少。

640.png

如上图所示,该ELK框架由beats(这里我们采用winlogbeat)+elasticsearch+kibana构成,这个框架比较简单,入门级的框架。

01准备工作:


Centos7虚拟机一台作为服务端Windows 虚拟机一台作为客户端

640.png


各软件包下载好并上传到Centos7服务上/opt目录下


02关闭selinux:


临时关闭selinux:

获取当前selinux状态  getenforce      Enforcing为开启,Permissive为关闭

640.png

临时关闭:setenforce 0

640.png

永久关闭selinux:vim /etc/sysconfig/selinux

SELINUX=enforcing 替换为SELINUX=disabled

640.png

重启机器后后,运行命令sestatus

SELinux status :  disabled

640.png



03部署JDK:


首先进入/opt目录然后做如下操作


[root@localhost /]# tar zxvf jdk1.8.0_131.tar.gz[root@localhost /]# mv jdk1.8.0_131 /usr/[root@localhost /]# vim /etc/profile

添加


export JAVA_HOME=/usr/jdk1.8.0_131/export CLASSPATH=$CLASSPATH:$JAVA_HOME/lib:$JAVA_HOME/jre/libexport PATH=$JAVA_HOME/bin:$JAVA_HOME/jre/bin:$PATH:$HOMR/bin

640.png

[root@localhost /]# source /etc/profile[root@localhost /]#  java –version

640.png

这样JDK就安装好了



04部署Elasticsearch:


[root@localhost /]# tar xzf elasticsearch-5.3.0.tar.gz[root@localhost /]# mv elasticsearch-5.3.0 /usr/local/elasticsearch[root@localhost /]#  ll /usr/local/elasticsearch/

640.png

[root@localhost /]#  useradd  elk     创建用户[root@localhost /]#  chown -R elk /usr/local/elasticsearch/[root@localhost /]#  ll /usr/local/elasticsearch/

640.png


[root@localhost /]# vim  /etc/security/limits.conf

添加


* soft nofile 65536* hard nofile 65536

640.png


[root@localhost /]# vim /etc/security/limits.d/20-nproc.conf

添加


soft  nproc  2048

640.png


root@localhost /]# vi /etc/sysctl.conf

添加

640.png


[root@localhost /]# sysctl –p

640.png

注意:做完几步后 建议重启系统


[root@localhost /]# cd /usr/local/elasticsearch/config/[root@localhost config]# vim jvm.options

640.png

注释:如果你虚拟机是2G以上不需要改


[root@localhost config]# vim elasticsearch.yml

1.修改监听的网络地址为0.0.0.0

640.png

改成

640.png

2.开启监听的端口

640.png

去掉#

640.png

3. data,用于存放索引分片数据文件,logs,用于存放日志

640.png640.png


文件夹如果没有需要自己创建。注意文件夹创建好后chown –R elk data和logs下。


[root@localhost /]# su - elk       进入elk用户启动[elk@localhost ~]$ /usr/local/elasticsearch/bin/elasticsearch -d    启动[elk@localhost ~]$ tail -fn 50 /usr/local/elasticsearch/logs/elasticsearch.log

640.png

或看端口 9200  9300 是否启动了


[root@localhost elk]# netstat -ntlp|grep -E "9200|9300"

640.png

浏览器中输入:http://IP:9200测试是否正常(以下为正常)


640.png

05部署Kibana:


[root@localhost /]# tar xzf kibana-5.3.0-linux-x86_64.tar.gz[root@localhost /]# mv kibana-5.3.0-linux-x86_64 /usr/local/kibana[root@localhost /]#  cd /usr/local/kibana/config/[root@localhost config]# vim kibana.yml

1.修改监听的网络地址为0.0.0.0

640.png

改成

640.png

去掉#号(改成EC服务器的ip地址) 这台和EC在一起所以不用改 如果有对个分布式集群用,隔开

640.png

2.开启监听的端口

640.png

640.png


[root@localhost config]# cd ..[root@localhost kibana]# cd bin/  进入bin目录[root@localhost bin]#  nohup ./kibana &      后台启动 [root@localhost bin]# netstat -tnlp|grep -E "9200|9300|5601"

640.png

浏览器http://192.168.125.139:5601

640.png

至此服务端搭建完毕。


06部署Winlogbeat客户端:


1.首先把下载好的文件上传的客户端机器上

640.png

2.解压到C:\Program Files

640.png

3.安装winlogbeat服务

640.png

重新命名文件夹为winlogbeat

用管理员身份打开windows的 powershell

640.png

  • 运行以下命令来安装服务


C:\Users\Administrator> cd 'C:\Program Files\Winlogbeat'C:\Program Files\Winlogbeat> .\install-service-winlogbeat.ps1

640.png

如果在系统上禁用了脚本执行,则需要为当前会话设置执行策略以允许脚本运行。


PowerShell.exe -ExecutionPolicy UnRestricted -File .\install-service-winlogbeat.ps1.

640.png

安装好后即可在系统服务中看到了

640.png

然后启动服务

640.png

4.配置winlogbeat.yml文件

用winlogbeat收集日志,发送到elasticsearch
修改配置文件 :winlogbeat.yml
修改tags信息,因为winlogbeat没有ip自带,查看日志时不方便区分,顾在此字段中添加ip+mac

640.png

填写要输出到es的地址

640.png

修改此处即可

640.png

这里是要采集的日志类型,默认已配置好无需修改

5.重启服务

640.png

最后登录kibana配置winlogbeat索引查看获取的日志

640.png

640.png

可以看到已经接收到刚才开启winlogbeat服务的日志信息了

640.png

Tags中也有所填信息方便以后索引查看

640.png

至此实验完成。

相关实践学习
使用阿里云Elasticsearch体验信息检索加速
通过创建登录阿里云Elasticsearch集群,使用DataWorks将MySQL数据同步至Elasticsearch,体验多条件检索效果,简单展示数据同步和信息检索加速的过程和操作。
ElasticSearch 入门精讲
ElasticSearch是一个开源的、基于Lucene的、分布式、高扩展、高实时的搜索与数据分析引擎。根据DB-Engines的排名显示,Elasticsearch是最受欢迎的企业搜索引擎,其次是Apache Solr(也是基于Lucene)。 ElasticSearch的实现原理主要分为以下几个步骤: 用户将数据提交到Elastic Search 数据库中 通过分词控制器去将对应的语句分词,将其权重和分词结果一并存入数据 当用户搜索数据时候,再根据权重将结果排名、打分 将返回结果呈现给用户 Elasticsearch可以用于搜索各种文档。它提供可扩展的搜索,具有接近实时的搜索,并支持多租户。
相关文章
|
3天前
|
机器学习/深度学习 前端开发 数据挖掘
工具变量法(两阶段最小二乘法2SLS)线性模型分析人均食品消费时间序列数据和回归诊断(下)
工具变量法(两阶段最小二乘法2SLS)线性模型分析人均食品消费时间序列数据和回归诊断
74 11
|
9天前
工具变量法(两阶段最小二乘法2SLS)线性模型分析人均食品消费时间序列数据和回归诊断2
工具变量法(两阶段最小二乘法2SLS)线性模型分析人均食品消费时间序列数据和回归诊断
15 0
|
9天前
|
机器学习/深度学习 前端开发 数据挖掘
R语言计量经济学:工具变量法(两阶段最小二乘法2SLS)线性模型分析人均食品消费时间序列数据和回归诊断
R语言计量经济学:工具变量法(两阶段最小二乘法2SLS)线性模型分析人均食品消费时间序列数据和回归诊断
39 0
|
21天前
|
SQL 存储 监控
日志问题精要:分析与总结
该文档讲述了应用系统日志记录的重要性和规则。主要目的是记录操作轨迹、监控系统状态和回溯故障。日志记录点包括系统入口、调用其他模块、调用结束、出口和出错时。内容应遵循UTF-8编码,避免敏感信息,按INFO级别记录,及时、完整且安全。日志输出要控制频率和长度,不影响系统性能,并按策略备份和清理。日志等级分为DEBUG、INFO、WARN、ERROR和FATAL。日志文件应有明确目录结构,大小有限制,并定期清理。注意事项包括输出异常堆栈、避免打印对象实例的hashCode、选择合适的日志框架和格式,并支持动态修改日志级别。还要实现链路追踪,确保在多线程环境中正确记录日志。
20 0
|
1月前
|
存储
Hudi Log日志文件格式分析(一)
Hudi Log日志文件格式分析(一)
27 1
|
1月前
|
缓存 索引
Hudi Log日志文件写入分析(二)
Hudi Log日志文件写入分析(二)
21 1
|
1月前
|
缓存
Hudi Log日志文件读取分析(三)
Hudi Log日志文件读取分析(三)
22 0
|
1月前
|
Ubuntu JavaScript 关系型数据库
在阿里云Ubuntu 20.04服务器中搭建一个 Ghost 博客
在阿里云Ubuntu 20.04服务器上部署Ghost博客的步骤包括创建新用户、安装Nginx、MySQL和Node.js 18.x。首先,通过`adduser`命令创建非root用户,然后安装Nginx和MySQL。接着,设置Node.js环境,下载Nodesource GPG密钥并安装Node.js 18.x。之后,使用`npm`安装Ghost-CLI,创建Ghost安装目录并进行安装。配置过程中需提供博客URL、数据库连接信息等。最后,测试访问前台首页和后台管理页面。确保DNS设置正确,并根据提示完成Ghost博客的配置。
在阿里云Ubuntu 20.04服务器中搭建一个 Ghost 博客
|
1月前
|
存储 弹性计算 数据可视化
要将ECS中的文件直接传输到阿里云网盘与相册(
【2月更文挑战第31天】要将ECS中的文件直接传输到阿里云网盘与相册(
420 4
|
1月前
|
SQL 弹性计算 安全
购买阿里云活动内云服务器之后设置密码、安全组、增加带宽、挂载云盘教程
当我们通过阿里云的活动购买完云服务器之后,并不是立马就能使用了,还需要我们设置云服务器密码,配置安全组等基本操作之后才能使用,有的用户还需要购买并挂载数据盘到云服务器上,很多新手用户由于是初次使用阿里云服务器,因此并不知道这些设置的操作流程,下面给大家介绍下这些设置的具体操作流程。
购买阿里云活动内云服务器之后设置密码、安全组、增加带宽、挂载云盘教程