【实践】开源IDS网络流量分析与监控系统Zeek对接GrayLog

本文涉及的产品
日志服务 SLS,月写入数据量 50GB 1个月
简介: 【实践】开源IDS网络流量分析与监控系统Zeek对接GrayLog

一、 开源IDS网络流量分析与监控系统Zeek简单介绍

The Zeek Network Security Monitor:A powerful framework for network traffic analysis and security monitoring.

Zeek网络安全监控:是一款强大的网络流量分析和安全监控的框架

  • 1、深入分析:Zeek附带了许多协议的分析器,可实现在网络应用层的高级语义分析。
  • 2、适应性强且灵活:Zeek的域特定脚本语言可实现特定于站点的监视策略,也意味着不限于任何特定检测方法。
  • 3、高效性:Zeek以高性能网络为目标,并在很多各种大型站点上应用和运行。
  • 4、高级状态性:Zeek保留有关其监控的网络应用层可扩展状态,并提供网络活动的高级存档功能。

官方文档

https://github.com/zeek/zeek
https://docs.zeek.org/

参考链接

https://linux.cn/article-14770-1.html
http://www.senlt.cn/article/171944181.html
https://blog.csdn.net/u013613428/article/details/110728269

在阅读过《将 Zeek 与 ELK 栈集成》的这篇文章后 https://linux.cn/article-14770-1.html

(图片点击放大查看)

决定尝试是否可以将zeek的网络流量监控日志吐到GrayLog,并在GrayLog上进行呈现

具体实现思路,以及要解决的问题汇总

  • 1、zeek的部署(能否rpm包的方式部署,编译部署太耗费时间)
  • 2、流量镜像问题:zeek服务器的网卡如何配置混杂模式,交换机流量镜像如何配置
  • 3、zeek的流量分析日志读取问题:zeek的日志转成json格式日志,使用graylog-sidecar+filebeat方式读取,并json提取器获取字段信息
  • 4、GrayLog上查询,Dashboard配置

具体实践过程如下

二、下载zeek的CentOS7的rpm包并部署zeek

https://zeek.org/get-zeek/

由于网速问题,我这边手动提前下载好zeek相关的rpm依赖包

(图片点击放大查看)

(图片点击放大查看)

(图片点击放大查看)

(图片点击放大查看)

1、安装zeek

yum localinstall *.rpm

2、将/opt/zeek/bin目录加到PATH环境变量中

echo "PATH=$PATH:/opt/zeek/bin" >> /etc/profile
source /etc/profile
echo $PATH

3、将网卡设置成混杂模式

ifconfig ens33 promisc

交换机配置镜像流量的操作这里就不做演示,请参考这个链接中的文章自行探索,根据自身实际网络环境自行解决

https://blog.csdn.net/u013613428/article/details/110728269

(图片点击放大查看)

(图片点击放大查看)

(图片点击放大查看)

4、vim node.cfg

cd /opt/zeek/etc
vim node.cfg
修改interface为当前实际网卡

(图片点击放大查看)

5、vim local.zeek

cd /opt/zeek/share/zeek/site/
vim local.zeek 
如下位置添加以下行:
@load policy/tuning/json-logs.zeek

(图片点击放大查看)

6、启动zeek

zeekctl 
[ZeekControl] > deploy

(图片点击放大查看)

7、查看zeek的流量分析日志

cd /opt/zeek/logs/
cd current/
ll

目前均为json格式日志

(图片点击放大查看)

三、部署graylog-sidecar+filebeat方式读取zeek的日志

1、下载并安装graylog-sidecar和filebeat的rpm包

https://github.com/Graylog2/collector-sidecar/releases
https://mirrors.cloud.tencent.com/elasticstack/7.x/yum/7.10.2/filebeat-7.10.2-x86_64.rpm
rpm -ivh filebeat-7.10.2-x86_64.rpm 
rpm -ivh graylog-sidecar-1.3.0-1.x86_64.rpm

(图片点击放大查看)

(图片点击放大查看)

2、创建sidecar的token,及sidecar端的配置修改

vim /etc/graylog/sidecar/sidecar.yml
并修改如下5处的配置
server_url: "http://192.168.31.170:9000/api/"
server_api_token: "hkoa0tv9gl9u09drhtckjbdv90v98v5mor5jropo0p0741oib3g"
node_name: "zeek"
update_interval: 10
send_status: true

(图片点击放大查看)

(图片点击放大查看)

3、graylog-sidecar启动,并下发配置

graylog-sidecar -service install
graylog-sidecar -service start

(图片点击放大查看)

(图片点击放大查看)

(图片点击放大查看)

4、Graylog上面配置Beat类型的Input

防火墙开放5044端口

firewall-cmd --permanent --zone=public --add-port=5044/tcp
firewall-cmd --reload

5、确认是否收到日志

(图片点击放大查看)

四、Graylog上配置json格式字段提取并配置大屏

(图片点击放大查看)

(图片点击放大查看)

(图片点击放大查看)

(图片点击放大查看)

(图片点击放大查看)

(图片点击放大查看)

五、总结

1、本文中所用到的rpm安装包已全部打包,下载链接如下

链接:https://share.weiyun.com/knIqb1EA 密码:bk2un9

2、扩展

zeek流量日志如果可以的话,可以与微步API接口进行关联查询,这样可以实现异常DNS等其他流量检测与告警

参考之前的文章

GrayLog使用HTTP JSONPath方式调用微步在线云API识别威胁IP

相关实践学习
【涂鸦即艺术】基于云应用开发平台CAP部署AI实时生图绘板
【涂鸦即艺术】基于云应用开发平台CAP部署AI实时生图绘板
相关文章
|
7月前
|
机器学习/深度学习 自然语言处理 数据可视化
基于图神经网络的自然语言处理:融合LangGraph与大型概念模型的情感分析实践
本文探讨了在企业数字化转型中,大型概念模型(LCMs)与图神经网络结合处理非结构化文本数据的技术方案。LCMs突破传统词汇级处理局限,以概念级语义理解为核心,增强情感分析、实体识别和主题建模能力。通过构建基于LangGraph的混合符号-语义处理管道,整合符号方法的结构化优势与语义方法的理解深度,实现精准的文本分析。具体应用中,该架构通过预处理、图构建、嵌入生成及GNN推理等模块,完成客户反馈的情感分类与主题聚类。最终,LangGraph工作流编排确保各模块高效协作,为企业提供可解释性强、业务价值高的分析结果。此技术融合为挖掘非结构化数据价值、支持数据驱动决策提供了创新路径。
435 6
基于图神经网络的自然语言处理:融合LangGraph与大型概念模型的情感分析实践
|
5月前
|
JSON 监控 网络协议
干货分享“对接的 API 总是不稳定,网络分层模型” 看电商 API 故障的本质
本文从 OSI 七层网络模型出发,深入剖析电商 API 不稳定的根本原因,涵盖物理层到应用层的典型故障与解决方案,结合阿里、京东等大厂架构,详解如何构建高稳定性的电商 API 通信体系。
|
2月前
|
数据采集 监控 网络安全
VMware Cloud Foundation Operations for Networks 9.0.1.0 发布 - 云网络监控与分析
VMware Cloud Foundation Operations for Networks 9.0.1.0 发布 - 云网络监控与分析
378 3
VMware Cloud Foundation Operations for Networks 9.0.1.0 发布 - 云网络监控与分析
|
2月前
|
机器学习/深度学习 大数据 关系型数据库
基于python大数据的青少年网络使用情况分析及预测系统
本研究基于Python大数据技术,构建青少年网络行为分析系统,旨在破解现有防沉迷模式下用户画像模糊、预警滞后等难题。通过整合多平台亿级数据,运用机器学习实现精准行为预测与实时干预,推动数字治理向“数据驱动”转型,为家庭、学校及政府提供科学决策支持,助力青少年健康上网。
|
2月前
|
监控 负载均衡 安全
WebSocket网络编程深度实践:从协议原理到生产级应用
蒋星熠Jaxonic,技术宇宙中的星际旅人,以代码为舟、算法为帆,探索实时通信的无限可能。本文深入解析WebSocket协议原理、工程实践与架构设计,涵盖握手机制、心跳保活、集群部署、安全防护等核心内容,结合代码示例与架构图,助你构建稳定高效的实时应用,在二进制星河中谱写极客诗篇。
WebSocket网络编程深度实践:从协议原理到生产级应用
|
4月前
|
数据采集 存储 数据可视化
Python网络爬虫在环境保护中的应用:污染源监测数据抓取与分析
在环保领域,数据是决策基础,但分散在多个平台,获取困难。Python网络爬虫技术灵活高效,可自动化抓取空气质量、水质、污染源等数据,实现多平台整合、实时更新、结构化存储与异常预警。本文详解爬虫实战应用,涵盖技术选型、代码实现、反爬策略与数据分析,助力环保数据高效利用。
277 0
|
7月前
|
Linux 虚拟化 iOS开发
GNS3 v3.0.5 - 开源免费网络模拟器
GNS3 v3.0.5 - 开源免费网络模拟器
702 3
GNS3 v3.0.5 - 开源免费网络模拟器
|
7月前
|
监控 安全 Linux
Arista CloudVision 2025.1 - 多云和数据中心网络自动化、监控和分析
Arista CloudVision 2025.1 - 多云和数据中心网络自动化、监控和分析
328 2
Arista CloudVision 2025.1 - 多云和数据中心网络自动化、监控和分析
|
机器学习/深度学习 运维 自然语言处理
VMware Cloud Foundation Operations for Networks 9.0 发布 - 云网络监控与分析
VMware Cloud Foundation Operations for Networks 9.0 发布 - 云网络监控与分析
96 0
|
12月前
|
SQL 安全 网络安全
网络安全与信息安全:知识分享####
【10月更文挑战第21天】 随着数字化时代的快速发展,网络安全和信息安全已成为个人和企业不可忽视的关键问题。本文将探讨网络安全漏洞、加密技术以及安全意识的重要性,并提供一些实用的建议,帮助读者提高自身的网络安全防护能力。 ####
270 17