利用Logstash实现GrayLog日志转发到第三方日志平台

简介: 利用Logstash实现GrayLog日志转发到第三方日志平台

利用Logstash实现GrayLog日志转发到第三方日志平台

之前有介绍GrayLog两个平台之间如何级联

利用GrayLog的output功能实现简单的GrayLog分布式级联

但需要将GrayLog接入的设备日志全部转发到第三方日志这种场景如何解决?

结合下面的文章找到了解决方法

https://blog.csdn.net/weixin_43334786/article/details/108859134
https://blog.csdn.net/a150791038/article/details/124346888

解决方案简单架构如下图所示

(图片点击放大查看)

解决方案具体实现步骤

1、提前下载logstash rpm安装包和logstash-output-syslog插件包

https://mirrors.cloud.tencent.com/elasticstack/7.x/yum/7.10.2/logstash-7.10.2-x86_64.rpm
https://github.com/logstash-plugins/logstash-output-syslog

2、安装logstash并安装logstash-output-syslog插件

找一台CentOS7的服务器安装logstash

并安装logstash-output-syslog插件以及logstash-input-gelf(自带,无需单独下载插件)

rpm -ivh logstash-7.10.2-x86_64.rpm 
unzip logstash-output-syslog.zip 
cd /usr/share/logstash/
cp -rf /root/logstash-output-syslog ./
vim Gemfile
最后一行加入如下内容
gem "logstash-output-syslog", :path => "/usr/share/logstash/logstash-output-syslog"
/usr/share/logstash/bin/logstash-plugin  install logstash-output-syslog


(图片点击放大查看)

(图片点击放大查看)

(图片点击放大查看)


(图片点击放大查看)

这个install logstash-input-gelf不要忘了安装
/usr/share/logstash/bin/logstash-plugin  install logstash-input-gelf
/usr/share/logstash/bin/logstash-plugin list 
检查logstash-output-syslog是否有了

(图片点击放大查看)

(图片点击放大查看)

修改logstash.conf配置文件

cd /etc/logstash/
mv logstash-sample.conf  conf.d/logstash.conf
cd conf.d/
vi logstash.conf 
# Sample Logstash configuration for creating a simple
# Beats -> Logstash -> Elasticsearch pipeline.
input {
  gelf {
    host => "192.168.31.175"
    port => "12201"
  }
}
output {
   syslog {
    host => "192.168.31.230"
    port => "22201"
  }
}

(图片点击放大查看)

systemctl enable logstash.service
systemctl start logstash.service
tail -f /var/log/logstash/logstash-plain.log

(图片点击放大查看)

3、原GrayLog日志平台配置output

(图片点击放大查看)

(图片点击放大查看)

(图片点击放大查看)

4、第三方日志平台确认是否收到日志

触发设备日志,在第三方日志平台上确认是否logstash转发过来的日志

(图片点击放大查看)

如上图,第三方日志平台已经成功收到日志

(说明:我这里用GrayLog平台模拟第三方日志平台)

5、Tips

  • 1、有尝试用Nxlog-CE来实现Input GELF格式转换成Output Syslog
https://docs.nxlog.co/ce/current/index.html#xm_gelf

通过测试发现此路不通

原因:CE版本只支持gelf的output类型,不支持gelf的input类型

(图片点击放大查看)

(图片点击放大查看)

(图片点击放大查看)

  • 2、注意各日志平台的系统时间是否一致

建议系统时间先用NTP服务器进行校时

相关实践学习
通过日志服务实现云资源OSS的安全审计
本实验介绍如何通过日志服务实现云资源OSS的安全审计。
相关文章
|
存储 运维 监控
超越传统模型:从零开始构建高效的日志分析平台——基于Elasticsearch的实战指南
【10月更文挑战第8天】随着互联网应用和微服务架构的普及,系统产生的日志数据量日益增长。有效地收集、存储、检索和分析这些日志对于监控系统健康状态、快速定位问题以及优化性能至关重要。Elasticsearch 作为一种分布式的搜索和分析引擎,以其强大的全文检索能力和实时数据分析能力成为日志处理的理想选择。
984 6
|
存储 消息中间件 网络协议
日志平台-ELK实操系列(一)
日志平台-ELK实操系列(一)
|
12月前
|
监控 Shell Linux
Android调试终极指南:ADB安装+多设备连接+ANR日志抓取全流程解析,覆盖环境变量配置/多设备调试/ANR日志分析全流程,附Win/Mac/Linux三平台解决方案
ADB(Android Debug Bridge)是安卓开发中的重要工具,用于连接电脑与安卓设备,实现文件传输、应用管理、日志抓取等功能。本文介绍了 ADB 的基本概念、安装配置及常用命令。包括:1) 基本命令如 `adb version` 和 `adb devices`;2) 权限操作如 `adb root` 和 `adb shell`;3) APK 操作如安装、卸载应用;4) 文件传输如 `adb push` 和 `adb pull`;5) 日志记录如 `adb logcat`;6) 系统信息获取如屏幕截图和录屏。通过这些功能,用户可高效调试和管理安卓设备。
|
存储 运维 监控
金融场景 PB 级大规模日志平台:中信银行信用卡中心从 Elasticsearch 到 Apache Doris 的先进实践
中信银行信用卡中心每日新增日志数据 140 亿条(80TB),全量归档日志量超 40PB,早期基于 Elasticsearch 构建的日志云平台,面临存储成本高、实时写入性能差、文本检索慢以及日志分析能力不足等问题。因此使用 Apache Doris 替换 Elasticsearch,实现资源投入降低 50%、查询速度提升 2~4 倍,同时显著提高了运维效率。
841 3
金融场景 PB 级大规模日志平台:中信银行信用卡中心从 Elasticsearch 到 Apache Doris 的先进实践
|
存储 运维 监控
开源日志Graylog
【10月更文挑战第21天】
1786 8
|
存储 监控 安全
|
存储 JSON 监控
开源日志分析Logstash
【10月更文挑战第22天】
354 1
|
运维 NoSQL Java
SpringBoot接入轻量级分布式日志框架GrayLog技术分享
在当今的软件开发环境中,日志管理扮演着至关重要的角色,尤其是在微服务架构下,分布式日志的统一收集、分析和展示成为了开发者和运维人员必须面对的问题。GrayLog作为一个轻量级的分布式日志框架,以其简洁、高效和易部署的特性,逐渐受到广大开发者的青睐。本文将详细介绍如何在SpringBoot项目中接入GrayLog,以实现日志的集中管理和分析。
1174 1
|
消息中间件 监控 Kafka
Filebeat+Kafka+Logstash+Elasticsearch+Kibana 构建日志分析系统
【8月更文挑战第13天】Filebeat+Kafka+Logstash+Elasticsearch+Kibana 构建日志分析系统
1375 3
|
监控 Java Serverless
美团 Flink 大作业部署问题之想在Serverless平台上实时查看Spring Boot应用的日志要怎么操作
美团 Flink 大作业部署问题之想在Serverless平台上实时查看Spring Boot应用的日志要怎么操作