利用Logstash实现GrayLog日志转发到第三方日志平台

简介: 利用Logstash实现GrayLog日志转发到第三方日志平台

利用Logstash实现GrayLog日志转发到第三方日志平台

之前有介绍GrayLog两个平台之间如何级联

利用GrayLog的output功能实现简单的GrayLog分布式级联

但需要将GrayLog接入的设备日志全部转发到第三方日志这种场景如何解决?

结合下面的文章找到了解决方法

https://blog.csdn.net/weixin_43334786/article/details/108859134
https://blog.csdn.net/a150791038/article/details/124346888

解决方案简单架构如下图所示

(图片点击放大查看)

解决方案具体实现步骤

1、提前下载logstash rpm安装包和logstash-output-syslog插件包

https://mirrors.cloud.tencent.com/elasticstack/7.x/yum/7.10.2/logstash-7.10.2-x86_64.rpm
https://github.com/logstash-plugins/logstash-output-syslog

2、安装logstash并安装logstash-output-syslog插件

找一台CentOS7的服务器安装logstash

并安装logstash-output-syslog插件以及logstash-input-gelf(自带,无需单独下载插件)

rpm -ivh logstash-7.10.2-x86_64.rpm 
unzip logstash-output-syslog.zip 
cd /usr/share/logstash/
cp -rf /root/logstash-output-syslog ./
vim Gemfile
最后一行加入如下内容
gem "logstash-output-syslog", :path => "/usr/share/logstash/logstash-output-syslog"
/usr/share/logstash/bin/logstash-plugin  install logstash-output-syslog


(图片点击放大查看)

(图片点击放大查看)

(图片点击放大查看)


(图片点击放大查看)

这个install logstash-input-gelf不要忘了安装
/usr/share/logstash/bin/logstash-plugin  install logstash-input-gelf
/usr/share/logstash/bin/logstash-plugin list 
检查logstash-output-syslog是否有了

(图片点击放大查看)

(图片点击放大查看)

修改logstash.conf配置文件

cd /etc/logstash/
mv logstash-sample.conf  conf.d/logstash.conf
cd conf.d/
vi logstash.conf 
# Sample Logstash configuration for creating a simple
# Beats -> Logstash -> Elasticsearch pipeline.
input {
  gelf {
    host => "192.168.31.175"
    port => "12201"
  }
}
output {
   syslog {
    host => "192.168.31.230"
    port => "22201"
  }
}

(图片点击放大查看)

systemctl enable logstash.service
systemctl start logstash.service
tail -f /var/log/logstash/logstash-plain.log

(图片点击放大查看)

3、原GrayLog日志平台配置output

(图片点击放大查看)

(图片点击放大查看)

(图片点击放大查看)

4、第三方日志平台确认是否收到日志

触发设备日志,在第三方日志平台上确认是否logstash转发过来的日志

(图片点击放大查看)

如上图,第三方日志平台已经成功收到日志

(说明:我这里用GrayLog平台模拟第三方日志平台)

5、Tips

  • 1、有尝试用Nxlog-CE来实现Input GELF格式转换成Output Syslog
https://docs.nxlog.co/ce/current/index.html#xm_gelf

通过测试发现此路不通

原因:CE版本只支持gelf的output类型,不支持gelf的input类型

(图片点击放大查看)

(图片点击放大查看)

(图片点击放大查看)

  • 2、注意各日志平台的系统时间是否一致

建议系统时间先用NTP服务器进行校时

相关实践学习
日志服务之使用Nginx模式采集日志
本文介绍如何通过日志服务控制台创建Nginx模式的Logtail配置快速采集Nginx日志并进行多维度分析。
相关文章
|
1月前
|
运维 监控 数据挖掘
应用研发平台EMAS产品常见问题之将阿里后台的日志落到我们后台失败如何解决
应用研发平台EMAS(Enterprise Mobile Application Service)是阿里云提供的一个全栈移动应用开发平台,集成了应用开发、测试、部署、监控和运营服务;本合集旨在总结EMAS产品在应用开发和运维过程中的常见问题及解决方案,助力开发者和企业高效解决技术难题,加速移动应用的上线和稳定运行。
|
2月前
|
存储 监控 数据可视化
日志分析对决:揭示 ELK 与 GrayLog 的优势和差异
日志分析对决:揭示 ELK 与 GrayLog 的优势和差异
243 0
|
2月前
电子书阅读分享《Elasticsearch全观测技术解析与应用(构建日志、指标、APM统一观测平台)》
电子书阅读分享《Elasticsearch全观测技术解析与应用(构建日志、指标、APM统一观测平台)》
235 1
|
2月前
|
机器学习/深度学习 人工智能 DataWorks
人工智能平台PAI问题之日志报错误如何解决
人工智能平台PAI是指阿里云提供的机器学习平台服务,支持建模、训练和部署机器学习模型;本合集将介绍机器学习PAI的功能和操作流程,以及在使用过程中遇到的问题和解决方案。
53 0
人工智能平台PAI问题之日志报错误如何解决
|
2月前
|
监控 Java API
JDK 9新特性深度探索:平台日志API和服务
本文将深入探讨JDK 9中引入的平台日志API和服务。这一新特性为Java应用程序提供了更强大、灵活的日志记录功能,帮助开发者更好地监控和诊断应用程序的运行状况。本文将详细介绍平台日志API和服务的特性和优势,以及如何在项目中应用这一新特性来提升应用程序的稳定性和可维护性。
|
3月前
|
Linux Shell
开源日志平台GrayLog5.1.10 CentOS7一键安装脚本
开源日志平台GrayLog5.1.10 CentOS7一键安装脚本
103 0
|
3月前
|
Linux
开源日志平台GrayLog5.1.7 CentOS7一键安装脚本
开源日志平台GrayLog5.1.7 CentOS7一键安装脚本
83 1
|
3月前
开源日志平台GrayLog5.1.2一键安装脚本
开源日志平台GrayLog5.1.2一键安装脚本
63 0
|
3月前
|
运维 应用服务中间件 网络安全
利于群晖的File Station+SFTP实现第三方人员快速获取服务器应用日志
利于群晖的File Station+SFTP实现第三方人员快速获取服务器应用日志
81 0
|
3月前
|
负载均衡 应用服务中间件 nginx
【实践】使用Nginx作为GrayLog日志接入的负载均衡
【实践】使用Nginx作为GrayLog日志接入的负载均衡
48 0