利用Logstash实现GrayLog日志转发到第三方日志平台

本文涉及的产品
日志服务 SLS,月写入数据量 50GB 1个月
简介: 利用Logstash实现GrayLog日志转发到第三方日志平台

利用Logstash实现GrayLog日志转发到第三方日志平台

之前有介绍GrayLog两个平台之间如何级联

利用GrayLog的output功能实现简单的GrayLog分布式级联

但需要将GrayLog接入的设备日志全部转发到第三方日志这种场景如何解决?

结合下面的文章找到了解决方法

https://blog.csdn.net/weixin_43334786/article/details/108859134
https://blog.csdn.net/a150791038/article/details/124346888

解决方案简单架构如下图所示

(图片点击放大查看)

解决方案具体实现步骤

1、提前下载logstash rpm安装包和logstash-output-syslog插件包

https://mirrors.cloud.tencent.com/elasticstack/7.x/yum/7.10.2/logstash-7.10.2-x86_64.rpm
https://github.com/logstash-plugins/logstash-output-syslog

2、安装logstash并安装logstash-output-syslog插件

找一台CentOS7的服务器安装logstash

并安装logstash-output-syslog插件以及logstash-input-gelf(自带,无需单独下载插件)

rpm -ivh logstash-7.10.2-x86_64.rpm 
unzip logstash-output-syslog.zip 
cd /usr/share/logstash/
cp -rf /root/logstash-output-syslog ./
vim Gemfile
最后一行加入如下内容
gem "logstash-output-syslog", :path => "/usr/share/logstash/logstash-output-syslog"
/usr/share/logstash/bin/logstash-plugin  install logstash-output-syslog


(图片点击放大查看)

(图片点击放大查看)

(图片点击放大查看)


(图片点击放大查看)

这个install logstash-input-gelf不要忘了安装
/usr/share/logstash/bin/logstash-plugin  install logstash-input-gelf
/usr/share/logstash/bin/logstash-plugin list 
检查logstash-output-syslog是否有了

(图片点击放大查看)

(图片点击放大查看)

修改logstash.conf配置文件

cd /etc/logstash/
mv logstash-sample.conf  conf.d/logstash.conf
cd conf.d/
vi logstash.conf 
# Sample Logstash configuration for creating a simple
# Beats -> Logstash -> Elasticsearch pipeline.
input {
  gelf {
    host => "192.168.31.175"
    port => "12201"
  }
}
output {
   syslog {
    host => "192.168.31.230"
    port => "22201"
  }
}

(图片点击放大查看)

systemctl enable logstash.service
systemctl start logstash.service
tail -f /var/log/logstash/logstash-plain.log

(图片点击放大查看)

3、原GrayLog日志平台配置output

(图片点击放大查看)

(图片点击放大查看)

(图片点击放大查看)

4、第三方日志平台确认是否收到日志

触发设备日志,在第三方日志平台上确认是否logstash转发过来的日志

(图片点击放大查看)

如上图,第三方日志平台已经成功收到日志

(说明:我这里用GrayLog平台模拟第三方日志平台)

5、Tips

  • 1、有尝试用Nxlog-CE来实现Input GELF格式转换成Output Syslog
https://docs.nxlog.co/ce/current/index.html#xm_gelf

通过测试发现此路不通

原因:CE版本只支持gelf的output类型,不支持gelf的input类型

(图片点击放大查看)

(图片点击放大查看)

(图片点击放大查看)

  • 2、注意各日志平台的系统时间是否一致

建议系统时间先用NTP服务器进行校时

相关实践学习
日志服务之使用Nginx模式采集日志
本文介绍如何通过日志服务控制台创建Nginx模式的Logtail配置快速采集Nginx日志并进行多维度分析。
相关文章
|
1月前
|
存储 运维 监控
超越传统模型:从零开始构建高效的日志分析平台——基于Elasticsearch的实战指南
【10月更文挑战第8天】随着互联网应用和微服务架构的普及,系统产生的日志数据量日益增长。有效地收集、存储、检索和分析这些日志对于监控系统健康状态、快速定位问题以及优化性能至关重要。Elasticsearch 作为一种分布式的搜索和分析引擎,以其强大的全文检索能力和实时数据分析能力成为日志处理的理想选择。
109 6
|
2月前
|
存储 消息中间件 网络协议
日志平台-ELK实操系列(一)
日志平台-ELK实操系列(一)
|
20天前
|
存储 运维 监控
开源日志Graylog
【10月更文挑战第21天】
66 8
|
20天前
|
存储 监控 安全
|
19天前
|
存储 JSON 监控
开源日志分析Logstash
【10月更文挑战第22天】
34 1
|
2月前
|
运维 NoSQL Java
SpringBoot接入轻量级分布式日志框架GrayLog技术分享
在当今的软件开发环境中,日志管理扮演着至关重要的角色,尤其是在微服务架构下,分布式日志的统一收集、分析和展示成为了开发者和运维人员必须面对的问题。GrayLog作为一个轻量级的分布式日志框架,以其简洁、高效和易部署的特性,逐渐受到广大开发者的青睐。本文将详细介绍如何在SpringBoot项目中接入GrayLog,以实现日志的集中管理和分析。
232 1
|
3月前
|
消息中间件 监控 Kafka
Filebeat+Kafka+Logstash+Elasticsearch+Kibana 构建日志分析系统
【8月更文挑战第13天】Filebeat+Kafka+Logstash+Elasticsearch+Kibana 构建日志分析系统
207 3
|
3月前
|
数据可视化 应用服务中间件 Apache
优化集中式日志记录的方法:添加 Logstash 过滤器
优化集中式日志记录的方法:添加 Logstash 过滤器
48 1
|
3月前
|
监控 Java Serverless
美团 Flink 大作业部署问题之想在Serverless平台上实时查看Spring Boot应用的日志要怎么操作
美团 Flink 大作业部署问题之想在Serverless平台上实时查看Spring Boot应用的日志要怎么操作
|
4月前
|
消息中间件 NoSQL Kafka
基于Kafka的nginx日志收集分析与监控平台(3)
基于Kafka的nginx日志收集分析与监控平台(3)