使用rsyslog采集客户端日志

简介: rsyslog可以作为ELK最前端的日志收集,系统自带且性能较好

一、采集(使用rsyslog)

客户端使用rsyslog8.19.0做的收集,直接centos安装rpm包,安装详细见:

http://www.rsyslog.com/rhelcentos-rpms/

将yum源配置好后:

1、yum install rsyslog -y
2、yum install rsyslog-kafka -y

二、配置文件示例

module(load="imfile")
module(load="omkafka")
$PreserveFQDN on
main_queue(
queue.workerthreads="10" # threads to work on the queue
queue.dequeueBatchSize="1000" # max number of messages to process at once
queue.size="50000" # max queue size
)

tomcat

$template api-tomcat,"%hostname% ◊ %msg%"
ruleset(name="api-tomcat") {
action(
broker=["1.1.1.1:9092,1.1.1.2:9092,1.1.1.3:9092"]
type="omkafka"
topic="api-tomcat"
template="api-tomcat"
partitions.auto="on"
)
}
input(type="imfile"
File="/www/webcode/api/logs/info.log"
Tag="m.w"
ruleset="api-tomcat"
startmsg.regex="^[[:digit:]]{4}-[[:digit:]]{2}-[[:digit:]]{2}"
escapeLF="on"
freshStartTail="on" #start tailf
reopenOnTruncate="on" #Truncate reopen
)

三、测试

添加 kafka配置vhosts

rsyslogd -f api-tomcat.conf -dn

相关实践学习
【涂鸦即艺术】基于云应用开发平台CAP部署AI实时生图绘板
【涂鸦即艺术】基于云应用开发平台CAP部署AI实时生图绘板
目录
相关文章
|
监控 应用服务中间件 定位技术
要统计Nginx的客户端IP,可以通过分析Nginx的访问日志文件来实现
要统计Nginx的客户端IP,可以通过分析Nginx的访问日志文件来实现
1578 3
|
网络安全
【Azure Service Bus】启用诊断日志来获取客户端访问Azure Service Bus的IP地址 [2024-03-26 实验结果失败]
【Azure Service Bus】启用诊断日志来获取客户端访问Azure Service Bus的IP地址 [2024-03-26 实验结果失败]
271 0
|
存储 并行计算 开发工具
SLS Prometheus存储问题之相比客户端SDK聚合写入,SLS网关侧聚合写入有什么优势
SLS Prometheus存储问题之相比客户端SDK聚合写入,SLS网关侧聚合写入有什么优势
|
消息中间件 开发工具 RocketMQ
消息队列 MQ产品使用合集之如何关闭客户端的日志记录
消息队列(MQ)是一种用于异步通信和解耦的应用程序间消息传递的服务,广泛应用于分布式系统中。针对不同的MQ产品,如阿里云的RocketMQ、RabbitMQ等,它们在实现上述场景时可能会有不同的特性和优势,比如RocketMQ强调高吞吐量、低延迟和高可用性,适合大规模分布式系统;而RabbitMQ则以其灵活的路由规则和丰富的协议支持受到青睐。下面是一些常见的消息队列MQ产品的使用场景合集,这些场景涵盖了多种行业和业务需求。
|
消息中间件 存储 监控
go语言并发实战——日志收集系统(六) 编写日志收集系统客户端
go语言并发实战——日志收集系统(六) 编写日志收集系统客户端
397 1
|
SQL JSON Kubernetes
Seata常见问题之服务端 error日志没有输出,客户端执行sql报错如何解决
Seata 是一个开源的分布式事务解决方案,旨在提供高效且简单的事务协调机制,以解决微服务架构下跨服务调用(分布式场景)的一致性问题。以下是Seata常见问题的一个合集
938 0
|
域名解析 网络协议 应用服务中间件
nginx-ingress通过ipv6暴露服务,并在nginx ingress日志中记录客户端真实ipv6的ip地址
本文主要通过阿里云提供的clb和nlb来实现,建议是提前创建好双栈的vpc和vsw(使用clb可以不用双栈vpc和vsw)
1517 1
|
Java Nacos
Java:nacos客户端ClientWorker无限输出更新日志
Java:nacos客户端ClientWorker无限输出更新日志
668 0
|
图形学
U3D客户端框架之日志写入器 把Log日志写入到可写区 方便调试
U3D客户端框架之日志写入器 把Log日志写入到可写区 方便调试
|
XML 监控 Java
怎么把CAT客户端的RootMessageId记录到每条日志中?
为了理解RootMessageId先简单介绍一下CAT的数据结构设计。CAT客户端会将所有消息都封装为一个完整的消息树(MessageTree),消息树可能包括Transaction、Event、Heartbeat、Metric等类型的消息。具体如下:
386 0
怎么把CAT客户端的RootMessageId记录到每条日志中?