FileBeat替换@timestamp的四种方法

简介: FileBeat替换@timestamp的四种方法

1) 使用processors

processors:
  - timestamp:
      # 格式化时间值 给 时间戳 
      field: start_time
      # 使用我国东八区时间  解析log时间
      timezone: Asia/Shanghai
      layouts:
        - '2006-01-02 15:04:05'
        - '2006-01-02 15:04:05.999'
      test:
        - '2019-06-22 16:33:51'

2) 修改fields.xml文件(不推荐,具体看参考文章3)

3) 使用属性覆盖

在input部分配置

json.keys_under_root: true
json.overwrite_keys: true

且输入的json的 @timestamp 的值得格式化方式必须为

yyyy-MM-ddTHH:mm:ss.fffZ #其中fff表示毫秒,因为编程语言的不同要进行相应的更换

4) 使用codec.format

output.kafka:
  hosts: ["139.224.106.236:9092"]
  topic: '%{[fields.kafka_topic]}' #当使用了json.keys_under_root,直接使用指定属性名即可
  version: 0.11.0.0
  compression: gzip
  max_message_bytes: 1000000
  # 只输出message
  codec.format:
    string: '%{[message]}'
目录
相关文章
|
固态存储 Java 弹性计算
【最佳实践】简单配置,实现Filebeat多行日志传送
在解决应用程序问题时,多行日志为开发人员提供了宝贵的信息。 堆栈跟踪就是一个例子。 堆栈跟踪是引发异常时应用程序处于中间的一系列方法调用。 堆栈跟踪包括遇到错误的相关行以及错误本身。
10523 0
【最佳实践】简单配置,实现Filebeat多行日志传送
|
编解码
logstash处理时区问题
logstash处理时区问题
1095 0
|
消息中间件 监控 Kafka
Filebeat+Kafka+Logstash+Elasticsearch+Kibana 构建日志分析系统
【8月更文挑战第13天】Filebeat+Kafka+Logstash+Elasticsearch+Kibana 构建日志分析系统
1475 3
|
监控 Java 索引
教你搭建elasticsearch与实现zabbix对接
一. 搭建elasticsearch 上传jdk-8u181-linux-x64.tar.gz和elasticsearch-6.1.4.tar.gz文件到系统任意目录, 安装java解压jdk-8u181-linux-x64.
2945 0
ELK 圣经:Elasticsearch、Logstash、Kibana 从入门到精通
ELK是一套强大的日志管理和分析工具,广泛应用于日志监控、故障排查、业务分析等场景。本文档将详细介绍ELK的各个组件及其配置方法,帮助读者从零开始掌握ELK的使用。
|
监控 Java Go
Filebeat的安装和使用(Windows)
Filebeat的安装和使用(Windows)
1579 0
|
监控 数据可视化 Go
不得不学!从零到一搭建ELK日志,在Docker环境下部署 Filebeat 日志收集工具
最近在玩 ELK 日志平台,它是 Elastic 公司推出的一整套日志收集、分析和展示的解决方案。
|
存储 JSON 应用服务中间件
|
Python
gitlab推送企业微信几种方式汇总(一)
gitlab推送企业微信几种方式汇总(一)
5190 1
gitlab推送企业微信几种方式汇总(一)
|
存储 监控 测试技术
Kibana 的 Alert—Elastic Stack 实战手册
Kibana 的 Alert 模块主要用于 Elastic Stack 的监控告警。以一种相对较低的使用成本,将复杂的查询条件,编辑完成后监控不同的 Elastic Stack 的技术产品中产生的数据,最终把符合条件的告警信息以需要的方式反馈给用户。
5657 0
Kibana 的 Alert—Elastic Stack 实战手册