Filebeat安装部署

简介: Filebeat安装部署



一、环境准备

部署模式:单节点部署。

安装包:ELK安装包下载地址

注意事项:

      1.  部署及安装所用的用户不能是root。

192.168.122.239 Centos7.6

node8.vteamcloud.com

二、安装部署

2.1 下载安装包到指定文件夹,并解压

# 切换到非root用户,这里用的elasticsearch
su - elasticsearch
# 进入安装目录
cd /opt/module
# 解压安装包
tar xf filebeat-8.11.0-linux-x86_64.tar.gz
# 给文件赋权
chown -R elasticsearch:elasticsearch /opt/module/filebeat-8.11.0-linux-x86_64

2.2 编辑配置文件

cd filebeat-8.11.0-linux-x86_64
vim filebeat.yml
# 数据采集输入配置
filebeat.inputs:
- type: log
  enabled: true
  # 日志采集路径
  paths:
    - /home/data/ipu/ipu-cbs-server-tst/logs/ipu-cbs-server-tst-10002/console.log
  # 日志采集频率
  scan_frequency: 10s
  # 日志行匹配模式,这里匹配yy-MM-dd HH:mm:ss.SSS 格式的时间开头的内容为行首,一直匹配到下一个之前算一行日志。
  multiline.pattern: '^\d{2}-\d{2}-\d{2} \d{2}:\d{2}:\d{2}\.\d{3}'
  multiline.negate: true
  multiline.match: after
 
# 数据采集输出配置
# 这里配置的是redis哨兵模式的1主2从共三个节点地址。filebeat本身不支持哨兵、cluster集群模式。可以采用这种配置起到高可用的作用。
# 因为从节点只读,所以实际上永远只会将数据发送到一个主节点上。
output.redis:
  enabled: true
  hosts: ["192.168.122.227:6379","192.168.122.237:6379","192.168.122.238:6379"]
  key: "ipu-cbs-server-test-log"
  datatype: list
  password: "Redis@123456"  # 添加 Redis 访问密码
  db: 0
  codec: [ json ]
  loadbalance: true
 
# 配置filebeat的输出日志
logging.level: info
logging.to_files: true
logging.files:
  path: /opt/module/filebeat-8.11.0-linux-x86_64
  name: filebeat.log

     更多es配置可以参考官方文档:Fleet and Elastic Agent Guide [8.11] | Elastic

2.3 启动服务

# 编写启动命令文件
echo "nohup ./filebeat  -e -c filebeat.yml > filebeat.log 2>&1  &" > start.sh
# 赋予文件权限
chmod a+x start.sh
# 启动服务
./start.sh
# 查看日志
tail -200f /opt/module/filebeat-8.11.0-linux-x86_64/filebeat.log

本人多年技术架构设计经验,长期从事IT技术资源整合,廉价出售各类课程视频,有需要请私信联系

相关实践学习
以电商场景为例搭建AI语义搜索应用
本实验旨在通过阿里云Elasticsearch结合阿里云搜索开发工作台AI模型服务,构建一个高效、精准的语义搜索系统,模拟电商场景,深入理解AI搜索技术原理并掌握其实现过程。
ElasticSearch 最新快速入门教程
本课程由千锋教育提供。全文搜索的需求非常大。而开源的解决办法Elasricsearch(Elastic)就是一个非常好的工具。目前是全文搜索引擎的首选。本系列教程由浅入深讲解了在CentOS7系统下如何搭建ElasticSearch,如何使用Kibana实现各种方式的搜索并详细分析了搜索的原理,最后讲解了在Java应用中如何集成ElasticSearch并实现搜索。  
相关文章
|
关系型数据库 MySQL Java
confluence部署
confluence部署
1636 0
confluence部署
|
消息中间件 Kubernetes 监控
Fluentd/FluentBit K8s日志采集方案介绍
Fluent Bit 是一个开源的多平台日志采集器,旨在打造日志采集处理和分发的通用利器。2014 年,Fluentd 团队预测对于嵌入式 Linux 和 Gateways 等受约束的环境,需要更轻量级的日志处理器,于是便开发了Fluent Bit,并把该项目建设成为Fluentd 生态系统的一部分。
3868 0
|
负载均衡 应用服务中间件 Linux
Nginx系列教程(14) - LVS+KeepAlived+Nginx实现高性能负载均衡集群
Nginx系列教程(14) - LVS+KeepAlived+Nginx实现高性能负载均衡集群
3975 0
|
存储 前端开发 数据可视化
Grafana Loki,轻量级日志系统
本文介绍了基于Grafana、Loki和Alloy构建的轻量级日志系统。Loki是一个由Grafana Labs开发的日志聚合系统,具备高可用性和多租户支持,专注于日志而非指标,通过标签索引而非内容索引实现高效存储。Alloy则是用于收集和转发日志至Loki的强大工具。文章详细描述了系统的架构、组件及其工作流程,并提供了快速搭建指南,包括准备步骤、部署命令及验证方法。此外,还展示了如何使用Grafana查看日志,以及一些基本的LogQL查询示例。最后,作者探讨了Loki架构的独特之处,提出了“巨型单体模块化”的概念,即一个应用既可单体部署也可分布式部署,整体协同实现全部功能。
4545 69
Grafana Loki,轻量级日志系统
|
运维 Linux Docker
Filebeat的安装和使用(Linux)
Filebeat的安装和使用(Linux)
661 0
|
消息中间件 Kafka Apache
Kafka 架构深入介绍 及搭建Filebeat+Kafka+ELK
Kafka 架构深入介绍 及搭建Filebeat+Kafka+ELK
|
SQL 大数据 Java
大数据Hive多字节分隔符
大数据Hive多字节分隔符
838 0
|
消息中间件 监控 Kafka
Filebeat+Kafka+Logstash+Elasticsearch+Kibana 构建日志分析系统
【8月更文挑战第13天】Filebeat+Kafka+Logstash+Elasticsearch+Kibana 构建日志分析系统
1339 3
|
监控 NoSQL Java
Spring Boot Actuator 使用和常用配置
Spring Boot Actuator 使用和常用配置
1913 5