Filebeat安装部署

本文涉及的产品
Redis 开源版,标准版 2GB
推荐场景:
搭建游戏排行榜
检索分析服务 Elasticsearch 版,2核4GB开发者规格 1个月
云数据库 Tair(兼容Redis),内存型 2GB
简介: Filebeat安装部署



一、环境准备

部署模式:单节点部署。

安装包:ELK安装包下载地址

注意事项:

      1.  部署及安装所用的用户不能是root。

192.168.122.239 Centos7.6

node8.vteamcloud.com

二、安装部署

2.1 下载安装包到指定文件夹,并解压

# 切换到非root用户,这里用的elasticsearch
su - elasticsearch
# 进入安装目录
cd /opt/module
# 解压安装包
tar xf filebeat-8.11.0-linux-x86_64.tar.gz
# 给文件赋权
chown -R elasticsearch:elasticsearch /opt/module/filebeat-8.11.0-linux-x86_64

2.2 编辑配置文件

cd filebeat-8.11.0-linux-x86_64
vim filebeat.yml
# 数据采集输入配置
filebeat.inputs:
- type: log
  enabled: true
  # 日志采集路径
  paths:
    - /home/data/ipu/ipu-cbs-server-tst/logs/ipu-cbs-server-tst-10002/console.log
  # 日志采集频率
  scan_frequency: 10s
  # 日志行匹配模式,这里匹配yy-MM-dd HH:mm:ss.SSS 格式的时间开头的内容为行首,一直匹配到下一个之前算一行日志。
  multiline.pattern: '^\d{2}-\d{2}-\d{2} \d{2}:\d{2}:\d{2}\.\d{3}'
  multiline.negate: true
  multiline.match: after
 
# 数据采集输出配置
# 这里配置的是redis哨兵模式的1主2从共三个节点地址。filebeat本身不支持哨兵、cluster集群模式。可以采用这种配置起到高可用的作用。
# 因为从节点只读,所以实际上永远只会将数据发送到一个主节点上。
output.redis:
  enabled: true
  hosts: ["192.168.122.227:6379","192.168.122.237:6379","192.168.122.238:6379"]
  key: "ipu-cbs-server-test-log"
  datatype: list
  password: "Redis@123456"  # 添加 Redis 访问密码
  db: 0
  codec: [ json ]
  loadbalance: true
 
# 配置filebeat的输出日志
logging.level: info
logging.to_files: true
logging.files:
  path: /opt/module/filebeat-8.11.0-linux-x86_64
  name: filebeat.log

     更多es配置可以参考官方文档:Fleet and Elastic Agent Guide [8.11] | Elastic

2.3 启动服务

# 编写启动命令文件
echo "nohup ./filebeat  -e -c filebeat.yml > filebeat.log 2>&1  &" > start.sh
# 赋予文件权限
chmod a+x start.sh
# 启动服务
./start.sh
# 查看日志
tail -200f /opt/module/filebeat-8.11.0-linux-x86_64/filebeat.log

本人多年技术架构设计经验,长期从事IT技术资源整合,廉价出售各类课程视频,有需要请私信联系

相关实践学习
使用阿里云Elasticsearch体验信息检索加速
通过创建登录阿里云Elasticsearch集群,使用DataWorks将MySQL数据同步至Elasticsearch,体验多条件检索效果,简单展示数据同步和信息检索加速的过程和操作。
ElasticSearch 入门精讲
ElasticSearch是一个开源的、基于Lucene的、分布式、高扩展、高实时的搜索与数据分析引擎。根据DB-Engines的排名显示,Elasticsearch是最受欢迎的企业搜索引擎,其次是Apache Solr(也是基于Lucene)。 ElasticSearch的实现原理主要分为以下几个步骤: 用户将数据提交到Elastic Search 数据库中 通过分词控制器去将对应的语句分词,将其权重和分词结果一并存入数据 当用户搜索数据时候,再根据权重将结果排名、打分 将返回结果呈现给用户 Elasticsearch可以用于搜索各种文档。它提供可扩展的搜索,具有接近实时的搜索,并支持多租户。
相关文章
|
监控 Docker 索引
docker安装filebeat 进行日志收集
docker安装filebeat 进行日志收集
926 0
docker安装filebeat 进行日志收集
|
存储 NoSQL Redis
容器部署日志分析平台ELK7.10.1(Elasisearch+Filebeat+Redis+Logstash+Kibana)
容器部署日志分析平台ELK7.10.1(Elasisearch+Filebeat+Redis+Logstash+Kibana)
532 0
|
3月前
|
消息中间件 Kafka 应用服务中间件
ELK7.6+Filebeat集群部署
ELK7.6+Filebeat集群部署
|
5月前
|
监控 数据安全/隐私保护
kibana安装部署
kibana安装部署
51 1
|
6月前
|
监控 应用服务中间件 nginx
使用 Docker Compose V2 快速搭建日志分析平台 ELK (Elasticsearch、Logstash 和 Kibana)
ELK的架构有多种,本篇分享使用的架构如图所示: Beats(Filebeat) -> -> Elasticsearch -> Kibana,目前生产环境一天几千万的日志,内存占用大概 10G
375 4
|
6月前
|
数据安全/隐私保护 索引
Kibana安装部署
Kibana安装部署
|
缓存 应用服务中间件 nginx
基于Docker搭建ELK(Elasticsearch、Logstash、Kibana)
ELK是一套强大的开源工具组合,可以帮助我们采集、存储、分析和可视化大量的日志数据,本文通过简明清晰的步骤指导,帮助读者快速搭建起基于Docker的ELK日志分析平台,为日志数据的收集、存储、分析和可视化提供了一种高效可靠的解决方案。
|
存储 Linux 数据处理
Logstash 7.11安装配置
Logstash 是免费且开放的服务器端数据处理管道,能够从多个来源采集数据,转换数据,然后将数据发送到您最喜欢的“存储库”中。Logstash 能够动态地采集、转换和传输数据,不受格式或复杂度的影响。利用 Grok 从非结构化数据中派生出结构,从 IP 地址解码出地理坐标,匿名化或排除敏感字段,并简化整体处理过程。数据往往以各种各样的形式,或分散或集中地存在于很多系统中。Logstash 支持各种输入选择,可以同时从众多常用来源捕捉事件。能够以连续的流式传输方式,轻松地从您的日志、指标、Web 应用、数据存储以及各种 AWS 服务采集数据。
326 0
Logstash 7.11安装配置
|
数据可视化 关系型数据库 MySQL
1分钟系列-Filebeat简介与安装
1分钟系列-Filebeat简介与安装