ELK

本文涉及的产品
日志服务 SLS,月写入数据量 50GB 1个月
简介: ELK

Elk
Elasticsearch logstash kibana
传统:Shell sed awk grep 简单的信息筛选
进行海量日志的筛选遇到的问题:1信息搜索(费时) 2 多维度分析
适用于服务器数量少
因此,海量日志的情况下需要日志分析系统
日志分析系统常见方案:ELF /EFK/graylog/流式分析/ELK
日志分析系统作用:
1 信息检索——>快速找到bug——>修复
2 服务诊断——>负载均衡和运行状态——>优化
3 数据分析——>
日志系统的角色(组件):
1 采集端(agent):采集日志源数据,对数据进行封装并发送给聚合端。
2 聚合端(collector):搜集来自多个采集端的日志数据,并按照一定规则进行数据的处理(例如:加索引)。
3 存储端(storage):负责存储来自聚合端的数据。

ELK方案示意图
在这里插入图片描述

data collection数据的收集
Redis 消息队列(可加可不加)
Data processing 数据的处理
Storage 存储
Visuablize可视化(获取数据进行显示)
Beats 负责对日志源数据进行采集
Logstash 建立索引
Elasticsearch 存储

实验
基础环境
四台虚拟机
在这里插入图片描述

相关实践学习
日志服务之使用Nginx模式采集日志
本文介绍如何通过日志服务控制台创建Nginx模式的Logtail配置快速采集Nginx日志并进行多维度分析。
相关文章
|
6月前
|
存储 监控 数据可视化
ELK与Fluentd的结合
【6月更文挑战第18天】构建Python分布式日志系统,结合ELK(Elasticsearch、Logstash、Kibana)与Fluentd,用于日志收集、存储和分析。Fluentd作为数据收集器,接收Python应用日志,通过Logstash转发至Elasticsearch索引,Kibana提供可视化界面。流程包括安装配置ELK,配置Fluentd输入输出插件,Python中使用`fluent-logger`发送日志,Kibana查看分析数据。系统可扩展、优化,涉及数据格式化、性能调优、安全性和监控。
ELK与Fluentd的结合
|
7月前
|
Java 索引
ELK搭建指南
ELK搭建指南
80 0
|
应用服务中间件 nginx 索引
elk-1
elk-1
61 0
|
NoSQL 应用服务中间件 Redis
elk-2
elk-2
59 0
|
存储 监控 安全
【Elastic Stack-初识篇】 ELK介绍、搭建最新 ELK 日志分析系统
【Elastic Stack-初识篇】 ELK介绍、搭建最新 ELK 日志分析系统
1054 0
|
Java 编译器 Linux
|
自然语言处理 安全 网络安全
|
存储 算法 安全
|
消息中间件 JSON NoSQL
elk+filebeat+grafana日志收集平台学习笔记(上)
elk+filebeat+grafana日志收集平台学习笔记
elk+filebeat+grafana日志收集平台学习笔记(上)
|
存储 关系型数据库 MySQL
elk+filebeat+grafana日志收集平台学习笔记(下)
elk+filebeat+grafana日志收集平台学习笔记
elk+filebeat+grafana日志收集平台学习笔记(下)