使用ELK替换业务日志记录

本文涉及的产品
检索分析服务 Elasticsearch 版,2核4GB开发者规格 1个月
日志服务 SLS,月写入数据量 50GB 1个月
简介: 可视化客户端,不是必须安装,如果是公司内部自己用的日志,那么可以直接安装,简化开发流程。 如果是对B业务,需要将日志在业务开发平台,提供给客户查询,则可以不安装Kibana,需要自行开发业务系统,做权限管理、查询Elasticsearch和展示

公司在快速开发阶段,将日志存入了Mysql,不利于做各做条件的检索查询。速度较慢。使用ELK方案,优化该部分逻辑。并开发toB日志自查系统,提供给客户快速对接。


ELK


Elasticsearch、Logstash 和 Kibana 三个软件的简称


简单架构图


wp_editor_md_763628059c5ca787cf55fd1e6e5a9663.jpg


原文地址-> https://blog.siammm.cn/archives/320 来自:siam博客。简单理解和笔记

资源记录



Elasticsearch


这个不用说,必须安装


Logstash


用于收集日志,在程序和ES之间,可以让程序产生的日志不用直接提交到ES,减少传输时间。 程序可以插入到Redis,Kafka Logstash相当于队列消费者,将日志写入ES


Kibana和elasticsearch-head


可视化客户端,不是必须安装,如果是公司内部自己用的日志,那么可以直接安装,简化开发流程。 如果是对B业务,需要将日志在业务开发平台,提供给客户查询,则可以不安装Kibana,需要自行开发业务系统,做权限管理、查询Elasticsearch和展示

相关实践学习
日志服务之使用Nginx模式采集日志
本文介绍如何通过日志服务控制台创建Nginx模式的Logtail配置快速采集Nginx日志并进行多维度分析。
目录
相关文章
|
3月前
|
存储 消息中间件 网络协议
日志平台-ELK实操系列(一)
日志平台-ELK实操系列(一)
|
27天前
|
存储 监控 安全
|
4月前
|
消息中间件 Kafka 开发工具
rsyslog+ELK收集Cisco日志
rsyslog+ELK收集Cisco日志
|
4月前
|
运维 监控 Ubuntu
一键启动日志魔法:揭秘ELK自动安装脚本的神秘面纱!
【8月更文挑战第9天】在数据驱动时代,高效处理日志至关重要。ELK Stack(Elasticsearch、Logstash、Kibana)是强大的日志分析工具,但其复杂的安装配置常让初学者望而却步。本文介绍如何编写ELK自动安装脚本,简化部署流程。脚本适用于Ubuntu系统,自动完成ELK下载、安装及基本配置,包括依赖项安装、服务启动及自启设置,极大降低了使用门槛,助力运维人员和开发者轻松构建日志分析平台。
158 6
|
4月前
|
存储 应用服务中间件 nginx
部署ELK+filebeat收集nginx日志
部署ELK+filebeat收集nginx日志
145 0
部署ELK+filebeat收集nginx日志
|
4月前
|
存储 消息中间件 监控
Java日志详解:日志级别,优先级、配置文件、常见日志管理系统ELK、日志收集分析
Java日志详解:日志级别,优先级、配置文件、常见日志管理系统、日志收集分析。日志级别从小到大的关系(优先级从低到高): ALL < TRACE < DEBUG < INFO < WARN < ERROR < FATAL < OFF 低级别的会输出高级别的信息,高级别的不会输出低级别的信息
|
4月前
|
存储 数据可视化 Linux
在Linux中,如何使用ELK进行日志管理和分析?
在Linux中,如何使用ELK进行日志管理和分析?
|
4月前
|
数据可视化 Java API
如何在项目中快速引入Logback日志并搭配ELK使用
如何在项目中快速引入Logback日志并搭配ELK使用
|
4月前
|
存储 监控 Ubuntu
一键搞定:用脚本轻松部署ELK,让日志分析变得简单又高效
【8月更文挑战第13天】ELK栈由Elasticsearch、Logstash和Kibana组成,用于日志存储、解析及展示,是大数据领域广泛采用的日志解决方案。鉴于其安装配置复杂,本文提供了一个适用于Ubuntu 16.04的ELK自动安装Shell脚本示例。脚本首先确保Java环境安装,接着添加Elastic.co的APT仓库并安装ELK组件,最后启动所有服务。通过自动化流程,简化部署工作,减少人为错误,提升效率。实际应用中还需根据具体需求调整配置和服务设置。
66 0
|
5月前
|
存储 消息中间件 监控
日志收集分析器(ELK)
日志收集分析器(ELK)