09-ELK环境搭建

简介: 本文介绍ELK环境搭建全过程,基于ElasticSearch 8.15.0部署日志系统,使用Filebeat采集日志,通过Pipeline解析,Kibana展示与搜索。涵盖服务器配置、系统参数调优、防火墙设置、证书生成、用户密码配置及Kibana中文界面设置,实现高效日志管理。

09-ELK环境搭建

环境说明方案:使用ElasticSearch保存日志,使用Kibana进行日志展示、搜索、过期删除,使用 ElasticSearch 的pipeline进行日志的解析,使用 filebeat 采集日志发送给ElasticSearch。使用服务器192.168.xxx.xxx进行部署。准备:从官网下载 ElasticSearch(elasticsearch-8.15.0-linux-x86_64.tar.gz)上传到服务器从官网下载 kibana(kibana-8.15.0-linux-x86_64.tar.gz)上传到服务器从官网下载 elastic/filebeat 的docker镜像,推送到cce镜像仓库部署环境环境检查检查vm.max_map_count的大小,要求该值至少为262144:

如果该值不满足要求,可以修改/etc/sysctl.conf文件,在该文件中新增一行或者修改vm.max_map_count:检查ulimit的值:修改ulimit的值为65536:配置防火墙:部署ElasticSearch将 ElasticSearch 解压:调整 ElasticSearch的配置文件:config/elasticsearch.yml:创建对应的文件夹:/home/elk/elasticsearch-workspace/data:数据文件夹/home/elk/elasticsearch-workspace/logs:日志文件夹生成证书:生成CA:通过CA生成证书:启动ElasticSearch:配置用户密码:访问ElasticSearch:http://192.168.xxx.xxx:9200如果提示需要用户密码,输入用户elastic,密码123456(即上面设置的密码)关闭elasticsearch:部署kibana解压Kibana:

1

tar -zxvf kibana-8.15.0-linux-x86_64.tar.gz

调整Kibana配置文件:config/kibana.yml


# 端口号,默认5601

server.port: 5601

# 设置为0.0.0.0,允许访问

server.host: "0.0.0.0"


# 填写elastic的地址、用户、密码等信息

elasticsearch.hosts: ["http://localhost:9200"]

elasticsearch.username: "kibana"

elasticsearch.password: "123456"

# 设置publicBaseUrl,最后面不要带斜杠

server.publicBaseUrl: "http://192.168.xxx.xxx:5601"


# 设置国际化语言中文

i18n.locale: "zh-CN"

启动kibana:

1

2

# nohup方式访问

nohup ./bin/kibana &

访问kibana:http://192.168.xxx.xxx:5601/如果提示需要用户密码,输入用户elastic,密码123456(即elasticsearch设置的密码)关闭Kibana:

1

2

# kibana会启动一个node进程,查看node相关进程,进行kill

ps -ef | grep node

配置项目的日志格式调整项目的日志格式,使其成为固定格式,例如:

1

2

<!--按空格拆分:[0 1]时间-date [2]追踪ID [3]用户 [4]线程名称-thread [5]日志等级-level [6]logger类名-class [7]主要信息-message   -->

<property name="ENCODER_PATTERN" value="%d{yyyy-MM-dd HH:mm:ss.SSS} [%X{log_opid}] [%X{log_userid }] [%thread] %-5level %logger{80} - %msg%n" />

调整日志的输出路径、日志名称、日志级别等信息

相关文章
|
存储 应用服务中间件 测试技术
Elasticsearch Data Stream 数据流使用
Elasticsearch Data Stream 数据流使用
554 0
|
8月前
|
存储 数据安全/隐私保护 索引
ELK环境搭建
基于ELK架构的日志系统,使用ElasticSearch存储与索引日志,Kibana展示搜索,Filebeat采集并解析。部署于192.168.xxx.xxx,通过Pipeline处理日志格式,支持按策略过期删除。采用HostPath挂载实现日志收集,适用于CCE无PVC环境,确保应用日志高效可视化管理。(238字)
206 0
|
消息中间件 XML 网络协议
『NLog』.Net使用NLog使用方式及详细配置(输出至文件/RabbitMQ/远程网络Tcp)
📣读完这篇文章里你能收获到 - Nlog输出至文件/RabbitMQ/远程网络Tcp配置文档 - Nlog配置参数详解 - .NET CORE项目接入
6862 0
『NLog』.Net使用NLog使用方式及详细配置(输出至文件/RabbitMQ/远程网络Tcp)
|
Windows
已解决Win11报错 OSError: [WinError 1455] 页面文件太小,无法完成操作。
Win11报错 OSError: [WinError 1455] 页面文件太小,无法完成操作。 Error loading "D:\aaaa\envs\gs\lib\site-packages\torch\lib\caffe2_detectron_ops_gpu.dll" or one of its dependencies.
14272 0
已解决Win11报错 OSError: [WinError 1455] 页面文件太小,无法完成操作。
|
8月前
|
存储 弹性计算 网络协议
5 分钟构建企业级域控:AD DS 一键部署与实战指南
Active Directory 域服务(AD DS)不仅是企业级身份管理的基石,更是您实现**集中认证、策略统管、安全高效**IT架构的核心引擎。
|
7月前
|
运维 负载均衡 JavaScript
Nginx负载均衡故障转移(手把手教你搭建高可用Web服务)
本教程详解Nginx负载均衡与故障转移配置,通过upstream模块实现高可用反向代理。即使后端服务器宕机,Nginx也能自动切换流量,保障服务连续性,适合运维新手快速上手。
|
Java 数据库连接 编译器
Java注解详解,自定义注解,利用反射解析注解
概要 这篇文章将会带领你了解Java注解,注解的使用,注解的解析,利用反射解析运行时注解,相信有一定Java基础的小伙伴一定会接触大量的注解,Spring , Hibernate , MyBatis等著名的框架也有很多关于注解方面的应用,对于注解的使用...
3215 0
|
关系型数据库 应用服务中间件 PHP
程序员必知:学习Walle(一)
程序员必知:学习Walle(一)
1465 0
|
缓存 安全 Java
Elasticsearch—生产环境集群核心配置
Elasticsearch—生产环境集群核心配置
590 0