备案控制台
开发者社区 开发与运维 文章 正文

ELK日志监控

2023-06-18 136
版权
版权声明：
本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《 阿里云开发者社区用户服务协议》和 《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写 侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。
本文涉及的产品
云原生内存数据库 Tair，内存型 2GB
推荐场景：
通过缓存加速数据库访问
云数据库 Redis 版，社区版 2GB
推荐场景：
搭建游戏排行榜
检索分析服务 Elasticsearch 版，2核4GB开发者规格 1个月
推荐场景：
数据可视化分析航班信息
简介： ELK日志监控

EFK日志收集
Elasticsearch: 数据库，存储数据 java
logstash: 日志收集，过滤数据 java
kibana: 分析，过滤，展示 java
filebeat: 收集日志，传输到ES或logstash go

filebeat官方文档：
https://www.elastic.co/guide/en/beats/filebeat/current/index.html

环境：
es主机：192.168.8.10 (内存：4G)
elasticsearch
kibana
filebeat
nginx

#

安装es主机：192.168.8.10
1.安装elasticsearch:
前提：jdk-1.8.0
复制elasticsearch-6.6.0.rpm到虚拟机
rpm -ivh elasticsearch-6.6.0.rpm

2.修改配置文件：
vim /etc/elasticsearch/elasticsearch.yml
node.name: node-1
path.data: /data/elasticsearch
path.logs: /var/log/elasticsearch
bootstrap.memory_lock: true
network.host: 192.168.8.10,127.0.0.1
http.port: 9200

3.创建数据目录，并修改权限
mkdir -p /data/elasticsearch
chown -R elasticsearch.elasticsearch /data/elasticsearch/

4.分配锁定内存:
vim /etc/elasticsearch/jvm.options
-Xms1g #分配最小内存
-Xmx1g #分配最大内存,官方推荐为物理内存的一半，但最大为32G

5.修改锁定内存后，无法重启，解决方法如下：
systemctl edit elasticsearch
添加：
[Service]
LimitMEMLOCK=infinity
F2保存退出

systemctl daemon-reload
systemctl restart elasticsearch

#

在es主机上安装kibana
（1）安装kibana
rpm -ivh kibana-6.6.0-x86_64.rpm

（2）修改配置文件
vim /etc/kibana/kibana.yml
修改：
server.port: 5601
server.host: "192.168.8.10"
server.name: "db01" #自己所在主机的主机名
elasticsearch.hosts: ["http://192.168.8.10:9200"] #es服务器的ip，便于接收日志数据
保存退出

（3）启动kibana
systemctl start kibana

#

在nginx(192.168.8.20)主机上安装filebeat
1.安装filebeat
rpm -ivh filebeat-6.6.0-x86_64.rpm

2.修改配置文件
vim /etc/filebeat/filebeat.yml
修改：
filebeat.inputs:

  • type: log
    enabled: true
    paths:
    • /var/log/nginx/access.log

output.elasticsearch:
hosts: ["192.168.8.10:9200"]

保存退出

3.启动filebeat
systemctl start filebeat

#

在es主机安装httpd-tools
1.配置yum源，安装 httpd-tools
yum -y install httpd-tools

2.使用ab压力测试工具测试访问
ab -c 1000 -n 20000 http://192.168.8.20/

3.在es浏览器查看filebeat索引和数据

4.在kibana添加索引
management--create index
discover--右上角--选择today

5.修改nginx的日志格式为json
vim /etc/nginx/nginx.conf
添加在http {}内：
log_format log_json '{ "@timestamp": "$time_local", '
'"remote_addr": "$remote_addr", '
'"referer": "$http_referer", '
'"request": "$request", '
'"status": $status, '
'"bytes": $body_bytes_sent, '
'"agent": "$http_user_agent", '
'"x_forwarded": "$http_x_forwarded_for", '
'"up_addr": "$upstream_addr",'
'"up_host": "$upstream_http_host",'
'"up_resp_time": "$upstream_response_time",'
'"request_time": "$request_time"'
' }';
access_log /var/log/nginx/access.log log_json;

保存退出
systemctl restart nginx

清空日志：vim /var/log/nginx/access.log
ab测试访问，生成json格式日志

7.修改filebeat配置文件
vim /etc/filebeat/filebeat.yml
修改为：
filebeat.inputs:

  • type: log
    enabled: true
    paths:
    • /var/log/nginx/access.log
      json.keys_under_root: true
      json.overwrite_keys: true

output.elasticsearch:
hosts: ["192.168.8.10:9200"]
index: "nginx-%{+yyyy.MM.dd}"
setup.template.name: "nginx"
setup.template.patten: "nginx-*"
setup.template.enabled: false
setup.template.overwrite: true
保存退出
重启服务：systemctl restart filebeat

8.配置access.log和error.log分开
vim /etc/filebeat/filebeat.yml
修改为：
filebeat.inputs:

  • type: log
    enabled: true
    paths:

    • /var/log/nginx/access.log
      json.keys_under_root: true
      json.overwrite_keys: true
      tags: ["access"]

  • type: log
    enabled: true
    paths:

    • /var/log/nginx/error.log
      tags: ["error"]

output.elasticsearch:
hosts: ["192.168.8.10:9200"]
indices:

- index: "nginx-access-%{+yyyy.MM.dd}"
  when.contains:
    tags: "access"
- index: "nginx-error-%{+yyyy.MM.dd}"
  when.contains:
    tags: "error"

setup.template.name: "nginx"
setup.template.patten: "nginx-*"
setup.template.enabled: false
setup.template.overwrite: true
保存退出
重启服务：systemctl restart filebeat

===============================================================

kibana图表:
登录--左侧面板选择visualize--点击“+”号--选择图表类型--选择索引--Buckets--x-Axis--Aggregation(选择Terms)--
Field(remote_addr.keyword)--size(5)--点击上方三角标志
kibana监控（x-pack):
登录--左侧面板选择--Monitoring--启用监控

===============================================================
构建filebeat+redis+logstash+es+kibana架构

1.安装redis，并启动
（1）准备安装和数据目录
mkdir -p /data/soft
mkdir -p /opt/redis_cluster/redis_6379/{conf,logs,pid}

（2）下载redis安装包
cd /data/soft
wget http://download.redis.io/releases/redis-5.0.7.tar.gz

（3）解压redis到/opt/redis_cluster/
tar xf redis-5.0.7.tar.gz -C /opt/redis_cluster/
ln -s /opt/redis_cluster/redis-5.0.7 /opt/redis_cluster/redis

（4）切换目录安装redis
cd /opt/redis_cluster/redis
make && make install

（5）编写配置文件
vim /opt/redis_cluster/redis_6379/conf/6379.conf
添加：
bind 127.0.0.1 192.168.8.10
port 6379
daemonize yes
pidfile /opt/redis_cluster/redis_6379/pid/redis_6379.pid
logfile /opt/redis_cluster/redis_6379/logs/redis_6379.log
databases 16
dbfilename redis.rdb
dir /opt/redis_cluster/redis_6379
保存退出

（6）启动当前redis服务
redis-server /opt/redis_cluster/redis_6379/conf/6379.conf

2.修改filebeat配置文件，output给redis
（参考文档：https://www.elastic.co/guide/en/beats/filebeat/6.6/index.html）
（1）修改filebeat配置output指向redis，重启
vim /etc/filebeat/filebeat.yml
filebeat.inputs:

  • type: log
    enabled: true
    paths:

    • /var/log/nginx/access.log
      json.keys_under_root: true
      json.overwrite_keys: true
      tags: ["access"]

  • type: log
    enabled: true
    paths:

    • /var/log/nginx/error.log
      tags: ["error"]

setup.template.settings:
index.number_of_shards: 3

setup.kibana:

output.redis:
hosts: ["192.168.8.10"]
key: "filebeat"
db: 0
timeout: 5
保存退出
重启服务：systemctl restart filebeat

（2）测试访问网站，登录redis，查看键值
redis-cli #登录
keys * #列出所有键
type filebeat #filebeat为键值名
LLEN filebeat #查看list长度
LRANGE filebeat 0 -1 #查看list所有内容

3.安装logstash，收集redis的日志，提交给es
（1）安装logstash(安装包提前放在了/data/soft下)
cd /data/soft/
rpm -ivh logstash-6.6.0.rpm

（2）修改logstash配置文件，实现access和error日志分离
vim /etc/logstash/conf.d/redis.conf
添加：
input {
redis {
host => "192.168.8.10"
port => "6379"
db => "0"
key => "filebeat"
data_type => "list"
}
}

filter {
mutate {
convert => ["upstream_time","float"]
convert => ["request_time","float"]
}
}

output {
stdout {}
if "access" in [tags] {
elasticsearch {
hosts => ["http://192.168.8.10:9200"]
index => "nginx_access-%{+YYYY.MM.dd}"
manage_template => false
}
}
if "error" in [tags] {
elasticsearch {
hosts => ["http://192.168.8.10:9200"]
index => "nginx_error-%{+YYYY.MM.dd}"
manage_template => false
}
}
}
保存退出
重启logstash:
/usr/share/logstash/bin/logstash -f /etc/logstash/conf.d/redis.conf

文章标签：
日志服务
检索分析服务 Elasticsearch版
云数据库 Redis 版
Java
Go
开发工具
应用服务中间件
NoSQL
索引
监控
Redis
nginx
数据格式
关键词：
elk日志服务
ELK日志
ELK日志监控
相关实践学习
日志服务之使用Nginx模式采集日志
本文介绍如何通过日志服务控制台创建Nginx模式的Logtail配置快速采集Nginx日志并进行多维度分析。
征服Bug
目录
相关文章
一只牛博
|
1月前
|
存储 监控 数据可视化
日志分析对决：揭示 ELK 与 GrayLog 的优势和差异
日志分析对决：揭示 ELK 与 GrayLog 的优势和差异
一只牛博
488 0
游客qf4jmczx4xu2y
|
1月前
|
存储 Prometheus 监控
Prometheus vs. ELK Stack：容器监控与日志管理工具的较量
随着容器化技术的广泛应用，容器监控与日志管理成为了关键任务。本文将对两种常用工具进行比较与选择，分别是Prometheus和ELK Stack。Prometheus是一款开源的监控系统，专注于时序数据的收集和告警。而ELK Stack则是一套完整的日志管理解决方案，由Elasticsearch、Logstash和Kibana三个组件组成。通过比较它们的特点、优势和适用场景，读者可以更好地了解如何选择适合自己需求的工具。
游客qf4jmczx4xu2y
452 1
憧憬blog
|
1月前
|
消息中间件 数据可视化 关系型数据库
ELK7.x日志系统搭建 4. 结合kafka集群完成日志系统
ELK7.x日志系统搭建 4. 结合kafka集群完成日志系统
憧憬blog
170 0
阿里云云原生
|
1月前
|
消息中间件 存储 运维
更优性能与性价比，从自建 ELK 迁移到 SLS 开始
本文介绍了 SLS 基本能力，并和开源自建 ELK 做了对比，可以看到 SLS 相比开源 ELK 有较大优势。
阿里云云原生
55517 146
易墨
|
1月前
|
监控 应用服务中间件 nginx
使用 Docker Compose V2 快速搭建日志分析平台 ELK (Elasticsearch、Logstash 和 Kibana)
ELK的架构有多种，本篇分享使用的架构如图所示： Beats(Filebeat) -> -> Elasticsearch -> Kibana，目前生产环境一天几千万的日志，内存占用大概 10G
易墨
69 4
玉米侠爱吃玉米
|
29天前
|
存储 编解码 监控
实验模拟 搭建elk 日志分析系统
实验模拟 搭建elk 日志分析系统
玉米侠爱吃玉米
31 0
玉米侠爱吃玉米
|
29天前
|
存储 监控 Java
ELK 企业级日志分析系统 简单介绍
ELK 企业级日志分析系统 简单介绍
玉米侠爱吃玉米
44 0
风水道人
|
1月前
|
存储 Prometheus 索引
日志系统新贵Loki，确实比笨重的ELK轻
日志系统新贵Loki，确实比笨重的ELK轻
风水道人
52 0
季风泯灭的季节
|
1月前
|
存储 监控 关系型数据库
ELK架构监控MySQL慢日志
ELK架构监控MySQL慢日志
季风泯灭的季节
263 0
我不是游客20240119
|
1月前
|
Prometheus 监控 Cloud Native
Prometheus VS ELK Stack：容器监控与日志管理工具的比较与选择
在容器化时代，有效的容器监控与日志管理工具对于确保应用程序的可靠性和可维护性至关重要。本文将比较两个主流工具，Prometheus和ELK Stack，探讨它们在容器监控和日志管理方面的特点、优势和适用场景，帮助读者做出明智的选择。
我不是游客20240119
308 1

热门文章

最新文章

  • 1
    无需重新学习，使用 Kibana 查询/可视化 SLS 数据
  • 2
    【深入浅出】阿里自研开源搜索引擎Havenask日志查询
  • 3
    mongoDB查看数据的插入日志
  • 4
    Springboot整合与使用log4j2日志框架【详解版】
  • 5
    每周5 使用tar 命令备份/var/log 下的所有日志文件
  • 6
    PHP编写的电脑监控软件：用户登录日志记录与分析
  • 7
    Golang深入浅出之-Go语言中的日志记录：log与logrus库
  • 8
    neo4j如何查看日志信息
  • 9
    Kubernetes 集群的监控与日志管理策略
  • 10
    同事写的console.log太多令人烦恼？来手撕一个vite插件去掉它
  • 1
    ELK架构监控MySQL慢日志
    263
  • 2
    ELK架构
    53
  • 3
    【开发专题_03】unable to access ‘https://github.com/deviantony/docker-elk.git/‘: Failed connect to github
    82
  • 4
    日志分析对决：揭示 ELK 与 GrayLog 的优势和差异
    488
  • 5
    ELK技术栈 - Kibana 学习笔记
    48
  • 6
    ELK技术栈 - Elasticsearch 学习笔记（三）
    56
  • 7
    ELK技术栈 - Elasticsearch 学习笔记（二）
    214
  • 8
    ELK技术栈 - Elasticsearch 学习笔记（一）
    198
  • 9
    ELK技术栈 - logstash学习笔记（九）
    42
  • 10
    ELK技术栈 - logstash学习笔记（八）
    44

    • 相关课程

    更多
  • 基于MongoDB构建实时日志分析平台
  • 日志服务SLS实现云产品可观测
  • 日志服务 SLS 可观测数据分析平台介绍
  • 大数据知识图谱系列—基于ELK+Flink日志全观测最佳实践
  • 场景实践-基于阿里云Quick BI 对MOOC网站日志分析
  • 运维监控系统

    • 相关电子书

    更多
  • PostgresChina2018_赖思超_PostgreSQL10_hash索引的WAL日志修改版final
  • 基于ELK的大数据平台实践分享
  • Kubernetes下日志实时采集、存储与计算实践

    • 相关实验场景

    更多
  • 通过日志服务实现云资源OSS的安全审计
  • 如何将OSS数据导入至SLS中进行分析
  • 日志服务之使用Nginx模式采集日志
  • 使用阿里云Elasticsearch快速搭建可观测系统
  • 基于云监控实现的监控系统
    • 下一篇
    部署LAMP环境（Alibaba Cloud Linux 3）