【2022】快速部署一个可用的EFK-7.17架构

本文涉及的产品
检索分析服务 Elasticsearch 版,2核4GB开发者规格 1个月
简介: 【2022】快速部署一个可用的EFK-7.17架构

本文意为快速拉起一个可用的EFK开发测试环境,不会涉及高级配置。

0.环境准备

  • 架构图
    将/var/log下的所有日志归档为system.log后,通过filebeat收集后发送给elasticsearch,通过kibana展示

5ecf4c289cf144a39b5453f257a8d34c.png

服务器环境

c2ed00e43af24a138cfe5b5792dd5885.png

  • hosts本地解析
192.168.0.5 centos7.9
192.168.0.4 es-node01
192.168.0.3 kibana

1.部署Elasticsearch服务

如果你有多台es节点想组成集群,请参考步骤4内容
  • 下载及安装es服务
wget https://artifacts.elastic.co/downloads/elasticsearch/elasticsearch-7.17.6-x86_64.rpm
wget https://artifacts.elastic.co/downloads/elasticsearch/elasticsearch-7.17.6-x86_64.rpm.sha512
yum install perl-Digest-SHA -y
shasum -a 512 -c elasticsearch-7.17.6-x86_64.rpm.sha512
sudo rpm --install elasticsearch-7.17.6-x86_64.rpm
  • 修改jvm.options配置
    注意:安装es服务会自带openjdk,也可以自行安装其他jdk
[root@es-node01 ~]# vim /etc/elasticsearch/jvm.options
-Xms1g
-Xmx1g
  • 修改es配置文件
[root@es-node01 ~]# vim /etc/elasticsearch/elasticsearch.yml
cluster.name: my-es
node.name: es-node01
path.data: /var/lib/elasticsearch
path.logs: /var/log/elasticsearch
network.host: 192.168.0.4
http.port: 9200
discovery.seed_hosts: ["192.168.0.4"]
cluster.initial_master_nodes: ["192.168.0.4"]
  • 启动服务并设置开机自启动
systemctl enable --now elasticsearch.service
  • 查看状态
[root@es-node01 ~]# curl 192.168.0.4:9200
{
  "name" : "es-node01",
  "cluster_name" : "my-es",
  "cluster_uuid" : "mQsAIA_aSrakIjU0nxMm7w",
  "version" : {
    "number" : "7.17.6",
    "build_flavor" : "default",
    "build_type" : "rpm",
    "build_hash" : "f65e9d338dc1d07b642e14a27f338990148ee5b6",
    "build_date" : "2022-08-23T11:08:48.893373482Z",
    "build_snapshot" : false,
    "lucene_version" : "8.11.1",
    "minimum_wire_compatibility_version" : "6.8.0",
    "minimum_index_compatibility_version" : "6.0.0-beta1"
  },
  "tagline" : "You Know, for Search"
}
[root@es-node01 ~]# curl 192.168.0.4:9200/_cat/nodes
192.168.0.4 45 96 8 0.07 0.20 0.13 cdfhilmrstw * es-node01

2.部署Kibana服务

  • 下载及安装Kibana服务
wget https://artifacts.elastic.co/downloads/kibana/kibana-7.17.6-x86_64.rpm
sudo rpm --install kibana-7.17.6-x86_64.rpm
  • 修改kibana配置文件,修改以下几项基础配置,其他使用默认即可
[root@kibana ~]# vim /etc/kibana/kibana.yml
# 允许访问kibana的主机
server.host: "0.0.0.0"
# 如果有多个es节点,可以在后面加上:[“http://es1”“http://es2”]
elasticsearch.hosts: ["http://192.168.0.4:9200"]
# 设置语言
i18n.locale: "zh-CN"
  • 启动kibana服务
systemctl enable --now kibana.service 
  • 查看状态
[root@kibana ~]# netstat -utpln
tcp        0      0 0.0.0.0:5601            0.0.0.0:*               LISTEN      12185/node      

浏览器访问Kibana测试:IP:5601(我使用的阿里云的公网ip)

febc5bdf116243ae9d2fc0e15819267f.png

点击左侧菜单栏(三个横)找到堆栈监测可以看到添加的es节点

94f9ed123c934ac6876de2f0643e4b78.png

3.部署Filebeat服务

  • 下载及安装Filebeat
curl -L -O https://artifacts.elastic.co/downloads/beats/filebeat/filebeat-7.17.6-x86_64.rpm
sudo rpm -vi filebeat-7.17.6-x86_64.rpm
  • 配置Filebeat连接es集群
[root@centos7 ~]# vim /etc/filebeat/filebeat.yml 
# 配置kibana连接
setup.kibana:
  host: "192.168.0.3:5601"
# 配置es连接
output.elasticsearch:
  hosts: ["192.168.0.4:9200"]
  • 配置rsyslog把日志归档在一个文件,没有的话yum安装一下
[root@centos7 ~]# vim /etc/rsyslog.conf 
*.*     /var/log/system.log
[root@centos7 ~]# systemctl restart rsyslog.service 
  • 配置filebeat收集系统日志
# 开启系统模块
[root@centos7 ~]# filebeat modules enable system
# 配置系统模块
[root@centos7 ~]# vim /etc/filebeat/modules.d/system.yml 
    var.paths: ["/var/log/system.log"]
# 加载素材资源
[root@centos7 ~]# filebeat setup -e
Loaded Ingest pipelines #最后显示
  • 启动filebeat服务
[root@centos7 ~]# systemctl enable --now filebeat.service 

在kibana中查看是否有日志输出

点击菜单栏后点击日志:

53eb657d6476496ca259a207bd0d3e88.png

点击概览也能看到柱状图

afe68fba904c46cdad0cea1ca5ff4d99.png

  • 如果有多个数据源就可以循环步骤3来收集日志

4.相关链接

【2022】Elasticsearch-7.17.6集群部署

这部分内容就到这里,高级内容会在以后的内容中出现

相关实践学习
使用阿里云Elasticsearch体验信息检索加速
通过创建登录阿里云Elasticsearch集群,使用DataWorks将MySQL数据同步至Elasticsearch,体验多条件检索效果,简单展示数据同步和信息检索加速的过程和操作。
ElasticSearch 入门精讲
ElasticSearch是一个开源的、基于Lucene的、分布式、高扩展、高实时的搜索与数据分析引擎。根据DB-Engines的排名显示,Elasticsearch是最受欢迎的企业搜索引擎,其次是Apache Solr(也是基于Lucene)。 ElasticSearch的实现原理主要分为以下几个步骤: 用户将数据提交到Elastic Search 数据库中 通过分词控制器去将对应的语句分词,将其权重和分词结果一并存入数据 当用户搜索数据时候,再根据权重将结果排名、打分 将返回结果呈现给用户 Elasticsearch可以用于搜索各种文档。它提供可扩展的搜索,具有接近实时的搜索,并支持多租户。
目录
相关文章
|
7月前
|
存储 Kubernetes Cloud Native
【云原生】k8s组件&架构介绍与K8s最新版部署
【云原生】k8s组件&架构介绍与K8s最新版部署
185 0
|
8月前
|
SQL 安全 网络安全
交易所开发测试版丨交易所系统开发规则玩法/架构设计/项目步骤/方案逻辑/案例解析/源码部署
The development process of the exchange system involves multiple steps and links. The following is the detailed process and steps for the development of the exchange system:
|
6月前
|
存储 Linux Docker
跨cpu架构部署容器技术点:怎样修改Linux 的内核版本
在使用Docker 进行跨平台部署之后,我们还可以尝试进行跨架构部署。 从X86 架构上移植到 aarch64 上。
202 0
|
2月前
|
Kubernetes 测试技术 持续交付
探索微服务架构下的持续集成与部署最佳实践
本文将深入探讨在微服务架构下实施持续集成与部署的最佳实践,介绍如何利用现代化工具和流程来实现自动化测试、持续集成、灰度发布等关键环节,帮助开发团队提升交付效率和质量。
|
3月前
|
KVM 虚拟化 Android开发
DP读书:鲲鹏处理器 架构与编程(十二)鲲鹏软件实战案例Docker+KVM的部署
DP读书:鲲鹏处理器 架构与编程(十二)鲲鹏软件实战案例Docker+KVM的部署
61 1
|
3月前
|
云计算 开发者 Docker
深入浅出:使用Docker部署微服务架构
在当今快速迭代的软件开发环境中,微服务架构凭借其灵活性和可扩展性成为了热门趋势。本文将探讨如何利用Docker这一强大的容器化技术,简化和加速微服务应用的部署与管理过程。我们将从微服务的基本概念出发,逐步深入到Docker的核心功能,最后通过一个实际案例演示整个部署流程。文章旨在为开发者提供一个清晰、实用的指南,帮助他们有效地利用Docker在微服务架构下的应用部署。
27 0
|
8月前
|
弹性计算 运维 Cloud Native
阿里云罗晶分享 | X86+ARM,容器服务 ACK 多架构应用部署最佳实践
2023年8月31日,系列课程第五节《X86+ARM,容器服务ACK多架构应用部署最佳实践》正式上线,由阿里云云原生应用平台产品专家罗晶主讲,内容涵盖:容器服务ACK简介;ACK支持倚天ARM实例;ACK多架构应用部署最佳实践。
|
9月前
|
运维 负载均衡 关系型数据库
【运维知识进阶篇】用Ansible Roles重构LNMP架构(Linux+Nginx+Mariadb+PHP),实现4个项目一键部署
【运维知识进阶篇】用Ansible Roles重构LNMP架构(Linux+Nginx+Mariadb+PHP),实现4个项目一键部署
113 0
|
9月前
|
运维 应用服务中间件 数据库
【运维知识进阶篇】用LNPM架构部署知乎产品Wecenter
【运维知识进阶篇】用LNPM架构部署知乎产品Wecenter
85 0
|
5月前
|
消息中间件 持续交付 Docker
Docker与微服务:构建和部署微服务架构的完整指南
微服务架构已经成为现代应用开发的主要范式之一,而Docker容器技术则为微服务的构建、部署和管理提供了理想的解决方案。本文将深入探讨如何使用Docker构建和部署微服务架构,提供更多示例代码和细致的指南,以帮助大家更全面地理解和运用这些关键概念。