【ELK】(一)Elasticsearch (6.2.2) 分布式安装及集群部署

本文涉及的产品
Elasticsearch Serverless通用抵扣包,测试体验金 200元
日志服务 SLS,月写入数据量 50GB 1个月
简介: 【ELK】(一)Elasticsearch (6.2.2) 分布式安装及集群部署

文章目录


前言

一、安装nodejs

二、安装elasticsearch

三、安装elasticsearch-head监控elasticsearch集群环境

四、Kibana部署安装


前言


ELK是三个开源软件的缩写,分别表示:Elasticsearch 、Logstash、Kibana。作为大数据入门的基本功,让我们在虚拟机上对以上三个软件进行安装,小伙伴们平时还需要多加练习。


  • Elasticsearch:是个开源分布式搜索引擎,提供搜集、分析、存储数据三大功能。它的特点有:分布式,零配置,自动发现,索引自动分片,索引副本机制,restful风格接口,多数据源,自动搜索负载等。


  • Logstash:主要是用来日志的搜集、分析、过滤日志的工具,支持大量的数据获取方式。一般工作方式为c/s架构,client端安装在需要收集日志的主机上,server端负责将收到的各节点日志进行过滤、修改等操作在一并发往elasticsearch上去。


  • Kibana:可以为 Logstash 和 ElasticSearch 提供的日志分析友好的 Web 界面,可以帮助汇总、分析和搜索重要数据日志。


image.png


一、安装nodejs


先将以下四个文件通过xftp上传至虚拟机的/opt/目录下


image.png


1、由于博主这里是最小化安装先安装get

yum install -y wget


2、考虑需要安装elasticsearch-head作为web展示 所以首先安装nodejs 主要是利用npm

wget https://npm.taobao.org/mirrors/node/v11.0.0/node-v11.0.0.tar.gz
tar –zxvf node-v11.0.0.tar.gz


3、这里我们将解压缩后的node-v11.0.0文件移动到soft目录nodell文件下

mv node-v11.0.0 soft/nodell

image.png

yum install gcc gcc-c++
./configure


进行编译和安装

make


需要注意的是:make这个过程需要的时间近40分钟,此时我们在xshell6上重新打开一个窗口,进行下面的安装(只有等make的过程结束,才能继续第7、8步)

make install
node –v


如果出现v11.0.0,那么这一步的安装就算成功了!


二、安装elasticsearch


1、安装3台虚拟机


2、安装jdk ,可以参考这篇博客


手把手教你在Linux环境下安装JDK 1.8.0/Tomcat / MySQL(含字符编码集设置)亲测完美!


3、解压

tar –zxvf elasticsearch-6.2.2


4、将解压缩后的文件elasticsearch-6.2.2移动到soft文件夹elasticsearch622下

[root@zzj opt]# mv elasticsearch-6.2.2 soft/elasticsearch622
[root@zzj opt]# cd soft/
[root@zzj soft]# ls
elasticsearch622  jdk180  nodell


5、进入elasticsearch622文件夹下,我们发现有三个文件


6、对elasticsearch.yml文件进行配置修改

cluster.name: es-app #集群名称,可以自行修改
node.name: es-1 #节点名称,自行修改
network.host: 192.168.235.133 #主机地址,这里写本机IP
http.port: 9200 #端口
http.cors.enabled: true #设置跨域
http.cors.allow-origin: "*" #设置访问


7、再启动查看不能启动原因


[1]: max file descriptors [4096] for elasticsearch process is too low, increase to at least [65536]

[2]: max virtual memory areas vm.max_map_count [65530] is too low, increase to at least [262144]


8、问题 1 系统最大文件数太低

修改 vi /etc/security/limits.conf 文件末尾追加
cm soft nofile 65536
cm hard nofile 131072
cm soft nproc 4096
cm hard nproc 4096


9、问题 2 虚拟内存太低

修改vi /etc/sysctl.conf文件末尾追加
      vm.max_map_count=655360  
激活文件      
[root@tokgo config]# sysctl -p   
vm.max_map_count = 655360


10、新增用户XXX,修改密码

[root@tokgo config]# useradd XXX
[root@tokgo config]# passwd XXX


11、修改用户权限

[root@tokgo config]# ll /etc/sudoers
-r--r-----. 1 root root 3907 Nov  4  2016 /etc/sudoers
[root@tokgo config]# chmod u+w /etc/sudoers
[root@tokgo config]# ll /etc/sudoers
-rw-r-----. 1 root root 3907 Nov  4  2016 /etc/sudoers
// 我们可以看到这里已经对用户添加可写权限
vi /etc/sudoers


image.png


在root用户下面 加入你创建的用户

XXX  ALL=(ALL)        ALL   
!!! 注意这里用 Tab进行空格


12、此时有可能出现问题3 iii.java.nio.file.AccessDeniedException: …/elasticsearch-6.2.2/config/jvm.options

chown 用户名 elasticsearch-6.2.2安装目录路径 -R
chown XXX -R /opt/soft/elasticsearch622/


13、切换用户 su XXX(elasticsearch 不能在root用户下启动)

//我们先退回到bin目录下,再切换用户
[root@tokgo config]# cd ..
[root@tokgo elasticsearch622]# cd bin/
[root@tokgo bin]# su XXX
//查看目录下文件
[XXX@tokgo bin]$ ls
elasticsearch          elasticsearch-keystore      elasticsearch-service.bat      elasticsearch-translog.bat
elasticsearch.bat      elasticsearch-keystore.bat  elasticsearch-service-mgr.exe
elasticsearch-env      elasticsearch-plugin        elasticsearch-service-x64.exe
elasticsearch-env.bat  elasticsearch-plugin.bat    elasticsearch-translog
//启动elasticsearch
[XXX@tokgo bin]$ ./elasticsearch


14、测试,这时候可能会出现不成功的情况,需要重启网络并关闭防火墙,再重新测试

[root@tokgo nodell]# systemctl restart network
[root@tokgo nodell]# systemctl stop firewalld


到这里我们elasticsearch安装的第一步已经成功!


image.png


三、安装elasticsearch-head监控elasticsearch集群环境


1、在opt文件夹下安装一下zip解压缩

yum install -y zip unzip


2、对elasticsearch-head-master.zip进行解压缩

unzip elasticsearch-head-master.zip


3、移动到soft文件夹下

mv elasticsearch-head-master soft/elasticsearchhead


4、在elasticsearchhead文件夹下

npm install
//启动elasticsearch-head
npm run start
//如果提示没有bzip2工具,需要安装一下
yum install -y bzip2


image.png


四、Kibana部署安装


1、解压缩 gz 文件

tar -zxvf kibana-6.2.2-linux-x86_64.tar.gz


2、移动文件到soft/kibana622

mv kibana-6.2.2-linux-x86_64 soft/kibana622


3、进入kibana622文件夹下,修改kibana.yml配置文件

[root@tokgo kibana622]# cd config/
[root@tokgo config]# vi kibana.yml


4、修改kibana.yml,改动下面三处


image.png


5、到bin目录下,启动kibana

[root@tokgo kibana622]# cd bin/
[root@tokgo bin]# ls
kibana  kibana-keystore  kibana-plugin
[root@tokgo bin]# ./kibana

image.png


出现如上页面,说明kibana到这里也就安装成功了!


相关实践学习
以电商场景为例搭建AI语义搜索应用
本实验旨在通过阿里云Elasticsearch结合阿里云搜索开发工作台AI模型服务,构建一个高效、精准的语义搜索系统,模拟电商场景,深入理解AI搜索技术原理并掌握其实现过程。
ElasticSearch 最新快速入门教程
本课程由千锋教育提供。全文搜索的需求非常大。而开源的解决办法Elasricsearch(Elastic)就是一个非常好的工具。目前是全文搜索引擎的首选。本系列教程由浅入深讲解了在CentOS7系统下如何搭建ElasticSearch,如何使用Kibana实现各种方式的搜索并详细分析了搜索的原理,最后讲解了在Java应用中如何集成ElasticSearch并实现搜索。  
目录
相关文章
|
1月前
|
JSON Java API
(ELK)ElasticSearch8.7 搭配 SpringDataElasticSearch5.1 的使用
截至2023/7/11日,全网最全最直白的SpringDataElasticSearch5.1
204 2
|
1月前
|
存储 Linux iOS开发
Elasticsearch Enterprise 9.1.5 发布 - 分布式搜索和分析引擎
Elasticsearch Enterprise 9.1.5 (macOS, Linux, Windows) - 分布式搜索和分析引擎
245 0
|
7月前
|
人工智能 安全 Java
智慧工地源码,Java语言开发,微服务架构,支持分布式和集群部署,多端覆盖
智慧工地是“互联网+建筑工地”的创新模式,基于物联网、移动互联网、BIM、大数据、人工智能等技术,实现对施工现场人员、设备、材料、安全等环节的智能化管理。其解决方案涵盖数据大屏、移动APP和PC管理端,采用高性能Java微服务架构,支持分布式与集群部署,结合Redis、消息队列等技术确保系统稳定高效。通过大数据驱动决策、物联网实时监测预警及AI智能视频监控,消除数据孤岛,提升项目可控性与安全性。智慧工地提供专家级远程管理服务,助力施工质量和安全管理升级,同时依托可扩展平台、多端应用和丰富设备接口,满足多样化需求,推动建筑行业数字化转型。
272 5
|
2月前
|
JSON 监控 Java
Elasticsearch 分布式搜索与分析引擎技术详解与实践指南
本文档全面介绍 Elasticsearch 分布式搜索与分析引擎的核心概念、架构设计和实践应用。作为基于 Lucene 的分布式搜索引擎,Elasticsearch 提供了近实时的搜索能力、强大的数据分析功能和可扩展的分布式架构。本文将深入探讨其索引机制、查询 DSL、集群管理、性能优化以及与各种应用场景的集成,帮助开发者构建高性能的搜索和分析系统。
254 0
|
6月前
|
监控 Linux 应用服务中间件
Linux多节点多硬盘部署MinIO:分布式MinIO集群部署指南搭建高可用架构实践
通过以上步骤,已成功基于已有的 MinIO 服务,扩展为一个 MinIO 集群。该集群具有高可用性和容错性,适合生产环境使用。如果有任何问题,请检查日志或参考MinIO 官方文档。作者联系方式vx:2743642415。
2179 57
|
6月前
|
JSON 安全 数据可视化
Elasticsearch(es)在Windows系统上的安装与部署(含Kibana)
Kibana 是 Elastic Stack(原 ELK Stack)中的核心数据可视化工具,主要与 Elasticsearch 配合使用,提供强大的数据探索、分析和展示功能。elasticsearch安装在windows上一般是zip文件,解压到对应目录。文件,elasticsearch8.x以上版本是自动开启安全认证的。kibana安装在windows上一般是zip文件,解压到对应目录。elasticsearch的默认端口是9200,访问。默认用户是elastic,密码需要重置。
3197 0
|
7月前
|
安全 Java Linux
Linux安装Elasticsearch详细教程
Linux安装Elasticsearch详细教程
1224 1
|
6月前
|
存储 安全 Linux
Elasticsearch Enterprise 9.0 发布 - 分布式搜索和分析引擎
Elasticsearch Enterprise 9.0 (macOS, Linux, Windows) - 分布式搜索和分析引擎
302 0
|
6月前
|
存储 Linux iOS开发
Elasticsearch Enterprise 8.18 发布 - 分布式搜索和分析引擎
Elasticsearch Enterprise 8.18 (macOS, Linux, Windows) - 分布式搜索和分析引擎
252 0
|
8月前
|
网络安全
window系统下安装elk
本文介绍了Elasticsearch、Logstash和Kibana(统称ELK栈)8.17.3版本的安装与配置流程。主要内容包括: - **Elasticsearch**:详细描述了从下载到启动服务的步骤,以及`elasticsearch.yml`的关键配置项,并提供了Postman操作示例及常见问题解决方案。 - **Logstash**:涵盖了插件安装、配置文件`logstash.conf`编写及其启动命令。 - **Kibana**:讲解了下载、配置`kibana.yml`和启动过程,确保与Elasticsearch正确连接。
下一篇
oss云网关配置