【ELK】(一)Elasticsearch (6.2.2) 分布式安装及集群部署

本文涉及的产品
检索分析服务 Elasticsearch 版,2核4GB开发者规格 1个月
日志服务 SLS,月写入数据量 50GB 1个月
简介: 【ELK】(一)Elasticsearch (6.2.2) 分布式安装及集群部署

文章目录


前言

一、安装nodejs

二、安装elasticsearch

三、安装elasticsearch-head监控elasticsearch集群环境

四、Kibana部署安装


前言


ELK是三个开源软件的缩写,分别表示:Elasticsearch 、Logstash、Kibana。作为大数据入门的基本功,让我们在虚拟机上对以上三个软件进行安装,小伙伴们平时还需要多加练习。


  • Elasticsearch:是个开源分布式搜索引擎,提供搜集、分析、存储数据三大功能。它的特点有:分布式,零配置,自动发现,索引自动分片,索引副本机制,restful风格接口,多数据源,自动搜索负载等。


  • Logstash:主要是用来日志的搜集、分析、过滤日志的工具,支持大量的数据获取方式。一般工作方式为c/s架构,client端安装在需要收集日志的主机上,server端负责将收到的各节点日志进行过滤、修改等操作在一并发往elasticsearch上去。


  • Kibana:可以为 Logstash 和 ElasticSearch 提供的日志分析友好的 Web 界面,可以帮助汇总、分析和搜索重要数据日志。


image.png


一、安装nodejs


先将以下四个文件通过xftp上传至虚拟机的/opt/目录下


image.png


1、由于博主这里是最小化安装先安装get

yum install -y wget


2、考虑需要安装elasticsearch-head作为web展示 所以首先安装nodejs 主要是利用npm

wget https://npm.taobao.org/mirrors/node/v11.0.0/node-v11.0.0.tar.gz
tar –zxvf node-v11.0.0.tar.gz


3、这里我们将解压缩后的node-v11.0.0文件移动到soft目录nodell文件下

mv node-v11.0.0 soft/nodell

image.png

yum install gcc gcc-c++
./configure


进行编译和安装

make


需要注意的是:make这个过程需要的时间近40分钟,此时我们在xshell6上重新打开一个窗口,进行下面的安装(只有等make的过程结束,才能继续第7、8步)

make install
node –v


如果出现v11.0.0,那么这一步的安装就算成功了!


二、安装elasticsearch


1、安装3台虚拟机


2、安装jdk ,可以参考这篇博客


手把手教你在Linux环境下安装JDK 1.8.0/Tomcat / MySQL(含字符编码集设置)亲测完美!


3、解压

tar –zxvf elasticsearch-6.2.2


4、将解压缩后的文件elasticsearch-6.2.2移动到soft文件夹elasticsearch622下

[root@zzj opt]# mv elasticsearch-6.2.2 soft/elasticsearch622
[root@zzj opt]# cd soft/
[root@zzj soft]# ls
elasticsearch622  jdk180  nodell


5、进入elasticsearch622文件夹下,我们发现有三个文件


6、对elasticsearch.yml文件进行配置修改

cluster.name: es-app #集群名称,可以自行修改
node.name: es-1 #节点名称,自行修改
network.host: 192.168.235.133 #主机地址,这里写本机IP
http.port: 9200 #端口
http.cors.enabled: true #设置跨域
http.cors.allow-origin: "*" #设置访问


7、再启动查看不能启动原因


[1]: max file descriptors [4096] for elasticsearch process is too low, increase to at least [65536]

[2]: max virtual memory areas vm.max_map_count [65530] is too low, increase to at least [262144]


8、问题 1 系统最大文件数太低

修改 vi /etc/security/limits.conf 文件末尾追加
cm soft nofile 65536
cm hard nofile 131072
cm soft nproc 4096
cm hard nproc 4096


9、问题 2 虚拟内存太低

修改vi /etc/sysctl.conf文件末尾追加
      vm.max_map_count=655360  
激活文件      
[root@tokgo config]# sysctl -p   
vm.max_map_count = 655360


10、新增用户XXX,修改密码

[root@tokgo config]# useradd XXX
[root@tokgo config]# passwd XXX


11、修改用户权限

[root@tokgo config]# ll /etc/sudoers
-r--r-----. 1 root root 3907 Nov  4  2016 /etc/sudoers
[root@tokgo config]# chmod u+w /etc/sudoers
[root@tokgo config]# ll /etc/sudoers
-rw-r-----. 1 root root 3907 Nov  4  2016 /etc/sudoers
// 我们可以看到这里已经对用户添加可写权限
vi /etc/sudoers


image.png


在root用户下面 加入你创建的用户

XXX  ALL=(ALL)        ALL   
!!! 注意这里用 Tab进行空格


12、此时有可能出现问题3 iii.java.nio.file.AccessDeniedException: …/elasticsearch-6.2.2/config/jvm.options

chown 用户名 elasticsearch-6.2.2安装目录路径 -R
chown XXX -R /opt/soft/elasticsearch622/


13、切换用户 su XXX(elasticsearch 不能在root用户下启动)

//我们先退回到bin目录下,再切换用户
[root@tokgo config]# cd ..
[root@tokgo elasticsearch622]# cd bin/
[root@tokgo bin]# su XXX
//查看目录下文件
[XXX@tokgo bin]$ ls
elasticsearch          elasticsearch-keystore      elasticsearch-service.bat      elasticsearch-translog.bat
elasticsearch.bat      elasticsearch-keystore.bat  elasticsearch-service-mgr.exe
elasticsearch-env      elasticsearch-plugin        elasticsearch-service-x64.exe
elasticsearch-env.bat  elasticsearch-plugin.bat    elasticsearch-translog
//启动elasticsearch
[XXX@tokgo bin]$ ./elasticsearch


14、测试,这时候可能会出现不成功的情况,需要重启网络并关闭防火墙,再重新测试

[root@tokgo nodell]# systemctl restart network
[root@tokgo nodell]# systemctl stop firewalld


到这里我们elasticsearch安装的第一步已经成功!


image.png


三、安装elasticsearch-head监控elasticsearch集群环境


1、在opt文件夹下安装一下zip解压缩

yum install -y zip unzip


2、对elasticsearch-head-master.zip进行解压缩

unzip elasticsearch-head-master.zip


3、移动到soft文件夹下

mv elasticsearch-head-master soft/elasticsearchhead


4、在elasticsearchhead文件夹下

npm install
//启动elasticsearch-head
npm run start
//如果提示没有bzip2工具,需要安装一下
yum install -y bzip2


image.png


四、Kibana部署安装


1、解压缩 gz 文件

tar -zxvf kibana-6.2.2-linux-x86_64.tar.gz


2、移动文件到soft/kibana622

mv kibana-6.2.2-linux-x86_64 soft/kibana622


3、进入kibana622文件夹下,修改kibana.yml配置文件

[root@tokgo kibana622]# cd config/
[root@tokgo config]# vi kibana.yml


4、修改kibana.yml,改动下面三处


image.png


5、到bin目录下,启动kibana

[root@tokgo kibana622]# cd bin/
[root@tokgo bin]# ls
kibana  kibana-keystore  kibana-plugin
[root@tokgo bin]# ./kibana

image.png


出现如上页面,说明kibana到这里也就安装成功了!


相关实践学习
使用阿里云Elasticsearch体验信息检索加速
通过创建登录阿里云Elasticsearch集群,使用DataWorks将MySQL数据同步至Elasticsearch,体验多条件检索效果,简单展示数据同步和信息检索加速的过程和操作。
ElasticSearch 入门精讲
ElasticSearch是一个开源的、基于Lucene的、分布式、高扩展、高实时的搜索与数据分析引擎。根据DB-Engines的排名显示,Elasticsearch是最受欢迎的企业搜索引擎,其次是Apache Solr(也是基于Lucene)。 ElasticSearch的实现原理主要分为以下几个步骤: 用户将数据提交到Elastic Search 数据库中 通过分词控制器去将对应的语句分词,将其权重和分词结果一并存入数据 当用户搜索数据时候,再根据权重将结果排名、打分 将返回结果呈现给用户 Elasticsearch可以用于搜索各种文档。它提供可扩展的搜索,具有接近实时的搜索,并支持多租户。
目录
相关文章
|
2月前
|
存储 JSON 数据库
Elasticsearch 分布式架构解析
【9月更文第2天】Elasticsearch 是一个分布式的搜索和分析引擎,以其高可扩展性和实时性著称。它基于 Lucene 开发,但提供了更高级别的抽象,使得开发者能够轻松地构建复杂的搜索应用。本文将深入探讨 Elasticsearch 的分布式存储和检索机制,解释其背后的原理及其优势。
190 5
|
3月前
|
存储 监控 负载均衡
检索服务elasticsearch分布式结构
【8月更文挑战第22天】
44 3
|
8天前
|
存储 索引
Elasticsearch分布式架构
【11月更文挑战第2天】
15 1
|
14天前
|
存储 监控 安全
|
1月前
|
存储 JSON 监控
大数据-167 ELK Elasticsearch 详细介绍 特点 分片 查询
大数据-167 ELK Elasticsearch 详细介绍 特点 分片 查询
51 4
|
2月前
|
自然语言处理 搜索推荐 数据库
高性能分布式搜索引擎Elasticsearch详解
高性能分布式搜索引擎Elasticsearch详解
84 4
高性能分布式搜索引擎Elasticsearch详解
因为一个问题、我新学了一门技术 ElasticSearch 分布式搜索
这篇文章讲述了作者因为一个检索问题而学习了ElasticSearch技术,并分享了排查和解决ElasticSearch检索结果与页面展示不符的过程。
因为一个问题、我新学了一门技术 ElasticSearch 分布式搜索
|
3月前
|
自然语言处理 负载均衡 安全
保姆级Elasticsearch集群部署指导
保姆级Elasticsearch集群部署指导
116 0
|
2月前
|
存储 消息中间件 网络协议
日志平台-ELK实操系列(一)
日志平台-ELK实操系列(一)
|
3月前
|
消息中间件 Kafka 开发工具
rsyslog+ELK收集Cisco日志
rsyslog+ELK收集Cisco日志

热门文章

最新文章