将最新版的ElasticSearch8与Kibana8在CentOS7上跑起来

本文涉及的产品
检索分析服务 Elasticsearch 版,2核4GB开发者规格 1个月
简介: 将最新版的ElasticSearch8与Kibana8在CentOS7上跑起来

背景


以前也搭建体验过基于 ElasticSearch 7.x的服务及集群,不过当时一直在内网环境下运行,也没有进行其认证相关的配置 xpack ,我记得当时写的建议:由于 Elasticsearch 默认未启用内置的安全防御机制,因此在生产环境中不建议直接开放在公网上。否则,就是在网络上裸奔。。。这不, ElasticSearch 8.0来了,默认开启安全防护便是其中一个新特性,根据官方介绍, ElasticSearch 8.0带来的主要特性包括:

image.png

  1. 7.x REST API compatibility(通过头信息配置可兼容7.x REST API)
  2. Security features are enabled and configured by default(默认启用安全相关的配置:认证、授权、节点间以及与Kibana间的TLS传输)
  3. Better protection for system indices(更好地保护系统索引)
  4. New kNN search API(新增kNN搜索API)
  5. Storage savings for keyword, match_only_text, and text fields(升级的倒排索引,节约存储空间)
  6. Faster indexing of geo_point, geo_shape, and range fields(对地理信息相关数据更快地索引效率)
  7. PyTorch model support for natural language processing (NLP)(支持上传训练好的PyTorch模型至ElasticSearch进行自然语言处理)


系统环境



CentOS7 上进行安装,虚拟主机信息如下:

[root@hadoop1 local]# uname -a
Linux hadoop1 3.10.0-1127.el7.x86_64 #1 SMP Tue Mar 31 23:36:51 UTC 2020 x86_64 x86_64 x86_64 GNU/Linux
[root@hadoop1 local]# cat /proc/version
Linux version 3.10.0-1127.el7.x86_64 (mockbuild@kbuilder.bsys.centos.org) (gcc version 4.8.5 20150623 (Red Hat 4.8.5-39) (GCC) ) #1 SMP Tue Mar 31 23:36:51 UTC 2020
[root@hadoop1 local]# cat /etc/redhat-release
CentOS Linux release 7.8.2003 (Core)
内存:4G
处理器:2*2
硬盘:100G


下载、安装并启动ElasticSearch8


[root@hadoop1 ~]# cd /usr/local/
[root@hadoop1 local]# wget https://artifacts.elastic.co/downloads/elasticsearch/elasticsearch-8.0.0-linux-x86_64.tar.gz
[root@hadoop1 local]# tar -xvf elasticsearch-8.0.0-linux-x86_64.tar.gz
[root@hadoop1 local]# mv elasticsearch-8.0.0 elasticsearch
[root@hadoop1 local]# cd elasticsearch
[root@hadoop1 elasticsearch]# ./bin/elasticsearch


问题1:不可使用root用户直接启动elasticsearch


org.elasticsearch.bootstrap. StartupException: java.lang. RuntimeException: can not run elasticsearch as root

解决方法:添加用户,并赋予对 elasticsearch 目录的权限

# 添加用户es-admin
[root@hadoop1 elasticsearch]# useradd es-admin
# 赋予对elasticsearch目录的权限
[root@hadoop1 elasticsearch]# chown -R es-admin:es-admin /usr/local/elasticsearch
# 切换至es-admin
[root@hadoop1 elasticsearch]# su es-admin
# 尝试启动ElasticSearch
[es-admin@hadoop1 elasticsearch]$ ./bin/elasticsearch


问题2:操作系统的默认配置不满足elasticsearch要求


ERROR: [2] bootstrap checks failed. You must address the points described in the following [2] lines before starting Elasticsearch.
bootstrap check failure [1] of [2]: max file descriptors [4096] for elasticsearch process is too low, increase to at least [65535]
bootstrap check failure [2] of [2]: max virtual memory areas vm.max_map_count [65530] is too low, increase to at least [262144]

解决方法:


  • 解决“max file descriptors [4096] for elasticsearch process is too low”问题:
# 先查看系统的默认配置
[es-admin@hadoop1 elasticsearch]$ ulimit -Hn
4096
[es-admin@hadoop1 elasticsearch]$ ulimit -Sn
1024
# 切换至root
[es-admin@hadoop1 elasticsearch]$ exit
exit
# 编辑vi /etc/security/limits.conf,在最后添加以下内容,注意要退出root用户重新登录后才会生效
[root@hadoop1 elasticsearch]# vi /etc/security/limits.conf
*               soft    nofile          65536
*               hard    nofile          65536
# 验证我们的操作是否生效
[root@hadoop1 elasticsearch]# ulimit -Hn
65536
[root@hadoop1 elasticsearch]# ulimit -Sn
65536
  • 解决“max virtual memory areas vm.max_map_count [65530] is too low”问题:
# 编辑vi /etc/sysctl.conf,在最后添加:
[es-admin@hadoop1 elasticsearch]$ vi /etc/sysctl.conf
vm.max_map_count = 262144
# 记得使用sysctl -p刷新配置文件
[root@hadoop1 elasticsearch]# sysctl -p
# 切换到es-admin用户
[root@hadoop1 elasticsearch]# su es-admin
# 尝试启动
[es-admin@hadoop1 elasticsearch]$ ./bin/elasticsearch

不出意外,可正常启动 ElasticSearch 8.0服务,同时注意控制台打印的这段日志,其中包含了4部分重要信息:


  1. elastic用户的密码(登录ElasticSearch与Kibana的Web界面时需要~);


  1. HTTP CA证书SHA-256指纹;


  1. 用于Kibana连接当前ElasticSearch服务的enrollment token(注意有效期为30分钟!!);


  1. 说明了如何让其他ElasticSearch节点加入当前集群的操作步骤(我会在下一篇介绍ElasticSearch8.0分布式搜索引擎集群及其高可用测试)。
━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━
✅ Elasticsearch security features have been automatically configured!
✅ Authentication is enabled and cluster connections are encrypted.
Password for the elastic user (reset with `bin/elasticsearch-reset-password -u elastic`):
  9SWTTFDuibtaS2*L0NRv
HTTP CA certificate SHA-256 fingerprint:
  75480a9fc93649e2ebd8dd0a9f0721247e8cff32fdbc78abf0b30d7ac9c8e8bd
Configure Kibana to use this cluster:
• Run Kibana and click the configuration link in the terminal when Kibana starts.
• Copy the following enrollment token and paste it into Kibana in your browser (valid for the next 30 minutes):
  eyJ2ZXIiOiI4LjAuMCIsImFkciI6WyIxOTIuMTY4LjQ0LjEyNzo5MjAwIl0sImZnciI6Ijc1NDgwYTlmYzkzNjQ5ZTJlYmQ4ZGQwYTlmMDcyMTI0N2U4Y2ZmMzJmZGJjNzhhYmYwYjMwZDdhYzljOGU4YmQiLCJrZXkiOiJWYjg0RW44QnVQdHBqaU9BTUgxZjpnNFpjeUFDWVJYQ2xLRVp2eXF3U3RBIn0=
Configure other nodes to join this cluster:
• On this node:
  ⁃ Create an enrollment token with `bin/elasticsearch-create-enrollment-token -s node`.
  ⁃ Uncomment the transport.host setting at the end of config/elasticsearch.yml.
  ⁃ Restart Elasticsearch.
• On other nodes:
  ⁃ Start Elasticsearch with `bin/elasticsearch --enrollment-token <token>`, using the enrollment token that you generated.
━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━

上述问题解决后,在浏览器访问"https://localhost:9200",注意这里使用HTTPS 协议访问。

image.png

输入用户名: elastic ,密码: 9SWTTFDuibtaS2*L0NRv 。登录成功后,经典的启动信息页面:“You Know, for Search”。

image.png


下载、安装并启动Kibana8


[root@hadoop1 ~]# cd /usr/local/
[root@hadoop1 local]# wget https://artifacts.elastic.co/downloads/kibana/kibana-8.0.0-linux-x86_64.tar.gz
[root@hadoop1 local]# tar -xvf kibana-8.0.0-linux-x86_64.tar.gz
[root@hadoop1 local]# mv kibana-8.0.0 kibana
[root@hadoop1 local]# cd kibana
[root@hadoop1 kibana]# ./bin/kibana


问题1:不可使用root用户直接启动kibana


Error: Unable to write to UUID file at /usr/local/kibana/data/uuid. Ensure Kibana has sufficient permissions to read / write to this file.  Error was: EACCES

解决方法:使用 es-admin 用户(这个是前面新增的,名字可以自己起),赋予对 kibana 目录的权限。

# 赋予对kibana目录的权限
[root@hadoop1 kibana]# chown -R es-admin:es-admin /usr/local/kibana
# 切换至es-admin
[root@hadoop1 kibana]# su es-admin
# 尝试启动Kibana
[es-admin@hadoop1 kibana]$ ./bin/kibana


问题2:默认仅能本地访问kibana服务


解决了前一个问题后, Kibana 成功启动,并在控制台打印出如下内容,仅能本地访问,可我的是 CentOS 系统,没法打开浏览器进行本机访问。


Go to http://localhost:5601/?code=194486 to get started.


解决方法:修改配置,让其他机器也可访问 Kibana

image.png

# 编辑配置文件,修改server.host: "0.0.0.0"
[es-admin@hadoop1 kibana]$ vi ./config/kibana.yml
server.host: "0.0.0.0"
# 尝试启动Kibana
[es-admin@hadoop1 kibana]$ ./bin/kibana

Kibana 成功启动后,使用控制台生成的附加随机码的连接在远程的浏览器上打开,输入第一次启动 ElasticSearch 时,默认生成的 enrollment token


问题3:Kibana连接ElasticSearch的enrollment token过期


[2022-02-19T22:16:24.366+08:00][ERROR][plugins.interactiveSetup.elasticsearch] Failed to enroll with host "https://192.168.44.127:9200": {"error":{"root_cause":[{"type":"security_exception", "reason":"unable to authenticate with provided credentials and anonymous access is not allowed for this request", "additional_unsuccessful_credentials":"API key: api key is expired", "header":{"WWW-Authenticate":["Basic realm="security" charset="UTF-8"", "Bearer realm="security"", "ApiKey"]}}], "type":"security_exception", "reason":"unable to authenticate with provided credentials and anonymous access is not allowed for this request", "additional_unsuccessful_credentials":"API key: api key is expired", "header":{"WWW-Authenticate":["Basic realm="security" charset="UTF-8"", "Bearer realm="security"", "ApiKey"]}}, "status":401}

前面提到,第一次启动 ElasticSearch 时,默认生成的 enrollment token 在30分钟内有效,但是如果从第一次启动 ElasticSearch 服务,到 Kibana 服务启动连接 ElasticSearch 时超过了30分钟,该怎么办呢?(感觉像是断了线的风筝,失去了与组织的单线联系,好慌。。)


这时需要使用E lasticSearch 自带的工具: /bin/elasticsearch-create-enrollment-token ,重新手动生成 Kibana 连接 ElasticSearchenrollment token

# 使用ElasticSearch自带的工具:/bin/elasticsearch-create-enrollment-token,后续添加节点到集群内时,同样要用到这个工具~~
[root@hadoop1 elasticsearch]# ./bin/elasticsearch-create-enrollment-token  -s kibana
warning: ignoring JAVA_HOME=/usr/local/jdk; using bundled JDK
eyJ2ZXIiOiI4LjAuMCIsImFkciI6WyIxOTIuMTY4LjQ0LjEyNzo5MjAwIl0sImZnciI6Ijc1NDgwYTlmYzkzNjQ5ZTJlYmQ4ZGQwYTlmMDcyMTI0N2U4Y2ZmMzJmZGJjNzhhYmYwYjMwZDdhYzljOGU4YmQiLCJrZXkiOiJWcjlhRW44QnVQdHBqaU9BQjMwTDpCNHlYclhweFNzNmRtWWJaaFBKOWhRIn0=

接着要输入用户名与密码后登录 Kibana (这里的用户名与密码跟 ElasticSearch 用到的一致),打完收工~

image.png


小总结


之所以要实践最新版的 ElasticSearch 8.0,主要还是奔着默认启用安全功能这一新特性来的,毕竟以前关于 ElasticSearchRedis 甚至 MongoDB 的勒索事件层出不穷,主要原因还是人们安全意识淡薄或者偷懒没有配置认证功能,然后使用这些服务的默认配置(没有启用最基本的认证功能,更不用说强密码了。。)直接在公网环境运行(裸奔)。。


相关实践学习
使用阿里云Elasticsearch体验信息检索加速
通过创建登录阿里云Elasticsearch集群,使用DataWorks将MySQL数据同步至Elasticsearch,体验多条件检索效果,简单展示数据同步和信息检索加速的过程和操作。
ElasticSearch 入门精讲
ElasticSearch是一个开源的、基于Lucene的、分布式、高扩展、高实时的搜索与数据分析引擎。根据DB-Engines的排名显示,Elasticsearch是最受欢迎的企业搜索引擎,其次是Apache Solr(也是基于Lucene)。 ElasticSearch的实现原理主要分为以下几个步骤: 用户将数据提交到Elastic Search 数据库中 通过分词控制器去将对应的语句分词,将其权重和分词结果一并存入数据 当用户搜索数据时候,再根据权重将结果排名、打分 将返回结果呈现给用户 Elasticsearch可以用于搜索各种文档。它提供可扩展的搜索,具有接近实时的搜索,并支持多租户。
目录
相关文章
|
JSON Linux 数据格式
百度搜索:蓝易云【Centos 7 通过 targz 文件安装 Elastic Search 服务教程!】
请注意,本教程提供了基本的安装步骤,并且可以根据实际需求进行定制和配置。如果需要更深入的了解和配置,请参考Elasticsearch官方文档或其他权威资源。
321 0
|
3月前
|
存储 安全 Java
在CentOS 7上安装和配置Elasticsearch的方法
在CentOS 7上安装和配置Elasticsearch的方法
246 0
|
11月前
|
Java Linux 数据安全/隐私保护
百度搜索:蓝易云【centos7系统安装elasticsearch8.7.0,并设置密码访问教程。】
现在,您已经成功安装并设置密码访问Elasticsearch 8.7.0。您可以使用设置的密码来访问和管理Elasticsearch实例。
212 1
|
6月前
|
存储 安全 网络协议
云服务器 Centos7 部署 Elasticsearch 8.0 + Kibana 8.0 指南
云服务器 Centos7 部署 Elasticsearch 8.0 + Kibana 8.0 指南
346 0
|
Java Linux Shell
CentOS7安装ElasticSearch7.14.2和ik分词器
CentOS7安装ElasticSearch7.14.2和ik分词器
179 0
|
安全 Linux 网络安全
Centos 7 安装系列(10):ElasticSearch 8.6.2
在空白的 Centos 7 系统中,安装部署 ElasticSearch 8.6 ,同时设置开机自启和密码安全策略。
479 1
|
搜索推荐 安全 前端开发
[工具]Centos7安装ElasticSearch5.5
[工具]Centos7安装ElasticSearch5.5
104 0
|
Linux Windows
Elasticsearch-03 CentOS7 / Windows上部署Elasticsearch5.6.16集群模式
Elasticsearch-03 CentOS7 / Windows上部署Elasticsearch5.6.16集群模式
126 0
|
Linux Docker 容器
Centos 7 下安装kibana,ik中文分词器以及ElasticSearch集群教程(二)
Centos 7 下安装kibana,ik中文分词器以及ElasticSearch集群教程
240 0
 Centos 7 下安装kibana,ik中文分词器以及ElasticSearch集群教程(二)
|
自然语言处理 搜索推荐 Java
Centos 7 下安装kibana,ik中文分词器以及ElasticSearch集群教程(一)
Centos 7 下安装kibana,ik中文分词器以及ElasticSearch集群教程
429 0
Centos 7 下安装kibana,ik中文分词器以及ElasticSearch集群教程(一)