ElasticSearch备份与恢复-elasticdump工具

本文涉及的产品
检索分析服务 Elasticsearch 版,2核4GB开发者规格 1个月
简介: ElasticSearch备份与恢复-elasticdump工具

工具简介


1.概念:

  • elasticdump是实现不同ElasticSearch集群之间索引迁移的工具。


2.优势:

  • 低成本实现备份与恢复到本地
  • 可以实现跨集群,跨账号恢复与备份
  • 安装快捷,使用简单


准备工作


1.创建阿里云ECS实例


2.创建ES集群,本文创建使用的都是杭州地域,同一VPC下的资源

注意: 如果需要内网访问的话需要保证VPC一致并配置白名单,本文创建使用的虽然都是杭州地域,同一VPC下的资源, 但是以公网访问ES为例介绍elasticdump的使用


3.安装nodejs

  • 离线下载: 推荐下载后再上传比较快捷, 本文由于linux是64位使用 node-v12.18.4-linux-x64.tar.xz

各个系统下载地址: https://nodejs.org/download/release/v12.18.4/

  • 在线下载
wget https://nodejs.org/dist/v12.18.4/node-v12.18.4-linux-x64.tar.xz

无论哪种方式下载, 安装步骤如下

1.移动上传的node-v12.18.4-linux-x64.tar.xz文件到/usr/local目录下,并解压
tar -xvf node-v12.18.4-linux-x64.tar.xz2.改名整个目录为  nodejs
mv node-v12.18.4-linux-x64 nodejs
3.创建软连接,使其全局生效
ln -s /usr/local/nodejs/bin/node /usr/local/bin
ln -s /usr/local/nodejs/bin/npm /usr/local/bin
4.验证是否安装成功
node -v
npm -v

实际操作如下可以参考


4.安装 elasticdump  

本次选择本地安装的方式  npm install elasticdump  官网地址:   https://github.com/elasticsearch-dump/elasticsearch-dump   (如果想快速使用请往下看离线安装)

本地安装
npm install elasticdump
./bin/elasticdump
全局安装
npm install elasticdump -g
elasticdump
如果出现安装失败可以先指定版本升级npm  npm install -g npm@8.5.3


5.查询elasticdump安装目录

回到根目录,执行如下命令查询安装的elasticdump所在目录

find ./ -name'elasticdump'-print


6.离线安装

我觉得下载太慢,于是直接下载了ZIP包📎elasticsearch-dump-6.68.0.zip 上传到自建的目录中解压使用


数据备份


1.准备ES数据

PUT heqiang_source
POST  /heqiang_source/_mapping
{
"properties": {
"name": {
"analyzer": "ik_max_word",
"search_analyzer": "ik_smart",
"type": "text"          },
"age": {
"type": "keyword"          },
"description": {
"analyzer": "ik_max_word",
"search_analyzer": "ik_smart",
"type": "text"          }
     }
}
POST /heqiang_source/_doc/1
{
"name":"张三",
"age":"21",
"description": "他本是富家子弟,却从小勤奋刻苦,有资本又那么努力怎能不优秀呢"}
POST /heqiang_source/_doc/2
{
"name":"李四",
"age":"22",
"description": "他一身手艺,勤劳朴实,是一位朴实的农民"}
GET heqiang_source/_search


2.执行后可以在kibana查询验证下数据


3.执行命令备份到本地

通过公网访问ES集群(开启白名单),进入上面的安装的bin目录,执行如下命令导出数据(test.json文件会自动创建)


注意事项

  • 一定要进入bin目录下执行脚本,下面案例都是如此
  • 一定要添加ECS的IP到ES的白名单(这里使用的公网IP,添加公网IP地址即可)
  • --input或者--output可以等号连接后面的参数
  • 如果执行下面脚本提示文件不可执行  可以先执行命令   chmod +x elasticdump
# 导出索引Mapping数据./elasticdump --input http://elastic:密码@es-cn-7p*********02l0xw.public.elasticsearch.aliyuncs.com:9200/heqiang_source --output ./heqiang_source_mapping.json --type=mapping 
# 导出索引数据(默认不配置type就是导出数据)./elasticdump --input http://elastic:密码@es-cn-7p*********02l0xw.public.elasticsearch.aliyuncs.com:9200/heqiang_source --output ./heqiang_source.json --type=data


查询验证导出的内容  命令:  cat 文件名称


数据恢复


1.执行命令恢复到集群

# Mapping 数据导入至索引./elasticdump --output http://elastic:密码@es-cn-7p*********02l0xw.public.elasticsearch.aliyuncs.com:9200/heqiang_source_back --input ./heqiang_source_mapping.json --type=mapping
# ES文档数据导入至索引./elasticdump --output http://elastic:密码@es-cn-7p*********02l0xw.public.elasticsearch.aliyuncs.com:9200/heqiang_source_back --input ./heqiang_source.json --type=data


2.查询恢复的索引是否存在

相关实践学习
使用阿里云Elasticsearch体验信息检索加速
通过创建登录阿里云Elasticsearch集群,使用DataWorks将MySQL数据同步至Elasticsearch,体验多条件检索效果,简单展示数据同步和信息检索加速的过程和操作。
ElasticSearch 入门精讲
ElasticSearch是一个开源的、基于Lucene的、分布式、高扩展、高实时的搜索与数据分析引擎。根据DB-Engines的排名显示,Elasticsearch是最受欢迎的企业搜索引擎,其次是Apache Solr(也是基于Lucene)。 ElasticSearch的实现原理主要分为以下几个步骤: 用户将数据提交到Elastic Search 数据库中 通过分词控制器去将对应的语句分词,将其权重和分词结果一并存入数据 当用户搜索数据时候,再根据权重将结果排名、打分 将返回结果呈现给用户 Elasticsearch可以用于搜索各种文档。它提供可扩展的搜索,具有接近实时的搜索,并支持多租户。
相关文章
|
6月前
|
关系型数据库 MySQL
elasticsearch对比mysql以及使用工具同步mysql数据全量增量
elasticsearch对比mysql以及使用工具同步mysql数据全量增量
63 0
|
6月前
|
监控 Java 测试技术
【Elasticsearch专栏 13】深入探索:Elasticsearch使用Curator工具删除Elasticsearch中的历史数据
使用Curator工具可以有效管理Elasticsearch中的旧数据,通过编写YAML配置文件定义删除操作。配置中指定了基于索引名称前缀和年龄的过滤器,确保仅删除符合条件的旧索引。执行删除操作时,Curator会应用过滤器识别目标索引,并向Elasticsearch发送删除请求。通过设置选项,如忽略空列表和超时时间,可以确保操作的灵活性和稳定性。使用Curator不仅释放了存储空间,还提高了查询性能,是维护Elasticsearch健康的重要工具
92 0
|
5月前
|
运维 监控 数据可视化
cerebro【ElasticSearch可视化工具】
cerebro【ElasticSearch可视化工具】
65 1
|
5月前
|
存储 安全 数据管理
如何在 Rocky Linux 8 上安装和配置 Elasticsearch,帮助你快速搭建起这个强大的工具
【6月更文挑战第7天】本文档详细介绍了如何在Rocky Linux 8上安装和配置Elasticsearch,首先通过添加Elasticsearch仓库并使用yum安装。接着,配置Elasticsearch,包括修改`elasticsearch.yml`、设置内存和文件描述符,以及可选的安全设置。启动Elasticsearch后,通过验证日志和测试连接确保其正常运行。文章还列举了常见问题及解决方法,如启动失败、内存不足和网络问题。按照这些步骤,用户可以在Rocky Linux 8上成功部署Elasticsearch,为数据管理与分析提供强大支持。
148 5
|
JSON 数据格式 索引
实际使用Elasticdump工具对Elasticsearch集群进行数据备份和数据还原
就可以通过Elasticsearch的导入导出工具Elasticdump来实现,可以将Elasticsearch不同集群的数据进行索引备份和还原。
260 0
|
存储 数据可视化 搜索推荐
分布式系列教程(26) -分布式日志搜集工具Elasticsearch简介
分布式系列教程(26) -分布式日志搜集工具Elasticsearch简介
109 0
|
6月前
|
存储 API
Elasticsearch快照备份与恢复 - 蓝易云
以上步骤可以帮助你在Elasticsearch中实现快照备份和恢复。注意,这些操作可能需要特定的权限和配置,所以在进行操作前,确保你具备足够的权限并已正确配置Elasticsearch。
119 0
|
6月前
|
自然语言处理 数据可视化 算法
史上最详细Docker安装Elasticsearch、ik分词器、可视化工具,每一步都带有步骤图!!!
史上最详细Docker安装Elasticsearch、ik分词器、可视化工具,每一步都带有步骤图!!!
955 1
史上最详细Docker安装Elasticsearch、ik分词器、可视化工具,每一步都带有步骤图!!!
|
SQL 数据可视化 前端开发
简单好用的ElasticSearch可视化工具:es-client和Head
使用 ElasticSearch(简称 es) 的过程中,经常有一些临时查询(如 排查问题、验证效果),一个趁手的可视化工具 可以提高工作效率。个人倾向于 免费(最好开源)、易于安装(如 浏览器插件),`es-client` 就是 比较简单好用的一个,尤其是 查询
4336 0
|
存储 索引
elasticsearch6.x 数据的备份
elasticsearch6.x 数据的备份
98 0