备份日志和索引到阿里云OSS

本文涉及的产品
对象存储 OSS,20GB 3个月
对象存储 OSS,恶意文件检测 1000次 1年
对象存储 OSS,内容安全 1000次 1年
简介: 备份日志和索引到阿里云OSS

1.备份原日志

阿里云官方文档
https://help.aliyun.com/document_detail/50451.html

1.下载ossutil工具

wget https://gosspublic.alicdn.com/ossutil/1.7.14/ossutil64

备注:示例下载到/opt/目录下

2.修改文件执行权限

chmod 755 ossutil64

3.使用交互式配置生成配置文件

./ossutil64 config

备注:只需要填写endpoint、accessKeyID、accessKeySecret
完成配置后,默认会在用户目录生成配置文件,可分发到其他机器复用

4.配置脚本上传
/opt/
├── log_upload
│ ├── ossutil64
│ └── ossutil_output
备注:
ossutil64 是OSS工具
ossutil_output 是OSS工具日志输出目录

上传opslog文件到oss

/opt/log_upload/ossutil64 cp -r xxx oss:xxx

2.备份es索引

kafka和es都是用的阿里云产品
后续会出这两个产品的使用文档和故障排查思路

首先到es的控制台

1.创建备份仓库

PUT _snapshot/xxx_backup/
{
   
    "type": "oss",
    "settings": {
   
        "endpoint": "http://oss-cn.com",
        "access_key_id": "xx",
        "secret_access_key": "xx",
        "bucket": "xx",
        "compress": true,
        "chunk_size": "500mb",
        "base_path": "snapshot/xxx/bk"
    }
}

2.查看

GET _snapshot/xxx_backup/

3.备份索引到oss
复制日志格式查看备份的时间段是否存在

GET _cat/indices?v&index=xxx*

备份

PUT _snapshot/xxx/xxx
{
   
"indices": "xxx*"
}

查看当前仓库所有快照

GET _snapshot/xxx_backup/_all

查看指定快照的索引

GET _snapshot/xxx_backup/xxx
相关实践学习
借助OSS搭建在线教育视频课程分享网站
本教程介绍如何基于云服务器ECS和对象存储OSS,搭建一个在线教育视频课程分享网站。
相关文章
|
1月前
|
Java API 开发工具
如何用阿里云 oss 下载文件
阿里云对象存储服务(OSS)提供了多种方式下载文件,以下讲解下各种方式的下载方法
959 1
|
1月前
|
存储 安全 对象存储
手把手教你搭建阿里云图床(PicGo+Typora+阿里云OSS),新手小白一看就会
本文详细介绍了怎样帮助新手小白从注册,购买阿里云OSS,到一步一步配置OSS做为图床,和PicGo、Typora软件连接,配置好关联之后,在使用Typora写文章时,如果需要插入图片,只需要将图片复制粘贴到Typora的编辑区域,就会自动通过PicGo上传到指定图床,自动复制外网能访问的URL并展示,简直不要太方便,极大的解决了编辑文章时复制处理图片链接的痛点。
191 2
手把手教你搭建阿里云图床(PicGo+Typora+阿里云OSS),新手小白一看就会
|
1月前
|
弹性计算 前端开发 小程序
微信小程序上传文件至阿里云OSS直传(java后端签名+前端直传)
当前的通用文件上传方式是通过前端上传到服务器,再由服务器转存至对象存储。这种方式在处理小文件时效率尚可,但大文件上传因受限于服务器带宽,速度较慢。例如,一个100MB的文件在5Mbps带宽的阿里云ECS上上传至服务器需160秒。为解决此问题,可以采用后端签名的方式,使微信小程序直接上传文件到阿里云OSS,绕过服务器中转。具体操作包括在JAVA后端引入相关依赖,生成签名,并在微信小程序前端使用这个签名进行文件上传,注意设置正确的请求头和formData参数。这样能提高大文件上传的速度。
|
4天前
|
网络协议 对象存储
阿里云oss配置自有域名
阿里云oss配置自有域名
12 1
|
5天前
|
存储 开发工具 对象存储
Javaweb之SpringBootWeb案例之阿里云OSS服务入门的详细解析
Javaweb之SpringBootWeb案例之阿里云OSS服务入门的详细解析
11 0
|
8天前
|
存储 运维 NoSQL
通过OOS实现定时备份Redis实例转储到OSS
基于阿里云 Redis 备份功能,现结合 OOS 推出自动转储至 OSS 的新方案,解决了数据安全风险、运维繁琐、成本增加和效率低下等问题。新方案亮点包括: 1. 数据安全性提高:备份文件自动上传至OSS,利用OSS的数据冗余存储,保证数据在硬件故障时的持久性和可用性。 2. 完全自动化:设置好定时规则后,备份和转储过程无需人工干预。 3. 多实例多地域集中管理:支持一次选择多个实例和跨区域备份,简化管理。 4. 灵活的备份策略和成本控制:自定义备份频率,并通过OSS生命周期管理策略控制成本。 5. 监控和告警:集成OSS和云监控,实时掌握备份状态,及时处理异常。
134 0
|
12天前
|
存储 Java API
阿里云oss简介和使用流程
本文档介绍了如何准备阿里云OSS(对象存储服务)并开始使用它。首先,需要注册阿里云账号并进行实名认证,然后购买OSS资源包。在阿里云控制台中,可以创建和管理OSS存储空间(称为“Bucket”)。接着,文章简要介绍了阿里云OSS,它是一个基于云端的对象存储服务,提供高可靠性、高性能、低成本和易于使用的特性。 在阿里云OSS控制台,用户可以进行文件的上传和下载操作。通过API,开发者可以使用各种编程语言(如Java)来创建、删除Bucket以及上传、下载和删除文件。例如,Java代码示例展示了如何创建Bucket、上传文件、删除文件以及下载文件到本地的操作。
|
19天前
|
开发工具 对象存储
阿里云OSS文件上传
阿里云OSS文件上传
61 0
|
19天前
|
存储 缓存 Java
阿里云OSS实战从入门到大神
说起阿里云OSS,那作用和功能都是非常强大的,它可以存放图片,音频,视频等资源文件,这些资源文件,你不必存放到服务器的硬盘里,这样既可以节省服务器硬盘空间,又可以降低服务器的读写压力,非常适合大并发的架构。
56 0
|
1月前
|
存储 对象存储 容器
阿里云OSS对象存储基础入门
阿里云OSS对象存储基础入门
92 0

相关产品