如何将海量数据迁移上云

本文涉及的产品
对象存储 OSS,20GB 3个月
对象存储 OSS,内容安全 1000次 1年
对象存储 OSS,恶意文件检测 1000次 1年
简介: 如果您有成千上万的文档、图片、音视频文件需要上传到OSS上来,或者从其他的云存储产品上迁移过来,如何才能应对规模如此庞大的数据迁移,如何处理迁移过程中业务上的新增数据?OSS有一套完整的无缝数据迁移方案可以帮您解决这些问题。

背景

众所周知,云计算的出现改变了IT世界的格局,更低廉的成本和更加易于扩展的特点都成为了传统软件行业改变的动力。而阿里云在此基础上提供了更加完善的服务,更高的可靠性,以及更加低廉的价格,成为了业界值得优先考虑的品牌。

如果您有成千上万的文档、图片、音视频文件需要上传到OSS上来,或者从其他的云存储产品上迁移过来,如何才能应对规模如此庞大的数据迁移,如何处理迁移过程中业务上的新增数据?

OSS有一套完整的无缝数据迁移方案可以帮您解决这些问题。

方案

整个迁移过程分为下面几个步骤:

  • 配置Bucket回源属性,配置好数据在OSS读取miss之后回源的地址。配置好之后如果访问某Object miss的时候你的客户端可以根据OSS返回的302重定向去配置的地址读取文件;
  • 配置迁移工具,从源端向OSS迁移数据,这一步不影响您的业务,异步的从源站将数据搬迁到OSS;
  • 数据搬迁接近完成的时候,将业务上的读写从之前的源站切换到OSS;
  • 等待迁移工具从源搬迁完所有的老数据(这种场景下如果您的业务有对数据的覆盖写是需要注意的,可能会造成老数据覆盖新数据)

如上所说,我们有两种方式Bucket回源属性可以做到无缝迁移,即镜像和重定向:

49915797cd90619a07678d080bcab3095337844e

上图是“利用镜像做无缝数据迁移示意图”,图中带有数字标记的箭头就是数据访问miss时的数据流向。在镜像回源的方式下用户访问OSS如果Object miss,那么OSS会替用户从源站读回文件,并写入到OSS,这样一来,如果用户的请求可以遍历所有的文件,那么这个异步的迁移过程其实是可以省略掉的(当然,这也会带来一些新的问题,后文我们会提到)。

d56fe27931ab3cee1076f9528f30fcf395b14e04

上图是“利用重定向做无缝迁移示意图”,图中有数字标记的箭头就是数据访问miss时的数据流向。在配置重定向回源的方式下,如果Object miss,那么需要您的客户端去源站去读取一次数据。这就要求您的客户端要能理解http协议中的3xx重定向语义(OSS的重定向回源是通过3xx重定向来实现的)。需要注意的是,在这种回源方式下,OSS不能自动帮用户搬迁数据,用户的数据必须依靠迁移工具/服务来异步的搬迁到OSS上面来。

图中也能看到在这种场景下配合CDN一起使用,那么文件会cache在CDN上,无需每次miss之后都回源站读取,也是一种减少延迟、节省源站流量的方式。如果不使用CDN,那么就需要用户自己完成回源站读取数据的过程。

纵观上面的两张图,在您配置Bucket的回源属性之后,再开启数据迁移过程,在业务数据大部分都搬迁到OSS之后,再将整个业务的读写全部切换到OSS。这个时候回源功能就能帮您处理那些尚未搬迁过来的数据,无需停服,无缝衔接。等到所有的数据都搬迁完毕之后就可以关闭回源,停掉数据迁移,整个向OSS迁移数据的方式就完成了。

使用建议

如果要迁移的文件较少,建议配置镜像回源的方式,按照文件列表逐一访问OSS,OSS会把所有的文件从源站读取出来,回写到您的Bucket,这种方式是一个最简单的迁移方案。

如果需要迁移的文件量比较大,或者文件的大小比较大,那么由于镜像回源的方式带宽有限,依靠这种方式来搬迁数据可能会花费比较长的时间,影响您的使用体验,建议使用“重定向回源+迁移工具/服务”的方式,如果Object miss,直接让客户端从源站读取数据,由迁移工具/服务来异步的搬迁数据,不影响您的服务。

如果您的业务对延迟比较敏感,建议在大部分数据迁移完成之后再将业务切到OSS上来,否则像文章开头的两张图中所示,如果数据访问miss的话,用户的请求都会经过一个比直接访问OSS上的Object更长的过程,这一过程会增加访问延迟,可能会降低您的用户体验,所以这个重定向或者镜像的数据比例要控制的尽可能小一些。


配置步骤

本部分主要包含Bucket回源属性的配置,以及迁移工具/服务的使用方法。

配置Bucket回源属性

要配置Bucket的回源属性,要在Bucket属性的“回源设置”里面添加规则。如下图:

a8ce8f2d6a640fd59248fcc8b23591fc8d1a24dd
这里的规则分为两种:镜像回源和重定向回源。

  • 镜像回源:用户访问OSS上的Object,如果文件不存在,就按照镜像回源里的Url向源站去取数据,回写到OSS,回写完成之后Object就自动搬迁到了OSS上面,下一次访问就不会再出现Object不存在的情况;
  • 重定向回源:用户访问OSS上的Object,如果文件不存在,按照配置向用户的客户端返回一个302重定向跳转,用户客户端从配置的源站读取数据,这种方式下OSS不会从用户的源站拉取数据回来回写到OSS,下一次访问仍然会向用户客户端返回一次302重定向跳转,直到用户自己把这个Object写入到OSS为止。

下图为如何配置镜像回源:

b57d8d953844217d1e218449fe7f3528eced27b8


下图为如何配置重定向回源:

b49abec46e52d08e8e07d3e2d5f2d99ca18ef394

图中可以看到镜像方式只支持http code设置为404这种方式,也就是我们所说的访问Object miss的情况下才会去做镜像。重定向回源中回源条件中的http code可以设置400-599之间的错误码,但是在用回源实现无缝迁移的时候这个地方要填成404。其他的选项依照您的实际情况使用。

使用迁移工具/服务

迁移工具可以将您本地或者第三方云存储服务上的文件同步到OSS上。 我们的迁移工具有以下主要特性:

  • 支持将本地、OSS、七牛、百度对象存储、金山对象存储的文件同步到指定OSS Bucket上;
  • 支持存量数据同步(允许指定只同步某个时间点之后的文件);
  • 支持增量数据自动同步;
  • 支持断点续传;
  • 支持上传/下载流量控制;
  • 支持并行list和并行数据下载/上传;

迁移工具Linux平台使用说明

迁移工具Windows平台使用说明

迁移服务。如果您有较大量级的数据,并且期望在较短的时间之内迁移到OSS上,除了迁移工具之外,我们的专业技术人员还可以为您提供多机器并行同步方案,请加旺旺群:904193608联系我们。

相关实践学习
借助OSS搭建在线教育视频课程分享网站
本教程介绍如何基于云服务器ECS和对象存储OSS,搭建一个在线教育视频课程分享网站。
相关文章
|
存储 运维 监控
云时代,好用的数据迁移方案推荐
本文将介绍数据库迁移的步骤以及市面上常见的迁移工具,推荐大家选择能够支持“业务零停机迁移”的工具产品。同时,平台工具(例NineData) 的自动化体验及配套设施(例:数据校验工具、迁移限流、监控告警等)一般较为完善,是比较推荐的选择。
735 1
云时代,好用的数据迁移方案推荐
|
存储 数据库 对象存储
带你读《云存储应用白皮书》之24:1. 数据业务迁移上云方案
带你读《云存储应用白皮书》之24:1. 数据业务迁移上云方案
232 0
|
SQL 数据采集 Cloud Native
云数据库技术沙龙|多云多源下的数据复制技术解读-NineData
随着数据智能时代的到来,多云多源架构下的数据管理是企业必备的基础设施,我们认为数据存取、数据集成与分发、数据安全与数据质量是基础,也是走向多云多源架构的起点。本次,玖章算术技术副总裁陈长城(天羽),为大家分享一下《多云多源下的数据复制技术揭秘-NineData》的技术内容。
180 0
|
存储 SQL 关系型数据库
云上数据仓库的架构方案|学习笔记(三)
快速学习云上数据仓库的架构方案
265 0
云上数据仓库的架构方案|学习笔记(三)
|
弹性计算 搜索推荐 数据挖掘
云上数据仓库的架构方案|学习笔记(一)
快速学习云上数据仓库的架构方案
283 0
云上数据仓库的架构方案|学习笔记(一)
|
SQL 监控 数据挖掘
云上数据仓库的架构方案|学习笔记(二)
快速学习云上数据仓库的架构方案
309 0
云上数据仓库的架构方案|学习笔记(二)
|
存储 Cloud Native 数据挖掘
重磅发布|云原生数据仓库AnalyticDB技术架构升级,大幅降低存储成本
云原生数据仓库AnalyticDB技术架构重磅升级,实现秒级扩缩容、大幅降低存储成本。
211 0
重磅发布|云原生数据仓库AnalyticDB技术架构升级,大幅降低存储成本
|
存储 负载均衡 容灾
云原生趋势下的迁移与容灾思考
下一个云原生颠覆的领域会不会是在传统的容灾领域呢?在云原生的趋势下,如何构建应用系统的迁移与容灾方案?
云原生趋势下的迁移与容灾思考
|
存储 弹性计算 网络安全
数据迁移上云最佳实践
企业上云过程中涉及的数据(FTP文件、第三方存储文件、NAS)迁移上云的最佳实践,主要含以下几种迁移方案:ossimport、在线迁移服务、rsync等。
数据迁移上云最佳实践
|
存储 弹性计算 网络安全
利用低成本链路完成业务数据迁移上云
本文介绍设置阿里云利用低成本互联网链路完成新零售业务数据迁移上云解决方案的设置步骤和方法。
利用低成本链路完成业务数据迁移上云