OSS在线迁移服务剖析

简介: 在前迁移说明 目前由于 OSS 数据迁移服务涉及到对目标的 OSS 要有很多 action 的 API 授权,为避免用户产生过多的学习成本,我们直接强制使用主账号进行迁移; 该服务正在公测中,目前仍在免费使用阶段;服务使用需要提前工单申请账号 UID 加入白名单; 在线迁移分类 离线迁移:这里.

在前迁移说明

  • 目前由于 OSS 数据迁移服务涉及到对目标的 OSS 要有很多 action 的 API 授权,为避免用户产生过多的学习成本,我们直接强制使用主账号进行迁移;
  • 该服务正在公测中,目前仍在免费使用阶段;服务使用需要提前工单申请账号 UID 加入白名单;

在线迁移分类

离线迁移:这里是指的闪电立方硬盘数据 copy 的方式迁移到 OSS;适合用在专有云,以及海量 PB 级别数据想要快速迁移的需求;

image

image

在线迁移:包含了第三方存储迁移到 OSS 以及 ECS 数据迁移到 OSS

1、创建数据地址,类似 ossimport job.cfg 的操作,配置迁移的数据源,以及目标 OSS bucket 相关配置;

  • 迁移数据用的 accesskeyID 要具有对应的权限,授予子账号存储空间读写权限(AliyunOSSFullAccess)和在线迁移管理权限(AliyunMGWFullAccess)
  • 数据地址要创建两个,一个源数据地址,一个目标数据地址;

image

image

2、创建迁移任务

image

image

3、任务类型说明

  • 全量迁移:上传所有的源文件到 OSS;
  • 增量迁移:上传前先 list 所有的源文件,比对哪些是已经上传过的,将不再重复上传;
  • 数据同步:这里注意下,当部署的是 OSS 之间迁移的任务时,可以在同区域进行数据同步操作,定期的同步源 bucket 数据到目标 bucket;
  • 同时还可以针对指定文件的时间进行数据迁移;

image

4、调优设置

用户配置好迁移体量和文件大致数量后,可以根据设置自动计算分配的工作线程数,同时用户也可以灵活的按时间段限流,或者不限流;

image

5、注意

在创建迁移任务后,OSS 会去源拉个别文件进行测试,如果恰好源文件含有非法命名的 object 就会导致整个任务失败,
非法字符包含 "/ .. " 以及长度不能超过 1024字节;

image

在线迁移管理

已经创建好的迁移任务,用户可以对其进行管理和监控;

  • 进入到管理界面后我们可以看到迁移任务的整体监控(流量,任务状态,迁移进展)

image

  • 任务迁移过程中如果出现失败,用户可以进行重试;

image

  • 任务迁移完成后,用户生成迁移报告,包含来整体的迁移实际数量,是否有报错,以及报错原因等信息;报告是保存在 OSS 上的;

image

目录
相关文章
|
2月前
|
人工智能 自然语言处理 运维
医疗设备售后智能客服部署模式对比:SaaS还是私有化,医院和器械AI客服怎么选
医疗设备售后 AI 客服选 SaaS 还是私有化,核心取决于数据敏感度、业务系统连接深度、AI 执行权限和企业 IT 运维能力。只承担知识问答和基础咨询的 AI 客服可优先考虑 SaaS;涉及核心业务系统和深度售后流程时,应进一步评估私有化或混合部署。
254 6
|
Kubernetes Serverless 容器
玩转阿里云Serverless Kubernetes新功能
阿里云Serverless Kubernetes发布新功能:开放杭州区域,Exec/Attach支持,服务发现,Ingress,Service Account,子账号支持。
19200 147
|
运维 安全 Cloud Native
云原生网关如何实现安全防护能力
云原生网关如何实现安全防护能力
|
人工智能 边缘计算 大数据
|
存储 缓存 NoSQL
Redis采用bitmap实现关注、点赞、浏览量
Redis采用bitmap实现关注、点赞、浏览量
1732 1
Redis采用bitmap实现关注、点赞、浏览量
|
编解码 视频直播 网络性能优化
|
达摩院 算法 云栖大会
【云栖大会】阿里云联合中科院量子创新研究院发布量子计算云平台
量子计算云平台,是提供量子计算服务的云计算平台。云平台前端对用户提供云端的量子算法开发测试环境,后端连接经典计算仿真环境和真实超导量子计算。阿里云提供云计算资源支撑经典计算仿真环境。用户可以登录阿里云官网使用。
13162 0
|
开发者
阿里云开发者社区知识产权保护暨版权授权与侵权投诉指引
阿里云开发者社区知识产权保护暨版权授权与侵权投诉指引
1133802 7
|
监控 Docker 容器
【发布公告】Kubernetes 1.11最新支持,支持Istio 无缝集成
Kubernetes 1.11最新支持,支持 Istio 无缝集成
9700 1