备案控制台
探索云世界
开发者社区 云存储 技术博文 文章 正文

文件存储HDFS版和对象存储OSS双向数据迁移

2021-12-20 647
版权
版权声明：
本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《 阿里云开发者社区用户服务协议》和 《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写 侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。
本文涉及的产品
对象存储 OSS，20GB 3个月
推荐场景：
基于PAI-EAS挂载OSS部署AIGC服务 ossutil工具管理OSS
对象存储 OSS，恶意文件检测 1000次 1年
对象存储 OSS，内容安全 1000次 1年
简介： 本文档介绍文件存储HDFS版和对象存储OSS之间的数据迁移过程。您可以将文件存储HDFS版数据迁移到对象存储OSS，也可以将对象存储OSS的数据迁移到文件存储HDFS版上。

前提条件

  • 已开通文件存储HDFS版服务并创建文件系统实例和挂载点。具体操作，请参见文件存储HDFS版快速入门。
  • 建议您使用的Hadoop版本不低于2.7.2，本文使用的Hadoop版本为Apache Hadoop 2.8.5。
  • 已为Hadoop集群所有节点安装JDK，且JDK版本不低于1.8。更多信息，下载JDK。
  • 已开通对象存储OSS服务并创建存储空间(Bucket)。具体操作，请参见对象存储OSS快速入门。

背景信息

阿里云文件存储HDFS版是面向阿里云ECS实例及容器服务等计算资源的文件存储服务。文件存储HDFS版允许您就像在Hadoop分布式文件系统中一样管理和访问数据，并对热数据提供高性能的数据访问能力。对象存储OSS是海量、安全、低成本、高可靠的云存储服务，并提供标准型、归档型等多种存储类型供选择。您可以在文件存储HDFS版和对象存储OSS之间迁移数据，从而实现热、温、冷数据的合理分层，在实现对热数据高性能访问的同时，有效控制存储成本。


步骤一：Hadoop集群挂载文件存储HDFS版实例

在Hadoop集群中配置文件存储HDFS版实例。具体操作，请参见挂载文件系统。

步骤二：Hadoop集群部署JindoSDK

  1. 下载最新的JindoSDK安装包(下载页面)。本文以jindosdk-4.5.0为例。
  2. 执行以下命令，解压安装包。
tar -zxvf ./jindosdk-4.5.0.tar.gz
  1. 执行以下命令，将安装包内的jindo-core-4.5.0.jar和jindo-sdk-4.5.0.jar文件复制到Hadoop的CLASSPATH路径下。
cp-v ./jindosdk-4.5.0/lib/jindo-*-4.5.0.jar ${HADOOP_HOME}/share/hadoop/hdfs/lib/
  1. 配置JindoSDK OSS实现类及Access Key。

a. 执行以下命令，打开core-site.xml配置文件。

vim${HADOOP_HOME}/etc/hadoop/core-site.xml

b. 将JindoSDK OSS实现类配置到core-site.xml 中。

<configuration><property><name>fs.AbstractFileSystem.oss.impl</name><value>com.aliyun.jindodata.oss.OSS</value></property><property><name>fs.oss.impl</name><value>com.aliyun.jindodata.oss.JindoOssFileSystem</value></property></configuration>

c. 将OSS Bucket对应的Access Key ID、Access Key Secret、Endpoint配置在core-site.xml中。

<configuration><property><name>fs.oss.accessKeyId</name><!-- 请填写您用于访问OSS Bucket的Access Key ID --><value>xxx</value></property><property><name>fs.oss.accessKeySecret</name><!-- 请填写上述Access Key ID对应的Access Key Secret --><value>xxx</value></property><property><name>fs.oss.endpoint</name><!-- ECS环境推荐使用内网OSS Endpoint，格式为oss-cn-xxx-internal.aliyuncs.com --><value>oss-cn-xxx.aliyuncs.com</value></property></configuration>
  1. 将上述jindo-core-4.5.0.jar、jindo-sdk-4.5.0.jar和core-site.xml文件同步到Hadoop集群所有节点。
  2. 使用Hadoop Shell访问OSS。
${HADOOP_HOME}/bin/hadoop fs -ls oss://<bucket>/<path>

请将<bucket>替换为OSS的存储空间名称，<path>替换为该存储空间下的文件路径。

步骤三：数据迁移

完成步骤一和步骤二后，使用Hadoop MapReduce任务(DistCp)即可实现数据迁移。

实践一：将文件存储HDFS版上的数据迁移至对象存储OSS

  1. 执行以下命令，在文件存储HDFS版实例上生成100GB测试数据。
${HADOOP_HOME}/bin/hadoop jar \
${HADOOP_HOME}/share/hadoop/mapreduce/hadoop-mapreduce-examples-2.8.5.jar \
randomtextwriter \
-D mapreduce.randomtextwriter.totalbytes=107374182400 \
-D mapreduce.randomtextwriter.bytespermap=10737418240 \
dfs://f-xxxxxxx.cn-beijing.dfs.aliyuncs.com:10290/dfs2oss/data/data_100g/

其中，f-xxxxxxx.cn-beijing.dfs.aliyuncs.com为文件存储HDFS版挂载点域名，/dfs2oss/data/data_100g为保存测试数据的目录。请根据实际情况进行替换。

  1. 执行以下命令，查看生成的测试数据。
${HADOOP_HOME}/bin/hadoop fs -du-s-h dfs://f-xxxxxxx.cn-beijing.dfs.aliyuncs.com:10290/dfs2oss/data/data_100g

${HADOOP_HOME}/bin/hadoop fs -du-s dfs://f-xxxxxxx.cn-beijing.dfs.aliyuncs.com:10290/dfs2oss/data/data_100g

  1. 执行以下命令，启动Hadoop MapReduce任务(DistCp)将测试数据迁移至对象存储OSS。

详细的DistCp工具使用说明请参见Hadoop DistCp工具官方说明文档。

${HADOOP_HOME}/bin/hadoop distcp \
dfs://f-xxxxxxx.cn-beijing.dfs.aliyuncs.com:10290/dfs2oss oss://<bucket>/<path>
  1. 任务执行完成后，如果回显包含如下类似信息，说明迁移成功。
22/08/10 16:20:54 INFO mapreduce.Job: Job job_1660115355800_0003 completed successfully
22/08/10 16:20:54 INFO mapreduce.Job: Counters: 38        File System Counters
                DFS: Number of bytes read=110223438504                DFS: Number of bytes written=0                DFS: Number of read operations=114                DFS: Number of large read operations=0                DFS: Number of writeoperations=26                FILE: Number of bytes read=0                FILE: Number of bytes written=2119991                FILE: Number of read operations=0                FILE: Number of large read operations=0                FILE: Number of writeoperations=0                OSS: Number of bytes read=0                OSS: Number of bytes written=0                OSS: Number of read operations=0                OSS: Number of large read operations=0                OSS: Number of writeoperations=0        Job Counters
                Launched map tasks=13                Other local map tasks=13                Total time spent by all maps in occupied slots (ms)=10264552                Total time spent by all reduces in occupied slots (ms)=0                Total time spent by all map tasks (ms)=10264552                Total vcore-milliseconds taken by all map tasks=10264552                Total megabyte-milliseconds taken by all map tasks=10510901248        Map-Reduce Framework
                Map input records=14                Map output records=0                Input split bytes=1755                Spilled Records=0                Failed Shuffles=0                Merged Map outputs=0                GC time elapsed (ms)=18918                CPU time spent (ms)=798190                Physical memory (bytes) snapshot=4427018240                Virtual memory (bytes) snapshot=50057256960                Total committed heap usage (bytes)=2214068224        File Input Format Counters
                Bytes Read=6528        File Output Format Counters
                Bytes Written=0        DistCp Counters
                Bytes Copied=110223430221                Bytes Expected=110223430221                Files Copied=14
  1. 执行以下命令，查看迁移到对象存储OSS上的数据大小是否与原文件一致。
${HADOOP_HOME}/bin/hadoop fs -du-s oss://<bucket>/<path>

${HADOOP_HOME}/bin/hadoop fs -du-s-h oss://<bucket>/<path>

实践二：将对象存储OSS上的数据迁移至文件存储HDFS版

  1. 执行以下命令，在对象存储OSS上生成100GB测试数据。
${HADOOP_HOME}/bin/hadoop jar \
${HADOOP_HOME}/share/hadoop/mapreduce/hadoop-mapreduce-examples-2.8.5.jar \
randomtextwriter \
-D mapreduce.randomtextwriter.totalbytes=107374182400 \
-D mapreduce.randomtextwriter.bytespermap=10737418240 \
oss://<bucket>/<path>
  1. 执行以下命令，查看生成的测试数据。
${HADOOP_HOME}/bin/hadoop fs -du-s-h oss://<bucket>/<path>

${HADOOP_HOME}/bin/hadoop fs -du-s oss://<bucket>/<path>

  1. 执行以下命令，启动Hadoop MapReduce任务(DistCp)将测试数据迁移至文件存储HDFS版。
${HADOOP_HOME}/bin/hadoop distcp \
oss://<bucket>/<path> \
dfs://f-xxxxxxx.cn-beijing.dfs.aliyuncs.com:10290/oss2dfs
  1. 任务执行完成后，如果回显包含如下类似信息，说明迁移成功。
22/08/10 17:08:17 INFO mapreduce.Job: Job job_1660115355800_0005 completed successfully
22/08/10 17:08:17 INFO mapreduce.Job: Counters: 38        File System Counters
                DFS: Number of bytes read=6495                DFS: Number of bytes written=110223424482                DFS: Number of read operations=139                DFS: Number of large read operations=0                DFS: Number of writeoperations=47                FILE: Number of bytes read=0                FILE: Number of bytes written=1957682                FILE: Number of read operations=0                FILE: Number of large read operations=0                FILE: Number of writeoperations=0                OSS: Number of bytes read=0                OSS: Number of bytes written=0                OSS: Number of read operations=0                OSS: Number of large read operations=0                OSS: Number of writeoperations=0        Job Counters
                Launched map tasks=12                Other local map tasks=12                Total time spent by all maps in occupied slots (ms)=10088860                Total time spent by all reduces in occupied slots (ms)=0                Total time spent by all map tasks (ms)=10088860                Total vcore-milliseconds taken by all map tasks=10088860                Total megabyte-milliseconds taken by all map tasks=10330992640        Map-Reduce Framework
                Map input records=12                Map output records=0                Input split bytes=1620                Spilled Records=0                Failed Shuffles=0                Merged Map outputs=0                GC time elapsed (ms)=21141                CPU time spent (ms)=780270                Physical memory (bytes) snapshot=4037222400                Virtual memory (bytes) snapshot=45695025152                Total committed heap usage (bytes)=2259156992        File Input Format Counters
                Bytes Read=4875        File Output Format Counters
                Bytes Written=0        DistCp Counters
                Bytes Copied=110223424482                Bytes Expected=110223424482                Files Copied=12
  1. 执行以下命令，查看迁移到文件存储HDFS版上的数据大小是否与原文件一致。
${HADOOP_HOME}/bin/hadoop fs -du-s dfs://f-xxxxx.cn-beijing.dfs.aliyuncs.com:10290/oss2dfs

${HADOOP_HOME}/bin/hadoop fs -du-s-h dfs://f-xxxxx.cn-beijing.dfs.aliyuncs.com:10290/oss2dfs

常见问题

  • 对于正在写入的文件，进行迁移时会遗漏掉最新写入的数据吗？

Hadoop兼容文件系统提供单写者多读者并发语义，针对同一个文件，同一时刻可以有一个写者写入和多个读者读出。以文件存储HDFS版到对象存储OSS的数据迁移为例，数据迁移任务打开文件存储HDFS版的文件F，根据当前系统状态决定文件F的长度L，将L字节迁移到对象存储OSS。如果在数据迁移过程中，有并发的写者写入，文件F的长度将超过L，但是数据迁移任务无法感知到最新写入的数据。因此，建议您在做数据迁移时，避免向迁移的文件中写入数据。

联系我们

了解更多关于文件存储HDFS版的产品信息，欢迎访问https://www.aliyun.com/product/alidfs

如果您对文件存储HDFS版有任何问题，欢迎钉钉扫描以下二维码加入文件存储HDFS版技术交流群。

文章标签：
对象存储
Java
容器
分布式计算
弹性计算
对象存储
文件存储
Apache
Hadoop
安全
存储
关键词：
文件存储对象存储
文件存储oss
hdfs对象存储
文件存储HDFS版oss
文件存储数据迁移
相关实践学习
借助OSS搭建在线教育视频课程分享网站
本教程介绍如何基于云服务器ECS和对象存储OSS，搭建一个在线教育视频课程分享网站。
alidfs
目录
相关文章
好学的小z
|
1月前
|
存储 文件存储 对象存储
块存储、文件存储和对象存储特点对比
块存储、文件存储和对象存储特点对比
好学的小z
127 2
小周sir
|
4月前
|
存储 文件存储 数据库
对象存储、块存储、文件存储他们都有什么不通的作用？
对象存储、块存储、文件存储他们都有什么不通的作用？
小周sir
126 2
Star时光
|
4月前
|
存储 API 文件存储
对象存储、块存储、文件存储他们都有什么不通的作用？
对象存储、块存储、文件存储他们都有什么不通的作用？
Star时光
73 0
算精通
|
4月前
|
存储 分布式计算 Kubernetes
PVC、Ceph、HDFS、CPFS、NFS和OSS
PVC、Ceph、HDFS、CPFS、NFS和OSS都是分布式存储系统,下面是它们的详细介绍: 1. PVC(Persistent Volume Claim):PVC是Kubernetes中的一个资源请求,用于声明在集群中存储持久化数据的需求。PVC可以被用于存储应用程序的数据,例如数据库、日志文件等。PVC由Kubernetes集群管理员创建,并在Kubernetes集群中进行分配。
算精通
114 0
算精通
|
4月前
|
存储 Prometheus Kubernetes
OSS、OSS-HDFS、PVC
OSS、OSS-HDFS和PVC都是与分布式存储相关的技术,下面是它们的详细介绍:
算精通
55 1
ybbf7fwncy2w2
|
7月前
|
存储 机器学习/深度学习 缓存
阿里云OSS-HDFS技术与能力解析
阿里云OSS-HDFS技术与能力解析
ybbf7fwncy2w2
484 0
陈爽（栾枝）
|
9月前
|
存储 分布式计算 Hadoop
手把手教你使用OSS-HDFS服务平替自建HDFS
本文主要介绍了OSS-HDFS服务以及使用OSS-HDFS服务平替自建HDFS。
陈爽（栾枝）
130286 20
架构师研究会
|
11月前
|
存储 固态存储 大数据
「存储架构」块存储、文件存储和对象存储(第1节)
「存储架构」块存储、文件存储和对象存储(第1节)
架构师研究会
155 0
陈爽（栾枝）
|
存储 SQL 弹性计算
手把手教你使用自建Hadoop访问全托管服务化HDFS（OSS-HDFS服务）
1. 服务介绍OSS-HDFS服务（JindoFS 服务）是一款云原生数据湖3.0存储产品，基于统一的元数据管理能力，在完全兼容 HDFS 文件系统接口的同时，提供充分的 POSIX 能力支持，能更好的满足大数据和 AI 领域丰富多样的数据湖计算场景。通过OSS-HDFS服务，无需对现有的 Hadoop/Spark 大数据分析应用做任何修改，通过简单的配置就可以像在原生HDFS中那样管理和访问数据
陈爽（栾枝）
857 1
手把手教你使用自建Hadoop访问全托管服务化HDFS（OSS-HDFS服务）
Siam
|
文件存储 对象存储 C++
对象存储vs文件存储
对于对象存储就没有这样的问题，所有文件（或者叫对象，其实是一回事）都放 “硬盘”根目录上，不需要各级文件夹，只有每个文件对应的key，当前硬盘满了，增加新硬盘之后，新的文件就直接放在新硬盘的根目录下不需创建各种文件夹。
Siam
255 0
云存储

技术博文

热门文章

最新文章

  • 1
    深入解读等保2.0
  • 2
    AIGC训练场景下的存储特征研究
  • 3
    【推荐几款实用的网盘资源搜索引擎】
  • 4
    详解开源数据库审计平台Yearning
  • 5
    软硬协同设计下的飞天盘古，是如何降低存储系统开销的？
  • 6
    盘点监控系统中的告警智能降噪方案
  • 7
    对Confluent一些解读
  • 8
    如何写出高性能的SQL Join: join实现和最佳实践
  • 9
    十二年磨一剑：三代架构演进，打造高性能、低成本的块存储!
  • 10
    【CDS技术揭秘系列 总篇】阿里云的云定义存储来了
  • 1
    Linux如何检查文件夹的大小？
    143
  • 2
    离散型工厂生产制造MES管理系统解决方案
    106
  • 3
    AIGC训练场景下的存储特征研究
    94109
  • 4
    AIGC训练场景下的存储特征研究
    600
  • 5
    十二年磨一剑：三代架构演进，打造高性能、低成本的块存储!
    104596
  • 6
    软硬协同设计下的飞天盘古，是如何降低存储系统开销的？
    137468
  • 7
    勒索病毒利如刀，上网备好技能包
    62110
  • 8
    阿里云、百度云及移动云对象存储横向性能对比测试
    1358
  • 9
    存储稳定性测试与数据一致性校验工具和系统
    915
  • 10
    万界星空科技QMS质量管理系统
    624

    • 相关产品

  • 对象存储
    文档详情 产品详情

    • 相关课程

    更多
  • 基于FC+NAS部署SD服务，并从OSS模型库下载模型文件
  • 阿里云文件存储 NAS 使用教程
  • 玩转对象存储OSS使用入门
  • Hadoop 分布式文件系统 HDFS
  • 分布式文件存储系统技术及实现

    • 相关电子书

    更多
  • OSS运维基础实战手册
  • 云存储之OSS实战进阶分享
  • OSS运维进阶实战手册

    • 相关实验场景

    更多
  • 为OSS Bucket配置BucketPolicy
  • 使用OSS助力游戏资源加速
  • OSS生命周期管理与访问行为分析
  • 利用HBR实现文件存储NAS备份
  • 利用HBR实现OSS文件备份
  • 使用日志服务SLS进行OSS可观测分析
    • 下一篇
    阿里云oss简介和使用流程