开发者社区 问答 正文

DistCp和Jindo DistCp分别是什么意思?

DistCp和Jindo DistCp分别是什么意思?

展开
收起
游客fbdr25iajcjto 2021-12-09 19:43:21 615 分享 版权
1 条回答
写回答
取消 提交回答
  • DistCp(分布式拷贝)是用于大规模集群内部和集群之间拷贝数据的工具。使用Map/Reduce实现文件分发,错误处理和恢复,以及报告生成。

    Jindo DistCp,则是基于 JindoFS SDK 的阿里云数据迁移工具。Jindo DistCp 由阿里云 E-MapReduce 团队开发,目前支持 HDFS/OSS/S3 之间的数据拷贝场景,提供多种个性化拷贝参数和多种拷贝策略。重点优化 HDFS 到 OSS 的数据拷贝,通过定制化 CopyCommitter,实现 No-Rename 拷贝,并保证数据拷贝落地的完整性、一致性。

    2021-12-09 20:00:48
    赞同 展开评论
问答地址: