AI 助理
备案控制台
开发者社区 问答 正文

Hadoop中在DISTCP中，UniformSizeInputFormat可以做到什么？

Hadoop中在DISTCP中，UniformSizeInputFormat可以做到什么？

展开
收起
游客yzrzs5mf6j7yy 2021-12-06 06:30:51 351 分享 版权

版权声明：本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。

1 条回答
写回答
取消 提交回答
  • 游客qzzytmszf3zhq

    在DISTCP中，UniformSizeInputFormat继承了InputFormat并实现了数据读入格式，它会读取metafolder中fileList.seq序列化文件的内容，并根据用户设定的map数和拷贝总数据量进行分片，计算出分多少片，最终提供“K-V”对供Mapper使用。这个类的源码实现并不复杂，加上注释一共也才100多行，很容易就能读懂。

    2021-12-06 06:31:05
    赞同 展开评论
问答分类：
分布式计算 Hadoop
问答标签：
hadoop distcp
问答地址：
开发者社区 > 大数据 > 问答
相关问答
阿里云E-MapReduceJindo DistCp是否支持将数据从Hadoop同步至aws的s3？
134
2
0
Hadoop DistCp ，S3 DistCp和 Jindo DistCp相比有什么不同？
724
1
0
Hadoop中DistCp类的源代码和过程分析以及实现了什么功能和作用分别是什么？
464
1
0
Hadoop跨集群数据拷贝工具DISTCP内部源码-f <urilist_u的主要备注和内容是什么？
477
1
0
Hadoop跨集群数据拷贝工具DISTCP内部源码-update的主要备注和内容是什么？
446
1
0
Hadoop跨集群数据拷贝工具DISTCP内部源码-overwrite的主要备注和内容是什么？
472
1
0
Hadoop跨集群数据拷贝工具DISTCP内部源码-m <num_maps>的主要备注和内容是什么？
466
1
0
Hadoop跨集群数据拷贝工具DISTCP内部源码-log <logdir的主要备注和内容是什么？
433
1
0
Hadoop跨集群数据拷贝工具DISTCP内部源码-i的主要备注和内容是什么？
456
1
0
Hadoop跨集群数据拷贝工具DISTCP内部源码-p[rbugp]的主要备注和内容是什么？
434
1
0