AI 助理
备案控制台
开发者社区 问答 正文

hadoop中数据输入小文件处理方法有哪些？

hadoop中数据输入小文件处理方法有哪些？

展开
收起
游客qzzytmszf3zhq 2021-12-08 21:55:52 378 分享 版权

版权声明：本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。

1 条回答
写回答
取消 提交回答
  • 游客yzrzs5mf6j7yy

    合并小文件：对小文件进行归档（Har）、自定义Inputformat将小文件存储成SequenceFile文件。

    采用ConbinFileInputFormat来作为输入，解决输入端大量小文件场景

    对于大量小文件Job，可以开启JVM重用

    2021-12-08 21:56:02
    赞同 展开评论
问答分类：
分布式计算 Hadoop
问答标签：
hadoop数据 hadoop小文件 hadoop方法 hadoop处理方法
问答地址：
开发者社区 > 大数据 > 问答
相关问答
阿里云E-MapReduceJindo DistCp是否支持将数据从Hadoop同步至aws的s3？
133
2
0
hadoop号线不适合这种小文件的存储，还是将数据提取存储到nosql数据库中比较好？
58
1
0
你好 用机器学习PAI的emr上的ds集群读hive可以读取我现有hadoop集群的hive数据吗？
87
1
0
各位老师，遇到过：trino 不支持查询 使用hadoop catalog 写到iceberg的数据
175
0
0
Hadoop和Spark在数据读取方面有什么不同？
493
1
0
Hadoop是对什么数据做批量处理的中间件？
1943
1
0
使用 hive 创建数据表，并使用 hadoop 文件系统中的数据加载到 hive 数据表中的第三步
746
1
0
Hadoop适合存储小文件吗，为什么？
2683
1
0
Hadoop 写数据的流程是怎样的？
805
1
0
Hadoop数据迁到MaxCompute的数据准备有什么？
1188
1
0