AI 助理
备案控制台
开发者社区 问答 正文

HDFS小文件解决方案CombineFileInputFormat是什么？

HDFS小文件解决方案CombineFileInputFormat是什么？

展开
收起
游客y244y7ln2rlpa 2021-12-05 15:46:45 434 分享 版权

版权声明：本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。

1 条回答
写回答
取消 提交回答
  • 游客ml767kj7wes6q

    HDFS小文件解决方案CombineFileInputFormat是一种新的InputFormat，用于将多个文件合并成一个单独的Split，另外，它会考虑数据的存储位置

    2021-12-05 15:48:06
    赞同 展开评论
问答标签：
文件存储HDFS版文件 文件存储HDFS版小文件 文件存储HDFS版解决方案 文件存储HDFS版文件解决方案
问答地址：
开发者社区 > 云计算 > 问答
相关问答
大佬们，flink sql写hdfs怎么控制小文件数量啊？配置了一堆参数，都没效果啊
140
1
0
为什么下载了Hadoop之后直接能够在Linux系统上运行hdfs文件呀？
1127
1
0
Linux文件系统中是怎么运行HDFS文件的呀？
894
1
0
HDFS存储的文件之间的映射关系是什么样子的呀？
777
1
0
HDFS当中文件是怎么存储的呀？
692
1
0
HDFS中登陆客户端要对文件进行操作时会先在哪里找文件的位置呀?
636
1
0
Java中HDFS为什么不能存小文件啊？
1661
1
0
flink任务取消产生的hdfs中间状态文件怎么解决呢？哪位大佬知道啊？任务取消计算结果落到hdfs
1238
1
0
我现在碰到了批处理读取数据不落盘，全读完才去sink，这个临时文件我要怎么去找，是在hdfs里面吗？
518
1
0
老哥们有没有遇到过这个问题，hdfs上文件明明存在，它报错说不存在，怎么办？
1274
1
0