AI 助理
备案控制台
开发者社区 问答 正文

sink进hdfs大量小文件的解决方法是什么？

sink进hdfs大量小文件的解决方法是什么？

展开
收起
芯在这 2021-12-10 23:17:40 376 分享 版权

版权声明：本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。

1 条回答
写回答
取消 提交回答
  • 真的很搞笑

    去掉round时间系列参数，并将rollSize和rollCount置0，表示不根据临时文件大小和event数量来滚动文件（滚动文件即指将HDFS上生成的以.tmp结尾的临时文件转换为实际存储文件）。当然，也可以调大rollSize参数（如调至100000000,表示100MB滚动文件，单位是bytes）。

    设置a1.sinks.k1.hdfs.minBlockReplicas=1，这样文件会因为所在块的复制而滚动文件。

    2021-12-10 23:18:00
    赞同 展开评论
问答标签：
文件存储HDFS版文件 文件存储HDFS版小文件 文件存储HDFS版解决方法 文件存储HDFS版sink 文件存储HDFS版小文件解决方法
问答地址：
开发者社区 > 云计算 > 问答
相关问答
大佬们，flink sql写hdfs怎么控制小文件数量啊？配置了一堆参数，都没效果啊
140
1
0
flink sink hdfs parquet 写3级目录，老是报错，加资源感觉不好使，为什么？
268
1
0
为什么下载了Hadoop之后直接能够在Linux系统上运行hdfs文件呀？
1126
1
0
Linux文件系统中是怎么运行HDFS文件的呀？
892
1
0
HDFS存储的文件之间的映射关系是什么样子的呀？
776
1
0
HDFS当中文件是怎么存储的呀？
691
1
0
HDFS中登陆客户端要对文件进行操作时会先在哪里找文件的位置呀?
636
1
0
Java中HDFS为什么不能存小文件啊？
1660
1
0
flink任务取消产生的hdfs中间状态文件怎么解决呢？哪位大佬知道啊？任务取消计算结果落到hdfs
1238
1
0
我现在碰到了批处理读取数据不落盘，全读完才去sink，这个临时文件我要怎么去找，是在hdfs里面吗？
515
1
0