开发者社区> 问答> 正文

hdfs存入大量小文件,会带来什么影响?

hdfs存入大量小文件,会带来什么影响?

展开
收起
芯在这 2021-12-10 23:15:24 690 0
1 条回答
写回答
取消 提交回答
  • 元数据层面:每个小文件都有一份元数据,其中包括文件路径,文件名,所有者,所属 组,权限,创建时间等,这些信息都保存在 Namenode 内存中。所以小文件过多,会占用 Namenode 服务器大量内存,影响 Namenode 性能和使用寿命;

    计算层面:默认情况下MR会对每个小文件启用一个Map任务计算,非常影响计算性能,同时也影响磁盘寻址时间。

    2021-12-10 23:16:00
    赞同 展开评论 打赏
问答排行榜
最热
最新

相关电子书

更多
海量数据分布式存储——Apache HDFS之最新进展 立即下载
HBase2.0重新定义小对象实时存取 立即下载
Hadoop存储与计算分离实践 立即下载