开发者社区 问答 正文

HDFS 为什么不适合存储小文件?

HDFS 为什么不适合存储小文件?

展开
收起
游客fbdr25iajcjto 2021-12-04 17:35:14 808 分享 版权
1 条回答
写回答
取消 提交回答
  • 元信息存储在 NameNode 内存中:一个节点的内存是有限的 存取大量小文件消耗大量的寻道时间:类比拷贝大量小文件与拷贝同等大小的一个大文件 NameNode 存储 block 数目是有限的:一个 block 元信息消耗大约 150 byte 内存,存储 1 亿个 block,大约需要 20GB 内存,如果一个文件大小为 10K,则 1 亿个文件大小仅为 1TB(但要消耗掉 NameNode 20GB内存)。

    2021-12-04 17:35:54
    赞同 展开评论