开发者社区 问答 正文

hdfs文件块为什么不能远少于64MB(或128MB或256MB)

hdfs文件块为什么不能远少于64MB(或128MB或256MB)

展开
收起
不语奈何 2020-01-09 19:29:12 697 分享 版权
1 条回答
写回答
取消 提交回答
  • 精于基础,广于工具,熟于业务。

    1)减少硬盘寻道时间(disk seek time)

    HDFS设计前提是支持大容量的流式数据操作,所以即使是一般的数据读写操作,涉及到的数据量都是比较大的。假如数据块设置过少,那需要读取的数据块就比较多,由于数据块在硬盘上非连续存储,普通硬盘因为需要移动磁头,所以随机寻址较慢,读越多的数据块就增大了总的硬盘寻道时间。当硬盘寻道时间比io时间还要长的多时,那么硬盘寻道时间就成了系统的一个瓶颈。合适的块大小有助于减少硬盘寻道时间,提高系统吞吐量。

    2)减少Namenode内存消耗

    对于HDFS,他只有一个Namenode节点,他的内存相对于Datanode来说,是极其有限的。然而,namenode需要在其内存FSImage文件中中记录在Datanode中的数据块信息,假如数据块大小设置过少,而需要维护的数据块信息就会过多,那Namenode的内存可能就会伤不起了

    2020-01-09 19:29:34
    赞同 展开评论
问答地址: