hadoop中的split和block的区别和联系是什么？
版权声明：本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。
1.split是MapReduce里的概念，是切片的概念，split是逻辑切片 ；而block是hdfs中切块的大小，block是物理切块；
2.split的大小在默认的情况下和HDFS的block切块大小一致，为了是MapReduce处理的时候减少由于split和block之间大小不一致，可能会完成多余的网络之间的传输。
3.一个split不会包含零点几或者几点几个Block，一定是包含大于等于1个整数个Block
4.一个split不会包含两个File的Block,不会跨越File边界
5.split和Block的关系是一对多的关系
6.maptasks的个数最终决定于splits的长度
评论
全部评论 (0)