FilelnputFormat 切片机制和配置参数| 学习笔记

简介: 快速学习 FilelnputFormat 切片机制和配置参数

开发者学堂课程【Hadoop 分布式计算框架 MapReduceFilelnputFormat 切片机制和配置参数】学习笔记,与课程紧密联系,让用户快速学习知识。

课程地址:https://developer.aliyun.com/learning/course/94/detail/1500


FilelnputFormat切片机制和配置参数

 

内容简介:

一、切片机制

二、案例分析

 

1、切片机制

(1)简单地按照文件的内容长度进行切片

(2)切片大小,默认等于 Block 大小

(3)切片时不考虑数据集整体,而是逐个针对每一个文件单独切片

 

2、案例分析

(1)输入数据有两个文件:

filel.txt  file2.txt

320M    10M

(2) 经过 FilelnputFormat 的切片机制运算后,形成的切片信息如下:

 filel.txt.splitl-- 0~128

filel.txt.split2-- 128~256

filel.txt.split3--256~320

file2.txt.splitl--0~10M

FilelnputFormat切片大小的参数配置

(1)源码中计算切片大小的公式Math.max(minSize.Math.min(maxSize.blockSize)):mapreduce.input.fileinputfonmat.split.minsize=1 默认 值为1

mapreduce.input.fileinputformat.split.maxsize=Long.MAXValue 默认值Long.MAXValue

因此,默认情况下,切片大小=blocksize。

(2)切片大小设置

maxsize (切片最大值):参数如果调得比 blockSize 小,则会让切片变小,而且就等于配置的这个参数的值。

minsize (切片最小值):参数调的比 blockSize 大,则可以让切片变得比 blockSize还大。

(3)获取切片信息 API// 获取切片的文件名称

String name = inputSplit.getPath().getName();

//根据文件类型获取切片信息

FileSplit inputSplit =(FileSplit)context.getInputSplit();

相关文章
|
存储 编译器 C语言
58 C++ - 模板机制剖析
58 C++ - 模板机制剖析
46 0
|
9月前
|
Java
动态移除异步
动态移除异步
48 2
|
4月前
|
监控 开发者
确保动态导入模块按正确顺序加载
【10月更文挑战第12天】 在复杂应用开发中,确保动态导入模块按正确顺序加载至关重要,直接影响应用性能、功能和稳定性。本文深入探讨了动态模块加载顺序的影响因素、解决方案及实践案例,提供了详细的策略和方法,帮助开发者有效管理模块加载顺序,提升应用质量。
|
9月前
|
消息中间件 存储 缓存
Kafka【基础知识 02】集群+副本机制+数据请求+物理存储+数据存储设计(图片来源于网络)
【2月更文挑战第20天】Kafka【基础知识 02】集群+副本机制+数据请求+物理存储+数据存储设计(图片来源于网络)
171 1
|
监控 Java 调度
设置动态线程池参数原理与实践
设置动态线程池参数原理与实践
218 0
设置动态线程池参数原理与实践
|
分布式计算 Java
Mapreduce执行机制之提交任务和切片原理
Mapreduce执行机制之提交任务和切片原理
114 0
|
程序员 Go 开发者
使用切片的三种方式|学习笔记
快速学习使用切片的三种方式。
206 0
使用切片的三种方式|学习笔记
|
Go 开发者
切片注意事项和细节(1) | 学习笔记
简介:快速学习切片注意事项和细节(1)
149 0
切片注意事项和细节(1) | 学习笔记
|
Go vr&ar 开发者
切片注意事项和细节(3) | 学习笔记
简介:快速学习切片注意事项和细节(3)
109 0
切片注意事项和细节(3) | 学习笔记
|
存储 程序员 Go
切片注意事项和细节(2) | 学习笔记
简介:快速学习切片注意事项和细节(2)
170 0
切片注意事项和细节(2) | 学习笔记