FilelnputFormat 切片机制和配置参数| 学习笔记

简介: 快速学习 FilelnputFormat 切片机制和配置参数

开发者学堂课程【Hadoop 分布式计算框架 MapReduceFilelnputFormat 切片机制和配置参数】学习笔记,与课程紧密联系,让用户快速学习知识。

课程地址:https://developer.aliyun.com/learning/course/94/detail/1500


FilelnputFormat切片机制和配置参数

 

内容简介:

一、切片机制

二、案例分析

 

1、切片机制

(1)简单地按照文件的内容长度进行切片

(2)切片大小,默认等于 Block 大小

(3)切片时不考虑数据集整体,而是逐个针对每一个文件单独切片

 

2、案例分析

(1)输入数据有两个文件:

filel.txt  file2.txt

320M    10M

(2) 经过 FilelnputFormat 的切片机制运算后,形成的切片信息如下:

 filel.txt.splitl-- 0~128

filel.txt.split2-- 128~256

filel.txt.split3--256~320

file2.txt.splitl--0~10M

FilelnputFormat切片大小的参数配置

(1)源码中计算切片大小的公式Math.max(minSize.Math.min(maxSize.blockSize)):mapreduce.input.fileinputfonmat.split.minsize=1 默认 值为1

mapreduce.input.fileinputformat.split.maxsize=Long.MAXValue 默认值Long.MAXValue

因此,默认情况下,切片大小=blocksize。

(2)切片大小设置

maxsize (切片最大值):参数如果调得比 blockSize 小,则会让切片变小,而且就等于配置的这个参数的值。

minsize (切片最小值):参数调的比 blockSize 大,则可以让切片变得比 blockSize还大。

(3)获取切片信息 API// 获取切片的文件名称

String name = inputSplit.getPath().getName();

//根据文件类型获取切片信息

FileSplit inputSplit =(FileSplit)context.getInputSplit();

相关文章
|
4月前
|
监控 开发者
确保动态导入模块按正确顺序加载
【10月更文挑战第12天】 在复杂应用开发中,确保动态导入模块按正确顺序加载至关重要,直接影响应用性能、功能和稳定性。本文深入探讨了动态模块加载顺序的影响因素、解决方案及实践案例,提供了详细的策略和方法,帮助开发者有效管理模块加载顺序,提升应用质量。
|
4月前
|
Python
字典是怎么创建的,支持的操作又是如何实现的?
字典是怎么创建的,支持的操作又是如何实现的?
89 8
|
数据可视化
Echarts高级进阶教程(3):appendData大数据量分片加载数据增量渲染和常规思路异步加载数据的对比,对折线图是无效的
Echarts高级进阶教程(3):appendData大数据量分片加载数据增量渲染和常规思路异步加载数据的对比,对折线图是无效的
541 0
|
监控 Java 调度
设置动态线程池参数原理与实践
设置动态线程池参数原理与实践
219 0
设置动态线程池参数原理与实践
|
敏捷开发 前端开发 Ruby
RailsAdmin如何实现自定义操作
RailsAdmin如何实现自定义操作
110 0
|
分布式计算 Java
Mapreduce执行机制之提交任务和切片原理
Mapreduce执行机制之提交任务和切片原理
114 0
|
SQL 数据采集 分布式计算
数据预处理-数据解析-读取规则及加载到广播变量|学习笔记
快速学习数据预处理-数据解析-读取规则及加载到广播变量
267 0
数据预处理-数据解析-读取规则及加载到广播变量|学习笔记
|
程序员 Go 开发者
使用切片的三种方式|学习笔记
快速学习使用切片的三种方式。
207 0
使用切片的三种方式|学习笔记
|
SQL 缓存 关系型数据库
扩展字典的数据更新策略
扩展字典的数据更新策略
166 0
|
并行计算
CUDA stream默认流与非默认流
CUDA stream默认流与非默认流
412 0
CUDA stream默认流与非默认流

热门文章

最新文章

相关实验场景

更多