Hadoop MapReduce概念学习系列之map并发任务数和reduce并发任务数的原理和代码实现(十八)

简介:

    首先,来说的是,reduce并发任务数,默认是1。

即,在jps后,出现一个yarnchild。之后又消失。

 

    

 

 

   这里,我控制reduce并发任务数6。

 

 

  有多少个reduce的并发任务数可以在程序里控制,但有多少个map的并发任务数还没。

  其实啊,多少个map的并发任务数还没(是在分片中控制的)。

 

 

 

 

 

 

 1、现在,我们控制为map的并发任务数为4。(即是在分片中控制)

 

 

 

 

   2、 jps ->   生成个Runjar  -> 

 

 

 

 

 

     3、jps -> 生成个Runjar  ->  生成个MRAppMaster(运行map任务)

soga

 

 

 

 

 4、 jps  ->  生成个Runjar  ->  生成个MRAppMaster(运行map任务) -> 查看map并发任务数 ->

 

 

  5、 jps  -> 生成个Runjar  ->  生成个MRAppMaster(运行map任务) -> 查看map并发任务数 ->  Map的Task进程被回收  ->查看reduce并发任务数 -> Reduce的Task进程被回收 –> jps

 

        以上是单独控制了Mapreduce的map并发任务数和reduce并发任务数。

 

 

 

 

总结

  前者Mapreduce的map并发任务数默认是1,控制reduce并发任务数为6。

  后者控制map并发任务数为4,Mapreduce的reduce并发任务数默认是1。

  综合即控制map,又控制reduce,不再赘述。

 

 


本文转自大数据躺过的坑博客园博客,原文链接:http://www.cnblogs.com/zlslch/p/5713652.html,如需转载请自行联系原作者

相关文章
|
3月前
|
Go
Go 语言为什么不支持并发读写 map?
Go 语言为什么不支持并发读写 map?
|
10天前
|
存储 安全 Java
Map的并发处理,助你提升编程效率,代码更优雅高效。
【10月更文挑战第19天】Map使用技巧大公开:从选择合适的Map实现(如HashMap、TreeMap、LinkedHashMap)到利用Map的初始化、使用Map.Entry遍历、运用computeIfAbsent和computeIfPresent方法,再到Map的并发处理,助你提升编程效率,代码更优雅高效。
19 2
|
25天前
|
存储 缓存 Java
【用Java学习数据结构系列】HashMap与TreeMap的区别,以及Map与Set的关系
【用Java学习数据结构系列】HashMap与TreeMap的区别,以及Map与Set的关系
31 1
|
26天前
|
分布式计算 负载均衡 算法
Hadoop-31 ZooKeeper 内部原理 简述Leader选举 ZAB协议 一致性
Hadoop-31 ZooKeeper 内部原理 简述Leader选举 ZAB协议 一致性
25 1
|
26天前
|
分布式计算 监控 Hadoop
Hadoop-29 ZooKeeper集群 Watcher机制 工作原理 与 ZK基本命令 测试集群效果 3台公网云服务器
Hadoop-29 ZooKeeper集群 Watcher机制 工作原理 与 ZK基本命令 测试集群效果 3台公网云服务器
35 1
|
27天前
|
分布式计算 Hadoop 网络安全
Hadoop-08-HDFS集群 基础知识 命令行上机实操 hadoop fs 分布式文件系统 读写原理 读流程与写流程 基本语法上传下载拷贝移动文件
Hadoop-08-HDFS集群 基础知识 命令行上机实操 hadoop fs 分布式文件系统 读写原理 读流程与写流程 基本语法上传下载拷贝移动文件
27 1
|
27天前
|
存储 机器学习/深度学习 缓存
Hadoop-07-HDFS集群 基础知识 分布式文件系统 读写原理 读流程与写流程 基本语法上传下载拷贝移动文件
Hadoop-07-HDFS集群 基础知识 分布式文件系统 读写原理 读流程与写流程 基本语法上传下载拷贝移动文件
37 1
|
27天前
|
分布式计算 资源调度 数据可视化
Hadoop-06-Hadoop集群 历史服务器配置 超详细 执行任务记录 JobHistoryServer MapReduce执行记录 日志聚合结果可视化查看
Hadoop-06-Hadoop集群 历史服务器配置 超详细 执行任务记录 JobHistoryServer MapReduce执行记录 日志聚合结果可视化查看
29 1
|
27天前
|
分布式计算 资源调度 Hadoop
Hadoop-05-Hadoop集群 集群WordCount 超详细 真正的分布式计算 上传HDFS MapReduce计算 YRAN查看任务 上传计算下载查看
Hadoop-05-Hadoop集群 集群WordCount 超详细 真正的分布式计算 上传HDFS MapReduce计算 YRAN查看任务 上传计算下载查看
41 1
|
6月前
|
分布式计算 Hadoop 调度
Hadoop节点的任务重试机制
【5月更文挑战第15天】
62 4

相关实验场景

更多