yarn资源调度设置

简介:

下面配置的是两个队列defaultetl default队列分配20%的处理能力, etl队列分配80%的处理能力,用户dba只能向default队列提交作业,用户etl只能向etl队列提交作业,dba用户组只能向default队列提交任务:

yarn.scheduler.capacity.maximum-am-resource-percent=0.2 --AM可以占用资源队列的最大百分比

yarn.scheduler.capacity.maximum-applications=10000 --最多并行运行的作业数目

yarn.scheduler.capacity.node-locality-delay=40

yarn.scheduler.capacity.root.accessible-node-labels=*

yarn.scheduler.capacity.root.acl_administer_queue=root

yarn.scheduler.capacity.root.acl_submit_applications=*

yarn.scheduler.capacity.root.capacity=100

yarn.scheduler.capacity.root.etl.accessible-node-labels=*

yarn.scheduler.capacity.root.etl.acl_administer_queue=root

yarn.scheduler.capacity.root.etl.capacity=80--能力分配

yarn.scheduler.capacity.root.etl.maximum-capacity=80--最大能力

yarn.scheduler.capacity.root.etl.minimum-user-limit-percent=100

yarn.scheduler.capacity.root.etl.ordering-policy=fifo

yarn.scheduler.capacity.root.etl.state=RUNNING

yarn.scheduler.capacity.root.etl.user-limit-factor=1

yarn.scheduler.capacity.root.dba.acl_administer_queue=root

yarn.scheduler.capacity.root.dba.capacity=20--能力分配

yarn.scheduler.capacity.root.dba.maximum-capacity=20--最大能力

yarn.scheduler.capacity.root.dba.minimum-user-limit-percent=100

yarn.scheduler.capacity.root.dba.ordering-policy=fifo

yarn.scheduler.capacity.root.dba.state=RUNNING--状态

yarn.scheduler.capacity.root.dba.user-limit-factor=1

yarn.scheduler.capacity.root.queues=default,etl--定义队列

yarn.scheduler.capacity.queue-mappings=u:etl:etl,u:dba:default,g:dba:default--用户、用户组队列映射

yarn.scheduler.capacity.queue-mappings-override.enable=true

--启用映射重写功能










本文转自 yntmdr 51CTO博客,原文链接:http://blog.51cto.com/yntmdr/1827993,如需转载请自行联系原作者
目录
相关文章
|
6月前
|
资源调度 分布式计算 Java
Yarn资源调度器
Yarn资源调度器
42 0
|
4月前
|
SQL 资源调度 分布式计算
Yarn【多队列实例、任务优先级设置】
Yarn【多队列实例、任务优先级设置】
|
6月前
|
SQL 资源调度 分布式计算
聊聊 yarn 的三种资源调度器和公平调度器的最佳配置实践
聊聊 yarn 的三种资源调度器和公平调度器的最佳配置实践
|
12月前
|
存储 分布式计算 资源调度
Yarn的基本概念与资源调度
Hadoop是Apache的一个开源分布式计算平台,以分布式文件系统HDFS,和MapReduce为核心的Hadoop为用户提供了系统底层细节透明的分布式基础架构。HDFS的高容错性、高伸缩性等优点形成分布式系统;MapReduce分布式编程模型让我们开发并行应用程序。
|
资源调度 分布式计算 监控
工作常用之Yarn详解【五】资源调度与隔离
在YARN中,资源管理由ResourceManager和NodeManager共同完成,其中,ResourceManager中的调度器负责资源的分配,而NodeManager则负责资源的供给和隔离。
557 0
工作常用之Yarn详解【五】资源调度与隔离
|
存储 资源调度 程序员
Flink on Yarn三部曲之二:部署和设置
本文是《Flink on Yarn三部曲》系列的第二篇,前面已经为部署做好了准备,现在可以一起来部署和启动Yarn环境了
212 0
Flink on Yarn三部曲之二:部署和设置
|
资源调度 分布式计算 Java
MapReduce作业在YARN的内存分配设置
MapReduce作业在YARN的内存分配设置
313 0
MapReduce作业在YARN的内存分配设置
|
存储 资源调度 程序员
Flink on Yarn三部曲之二:部署和设置
本文是《Flink on Yarn三部曲》系列的第二篇,前面已经为部署做好了准备,现在可以一起来部署和启动Yarn环境了
219 0
Flink on Yarn三部曲之二:部署和设置
|
资源调度 分布式计算 Hadoop
CDP中Yarn资源调度与管理
您可以通过调度分配资源、通过配置 cgroup 限制 CPU 使用、使用分区将集群划分为子集群以及在 Docker 容器上启动应用程序来管理集群上运行的应用程序的资源。
763 0
|
资源调度 大数据 容器
史上最快! 10小时大数据入门实战(四)-分布式资源调度YARN
1 YARN 产生背景 2 YARN 架构 3 YARN 执行流程 1.
1346 0

相关实验场景

更多