oozie 提交作业时因请求资源不足而suspend的解决方法

简介:

1,环境情况

安装的CDH5.4,使用CM来管理各个组件(Yarn、Spark、HDFS、Hive、Oozie……)。

2,在shell命令下提交Oozie作业

①sudo –u hdfs hadoop fs –mkdir /user/cdhfive      创建一个专门的用户目录,这里为cdhfive

②sudo –u hdfs hadoop –chown –R cdhfive /user/cdhfive      权限更改

③hadoop fs –put examples /user/cdhfive/     把示例文件上传到HDFS上的cdhfive用户目录下

④oozie job -oozie http://localhost:11000/oozie -config examples/apps/map-reduce/job.properties –run    提交作业给oozie

⑤oozie job --oozie http://localhost:11000/oozie -info 0000001-151009154615306-oozie-oozi-W     查询提交的作业

 

3,碰到的问题

①提交过程中出现HadoopAccessorException异常

这个有很多原因,其中之一就是:在 oozie examples 中使用的jobTracker端口是8021(job.properties 文件),这是MR1.0的配置端口。若集群配置的是使用Yarn,则需要把端口改成8032

 

②在oozie的web界面上,查询作业状态时出现:

ACTION[0000001-151009154615306-oozie-oozi-W@mr-node] Error starting action [mr-node]. ErrorType [TRANSIENT], ErrorCode [JA009], Message [JA009: org.apache.hadoop.yarn.exceptions.InvalidResourceRequestException: Invalid resource request, requested memory < 0, or requested memory > max configured, requestedMemory=1536, maxMemory=1225

at org.apache.hadoop.yarn.server.resourcemanager.scheduler.SchedulerUtils.validateResourceRequest(SchedulerUtils.java:203)

         at org.apache.hadoop.yarn.server.resourcemanager.RMAppManager.validateAndCreateResourceRequest(RMAppManager.java:377)

         at org.apache.hadoop.yarn.server.resourcemanager.RMAppManager.createAndPopulateNewRMApp(RMAppManager.java:320)

         at org.apache.hadoop.yarn.server.resourcemanager.RMAppManager.submitApplication(RMAppManager.java:273)

         at org.apache.hadoop.yarn.server.resourcemanager.ClientRMService.submitApplication(ClientRMService.java:574)

         at org.apache.hadoop.yarn.api.impl.pb.service.ApplicationClientProtocolPBServiceImpl.submitApplication(ApplicationClientProtocolPBServiceImpl.java:213)

 

原因是yarn-site.xml中的两处配置值太小了,不满足作业的申请条件

把yarn-site.xml中的两处配置加大一点:

容器内存 yarn.nodemanager.resource.memory-mb

最大容器内存 yarn.scheduler.maximum-allocation-mb

本文转自hapjin博客园博客,原文链接:http://www.cnblogs.com/hapjin/,如需转载请自行联系原作者

相关文章
|
存储 Java 数据库连接
activiti工作流数据库表介绍
activiti工作流数据库表介绍
1128 0
|
人工智能 并行计算 PyTorch
【PyTorch&TensorBoard实战】GPU与CPU的计算速度对比(附代码)
【PyTorch&TensorBoard实战】GPU与CPU的计算速度对比(附代码)
1594 0
|
消息中间件 容器
【MQ系列】查看RabbitMQ的版本号
如果上述报错,则试试下面的方法。
2227 0
【MQ系列】查看RabbitMQ的版本号
|
JavaScript 前端开发 UED
实现JavaScript中的事件监听功能
实现JavaScript中的事件监听功能
|
存储 算法 网络协议
计算机网络-网络互联
计算机网络-网络互联
649 0
|
8月前
|
存储 监控 安全
Java ZGC:亚毫秒级停顿的低延迟GC 革命性底层设计
ZGC是Java里程碑式低延迟GC:通过有色指针与读屏障,实现亚毫秒级STW停顿(&lt;1ms),且停顿时间不随堆大小(8MB–16TB)或存活对象增长。JDK21起为默认GC,兼顾高吞吐(损耗≤15%),彻底解决传统GC停顿劣化难题。
937 6
|
10月前
|
存储 数据库连接 C#
C# 配置文件读取:App.config 用法
App.config用于存储程序配置(如数据库连接、接口地址),避免硬编码,提升可维护性。通过ConfigurationManager读取配置,支持字符串、整型、布尔值及连接字符串的获取,需引用System.Configuration程序集。
|
12月前
|
Windows
回收站里被永久删除的文件还可以恢复吗?如何恢复回收站已经删除的文件?固态硬盘里的文件删除后,如何恢复?
删除文件后,若未被新数据覆盖,仍可恢复。TRIM功能会彻底清除数据,降低恢复概率。本文介绍两款免费软件,演示如何恢复电脑、U盘或手机中误删或格式化的文件,并提供操作步骤与下载链接。
1441 2
|
12月前
|
JSON 前端开发 API
技术解析:58同城房产数据平台 - 根据项目ID获取详情数据的API接口实践
本文探讨如何通过项目ID调用58同城房产API获取详情数据,涵盖接口原理、请求分析、参数结构、Python调用示例及反爬机制,强调合规性与技术风险,为房产数据开发提供参考。(239字)
|
数据采集 机器学习/深度学习 人工智能
【开源项目推荐】Great Expectations—开源的数据质量工具
【开源项目推荐】Great Expectations—开源的数据质量工具
1567 57