开发者社区> 问答> 正文

E-MapReduce集群如何设置task节点中的nodemanger不参与集群中任务的计算只...

已解决

E-MapReduce集群如何设置task节点中的nodemanger不参与集群中任务的计算只做spark任务的提交作业计算由core节点参与进行

展开
收起
提个问题 2024-06-14 11:06:21 6 0
1 条回答
写回答
取消 提交回答
  • 开发者社区问答官方账号
    官方回答
    采纳回答
    1、nodemanager节点本身就会作为集群资源,参与任务计算。您可以在该节点上提交spark任务,但是无法指定单节点只做为spark的节点来使用。
    2、在task节点中将nodemanger组件下线,依然可以在task节点提交spark作业到yarn上,参考官方文档中关于YARN NodeManager Decommission这个章节。
    3、如上设置后,此时的E-MapReduce集群中的task节点就可以当作提交作业的机器作为客户端,不参与计算。其中driver启动在方式是与作业提交模式有关的,参考如下两种Yarn提交作业的方式。
    Yarn-Client方式提交作业流程图
    Yarn-Cluster方式提交作业流程图
    2024-06-14 11:06:22
    赞同 展开评论 打赏
问答排行榜
最热
最新

相关电子书

更多
低代码开发师(初级)实战教程 立即下载
冬季实战营第三期:MySQL数据库进阶实战 立即下载
阿里巴巴DevOps 最佳实践手册 立即下载