开发者社区> 问答> 正文

hadoop中Spark基于yarn的启动模式的方法和主要内容以及意义是什么?

hadoop中Spark基于yarn的启动模式的方法和主要内容以及意义是什么?

展开
收起
游客yzrzs5mf6j7yy 2021-12-05 23:29:24 252 0
1 条回答
写回答
取消 提交回答
  • 注意:使用客户端的话首先要配置spark-env.sh文件,添加hadoop配置文件路径,如(export HADOOP_CONF_DIR=$HADOOP_HOME/etc/hadoop)

    另外注意:虚拟机配置修改,需修改虚拟机内存在2g以上,处理器在2个以上,并且在Hadoop配置文件yarn-site.xml添加属性 关闭检查虚拟内存

    yarn.nodemanager.vmem-check-enabled false

    2021-12-05 23:42:48
    赞同 展开评论 打赏
问答排行榜
最热
最新

相关电子书

更多
《构建Hadoop生态批流一体的实时数仓》 立即下载
零基础实现hadoop 迁移 MaxCompute 之 数据 立即下载
CIO 指南:如何在SAP软件架构中使用Hadoop 立即下载

相关实验场景

更多