配置并启动YARN
前提:
修改配置文件
修改/opt/module/hadoop-2.7.2/etc/hadoop/yarn-env.sh
export JAVA_HOME=/usr/java/jdk1.8.0_121
修改前
修改后
修改/opt/module/hadoop-2.7.2/etc/hadoop/yarn-site.xml
注意:第二value值是
<!-- Reducer获取数据的方式 --> <property> <name>yarn.nodemanager.aux-services</name> <value>mapreduce_shuffle</value> </property> <!-- 指定YARN的ResourceManager的地址 --> <property> <name>yarn.resourcemanager.hostname</name> <value>iZm5ea99qngm2v98asii1aZ</value> </property>
修改/opt/module/hadoop-2.7.2/etc/hadoop/mapred-env.sh
修改JAVA_HOME和上面修改操作一致,不在重复
修改/opt/module/hadoop-2.7.2/etc/hadoop/mapred-site.xml(敲黑板)
1)将mapred-site.xml.template重新命名为mapred-site.xml
进入 /opt/module/hadoop-2.7.2/etc/hadoop
[root@iZm5ea99qngm2v98asii1aZ hadoop]# cd /opt/module/hadoop-2.7.2/etc/hadoop
对文件重命名
[root@iZm5ea99qngm2v98asii1aZ hadoop]# mv mapred-site.xml.template mapred-site.xml
2)修改配置文件mapred-site.xml
<!-- 指定MR运行在YARN上 --> <property> <name>mapreduce.framework.name</name> <value>yarn</value> </property>
修改后如图所示
启动集群
启动前必须保证NameNode和DataNode已经启动
返回到/opt/module/hadoop-2.7.2目录下
[root@iZm5ea99qngm2v98asii1aZ hadoop-2.7.2]# cd /opt/module/hadoop-2.7.2
启动ResourceManager
[root@iZm5ea99qngm2v98asii1aZ hadoop-2.7.2]# sbin/yarn-daemon.sh start resourcemanager
启动NodeManager
[root@iZm5ea99qngm2v98asii1aZ hadoop-2.7.2]# sbin/yarn-daemon.sh start nodemanager
开放8088端口
操作见最后常见问题
YARN的浏览器页面查看
http://你的IP:8088/cluster
配置历史服务器
修改/opt/module/hadoop-2.7.2/etc/hadoop/mapred-site.xml
<!-- 历史服务器端地址 --> <property> <name>mapreduce.jobhistory.address</name> <value>iZm5ea99qngm2v98asii1aZ:10020</value> </property> <!-- 历史服务器web端地址 --> <property> <name>mapreduce.jobhistory.webapp.address</name> <value>iZm5ea99qngm2v98asii1aZ:19888</value> </property>
启动历史服务器
注意: 在 /opt/module/hadoop-2.7.2 下
[root@iZm5ea99qngm2v98asii1aZ hadoop-2.7.2]# sbin/mr-jobhistory-daemon.sh start historyserver
开放19888端口
见下面常见问题
查看JobHistory
http://你的IP:19888/jobhistory
编写启动脚本
cd /opt/module/hadoop-2.7.2 sbin/hadoop-daemon.sh start namenode sbin/hadoop-daemon.sh start datanode sbin/yarn-daemon.sh start resourcemanager sbin/yarn-daemon.sh start nodemanager sbin/mr-jobhistory-daemon.sh start historyserver
常见问题
忘记ECS服务器密码
更多--》修改密码
开放端口(两处都要修改)
1 在阿里云界面修改安全组开放端口
2 在宝塔界面开放端口