ECS服务器搭建hadoop伪分布式(二)

本文涉及的产品
云服务器 ECS,每月免费额度200元 3个月
云服务器ECS,u1 2核4GB 1个月
简介: ECS服务器搭建hadoop伪分布式(二)

配置并启动YARN


前提:


22.png


修改配置文件


修改/opt/module/hadoop-2.7.2/etc/hadoop/yarn-env.sh


export JAVA_HOME=/usr/java/jdk1.8.0_121


修改前


23...png


修改后


25.png


修改/opt/module/hadoop-2.7.2/etc/hadoop/yarn-site.xml


注意:第二value值是


26.png


<!-- Reducer获取数据的方式 -->
<property>
    <name>yarn.nodemanager.aux-services</name>
    <value>mapreduce_shuffle</value>
</property>
<!-- 指定YARN的ResourceManager的地址 -->
<property>
<name>yarn.resourcemanager.hostname</name>
<value>iZm5ea99qngm2v98asii1aZ</value>
</property>


27.png


修改/opt/module/hadoop-2.7.2/etc/hadoop/mapred-env.sh


修改JAVA_HOME和上面修改操作一致,不在重复


28.png


修改/opt/module/hadoop-2.7.2/etc/hadoop/mapred-site.xml(敲黑板)

1)将mapred-site.xml.template重新命名为mapred-site.xml


进入 /opt/module/hadoop-2.7.2/etc/hadoop


[root@iZm5ea99qngm2v98asii1aZ hadoop]# cd /opt/module/hadoop-2.7.2/etc/hadoop


对文件重命名


[root@iZm5ea99qngm2v98asii1aZ hadoop]# mv mapred-site.xml.template mapred-site.xml


2)修改配置文件mapred-site.xml


<!-- 指定MR运行在YARN上 -->
<property>
    <name>mapreduce.framework.name</name>
    <value>yarn</value>
</property>


修改后如图所示


29.png


启动集群


启动前必须保证NameNode和DataNode已经启动


返回到/opt/module/hadoop-2.7.2目录下


[root@iZm5ea99qngm2v98asii1aZ hadoop-2.7.2]# cd /opt/module/hadoop-2.7.2


启动ResourceManager


[root@iZm5ea99qngm2v98asii1aZ hadoop-2.7.2]# sbin/yarn-daemon.sh start resourcemanager


启动NodeManager


[root@iZm5ea99qngm2v98asii1aZ hadoop-2.7.2]# sbin/yarn-daemon.sh start nodemanager


30.png


开放8088端口


操作见最后常见问题


YARN的浏览器页面查看


http://你的IP:8088/cluster


31.png


配置历史服务器


修改/opt/module/hadoop-2.7.2/etc/hadoop/mapred-site.xml


<!-- 历史服务器端地址 -->
<property>
<name>mapreduce.jobhistory.address</name>
<value>iZm5ea99qngm2v98asii1aZ:10020</value>
</property>
<!-- 历史服务器web端地址 -->
<property>
    <name>mapreduce.jobhistory.webapp.address</name>
    <value>iZm5ea99qngm2v98asii1aZ:19888</value>
</property>


32.png


启动历史服务器


注意: 在  /opt/module/hadoop-2.7.2   下


[root@iZm5ea99qngm2v98asii1aZ hadoop-2.7.2]# sbin/mr-jobhistory-daemon.sh start historyserver


33.png


开放19888端口


见下面常见问题


查看JobHistory


http://你的IP:19888/jobhistory


34.png


编写启动脚本


cd /opt/module/hadoop-2.7.2
sbin/hadoop-daemon.sh start namenode
sbin/hadoop-daemon.sh start datanode
sbin/yarn-daemon.sh start resourcemanager
sbin/yarn-daemon.sh start nodemanager
sbin/mr-jobhistory-daemon.sh start historyserver


常见问题


忘记ECS服务器密码


更多--》修改密码


35.png


开放端口(两处都要修改)


1 在阿里云界面修改安全组开放端口


36.png


2 在宝塔界面开放端口


37.png

相关实践学习
一小时快速掌握 SQL 语法
本实验带您学习SQL的基础语法,快速入门SQL。
7天玩转云服务器
云服务器ECS(Elastic Compute Service)是一种弹性可伸缩的计算服务,可降低 IT 成本,提升运维效率。本课程手把手带你了解ECS、掌握基本操作、动手实操快照管理、镜像管理等。了解产品详情:&nbsp;https://www.aliyun.com/product/ecs
目录
相关文章
|
6天前
|
弹性计算 Ubuntu Linux
幻兽帕鲁/Palworld服务器怎么搭建?2024年幻兽帕鲁/Palworld服务器搭建攻略大全
在帕鲁的世界,你可以选择与神奇的生物「帕鲁」一同享受悠闲的生活,为了实现自动化,将手工作业交给帕鲁就尤为重要。建造工厂,并安排帕鲁在其中工作吧。只要有足够的食物,帕鲁就可以不断地工作,直到它们生命的尽头。很多玩家想要搭建幻兽帕鲁服务器但是很多玩家不清楚幻兽帕鲁服务器怎么创建,现在就为大家带来幻兽帕鲁/Palworld服务器怎么搭建?2024年幻兽帕鲁/Palworld服务器搭建攻略大全。就让我们一起进入《幻兽帕鲁》的世界,与好友们组队,开启属于我们自己的冒险吧!在这个充满未知与挑战的游戏世界里,让我们一起创造更多美好的回忆!
|
4天前
|
SQL 弹性计算 分布式计算
实时计算 Flink版产品使用合集之如果产品是基于ak的,可以提交sql任务到ecs自建hadoop集群吗
实时计算Flink版作为一种强大的流处理和批处理统一的计算框架,广泛应用于各种需要实时数据处理和分析的场景。实时计算Flink版通常结合SQL接口、DataStream API、以及与上下游数据源和存储系统的丰富连接器,提供了一套全面的解决方案,以应对各种实时计算需求。其低延迟、高吞吐、容错性强的特点,使其成为众多企业和组织实时数据处理首选的技术平台。以下是实时计算Flink版的一些典型使用合集。
15 0
|
6天前
|
存储 分布式计算 Hadoop
【分布式计算框架】Hadoop伪分布式安装
【分布式计算框架】Hadoop伪分布式安装
9 2
|
6天前
|
分布式计算 资源调度 Hadoop
hadoop的伪分布式搭建-带网盘
hadoop的伪分布式搭建-带网盘
23 3
|
6天前
|
弹性计算 Ubuntu Linux
幻兽帕鲁Palworld服务器搭建教程,2024年阿里云部署帕鲁服务器保姆级方法
对于热爱《幻兽帕鲁》的玩家们来说,能够拥有属于自己的游戏服务器,无疑是提升了游戏的自由度和乐趣。那么,怎样才能部署幻兽帕鲁服务器呢?接下来,就让我们一起走进这个简单易懂、保姆级的教程吧!
123 0
|
6天前
|
弹性计算 固态存储 Linux
阿里云怎样搭建幻兽帕鲁联机服务器,幻兽帕鲁服务器搭建全流程分享
幻兽帕鲁作为近期大热的游戏,吸引了无数玩家的目光。很多小伙伴都希望能够搭建属于自己的服务器,与朋友们一起畅快游戏。那么,该如何快速搭建幻兽帕鲁服务器呢?下面就来为大家详细介绍一下。
85 0
|
6天前
|
弹性计算
2024年幻兽帕鲁/Palworld游戏专用服务器搭建步骤(阿里云一键搭建帕鲁服务器)
《幻兽帕鲁》这款游戏自推出以来,便以其独特的联机对战模式赢得了玩家们的广泛喜爱。然而,联机过程中常常遇到的服务器卡顿、延迟高等问题,让许多玩家倍感困扰。为了解决这个问题,阿里云为《幻兽帕鲁》的玩家们提供了一种便捷且高效的解决方案:通过阿里云一键搭建云服务器,轻松优化游戏体验。
|
6天前
|
弹性计算 安全 数据安全/隐私保护
幻兽帕鲁服务器怎么搭建:2024年阿里云帕鲁联机服务器搭建详细教程
想要搭建一个稳定、流畅的服务器,与全球的玩家们一同探索帕鲁世界吗?下面,就为大家带来一份详细的服务器搭建教程!
44 3
|
6天前
|
弹性计算 Linux 数据安全/隐私保护
最强32人幻兽帕鲁服务器搭建教程by阿里云服务器
最强32人幻兽帕鲁服务器搭建教程by阿里云服务器,幻兽帕鲁Palworld多人游戏专用服务器一键部署教程,阿里云推出新手0基础一键部署幻兽帕鲁服务器教程,傻瓜式一键部署,3分钟即可成功创建一台Palworld专属服务器,成本仅需26元,阿里云百科分享2024年新版基于阿里云搭建幻兽帕鲁服务器教程
最强32人幻兽帕鲁服务器搭建教程by阿里云服务器
|
6天前
|
弹性计算 Linux Windows
Palworld/幻兽帕鲁服务器怎么创建?Palworld/幻兽帕鲁服务器搭建图文步骤分享
《幻兽帕鲁》作为2024年的开年热门游戏,为玩家们带来了奇妙的游戏世界和丰富多样的游戏体验。在这个游戏中,与小伙伴们一同畅游并共同体验冒险与探险的乐趣,不仅能够增加游戏的社交互动和乐趣,还能够建立深厚的友谊。当然大家还可以搭建自己的服务器与好友进行游玩,不知道怎么搭建的小伙伴可以参考以下内容。以下内容就是幻兽帕鲁服务器怎么创?幻兽帕鲁服务器搭建图文步骤分享的详细资讯。