【大数据学习篇2】Hadoop集群安装(三)

本文涉及的产品
云原生大数据计算服务MaxCompute,500CU*H 100GB 3个月
云原生大数据计算服务 MaxCompute,5000CU*H 100GB 3个月
简介: 【大数据学习篇2】Hadoop集群安装

7.3 改目录名称

hd@master apps]$ mv hadoop-3.0.0 hadoop

[hd@master apps]$ ll

total 324644

drwxr-xr-x. 12 hd hd       192 Jul 11 00:09 hadoop

7.4 修改hadoop配置文件

7.4.1 修改hadoop-env.sh

[hd@master ~]$ cd /home/hd/apps/hadoop/etc/hadoop/

[hd@master hadoop]$ pwd

/home/hd/apps/hadoop/etc/hadoop

[hd@master hadoop]$ vi hadoop-env.sh

#在文件的尾部(按“G”可以跳到文档的尾部),增加

export JAVA_HOME=/home/hd/apps/java

7.4.2 修改core-site.xml

<configuration>

   <!-- 指定HADOOP所使用的文件系统schema(URI),HDFS的老大(NameNode)的地址 -->

   <property>

       <name>fs.defaultFS</name>

       <value>hdfs://master:9000</value>

   </property>

   <!-- 指定hadoop运行时产生文件的存储目录 -->

   <property>

       <name>hadoop.tmp.dir</name>

       <value>/home/hd/apps/hadoop/tmpdata</value>

   </property>

</configuration>

7.4.3 修改hdfs-site.xml

<configuration>

   <!-- 指定HDFS副本的数量 -->

   <property>

       <name>dfs.replication</name>

       <value>2</value>

   </property>

   <!-- 设置namenode的http通讯地址 -->

   <property>

       <name>dfs.namenode.http-address</name>

       <value>master:50070</value>

   </property>

   <!-- 设置secondarynamenode的http通讯地址 -->

   <property>

       <name>dfs.namenode.secondary.http-address</name>

       <value>master:50090</value>

   </property>

   <!-- 设置namenode存放的路径 -->

   <property>

       <name>dfs.namenode.name.dir</name>

       <value>/home/hd/apps/hadoop/namenode</value>

   </property>

   <!-- 设置datanode存放的路径 -->

   <property>

       <name>dfs.datanode.data.dir</name>

       <value>/home/hd/apps/hadoop/datanode</value>

   </property>

</configuration>

7.4.4 修改mapred-site.xml

<configuration>

   <!-- 指定mr运行在yarn上 -->

   <property>

       <name>mapreduce.framework.name</name>

       <value>yarn</value>

   </property>

   <property>

       <name>yarn.app.mapreduce.am.env</name>

       <value>HADOOP_MAPRED_HOME=/home/hd/apps/hadoop</value>

   </property>

   <property>

         <name>mapreduce.map.env</name>

         <value>HADOOP_MAPRED_HOME=/home/hd/apps/hadoop</value>

   </property>

   <property>

         <name>mapreduce.reduce.env</name>

         <value>HADOOP_MAPRED_HOME=/home/hd/apps/hadoop</value>

   </property>

</configuration>

7.4.5 修改yarn-site.xml

<configuration>

   <!-- 指定YARN的老大(ResourceManager)的地址 -->

   <property>

       <name>yarn.resourcemanager.hostname</name>

       <value>master</value>

   </property>

   <!-- reducer获取数据的方式 -->

   <property>

       <name>yarn.nodemanager.aux-services</name>

       <value>mapreduce_shuffle</value>

   </property>

</configuration>

7.4.6 修改workers

[hd@master hadoop]$ vi workers

slave01

slave02

7.4.7 修改环境变量

[hd@master hadoop]$ su root

Password:

[root@master hadoop]# vi /etc/profile

#增加

export HADOOP_HOME=/home/hd/apps/hadoop

#增加

export PATH=$PATH:$JAVA_HOME/bin:$HADOOP_HOME/bin:$HADOOP_HOME/sbin

7.5 拷贝到第二,三台机

[root@master hadoop]# su hd

[hd@master hadoop]$ scp  -r /home/hd/apps/hadoop hd@slave01:/home/hd/apps/

[hd@master hadoop]$ scp  -r /home/hd/apps/hadoop hd@slave02:/home/hd/apps/

[hd@master hadoop]$ su root

Password:

[root@master hadoop]# scp /etc/profile root@slave01:/etc/

root@slave01's password:

profile                                                                                                        100% 1896     1.9KB/s   00:00    

[root@master hadoop]# scp /etc/profile root@slave02:/etc/

profile                                                                                                        100% 1896     1.9KB/s   00:00    

在第三台机器里加载环境


[root@master hadoop]#  source /etc/profile

[hd@master hadoop]$ hadoop version

Hadoop 3.0.0

7.6 格式化

[hd@master hadoop]$ ll /home/hd/apps/hadoop/namenode

ls: cannot access /home/hd/apps/hadoop/namenode: No such file or directory

[hd@master hadoop]$ hadoop namenode -format

7.7 启动hadoop

start-dfs.sh 启动HDFS分布式文件系统,停止stop-dfs.sh


start-yarn.sh 启动Yarn资源管理器,停止stop-yarn.sh


start-all.sh HDFS分布式文件系统与Yarn启动,停止stop-all.sh


7.8 jps查看进程

[hd@master ~]$ jps

23668 SecondaryNameNode

23467 NameNode

23903 ResourceManager

24207 Jps

[hd@slave01 ~]$ jps

22341 DataNode

22649 Jps

22458 NodeManager

[hd@slave02 ~]$ jps

23367 Jps

23176 NodeManager

23051 DataNode

7.9 测试

hdfs 文件系统访问地址:http://192.168.126.128:50070/dfshealth.html#tab-overview


Yarn资源管理器访问地址:http://192.168.126.128:8088/cluster


相关实践学习
基于MaxCompute的热门话题分析
本实验围绕社交用户发布的文章做了详尽的分析,通过分析能得到用户群体年龄分布,性别分布,地理位置分布,以及热门话题的热度。
SaaS 模式云数据仓库必修课
本课程由阿里云开发者社区和阿里云大数据团队共同出品,是SaaS模式云原生数据仓库领导者MaxCompute核心课程。本课程由阿里云资深产品和技术专家们从概念到方法,从场景到实践,体系化的将阿里巴巴飞天大数据平台10多年的经过验证的方法与实践深入浅出的讲给开发者们。帮助大数据开发者快速了解并掌握SaaS模式的云原生的数据仓库,助力开发者学习了解先进的技术栈,并能在实际业务中敏捷的进行大数据分析,赋能企业业务。 通过本课程可以了解SaaS模式云原生数据仓库领导者MaxCompute核心功能及典型适用场景,可应用MaxCompute实现数仓搭建,快速进行大数据分析。适合大数据工程师、大数据分析师 大量数据需要处理、存储和管理,需要搭建数据仓库?学它! 没有足够人员和经验来运维大数据平台,不想自建IDC买机器,需要免运维的大数据平台?会SQL就等于会大数据?学它! 想知道大数据用得对不对,想用更少的钱得到持续演进的数仓能力?获得极致弹性的计算资源和更好的性能,以及持续保护数据安全的生产环境?学它! 想要获得灵活的分析能力,快速洞察数据规律特征?想要兼得数据湖的灵活性与数据仓库的成长性?学它! 出品人:阿里云大数据产品及研发团队专家 产品 MaxCompute 官网 https://www.aliyun.com/product/odps&nbsp;
目录
相关文章
|
3月前
|
分布式计算 大数据 Java
大数据-87 Spark 集群 案例学习 Spark Scala 案例 手写计算圆周率、计算共同好友
大数据-87 Spark 集群 案例学习 Spark Scala 案例 手写计算圆周率、计算共同好友
80 5
|
3月前
|
分布式计算 关系型数据库 MySQL
大数据-88 Spark 集群 案例学习 Spark Scala 案例 SuperWordCount 计算结果数据写入MySQL
大数据-88 Spark 集群 案例学习 Spark Scala 案例 SuperWordCount 计算结果数据写入MySQL
61 3
|
3月前
|
存储 分布式计算 算法
大数据-106 Spark Graph X 计算学习 案例:1图的基本计算、2连通图算法、3寻找相同的用户
大数据-106 Spark Graph X 计算学习 案例:1图的基本计算、2连通图算法、3寻找相同的用户
82 0
|
21天前
|
存储 分布式计算 大数据
Flume+Hadoop:打造你的大数据处理流水线
本文介绍了如何使用Apache Flume采集日志数据并上传至Hadoop分布式文件系统(HDFS)。Flume是一个高可用、可靠的分布式系统,适用于大规模日志数据的采集和传输。文章详细描述了Flume的安装、配置及启动过程,并通过具体示例展示了如何将本地日志数据实时传输到HDFS中。同时,还提供了验证步骤,确保数据成功上传。最后,补充说明了使用文件模式作为channel以避免数据丢失的方法。
59 4
|
3月前
|
数据采集 数据可视化 大数据
大数据体系知识学习(三):数据清洗_箱线图的概念以及代码实现
这篇文章介绍了如何使用Python中的matplotlib和numpy库来创建箱线图,以检测和处理数据集中的异常值。
76 1
大数据体系知识学习(三):数据清洗_箱线图的概念以及代码实现
|
2月前
|
存储 分布式计算 Hadoop
数据湖技术:Hadoop与Spark在大数据处理中的协同作用
【10月更文挑战第27天】在大数据时代,数据湖技术凭借其灵活性和成本效益成为企业存储和分析大规模异构数据的首选。Hadoop和Spark作为数据湖技术的核心组件,通过HDFS存储数据和Spark进行高效计算,实现了数据处理的优化。本文探讨了Hadoop与Spark的最佳实践,包括数据存储、处理、安全和可视化等方面,展示了它们在实际应用中的协同效应。
145 2
|
2月前
|
存储 分布式计算 Hadoop
数据湖技术:Hadoop与Spark在大数据处理中的协同作用
【10月更文挑战第26天】本文详细探讨了Hadoop与Spark在大数据处理中的协同作用,通过具体案例展示了两者的最佳实践。Hadoop的HDFS和MapReduce负责数据存储和预处理,确保高可靠性和容错性;Spark则凭借其高性能和丰富的API,进行深度分析和机器学习,实现高效的批处理和实时处理。
117 1
|
3月前
|
存储 SQL 分布式计算
大数据学习
【10月更文挑战第15天】
76 1
|
3月前
|
分布式计算 大数据 Linux
大数据体系知识学习(二):WordCount案例实现及错误总结
这篇文章介绍了如何使用PySpark进行WordCount操作,包括环境配置、代码实现、运行结果和遇到的错误。作者在运行过程中遇到了Py4JJavaError和JAVA_HOME未设置的问题,并通过导入findspark初始化和设置环境变量解决了这些问题。文章还讨论了groupByKey和reduceByKey的区别。
49 1
|
3月前
|
分布式计算 Hadoop 大数据
大数据体系知识学习(一):PySpark和Hadoop环境的搭建与测试
这篇文章是关于大数据体系知识学习的,主要介绍了Apache Spark的基本概念、特点、组件,以及如何安装配置Java、PySpark和Hadoop环境。文章还提供了详细的安装步骤和测试代码,帮助读者搭建和测试大数据环境。
94 1