Hadoop3.2.2安装 windows版

简介: Hadoop3.2.2安装 windows版

1、下载安装包

[https://www.apache.org/dyn/closer.cgi/hadoop/common/hadoop-3.2.2/hadoop-3.2.2.tar.gz
](https://www.apache.org/dyn/closer.cgi/hadoop/common/hadoop-3.2.2/hadoop-3.2.2.tar.gz)

在这里插入图片描述

2、下载windows下使用hadoop需要的工具 winutils.exe 和 hadoop.dll

[https://github.com/cdarlint/winutils/tree/master/hadoop-3.2.2/bin
](https://github.com/cdarlint/winutils/tree/master/hadoop-3.2.2/bin)

在这里插入图片描述

放入hadoop bin 目录下即可
在这里插入图片描述

3、配置环境变量

在这里插入图片描述
在这里插入图片描述

4、配置 配置文件

在data目录下,创建两目录 namenode,datanode,
在这里插入图片描述

4.1、进入etc/hadoop目录

在这里插入图片描述

4.2、修改core-site.xml

<configuration>
    <property>
        <name>fs.default.name</name>
      <value>hdfs://localhost:9000</value>
     </property>
     <property>
      <name>hadoop.tmp.dir</name>
      <value>/E:/bigData/hadoop-3.2.2/data/tmp</value>
     </property>
</configuration>

4.3 修改mapred-site.xml

<configuration>
   <property>
       <name>mapreduce.framework.name</name>
       <value>yarn</value>
   </property>
</configuration>

4.4 修改yarn-site.xml

<configuration>
<!-- Site specific YARN configuration properties -->
    <property>
        <name>yarn.nodemanager.aux-services</name>
        <value>mapreduce_shuffle</value>
   </property>
   <property>
          <name>yarn.nodemanager.auxservices.mapreduce.shuffle.class</name>  
        <value>org.apache.hadoop.mapred.ShuffleHandler</value>
   </property>

</configuration>

4.5、修改hdfs-site.xml


<configuration>
   <!-- 这个参数设置为1,因为是单机版hadoop -->
   <property>
       <name>dfs.replication</name>
       <value>1</value>
   </property>
       <property> 
        <name>dfs.permissions</name> 
        <value>false</value> 
     </property>
      <property>
          <name>dfs.namenode.name.dir</name>
          <value>/E:/bigData/hadoop-3.2.2/data/namenode</value>
      </property>
      <property>
           <name>fs.checkpoint.dir</name>
           <value>/E:/bigData/hadoop-3.2.2/data/snn</value>
       </property>
       <property>
           <name>fs.checkpoint.edits.dir</name>
           <value>/E:/bigData/hadoop-3.2.2/data/snn</value>
       </property>
          <property>
          <name>dfs.datanode.data.dir</name>
          <value>/E:/bigData/hadoop-3.2.2/data/datanode</value>
      </property>
</configuration>

5、找到hadoop-env.cmd 配置jdk路径

在这里插入图片描述
编辑
在这里插入图片描述
注意:javahome原路径为下图, 这里将 Program Files 替换为了 PROGRA~ 替代。 路径不能出现空格
在这里插入图片描述

6、格式化,启动

6.1、以管理员 打开cmd

6.2、进入hadoop bin目录

在这里插入图片描述
在这里插入图片描述

6.3 、进入hadoop sbin目录

执行 start-all.cmd

此时可以看到同时启动了如下4个服务:
Hadoop Namenode
Hadoop datanode
YARN Resourc Manager
YARN Node Manager

7、HDFS应用

http://127.0.0.1:8088/ 即可查看集群所有节点状态:

访问 http://localhost:9870/ 即可查看文件管理页面:

8、DataNode启动问题

ERROR datanode.DataNode: Initialization failed for Block pool (Datanode Uuid unassigned) service to IP1:8020 Invalid volume failure config value: 1

FATAL datanode.DataNode: Initialization failed for Block pool (Datanode Uuid unassigned) service to IP1:8020. Exiting.
org.apache.hadoop.util.DiskChecker$DiskErrorException: Invalid volume failure config value: 1

原因是datanode只配置了一个数据目录,

并且hdfs-site.xml的dfs.datanode.failed.volumes.tolerated设置成了1.

修改方法:dfs.datanode.failed.volumes.tolerated 设置成0

相关文章
|
6天前
|
数据安全/隐私保护 Windows
安装 Windows Server 2019
安装 Windows Server 2019
|
6天前
|
Windows
安装 Windows Server 2003
安装 Windows Server 2003
|
7天前
|
NoSQL Shell MongoDB
Windows 平台安装 MongoDB
10月更文挑战第10天
16 0
Windows 平台安装 MongoDB
|
10天前
|
Windows Python
Windows安装dlib,遇到问题汇总解决
Windows安装dlib,遇到问题汇总解决
20 4
|
14天前
|
SQL 分布式计算 Hadoop
Hadoop-12-Hive 基本介绍 下载安装配置 MariaDB安装 3台云服务Hadoop集群 架构图 对比SQL HQL
Hadoop-12-Hive 基本介绍 下载安装配置 MariaDB安装 3台云服务Hadoop集群 架构图 对比SQL HQL
37 3
|
14天前
|
Oracle 关系型数据库 MySQL
Mysql(1)—简介及Windows环境下载安装
MySQL 是一个流行的关系型数据库管理系统(RDBMS),基于 SQL 进行操作。它由瑞典 MySQL AB 公司开发,后被 Sun Microsystems 收购,现为 Oracle 产品。MySQL 是最广泛使用的开源数据库之一,适用于 Web 应用程序、数据仓库和企业应用。
46 2
|
15天前
|
JavaScript Windows
windows安装vue
windows安装vue
|
16天前
|
应用服务中间件 Apache Windows
免安装版的Tomcat注册为windows服务
免安装版的Tomcat注册为windows服务
25 3
|
6天前
|
Windows
安装Windows XP系统
安装Windows XP系统
|
15天前
|
Ubuntu Linux 开发工具
windows11安装WLS2+Ubuntu
windows11安装WLS2+Ubuntu