Hadoop3.2.2安装 windows版

简介: Hadoop3.2.2安装 windows版

1、下载安装包

[https://www.apache.org/dyn/closer.cgi/hadoop/common/hadoop-3.2.2/hadoop-3.2.2.tar.gz
](https://www.apache.org/dyn/closer.cgi/hadoop/common/hadoop-3.2.2/hadoop-3.2.2.tar.gz)

在这里插入图片描述

2、下载windows下使用hadoop需要的工具 winutils.exe 和 hadoop.dll

[https://github.com/cdarlint/winutils/tree/master/hadoop-3.2.2/bin
](https://github.com/cdarlint/winutils/tree/master/hadoop-3.2.2/bin)

在这里插入图片描述

放入hadoop bin 目录下即可
在这里插入图片描述

3、配置环境变量

在这里插入图片描述
在这里插入图片描述

4、配置 配置文件

在data目录下,创建两目录 namenode,datanode,
在这里插入图片描述

4.1、进入etc/hadoop目录

在这里插入图片描述

4.2、修改core-site.xml

<configuration>
    <property>
        <name>fs.default.name</name>
      <value>hdfs://localhost:9000</value>
     </property>
     <property>
      <name>hadoop.tmp.dir</name>
      <value>/E:/bigData/hadoop-3.2.2/data/tmp</value>
     </property>
</configuration>

4.3 修改mapred-site.xml

<configuration>
   <property>
       <name>mapreduce.framework.name</name>
       <value>yarn</value>
   </property>
</configuration>

4.4 修改yarn-site.xml

<configuration>
<!-- Site specific YARN configuration properties -->
    <property>
        <name>yarn.nodemanager.aux-services</name>
        <value>mapreduce_shuffle</value>
   </property>
   <property>
          <name>yarn.nodemanager.auxservices.mapreduce.shuffle.class</name>  
        <value>org.apache.hadoop.mapred.ShuffleHandler</value>
   </property>

</configuration>

4.5、修改hdfs-site.xml


<configuration>
   <!-- 这个参数设置为1,因为是单机版hadoop -->
   <property>
       <name>dfs.replication</name>
       <value>1</value>
   </property>
       <property> 
        <name>dfs.permissions</name> 
        <value>false</value> 
     </property>
      <property>
          <name>dfs.namenode.name.dir</name>
          <value>/E:/bigData/hadoop-3.2.2/data/namenode</value>
      </property>
      <property>
           <name>fs.checkpoint.dir</name>
           <value>/E:/bigData/hadoop-3.2.2/data/snn</value>
       </property>
       <property>
           <name>fs.checkpoint.edits.dir</name>
           <value>/E:/bigData/hadoop-3.2.2/data/snn</value>
       </property>
          <property>
          <name>dfs.datanode.data.dir</name>
          <value>/E:/bigData/hadoop-3.2.2/data/datanode</value>
      </property>
</configuration>

5、找到hadoop-env.cmd 配置jdk路径

在这里插入图片描述
编辑
在这里插入图片描述
注意:javahome原路径为下图, 这里将 Program Files 替换为了 PROGRA~ 替代。 路径不能出现空格
在这里插入图片描述

6、格式化,启动

6.1、以管理员 打开cmd

6.2、进入hadoop bin目录

在这里插入图片描述
在这里插入图片描述

6.3 、进入hadoop sbin目录

执行 start-all.cmd

此时可以看到同时启动了如下4个服务:
Hadoop Namenode
Hadoop datanode
YARN Resourc Manager
YARN Node Manager

7、HDFS应用

http://127.0.0.1:8088/ 即可查看集群所有节点状态:

访问 http://localhost:9870/ 即可查看文件管理页面:

8、DataNode启动问题

ERROR datanode.DataNode: Initialization failed for Block pool (Datanode Uuid unassigned) service to IP1:8020 Invalid volume failure config value: 1

FATAL datanode.DataNode: Initialization failed for Block pool (Datanode Uuid unassigned) service to IP1:8020. Exiting.
org.apache.hadoop.util.DiskChecker$DiskErrorException: Invalid volume failure config value: 1

原因是datanode只配置了一个数据目录,

并且hdfs-site.xml的dfs.datanode.failed.volumes.tolerated设置成了1.

修改方法:dfs.datanode.failed.volumes.tolerated 设置成0

相关文章
|
4月前
|
人工智能 JavaScript 开发工具
极速上手!Claude Code 原生支持 Windows 免WSL安装教程
Claude Code 现已支持 Windows 原生运行,无需 WSL 配置。本文提供详细安装教程,涵盖 Node.js 环境验证、Git 安装及 Claude Code 配置步骤,助你快速上手这一强大 AI 编程工具。
2739 5
|
4月前
|
存储 虚拟化 Windows
VMware安装Windows10
本案例介绍了在Windows系统上使用VMware Workstation 17.5 Pro安装配置Windows 10虚拟机的详细步骤,包括所需设备、软件下载链接、虚拟机设置及系统安装全过程。
1623 133
VMware安装Windows10
|
5月前
|
Ubuntu Unix Linux
在Windows上轻松安装和使用Ubuntu的方法详解
继续点击“Continue”按钮以继续安装流程,随后选择清理磁盘并安装操作系统的选项。 接下来,在安装过程中,你需要选择时区。为了与你的地理位置相匹配,请选择中国上海作为你的时区设置。 在安装过程中,你还需要设置计算机的名称以及账号密码。请务必牢记这些信息,因为它们将作为你登录系统的凭证。
|
3月前
|
安全 Ubuntu iOS开发
Nessus Professional 10.10 Auto Installer for Windows - Nessus 自动化安装程序
Nessus Professional 10.10 Auto Installer for Windows - Nessus 自动化安装程序
201 3
Nessus Professional 10.10 Auto Installer for Windows - Nessus 自动化安装程序
|
4月前
|
安全 数据安全/隐私保护 Windows
ZyperWin++使用教程!让Windows更丝滑!c盘飘红一键搞定!ZyperWin++解决系统优化、Office安装和系统激活
ZyperWin++是一款仅5MB的开源免费Windows优化工具,支持快速优化、自定义设置与垃圾清理,兼具系统加速、隐私保护、Office安装等功能,轻便无广告,小白也能轻松上手,是提升电脑性能的全能管家。
1636 0
|
5月前
|
Ubuntu Linux Windows
如何在Ubuntu系统中安装Wine,借此来运行Windows程序
熟悉的登录画面出现,在Ubuntu系统中扫描登录微信程序。
|
5月前
|
Ubuntu Linux Shell
手把手教你安装适用于Linux的Windows子系统——Ubuntu
重启完成,你看看重新打开Ubuntu是不是发生了变化,等待几分钟,系统配置完成,根据提示设置用户名和密码即可
|
5月前
|
Ubuntu Linux 数据安全/隐私保护
Windows上快速安装Linux子系统Ubuntu
Installing, this may take a few minutes...WslRegisterDistribution failed with error: 0x800701bcError: 0x800701bc WSL 2 ?????????????????? https://aka.ms/wsl2kernelPress any key to continue... 原因是 wsl1 升级到 wsl2 之后,内核却没有升级。 解决:下载最新的wsl安装包(wsl安装包)

相关实验场景

更多