Windows 搭建Hadoop 2.7.3开发环境

简介:

1、安装配置Java环境

1.1、安装Windows版本的jkd应用程序

当前的系统环境是64位Windows 7,因此下载64位JDK,下载地址:http://download.oracle.com/otn-pub/java/jdk/8u151-b12/e758a0de34e24606bca991d704f6dcbf/jdk-8u151-windows-x64.exe

下载后直接点击安装,默认的安装位置为:C:\Java\jdk

1.2、配置Java环境变量

  1. 鼠标右键 "我的电脑"-->"属性"
  2. 点击左边 "高级系统设置"-->"环境变量"
  3. 增加JAVA_HOME变量,在系统变量点击 "新建"
    1. 变量:JAVA_HOME
    2. 变量值:C:\Java\jdk
  4. 在path上增加java安装路径,找到path点击"编辑"
    1. 在最后增加:;%JAVA_HOME%\bin;%JAVA_HOME%\lib;%JAVA_HOME%\jre\bin
  5. 增加CLASSPATH
    1. 变量:CLASSPATH
    2. 变量值:%JAVA_HOME%\lib;%JAVA_HOME%\lib\dt.jar;%JAVA_HOME%\lib\tools.jar

java的环境变量设置完成后,在命令提示符输入命令检查:java -version
如果输出java信息说明环境设置完成;

2、安装配置Hadoop

2.1、下载安装Hadoop

下载Hadoop 2.7.3,下载地址:找到2.7.3版本,下载hadoop-2.7.3.tar.gz

将下载的hadoop-2.7.3.tar.gz解压移动到:C:\Usr\local\

2.2、配置Hadoop

2.2.1、配置Hadoop环境变量

  1. 配置Hadoop环境变量:HADOOP_HOME,方法参照java
  2. 新建HADOOP_CONF_DIR变量:变量值:%HADOOP_HOME%\etc\hadoop
  3. 新建YARN_CONF_DIR变量:变量值:%HADOOP_CONF_DIR%
  4. 配置Hadoop path变量:%HADOOP_HOME%/bin

2.2.2、配置Hadoop配置文件

Hadoop配置文件存放在:C:\Usr\local\hadoop-2.7.3\etc\hadoop,在C:\Usr\local\hadoop-2.7.3目录下创建文件夹hdfs/{datanode,namenode}

2.2.2.1、 配置core-site.xml

<configuration>
    <property>
       <name>fs.defaultFS</name>
       <value>hdfs://localhost:9000</value>
   </property>
</configuration>

2.2.2.2、 配置hdfs-site.xml

<configuration>
<property>
       <name>dfs.replication</name>
       <value>1</value>
   </property>
   <property>
       <name>dfs.namenode.name.dir</name>
       <value>/C:/Usr\local/hadoop-2.7.3/hdfs/namenode</value>
   </property>
   <property>
       <name>dfs.datanode.data.dir</name>
     <value>/C:/Usr/local/hadoop-2.7.3/hdfs/datanode</value>
   </property>
</configuration>

2.2.2.3、 配置mapred-site.xml

<configuration>
   <property>
       <name>mapreduce.framework.name</name>
       <value>yarn</value>
   </property>
</configuration>

2.2.2.4、 配置yarn-site.xml

<configuration>

<!-- Site specific YARN configuration properties -->
   <property>
       <name>yarn.nodemanager.aux-services</name>
       <value>mapreduce_shuffle</value>
   </property>
   <property>
       <name>yarn.nodemanager.aux-services.mapreduce.shuffle.class</name>
       <value>org.apache.hadoop.mapred.ShuffleHandler</value>
   </property
</configuration>

2.2.2.5、 配置slaves

localhost

2.2.2.6、 配置hadoop-env.cmd

将JAVA_HOME修改为:
set JAVA_HOME=C:\PROGRA~1\Java\jdk1.8.0_131并在后面追加如下设置:

set HADOOP_IDENT_STRING=%USERNAME%
set HADOOP_PREFIX=C:\Usr\local\hadoop-2.7.3
set HADOOP_CONF_DIR=%HADOOP_PREFIX%\etc\hadoop
set YARN_CONF_DIR=%HADOOP_CONF_DIR%
set PATH=%PATH%;%HADOOP_PREFIX%\bin

注:C:\PROGRA~1 用于替代 C:\Program Files

2.3、替换Hadoop windows可执行程序

下载winutils相关,hadoop在windows上运行需要winutils支持和hadoop.dll等文件。下载地址下载对应版本的就可以,例如我用的是2.7.3,可以直接下载2.7.1的就好。然后把winutils.exe和hadoop.dll复制到hadoop的bin目录下;

2.4、启动Hadoop

1.格式化HDFS
打开cmd

cd c:\usr\local\hadoop-2.7.3\bin
hdfs namenode -format

2.启动Hadoop
打开cmd

cd c:\usr\local\hadoop-2.7.3\sbin
start-all.cmd

YARN管理界面:http://localhost:8088
HDFS管理界面:http://localhost:50070

3.简单的HDFS操作

查看信息:
hadoop fs -ls hdfs://localhost:9000/

创建目录:
· hadoop fs -lmkdir hdfs://localhost:9000/user/wc·

上传文件:
hadoop fs -put C:\Usr\local\hadoop\LICENSE.txt hdfs://localhost:9000/user/wc                                                                  本文转自 巴利奇 51CTO博客,原文链接:http://blog.51cto.com/balich/2058194

相关文章
|
1月前
|
编译器 C语言 流计算
在Windows系统中创建C语言开发环境
【2月更文挑战第22天】在Windows系统中创建C语言开发环境
21 6
|
3月前
|
Oracle Java 关系型数据库
【开发环境】Windows环境下JDK安装&环境变量配置(无错完整)
【1月更文挑战第20天】【开发环境】Windows环境下JDK安装&环境变量配置(无错完整)
|
4月前
|
分布式计算 Hadoop Windows
解决Windows环境下hadoop集群的运行
解决Windows环境下hadoop集群的运行
35 0
|
4月前
|
Python Windows
Windows系统上配置Python开发环境
Python安装程序 首先,您需要从Python官方网站(https://www.python.org/downloads/)下载Python的最新稳定版本。在页面上选择适用于Windows的安装程序。 运行安装程序 下载完成后,双击下载的安装程序(通常是一个.exe文件),然后按照安装向导的指示进行操作。请确保在安装过程中勾选“Add Python to PATH”选项,这将使您能够在命令行中轻松访问Python。
47 1
|
5月前
|
开发工具 C++ git
Windows下开发环境搭建
欢迎来到我们的 QML & C++ 项目!这个项目结合了 QML(Qt Meta-Object Language)和 C++ 的强大功能,旨在开发出色的用户界面和高性能的后端逻辑。 在项目中,我们利用 QML 的声明式语法和可视化设计能力创建出现代化的用户界面。通过直观的编码和可重用的组件,我们能够迅速开发出丰富多样的界面效果和动画效果。同时,我们利用 QML 强大的集成能力,轻松将 C++ 的底层逻辑和数据模型集成到前端界面中。 在后端方面,我们使用 C++ 编写高性能的算法、数据处理和计算逻辑。C++ 是一种强大的编程语言,能够提供卓越的性能和可扩展性。我们的团队致力于优化代码,减少资
|
5月前
|
Ubuntu 网络安全 开发工具
windows + ubuntu + vscode开发环境配置安装(二)
windows + ubuntu + vscode开发环境配置安装(二)
94 0
|
5月前
|
Ubuntu Linux 虚拟化
windows + ubuntu + vscode开发环境配置安装(一)
windows + ubuntu + vscode开发环境配置安装(一)
72 0
|
6月前
|
Oracle Java 关系型数据库
Windows 10系统下超详细的Java 开发环境配置详解
Windows 10系统下超详细的Java 开发环境配置详解
|
6月前
|
Cloud Native Go Windows
在Windows上从零开始搭建Go语言开发环境完全指南
在Windows上从零开始搭建Go语言开发环境完全指南
69 0
|
6月前
|
开发工具 虚拟化 Windows
1.1 Windows驱动开发:配置驱动开发环境
在进行驱动开发之前,您需要先安装适当的开发环境和工具。首先,您需要安装`Windows`驱动开发工具包(WDK),这是一组驱动开发所需的工具、库、示例和文档。然后,您需要安装`Visual Studio`开发环境,以便编写和调试驱动程序。在安装WDK和`Visual Studio`之后,您还需要配置适当的项目设置,以便能够正确编译和构建驱动程序。首先我们需要安装`Visual Studio 2013`这款功能强大的程序开发工具,在课件内请双击`ISO`文件并运行内部的`vs_ultimate.exe`安装包,`Visual Studio`的安装非常的简单,您只需要按照提示全部选择默认参数即可,
142 1
1.1 Windows驱动开发:配置驱动开发环境