【hadoop】windows上hadoop测试环境的搭建步骤

简介: 【hadoop】windows上hadoop测试环境的搭建步骤

一、下载hadoop安装包:


点击下载


image.png


解压。



二、下载hadoop在windows中的依赖:


点击下载


image.png


下载完成之后,解压,将3.2.2目录下的所有文件替换hadoop的bin目录下的文件:

image.png

并将hadoop.dll 文件复制到C:\Windows\System32 目录:

image.png



三、配置环境变量:


HADOOP_HOME= D:\cloudwave\hadoop-3.2.2
Path中添加 %HADOOP_HOME%\bin;


image.png




四、创建数据目录


在hadoop-3.2.2目录下创建data目录,data目录下创建namenode和datanode存储目录

data\namenode


data\datanode


image.png


五、修改hadoop-env.cmd


image.png


进入目录 \etc\hadoop

修改hadoop-env.cmd

set JAVA_HOME=D:\v4_dev_env\jdk-8(指定hadoop使用java版本)

JDK使用1.8版本(版本过高可能会不兼容)。




六、修改配置文件


  1. etc\hadoop目录,修改hdfs-site.xml


<configuration>
    <property>
        <name>dfs.replication</name>
        <value>1</value>
    </property>
    <property>
        <name>dfs.namenode.name.dir</name>
        <value>H:\\workspace_env\\hadoop-3.2.2\\data\\namenode</value>
    </property>
    <property>
        <name>dfs.datanode.data.dir</name>
        <value>H:\\workspace_env\\hadoop-3.2.2\\data\\datanode</value>
    </property>
</configuration>


etc\hadoop目录,修改core-site.xml

<configuration>
    <property>
        <name>fs.defaultFS</name>
        <value>hdfs://localhost:9000</value>
    </property>
</configuration>




七、启动


  1. 进入hadoop-3.2.2\bin目录,以管理员身份打开“命令提示符“
    输入hdfs namenode -format,看到seccessfully就说明format成功。如下图所示:


image.png

进入hadoop-3.2.2\sbin目录

输入start-dfs.cmd,启动hdfs。

出现以下namenode和datanode窗口


image.png

image.png


浏览器访问:http://127.0.0.1:9870/


image.png


可以看到已经,在windows上运行起来了



目录
相关文章
|
1月前
|
机器学习/深度学习 PyTorch 算法框架/工具
目标检测实战(一):CIFAR10结合神经网络加载、训练、测试完整步骤
这篇文章介绍了如何使用PyTorch框架,结合CIFAR-10数据集,通过定义神经网络、损失函数和优化器,进行模型的训练和测试。
91 2
目标检测实战(一):CIFAR10结合神经网络加载、训练、测试完整步骤
|
1月前
|
数据采集 机器学习/深度学习 大数据
行为检测代码(一):超详细介绍C3D架构训练+测试步骤
这篇文章详细介绍了C3D架构在行为检测领域的应用,包括训练和测试步骤,使用UCF101数据集进行演示。
42 1
行为检测代码(一):超详细介绍C3D架构训练+测试步骤
|
1月前
|
SQL 分布式计算 关系型数据库
Hadoop-13-Hive 启动Hive 修改启动参数命令行启动测试 几句简单的HQL了解Hive
Hadoop-13-Hive 启动Hive 修改启动参数命令行启动测试 几句简单的HQL了解Hive
56 2
|
1月前
|
PyTorch 算法框架/工具 计算机视觉
目标检测实战(二):YoloV4-Tiny训练、测试、评估完整步骤
本文介绍了使用YOLOv4-Tiny进行目标检测的完整流程,包括模型介绍、代码下载、数据集处理、网络训练、预测和评估。
104 2
目标检测实战(二):YoloV4-Tiny训练、测试、评估完整步骤
|
18天前
|
人工智能 测试技术 Windows
Windows 竞技场:面向下一代AI Agent的测试集
【10月更文挑战第25天】随着人工智能的发展,大型语言模型(LLMs)在多模态任务中展现出巨大潜力。为解决传统基准测试的局限性,研究人员提出了Windows Agent Arena,一个在真实Windows操作系统中评估AI代理性能的通用环境。该环境包含150多个多样化任务,支持快速并行化评估。研究团队还推出了多模态代理Navi,在Windows领域测试中成功率达到19.5%。尽管存在局限性,Windows Agent Arena仍为AI代理的评估和研究提供了新机遇。
37 3
|
1月前
|
分布式计算 Hadoop 大数据
大数据体系知识学习(一):PySpark和Hadoop环境的搭建与测试
这篇文章是关于大数据体系知识学习的,主要介绍了Apache Spark的基本概念、特点、组件,以及如何安装配置Java、PySpark和Hadoop环境。文章还提供了详细的安装步骤和测试代码,帮助读者搭建和测试大数据环境。
55 1
|
1月前
|
缓存 数据挖掘 测试技术
目标检测实战(三):YOLO-Nano训练、测试、验证详细步骤
本文介绍了YOLO-Nano在目标检测中的训练、测试及验证步骤。YOLO-Nano是一个轻量级目标检测模型,使用ShuffleNet-v2作为主干网络,结合FPN+PAN特征金字塔和NanoDet的检测头。文章详细说明了训练前的准备、源代码下载、数据集准备、参数调整、模型测试、FPS测试、VOC-map测试、模型训练、模型测试和验证等步骤,旨在帮助开发者高效实现目标检测任务。
44 0
目标检测实战(三):YOLO-Nano训练、测试、验证详细步骤
|
1月前
|
Windows
重装系统学习笔记(一):Windows10重装步骤(正版)
这篇博客文章详细介绍了如何使用微软官方工具重装Windows 10系统,包括下载安装工具、准备U盘、设置BIOS以及系统安装的步骤。
41 0
重装系统学习笔记(一):Windows10重装步骤(正版)
|
1月前
|
分布式计算 Hadoop Shell
Hadoop-35 HBase 集群配置和启动 3节点云服务器 集群效果测试 Shell测试
Hadoop-35 HBase 集群配置和启动 3节点云服务器 集群效果测试 Shell测试
69 4
|
1月前
|
SQL 分布式计算 Hadoop
Hadoop-14-Hive HQL学习与测试 表连接查询 HDFS数据导入导出等操作 逻辑运算 函数查询 全表查询 WHERE GROUP BY ORDER BY(一)
Hadoop-14-Hive HQL学习与测试 表连接查询 HDFS数据导入导出等操作 逻辑运算 函数查询 全表查询 WHERE GROUP BY ORDER BY(一)
40 4

热门文章

最新文章