hadoop常见问题总结1

简介:

问题1:http://localhost:50030

HTTP ERROR: 404

/jobtracker.jsp
RequestURI=/jobtracker.jsp

Powered by Jetty://

解决办法:

buid本地库存后,应该把build目录删除,否则启动脚本会把目录重定向到build目录中,导致web管理页面打不开,启动脚本中,如果有build目录,就将路径转到build下.

问题2、http://localhost:50070

Unable to connect

如下图所示:

解决办法:首次运行,需要对namenode进行格式化:bin/hadoop namenode -format  

注意:上面的命令应该是cd 到hadoop文件夹下

解决问题以后出现如下页面:

问题3:hadoop在子节点上没有datanode进程 

解决办法:

1.先停止Hadoop,bin/stop-all.sh

2.把hadoop/tmp下所有文件删除

3.重新格式化DFS  bin/hadoop namenode -format

4.再重启bin/start-all.sh

5.查看各节点jps,就有DataNode和TaskTracker了

问题4:

Exception in thread "main" org.apache.hadoop.mapreduce.lib.input.InvalidInputException: Input path does not exist: hdfs://localhost:9000/user/wu/in

解决方法:

hadoop处理的文件都是在hdfs中,所以必须把要处理的文件复制到hadoop 某个文件夹中。

下面举例,在in中新建文件夹,把提前做好的wordcount文件复制到hdfs中,最后运行程序

$mkdir input
$cd input
$echo "hello world">test1.txt
$echo "hello hadoop">test2.txt
$cd ..
$bin/hadoop dfs -put input in
$bin/hadoop jar build/hadoop-0.20.2-examples.jar wordcount in out
$bin/hadoop dfs -cat out/*

问题5:

Exception in thread "main" org.apache.hadoop.mapred.FileAlreadyExistsException: Output directory out already exists

删除Output文件夹即可解决

目录
相关文章
|
5月前
|
存储 分布式计算 安全
Hadoop常见问题
【6月更文挑战第2天】
75 5
|
2月前
|
分布式计算 Hadoop Java
Hadoop集群搭建,基于3.3.4hadoop和centos8【图文教程-从零开始搭建Hadoop集群】,常见问题解决
本文是一份详细的Hadoop集群搭建指南,基于Hadoop 3.3.4版本和CentOS 8操作系统。文章内容包括虚拟机创建、网络配置、Java与Hadoop环境搭建、克隆虚拟机、SSH免密登录设置、格式化NameNode、启动Hadoop集群以及通过UI界面查看Hadoop运行状态。同时,还提供了常见问题的解决方案。
Hadoop集群搭建,基于3.3.4hadoop和centos8【图文教程-从零开始搭建Hadoop集群】,常见问题解决
|
4月前
|
存储 分布式计算 安全
hadoop常见问题
【7月更文挑战第11天】
49 1
hadoop常见问题
|
6月前
|
分布式计算 网络协议 Hadoop
Hadoop常见问题
【5月更文挑战第4天】Hadoop常见问题
62 3
|
资源调度 分布式计算 Ubuntu
hadoop安装常见问题
hadoop安装常见问题
127 0
hadoop安装常见问题
|
存储 分布式计算 资源调度
|
分布式计算 Hadoop
hadoop集群常见问题解决
1:namenode启动 datanode未启动 解决: /hadoop/tmp/dfs/name/current VERSION 查看截取id 与 data/current VERSION集群ID 保持一致  如果一致还不可以 删除所有主从节点的 current 目录 重新 format 生成
851 0
|
1月前
|
分布式计算 Kubernetes Hadoop
大数据-82 Spark 集群模式启动、集群架构、集群管理器 Spark的HelloWorld + Hadoop + HDFS
大数据-82 Spark 集群模式启动、集群架构、集群管理器 Spark的HelloWorld + Hadoop + HDFS
131 6
|
1月前
|
分布式计算 资源调度 Hadoop
大数据-80 Spark 简要概述 系统架构 部署模式 与Hadoop MapReduce对比
大数据-80 Spark 简要概述 系统架构 部署模式 与Hadoop MapReduce对比
62 2
|
8天前
|
存储 分布式计算 Hadoop
数据湖技术:Hadoop与Spark在大数据处理中的协同作用
【10月更文挑战第27天】在大数据时代,数据湖技术凭借其灵活性和成本效益成为企业存储和分析大规模异构数据的首选。Hadoop和Spark作为数据湖技术的核心组件,通过HDFS存储数据和Spark进行高效计算,实现了数据处理的优化。本文探讨了Hadoop与Spark的最佳实践,包括数据存储、处理、安全和可视化等方面,展示了它们在实际应用中的协同效应。
41 2