Hadoop Hdfs配置过程全程报道

简介: Hadoop Hdfs配置过程全程报道

在学习Hadoop的过程中,你可能会遇到Hadoop Hdfs配置问题,本节就接着上节和大家继续分享一下Hadoop Hdfs配置方法,相信通过本节的学习你一定会对Hadoop的配置有新的认识。下面是具体步骤接介绍。

1、配置slaves,修改conf/slaves

data-dfs

复制hadoop-2.20.1目录以及所有文件到DataNode和Client

scp-rp/data/soft/hadoop-2.20.1192.168.1.12:/data/soft

scp-rp/data/soft/hadoop-2.20.1192.168.1.13:/data/soft

2、格式化Hdfs文件系统namenode,进入hadoop目录

[master@hadoop]$bin/hadoopnamenode-format输入Y,(注意区分大小写.这里一定要输入大写的Y,否刚不会成功format文件系统)

不出意外,应该会提示格式化成功。如果不成功,就去hadoop/logs/目录下去查看日志文件。

3、启动Hdfs分布式文件系统

Hadoop Hdfs配置时还要启动Hdfs分布式文件系统。进入hadoop目录,在bin/下面有很多启动脚本,可以根据自己的需要来启动。

*start-all.sh启动所有的Hadoop守护。包括namenode,datanode,jobtracker,tasktrack

*stop-all.sh停止所有的Hadoop

*start-mapred.sh启动Map/Reduce守护。包括Jobtracker和Tasktrack

*stop-mapred.sh停止Map/Reduce守护

*start-dfs.sh启动HadoopDFS守护.Namenode和Datanode

*stop-dfs.sh停止DFS守护

启动所有守护

[master@hadoop]bin/start-all.sh//会自动找到conf/slaves文件里的IP或者机器名,启动相应的slaves服务端

同样,如果要停止hadoop,则[master@hadoop]$bin/stop-all.sh

4、HDFS操作

再来看一下Hadoop Hdfs配置过程中对HDFS进行的操作。进入Hadoop目录,运行bin/目录的hadoop命令,可以查看Haoop所有支持的操作及其用法,这里以几个简单的操作为例。

建立目录

[master@hadoop]$bin/hadoopdfs-mkdirtestdir

在HDFS中建立一个名为testdir的目录

复制文件

[master@hadoop]$bin/hadoopdfs-put

/home/dbrg/large.ziptestfile.zip

把本地文件large.zip拷贝到HDFS的根目录/user/dbrg/下,文件名为testfile.zip

查看现有文件

[master@hadoop]$bin/hadoopdfs-ls

行hadoop程序时,中途我把它终止了,然后再向hdfs加文件或删除文件时,出现Namenodeisinsafemode错误:

rmr:org.apache.hadoop.dfs.SafeModeException:Cannotdelete/user/hadoop/input.Namenodeisinsafemode

解决的命令:

bin/hadoopdfsadmin-safemodeleave#关闭safemode。本就关于Hadoop Hdfs配置方面的内容就介绍到这里

相关文章
|
4月前
|
存储 分布式计算 Hadoop
Hadoop系列HDFS详解
Hadoop系列HDFS详解
41 0
|
2月前
|
分布式计算 Hadoop Java
Hadoop快速入门——第一章、认识Hadoop与创建伪分布式模式(Hadoop3.1.3版本配置)
Hadoop快速入门——第一章、认识Hadoop与创建伪分布式模式(Hadoop3.1.3版本配置)
65 0
|
3天前
|
分布式计算 网络协议 Hadoop
Hadoop节点扩展配置DNS和主机名解析
【4月更文挑战第19天】
11 1
|
13天前
|
分布式计算 Hadoop 测试技术
Hadoop【基础知识 05】【HDFS的JavaAPI】(集成及测试)
【4月更文挑战第5天】Hadoop【基础知识 05】【HDFS的JavaAPI】(集成及测试)
40 8
|
13天前
|
分布式计算 资源调度 Hadoop
Hadoop【基础知识 03+04】【Hadoop集群资源管理器yarn】(图片来源于网络)(hadoop fs + hadoop dfs + hdfs dfs 使用举例)
【4月更文挑战第5天】Hadoop【基础知识 03】【Hadoop集群资源管理器yarn】(图片来源于网络)Hadoop【基础知识 04】【HDFS常用shell命令】(hadoop fs + hadoop dfs + hdfs dfs 使用举例)
41 9
|
15天前
|
分布式计算 Hadoop Shell
Hadoop【基础知识 04】【HDFS常用shell命令】(hadoop fs + hadoop dfs + hdfs dfs 使用举例)
【4月更文挑战第4天】Hadoop【基础知识 04】【HDFS常用shell命令】(hadoop fs + hadoop dfs + hdfs dfs 使用举例)
28 5
|
17天前
|
存储 分布式计算 Hadoop
【Hadoop】HDFS 读写流程
【4月更文挑战第9天】【Hadoop】HDFS 读写流程
|
1月前
|
分布式计算 资源调度 Hadoop
Hadoop 配置
core-site.xml 是 Hadoop 核心全局配置文件【2月更文挑战第20天】
28 1
|
3月前
|
存储 分布式计算 Hadoop
Hadoop的Secondary NameNode在HDFS中的作用是什么?
Hadoop的Secondary NameNode在HDFS中的作用是什么?
38 0
|
3月前
|
分布式计算 Hadoop Java
linux上面hadoop配置集群
linux上面hadoop配置集群
46 0

热门文章

最新文章