大家好,我是风云,欢迎大家关注我的博客 【笑看风云路】,在未来的日子里我们一起来学习大数据相关的技术,一起努力奋斗,遇见更好的自己!
前言
今天我们就来分享学习一下hadoop
的常用命令都有哪些以及它们的用法是怎样的!
命令格式
HDFS
提供了Shell
的操作接口- 文件操作命令与
Linux
相似 - 格式为:
hadoop fs -<命令> <目标>
如:hadoop fs -ls /user
hdfs常用指令
- 查看
hdfs
系统版本
hdfs version
- 查看
hdfs
系统状态
hdfs dfsadmin -report
- 查看目录及文件
hadoop fs -ls /
- 创建及删除目录
hadoop fs -mkdir /input hadoop fs -rm -r /input
- 创建文件(注意是
touchz
)
hadoop fs -touchz test.txt
- 上传及下载文件
hadoop fs -put test.txt /input hadoop fs -get /input/test.txt /data
- 查看文件内容
hadoop fs -cat /input/test.txt
- 当在
Hadoop
中设置了回收站功能时,删除的文件会保留在回收站中,可以使用expunge
方法清空回收站
hadoop fs -expunge
- 进入/退出
hadoop
安全模式
hdfs dfsadmin -safemode enter
hdfs dfsadmin -safemode leave
- 启动/关闭
hadoop
hadoop安装目录/sbin/start-all.sh
hadoop安装目录/sbin/stop-all.sh
相关知识
- 调用文件系统
(FS)Shell
命令应使用hadoop fs <args>
的形式。 - 所有的的
FS shell
命令使用URI
路径作为参数。 URI
格式是scheme://authority/path
。- 对
HDFS
文件系统,scheme
是hdfs
,对本地文件系统,scheme
是file
。其中scheme
和authority
参数都是可选的,如果未加指定,就会使用配置中指定的默认scheme
。 - 一个
HDFS
文件或目录比如/parent/child
可以表示成hdfs://namenode:namenodeport/parent/child
,或者更简单的/parent/child
(假设你配置文件中的默认值是namenode:namenodeport
)。 - 大多数
FS Shell
命令的行为和对应的Unix Shell
命令类似,出错信息会输出到stderr
,其他信息输出到stdout
。
注意:
- 在分布式文件系统启动的时候,开始的时候会有安全模式,当分布式文件系统处于安全模式的情况下,文件系统中的内容不允许修改也不允许删除,直到安全模式结束。
- 安全模式主要是为了系统启动的时候检查各个
DataNode
上数据块的有效性,同时根据策略必要的复制或者删除部分数据块。- 运行期通过命令也可以进入安全模式。在实践过程中,系统启动的时候去修改和删除文件也会有安全模式不允许修改的出错提示,只需要等待一会儿即可。
好了,今天的学习就先到这了,咱们下次见~~~