HDFS-Shell

简介:
一.hadoop 命令
Shell命令
Hadoop包括一系列的类shell的命令,可直接和HDFS以及其他Hadoop支持的文件系统进行交互。bin/hadoop fs -help 命令列出所有Hadoop Shell支持的命令。而 bin/hadoop fs -help command-name 命令能显示关于某个命令的详细信息。这些命令支持大多数普通文件系统的操作,比如复制文件、改变文件权限等。它还支持一些HDFS特有的操作,比如改变文件副本数目。

查看某个命令下某些子命令的使用方法



二.Hadoop fs命令相关操作
命令都要在这个目录下才能执行 /home/gaojunyu/app/hadoop-2.6.0

1.上传文件到HDFS
用户根目下的文件~/app/jdk-8u65-linux-x64.tar.gz 上传到HDFS的根目录/
[gaojunyu@gaojunyu hadoop-2.6.0]$ bin/hadoop fs -put ~/app/jdk-8u65-linux-x64.tar.gz /

core-site.xml文件上传到HDFS的根目录
[gaojunyu@gaojunyu hadoop-2.6.0]$ bin/hadoop fs -put ~/core-site.xml /

bin/hadoopfs -copyFromLocal ~/jdk-8u65-linux-x64.tar.gz /
-copyFromLocal命令和put作用相同,都是上传


2.浏览HDFS
浏览HDFS文件系统某个目录内容
[gaojunyu@gaojunyu hadoop-2.6.0]$ bin/hadoop fs -ls /


3.创建目录
bin/hadoopfs -mkdir /test  -- 在根目录下创建 test 子目录

bin/hadoopfs -mkdir -p /test/hadoop/hbase  -- 一次性创建多级目录


4.下载
从HDFS下载文件到当前系统
[gaojunyu@gaojunyu hadoop-2.6.0]$ bin/hadoop fs -get /jdk-8u65-linux-x64.tar.gz ~/Desktop
下载jdk-8u65-linux-x64.tar.gz到用户目录的Desktop目录下
bin/hadoopfs -copyToLocal /jdk-8u65-linux-x64.tar.gz ~/Desktop
- copyToLocal和get作用一样


网页查看一下
子目录查看





5 删除
      删除目录 bin/hadoopfs -rmdir /test  -- 删除非空目录
     删除文件 bin/hadoopfs-rm /core-site.xml -- 删除文件
递归删除 bin/hadoopfs -rm-r /core-site.xml  -- 删除文件


6 查看文件的内容
      bin/hadoop fs -cat /core-site.xml  -- 删除非空目录
 

sbin/start-all.sh 该命令会把整个集群进行启动,但是如果有一个节点的某个进程挂了。一个 NameNode 进程挂了,一个 DataNode 进行挂了
 


~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~
为了方便操作,不必须进入路径输入bin/hadoop
配置hadoop命令
1. 修改etc/profile文件
在文件末尾加上
HADOOP_HOME=/home/gaojunyu/app/hadoop-2.6.0
export PATH=$HADOOP_HOME/bin:$HADOOP_HOME/sbin:$PATH
保存并退出;

2.使配置文件生效
[root@gaojunyu gaojunyu]# source /etc/profile

3.检验是否生效
新连接一个SSH
输入[gaojunyu@gaojunyu ~]$ echo $HADOOP_HOME
看是否能输出 路径信息

然后再测试一下直接使用hadoop命令
//查看HDFS根目录下的文件信息
输入[gaojunyu@gaojunyu ~]$ hadoop fs -ls /

结果如下图则,hadoop命令配置成功



~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~


单独启动一个 namenode 进程
      nohup bin/hdfsnamenode &
具体详见Hadoop启动文档


目录
相关文章
|
10月前
|
数据采集 机器学习/深度学习 人工智能
《探秘:人工智能如何为鸿蒙Next元宇宙网络传输与延迟问题破局》
鸿蒙Next结合人工智能,为元宇宙的网络传输和低延迟问题提供创新解决方案。通过智能网络监测与预测、自适应传输策略调整、智能路由与负载均衡、数据预处理与缓存优化及错误检测与恢复等技术,确保用户在元宇宙中享受流畅、沉浸式的体验。这些方法不仅提升了数据传输效率,还增强了系统的稳定性和响应速度,推动元宇宙产业快速发展。
290 12
量化交易系列【5】:如何快速的将日K线数据转换为周K线及月K线数据,神奇的resample函数
量化交易系列【5】:如何快速的将日K线数据转换为周K线及月K线数据,神奇的resample函数
量化交易系列【5】:如何快速的将日K线数据转换为周K线及月K线数据,神奇的resample函数
|
Web App开发 测试技术 数据安全/隐私保护
【Docker项目实战】使用Docker部署linkding书签管理器
【6月更文挑战第15天】使用Docker部署linkding书签管理器
415 8
|
UED
「Mac畅玩鸿蒙与硬件17」鸿蒙UI组件篇7 - Animation组件基础
在应用开发中,动画效果可以增强用户体验。鸿蒙框架提供了 translate、scale 和 rotate 等动画功能,允许对组件进行平移、缩放和旋转等操作。本篇将介绍 Animation 组件的基础知识和示例代码。
636 10
「Mac畅玩鸿蒙与硬件17」鸿蒙UI组件篇7 - Animation组件基础
若依修改,若依部署在本地运行时的注意事项,后端连接了服务器,本地的vue.config.js要先改成localhost:端口号与后端匹配,部署的时候再改公网IP:端口号
若依修改,若依部署在本地运行时的注意事项,后端连接了服务器,本地的vue.config.js要先改成localhost:端口号与后端匹配,部署的时候再改公网IP:端口号
|
负载均衡 安全 Java
Java一分钟之-WebSocket:实时通信协议
【6月更文挑战第1天】WebSocket是实现客户端与服务器长连接、双向通信的协议,简化实时数据传输。Java中的WebSocket实现基于JSR 356。本文涵盖WebSocket基础(持久连接、双向通信、低延迟)、工作流程、常见问题(安全、连接管理、数据编码)及Java实现示例,强调错误处理、心跳机制和资源管理的最佳实践。
876 6
|
自然语言处理 Java 编译器
用了那么久的Lombok,你知道它的原理么?
在写Java代码的时候,最烦写setter/getter方法,自从有了Lombok插件不用再写那些方法之后,感觉再也回不去了,那你们是否好奇过Lombok是怎么把setter/getter方法给你加上去的呢?有的同学说我们Java引入Lombok之后会污染依赖包,那我们可不可以自己写一个工具来代替Lombok呢?
用了那么久的Lombok,你知道它的原理么?
|
安全 机器人 Linux
Android简介
有关Android的小知识
665 0
|
移动开发 小程序 PHP
短说社区:教你玩转积分商城
短说社区后台设置积分商城的方法,左侧导航栏找到扩展模块,扩展模块里有积分商城。在积分商城-商品管理,我们可以添加商品,设置价格时,可以选择纯积分兑换,也可以设置积分+现金组合支付,以及积分+运费的模式,适配不同的场景。在积分管理-积分类型,可以自定义设置积分类型,用户在社区里不同的行为可以产生不同的积分。此外,我们还可以设置不同商品可以使用不同的积分类型来兑换,适配各自场景,满足运营需求。
404 0
短说社区:教你玩转积分商城