Hadoop 用FileStatus类来查看HDFS中文件或目录的元信息

简介:

 Hadoop中的FileStatus类可以用来查看HDFS中文件或者目录的元信息,任意的文件或者目录都可以拿到对应的FileStatus, 我们这里简单的演示下这个类的相关API:

 
 
  1. /*  
  2.  */ 
  3. package com.charles.hadoop.fs; 
  4.  
  5. import java.net.URI; 
  6. import java.sql.Timestamp; 
  7.  
  8. import org.apache.hadoop.conf.Configuration; 
  9. import org.apache.hadoop.fs.FileStatus; 
  10. import org.apache.hadoop.fs.FileSystem; 
  11. import org.apache.hadoop.fs.Path; 
  12.  
  13. /** 
  14.  * 
  15.  * Description:这个类演示如何通过FileSystem的getFileStatus()方法来获得FileStatus对象 
  16.  * 进而查询文件或者目录的元信息 
  17.  *  
  18.  * 我们这里做2个实验,依次是获取HDFS中的某文件的元信息,获取HDFS中某目录的元信息 
  19.  * 
  20.  * @author charles.wang 
  21.  * @created May 26, 2012 1:43:01 PM 
  22.  *  
  23.  */ 
  24. public class FileMetadataQuerier { 
  25.  
  26.     /** 
  27.      * @param args 
  28.      */ 
  29.     public static void main(String[] args) throws Exception { 
  30.         // TODO Auto-generated method stub 
  31.          
  32.          
  33.          
  34.         //读取hadoop文件系统的配置 
  35.         Configuration conf = new Configuration(); 
  36.         conf.set("hadoop.job.ugi""hadoop-user,hadoop-user"); 
  37.          
  38.         //实验1:查看HDFS中某文件的元信息 
  39.         System.out.println("实验1:查看HDFS中某文件的元信息"); 
  40.         String fileUri = args[0]; 
  41.         FileSystem fileFS = FileSystem.get(URI.create(fileUri) ,conf); 
  42.         FileStatus fileStatus = fileFS.getFileStatus(new Path(fileUri)); 
  43.         //获取这个文件的基本信息       
  44.         if(fileStatus.isDir()==false){ 
  45.             System.out.println("这是个文件"); 
  46.         } 
  47.         System.out.println("文件路径: "+fileStatus.getPath()); 
  48.         System.out.println("文件长度: "+fileStatus.getLen()); 
  49.         System.out.println("文件修改日期: "+new Timestamp (fileStatus.getModificationTime()).toString()); 
  50.         System.out.println("文件上次访问日期: "+new Timestamp(fileStatus.getAccessTime()).toString()); 
  51.         System.out.println("文件备份数: "+fileStatus.getReplication()); 
  52.         System.out.println("文件的块大小: "+fileStatus.getBlockSize()); 
  53.         System.out.println("文件所有者:  "+fileStatus.getOwner()); 
  54.         System.out.println("文件所在的分组: "+fileStatus.getGroup()); 
  55.         System.out.println("文件的 权限: "+fileStatus.getPermission().toString()); 
  56.         System.out.println(); 
  57.          
  58.         //实验2:查看HDFS中某文件的元信息 
  59.         System.out.println("实验2:查看HDFS中某目录的元信息"); 
  60.         String dirUri = args[1]; 
  61.         FileSystem dirFS = FileSystem.get(URI.create(dirUri) ,conf); 
  62.         FileStatus dirStatus = dirFS.getFileStatus(new Path(dirUri)); 
  63.         //获取这个目录的基本信息       
  64.         if(dirStatus.isDir()==true){ 
  65.             System.out.println("这是个目录"); 
  66.         } 
  67.         System.out.println("目录路径: "+dirStatus.getPath()); 
  68.         System.out.println("目录长度: "+dirStatus.getLen()); 
  69.         System.out.println("目录修改日期: "+new Timestamp (dirStatus.getModificationTime()).toString()); 
  70.         System.out.println("目录上次访问日期: "+new Timestamp(dirStatus.getAccessTime()).toString()); 
  71.         System.out.println("目录备份数: "+dirStatus.getReplication()); 
  72.         System.out.println("目录的块大小: "+dirStatus.getBlockSize()); 
  73.         System.out.println("目录所有者:  "+dirStatus.getOwner()); 
  74.         System.out.println("目录所在的分组: "+dirStatus.getGroup()); 
  75.         System.out.println("目录的 权限: "+dirStatus.getPermission().toString()); 
  76.         System.out.println("这个目录下包含以下文件或目录:"); 
  77.         for(FileStatus fs : dirFS.listStatus(new Path(dirUri))){ 
  78.             System.out.println(fs.getPath()); 
  79.         } 
  80.          
  81.          
  82.     } 
  83.  

最终显示结果为:

 
 
  1. 实验1:查看HDFS中某文件的元信息 
  2. 这是个文件 
  3. 文件路径: hdfs://192.168.129.35:9000/user/hadoop-user/textfile.txt 
  4. 文件长度: 93 
  5. 文件修改日期: 2012-05-26 12:49:04.285 
  6. 文件上次访问日期: 2012-05-26 12:49:04.285 
  7. 文件备份数: 1 
  8. 文件的块大小: 67108864 
  9. 文件所有者:  hadoop-user 
  10. 文件所在的分组: supergroup 
  11. 文件的 权限: rw-r--r-- 
  12.  
  13. 实验2:查看HDFS中某目录的元信息 
  14. 这是个目录 
  15. 目录路径: hdfs://192.168.129.35:9000/user/hadoop-user 
  16. 目录长度: 0 
  17. 目录修改日期: 2012-05-26 13:34:10.743 
  18. 目录上次访问日期: 1970-01-01 08:00:00.0 
  19. 目录备份数: 0 
  20. 目录的块大小: 0 
  21. 目录所有者:  hadoop-user 
  22. 目录所在的分组: supergroup 
  23. 目录的 权限: rwxr-xr-x 
  24. 这个目录下包含以下文件或目录: 
  25. hdfs://192.168.129.35:9000/user/hadoop-user/copyMe.txt 
  26. hdfs://192.168.129.35:9000/user/hadoop-user/input 
  27. hdfs://192.168.129.35:9000/user/hadoop-user/output 
  28. hdfs://192.168.129.35:9000/user/hadoop-user/textfile.txt 

 

对于文件,其文件长度,备份数,修改日期,权限信息符合真实情况:

而blocksize,因为我们说了HDFS中默认是64MB = 67108864 Byte

 

 对于目录,长度,备份数,块大小都没有语义,所以这里都为0.

而目录下包含其他信息,包括其下的文件和子目录都是符合真实情况的:





本文转自 charles_wang888 51CTO博客,原文链接:http://blog.51cto.com/supercharles888/879011,如需转载请自行联系原作者

目录
相关文章
|
7天前
|
域名解析 分布式计算 网络协议
java遍历hdfs路径信息,报错EOFException
java遍历hdfs路径信息,报错EOFException
21 3
|
2月前
|
存储 分布式计算 Hadoop
【揭秘Hadoop背后的秘密!】HDFS读写流程大曝光:从理论到实践,带你深入了解Hadoop分布式文件系统!
【8月更文挑战第24天】Hadoop分布式文件系统(HDFS)是Hadoop生态系统的关键组件,专为大规模数据集提供高效率存储及访问。本文深入解析HDFS数据读写流程并附带示例代码。HDFS采用NameNode和DataNode架构,前者负责元数据管理,后者承担数据块存储任务。文章通过Java示例演示了如何利用Hadoop API实现数据的写入与读取,有助于理解HDFS的工作原理及其在大数据处理中的应用价值。
57 1
|
2月前
|
存储 缓存 分布式计算
|
2月前
|
存储 分布式计算 资源调度
Hadoop生态系统概览:从HDFS到Spark
【8月更文第28天】Hadoop是一个开源软件框架,用于分布式存储和处理大规模数据集。它由多个组件构成,旨在提供高可靠性、高可扩展性和成本效益的数据处理解决方案。本文将介绍Hadoop的核心组件,包括HDFS、MapReduce、YARN,并探讨它们如何与现代大数据处理工具如Spark集成。
62 0
|
分布式计算 应用服务中间件 Docker
Hadoop HDFS分布式文件系统Docker版
一、Hadoop文件系统HDFS 构建单节点的伪分布式HDFS 构建4个节点的HDFS分布式系统 nameNode secondnameNode datanode1 datanode2 其中 datanode2动态节点,在HDFS系统运行时,==动态加入==。
2574 0
|
5天前
|
存储 分布式计算 资源调度
两万字长文向你解密大数据组件 Hadoop
两万字长文向你解密大数据组件 Hadoop
26 11
|
2月前
|
存储 分布式计算 Hadoop
|
2月前
|
图形学 数据可视化 开发者
超实用Unity Shader Graph教程:从零开始打造令人惊叹的游戏视觉特效,让你的作品瞬间高大上,附带示例代码与详细步骤解析!
【8月更文挑战第31天】Unity Shader Graph 是 Unity 引擎中的强大工具,通过可视化编程帮助开发者轻松创建复杂且炫酷的视觉效果。本文将指导你使用 Shader Graph 实现三种效果:彩虹色渐变着色器、动态光效和水波纹效果。首先确保安装最新版 Unity 并启用 Shader Graph。创建新材质和着色器图谱后,利用节点库中的预定义节点,在编辑区连接节点定义着色器行为。
101 0
|
2月前
|
分布式计算 资源调度 Hadoop
Hadoop入门基础(五):Hadoop 常用 Shell 命令一网打尽,提升你的大数据技能!
Hadoop入门基础(五):Hadoop 常用 Shell 命令一网打尽,提升你的大数据技能!

相关实验场景

更多
下一篇
无影云桌面