HDFSAPI编程源码-java遍历文件列表

简介: HDFSAPI编程源码-java遍历文件列表

通过调用Java API实现对HDFS的文件系统的操作。基本过程为首先打开代表被操作的HDFS的文件系统对象,然后调研对象的方法完成操作,最后调用对象的close方法关闭对象。运行方式可以java类打包到jar中,然后在hadoop的客户端上运行该jar包

代码:

首先获取文件配置,再遍历输出文件夹

1. package hdfsapi;
2. 
3. import java.io.IOException;
4. import java.net.URI;
5. 
6. import org.apache.hadoop.conf.Configuration;
7. import org.apache.hadoop.fs.FileStatus;
8. import org.apache.hadoop.fs.FileSystem;
9. import org.apache.hadoop.fs.Path;
10. 
11. public class E1_HdfsListDir {
12.   public static void main(String[] args) throws IOException, InterruptedException {
13.     //获取配置
14.     Configuration conf = new Configuration();
15.     conf.set("fs.defaultFS", "hdfs://yc_master:8020");
16.     //获得文件系统对象
17.     FileSystem fs = FileSystem.get(conf);
18.     //声明路径
19.     Path path = new Path("/user/");
20.     //获取文件列表
21.     FileStatus[] list = fs.listStatus(path);
22.     //遍历文件列表
23.     for(FileStatus f:list) {
24.       if(f.isDirectory()) {  //判断是否是文件夹
25.         System.out.println(f.getPath());
26.       }
27.     }
28.     System.out.println("done!");   //输出结束标记
29.   }
30. }

 

理解HDFS Java API编程原理;

掌握HDFS的命令;

掌握Elipse远程调试Hadoop程序的方法;

掌握HDFS基本的API调用方法。


相关文章
|
4天前
|
运维 Java
Java版HIS系统 云HIS系统 云HIS源码 结构简洁、代码规范易阅读
云HIS系统分为两个大的系统,一个是基层卫生健康云综合管理系统,另一个是基层卫生健康云业务系统。基层卫生健康云综合管理系统由运营商、开发商和监管机构使用,用来进行运营管理、运维管理和综合监管。基层卫生健康云业务系统由基层医院使用,用来支撑医院各类业务运转。
23 5
|
3天前
|
Java 关系型数据库 MySQL
Elasticsearch【问题记录 01】启动服务&停止服务的2类方法【及 java.nio.file.AccessDeniedException: xx/pid 问题解决】(含shell脚本文件)
【4月更文挑战第12天】Elasticsearch【问题记录 01】启动服务&停止服务的2类方法【及 java.nio.file.AccessDeniedException: xx/pid 问题解决】(含shell脚本文件)
28 3
|
5天前
|
JavaScript Java 测试技术
基于Java的电影评论系统的设计与实现(源码+lw+部署文档+讲解等)
基于Java的电影评论系统的设计与实现(源码+lw+部署文档+讲解等)
20 0
|
5天前
|
JavaScript Java 测试技术
基于Java的在线日语培训平台的设计与实现(源码+lw+部署文档+讲解等)
基于Java的在线日语培训平台的设计与实现(源码+lw+部署文档+讲解等)
23 0
|
5天前
|
JavaScript Java 测试技术
基于Java的同城蔬菜配送管理系统的设计与实现(源码+lw+部署文档+讲解等)
基于Java的同城蔬菜配送管理系统的设计与实现(源码+lw+部署文档+讲解等)
10 0
|
5天前
|
JavaScript Java 测试技术
基于Java的心理预约咨询管理系统的设计与实现(源码+lw+部署文档+讲解等)
基于Java的心理预约咨询管理系统的设计与实现(源码+lw+部署文档+讲解等)
21 0
基于Java的心理预约咨询管理系统的设计与实现(源码+lw+部署文档+讲解等)
|
5天前
|
JavaScript Java 测试技术
基于Java的税务门户网站的设计与实现(源码+lw+部署文档+讲解等)
基于Java的税务门户网站的设计与实现(源码+lw+部署文档+讲解等)
4 0
|
5天前
|
JavaScript Java 测试技术
基于Java的高校毕业生就业管理系统的设计与实现(源码+lw+部署文档+讲解等)
基于Java的高校毕业生就业管理系统的设计与实现(源码+lw+部署文档+讲解等)
21 0
基于Java的高校毕业生就业管理系统的设计与实现(源码+lw+部署文档+讲解等)
|
5天前
|
JavaScript Java 测试技术
基于Java的家纺用品销售管理系统的设计与实现(源码+lw+部署文档+讲解等)
基于Java的家纺用品销售管理系统的设计与实现(源码+lw+部署文档+讲解等)
16 0
|
5天前
|
JavaScript Java 测试技术
基于Java的教务管理系统的设计与实现(源码+lw+部署文档+讲解等)
基于Java的教务管理系统的设计与实现(源码+lw+部署文档+讲解等)
19 0