源码见：https://github.com/hiszm/hadoop-train
HDFS写数据
HDFS读数据
元数据
HDFS的目录结构以及每个文件的BLOCK信息(id,副本系数,存储的位置[ { hadoop/tmp/dir } ] /name/.......)
Checkpoint
Hadoop基础-06-HDFS数据读写
2021-12-30
113
版权
版权声明：
本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《
阿里云开发者社区用户服务协议》和
《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写
侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。
简介：
Hadoop基础-06-HDFS数据读写11
目录
相关文章
|
28天前
|
存储
分布式计算
监控
Hadoop【基础知识 01+02】【分布式文件系统HDFS设计原理+特点+存储原理】（部分图片来源于网络）【分布式计算框架MapReduce核心概念+编程模型+combiner&partitioner+词频统计案例解析与进阶+作业的生命周期】（图片来源于网络）
【4月更文挑战第3天】【分布式文件系统HDFS设计原理+特点+存储原理】（部分图片来源于网络）【分布式计算框架MapReduce核心概念+编程模型+combiner&partitioner+词频统计案例解析与进阶+作业的生命周期】（图片来源于网络）
74
2
2
|
12天前
|
存储
分布式计算
Hadoop
【专栏】Hadoop，开源大数据处理框架：驭服数据洪流的利器
【4月更文挑战第28天】Hadoop，开源大数据处理框架，由Hadoop Common、HDFS、YARN和MapReduce组成，提供大规模数据存储和并行处理。其优势在于可扩展性、容错性、高性能、灵活性及社区支持。然而，数据安全、处理速度、系统复杂性和技能短缺是挑战。通过加强安全措施、结合Spark、自动化工具和培训，Hadoop在应对大数据问题中保持关键地位。
20
1
1
|
14天前
|
新零售
分布式计算
数据可视化
数据分享|基于Python、Hadoop零售交易数据的Spark数据处理与Echarts可视化分析
数据分享|基于Python、Hadoop零售交易数据的Spark数据处理与Echarts可视化分析
29
0
0
|
26天前
|
分布式计算
Hadoop
测试技术
|
26天前
|
分布式计算
资源调度
Hadoop
Hadoop【基础知识 03+04】【Hadoop集群资源管理器yarn】（图片来源于网络）（hadoop fs + hadoop dfs + hdfs dfs 使用举例）
【4月更文挑战第5天】Hadoop【基础知识 03】【Hadoop集群资源管理器yarn】（图片来源于网络）Hadoop【基础知识 04】【HDFS常用shell命令】（hadoop fs + hadoop dfs + hdfs dfs 使用举例）
54
9
9
|
27天前
|
分布式计算
Hadoop
Shell
Hadoop【基础知识 04】【HDFS常用shell命令】（hadoop fs + hadoop dfs + hdfs dfs 使用举例）
【4月更文挑战第4天】Hadoop【基础知识 04】【HDFS常用shell命令】（hadoop fs + hadoop dfs + hdfs dfs 使用举例）
33
5
5
|
1月前
|
存储
分布式计算
Hadoop
|
1月前
|
存储
分布式计算
Hadoop
|
1月前
|
存储
分布式计算
Hadoop
|
5月前
|
存储
分布式计算
Hadoop
热门文章
最新文章
1
利用Hive与Hadoop构建大数据仓库：从零到一
2
Hadoop【hadoop学习大纲完全总结01+02+03+04+05】【自学阶段整理的xmind思维导图分享】【点击可放大看高清】
3
大数据处理架构Hadoop
4
大数据技术与Python：结合Spark和Hadoop进行分布式计算
5
Hadoop【问题记录 02】【hadoop-3.1.3 单机版】ResourceManager无法启动NodeManager启动后过自动关闭 javax/activation/DataSource
6
Hadoop【基础知识 03+04】【Hadoop集群资源管理器yarn】（图片来源于网络）（hadoop fs + hadoop dfs + hdfs dfs 使用举例）
7
Hadoop【基础知识 05】【HDFS的JavaAPI】（集成及测试）
8
Hadoop【基础知识 03】【Hadoop集群资源管理器yarn】（图片来源于网络）
9
Hadoop节点资源扩展硬件选择
10
【Hadoop Yarn】Yarn 工作机制
1
Sqoop【付诸实践 01】Sqoop1最新版 MySQL与HDFS\Hive\HBase 核心导入导出案例分享+多个WRAN及Exception问题处理（一篇即可学会在日常工作中使用Sqoop）
102
2
Flink报错问题之flink-sql写hdfs报错如何解决
67
3
HDFS体系结构的局限性
49
4
NameNode和DataNode在HDFS中的作用是什么？
141
5
Hadoop的Secondary NameNode在HDFS中的作用是什么？
41
6
HDFS中的数据一致性是如何保证的？请解释数据一致性的概念和实现方式。
96
7
HDFS的数据读取流程是怎样的？请描述数据读取的过程。
31
8
HDFS如何处理故障和节点失效？请解释故障恢复机制。
56
9
HDFS的数据写入流程是怎样的？请描述数据写入的过程。
21
10
HDFS如何处理大文件和小文件的存储和访问？
51