源码见：https://github.com/hiszm/hadoop-train
HDFS写数据
HDFS读数据
元数据
HDFS的目录结构以及每个文件的BLOCK信息(id,副本系数,存储的位置[ { hadoop/tmp/dir } ] /name/.......)
Checkpoint
Hadoop基础-06-HDFS数据读写
2021-12-30
140
版权
版权声明：
本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《
阿里云开发者社区用户服务协议》和
《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写
侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。
简介：
Hadoop基础-06-HDFS数据读写11
目录
相关文章
|
2月前
|
分布式计算
Kubernetes
Hadoop
大数据-82 Spark 集群模式启动、集群架构、集群管理器 Spark的HelloWorld + Hadoop + HDFS
大数据-82 Spark 集群模式启动、集群架构、集群管理器 Spark的HelloWorld + Hadoop + HDFS
184
6
6
|
16天前
|
数据采集
分布式计算
Hadoop
|
2月前
|
分布式计算
Java
Hadoop
Hadoop-30 ZooKeeper集群 JavaAPI 客户端 POM Java操作ZK 监听节点 监听数据变化 创建节点 删除节点
Hadoop-30 ZooKeeper集群 JavaAPI 客户端 POM Java操作ZK 监听节点 监听数据变化 创建节点 删除节点
70
1
1
|
2月前
|
SQL
分布式计算
关系型数据库
Hadoop-24 Sqoop迁移 MySQL到Hive 与 Hive到MySQL SQL生成数据 HDFS集群 Sqoop import jdbc ETL MapReduce
Hadoop-24 Sqoop迁移 MySQL到Hive 与 Hive到MySQL SQL生成数据 HDFS集群 Sqoop import jdbc ETL MapReduce
104
0
0
|
2月前
|
SQL
分布式计算
关系型数据库
Hadoop-23 Sqoop 数据MySQL到HDFS(部分) SQL生成数据 HDFS集群 Sqoop import jdbc ETL MapReduce
Hadoop-23 Sqoop 数据MySQL到HDFS(部分) SQL生成数据 HDFS集群 Sqoop import jdbc ETL MapReduce
48
0
0
|
分布式计算
应用服务中间件
Docker
Hadoop HDFS分布式文件系统Docker版
一、Hadoop文件系统HDFS
构建单节点的伪分布式HDFS
构建4个节点的HDFS分布式系统
nameNode
secondnameNode
datanode1
datanode2
其中 datanode2动态节点，在HDFS系统运行时，==动态加入==。
2651
0
0
|
2月前
|
分布式计算
资源调度
Hadoop
大数据-80 Spark 简要概述 系统架构 部署模式 与Hadoop MapReduce对比
大数据-80 Spark 简要概述 系统架构 部署模式 与Hadoop MapReduce对比
78
2
2
|
1天前
|
存储
分布式计算
大数据
Flume+Hadoop：打造你的大数据处理流水线
本文介绍了如何使用Apache Flume采集日志数据并上传至Hadoop分布式文件系统（HDFS）。Flume是一个高可用、可靠的分布式系统，适用于大规模日志数据的采集和传输。文章详细描述了Flume的安装、配置及启动过程，并通过具体示例展示了如何将本地日志数据实时传输到HDFS中。同时，还提供了验证步骤，确保数据成功上传。最后，补充说明了使用文件模式作为channel以避免数据丢失的方法。
19
4
4
|
1月前
|
存储
分布式计算
Hadoop
数据湖技术：Hadoop与Spark在大数据处理中的协同作用
【10月更文挑战第27天】在大数据时代，数据湖技术凭借其灵活性和成本效益成为企业存储和分析大规模异构数据的首选。Hadoop和Spark作为数据湖技术的核心组件，通过HDFS存储数据和Spark进行高效计算，实现了数据处理的优化。本文探讨了Hadoop与Spark的最佳实践，包括数据存储、处理、安全和可视化等方面，展示了它们在实际应用中的协同效应。
110
2
2
|
1月前
|
存储
分布式计算
Hadoop
数据湖技术：Hadoop与Spark在大数据处理中的协同作用
【10月更文挑战第26天】本文详细探讨了Hadoop与Spark在大数据处理中的协同作用，通过具体案例展示了两者的最佳实践。Hadoop的HDFS和MapReduce负责数据存储和预处理，确保高可靠性和容错性；Spark则凭借其高性能和丰富的API，进行深度分析和机器学习，实现高效的批处理和实时处理。
74
1
1
热门文章
最新文章
1
【centos6.5 hadoop2.7 _64位一键安装脚本】有问题加我Q直接问
2
发布Apache Hadoop 2.6.0——异构存储，长时间运行的服务与滚动升级支持
3
hadoop安装小记
4
cdh5.3.10_hadoop环境迁移之主机IP修改
5
Hadoop2.6.0运行mapreduce之推断（speculative）执行（下）
6
hadoop环境初始化搭建
7
安装hadoop集群(Multi Cluster)
8
简单的hadoop启动脚本
9
【大数据】Linux下安装Hadoop(2.7.1)详解及WordCount运行
10
TensorFlow的开源与Hadoop的开源有什么不同？
1
Hadoop的HDFS问题
87
2
阿里云EMR数据湖文件系统: 面向开源和云打造下一代 HDFS
72770
3
[AIGC 大数据基础]浅谈hdfs
81
4
[AIGC 大数据基础] 浅谈hdfs
70
5
Hive【基础知识 02-1】【Hive CLI 命令行工具使用】【准备阶段-建库、建表、导入数据、编写测试SQL脚本并上传HDFS】
93
6
Hadoop【基础知识 05】【HDFS的JavaAPI】（集成及测试）
110
7
Hadoop【基础知识 03+04】【Hadoop集群资源管理器yarn】（图片来源于网络）（hadoop fs + hadoop dfs + hdfs dfs 使用举例）
157
8
面经：HDFS分布式文件系统原理与故障排查
526
9
Hadoop【基础知识 04】【HDFS常用shell命令】（hadoop fs + hadoop dfs + hdfs dfs 使用举例）
132
10
Hadoop【基础知识 01+02】【分布式文件系统HDFS设计原理+特点+存储原理】（部分图片来源于网络）【分布式计算框架MapReduce核心概念+编程模型+combiner&partitioner+词频统计案例解析与进阶+作业的生命周期】（图片来源于网络）
329