1.概要
我打算分享一下，我开发Hadoop的一些心得，对于即将步入Hadoop行业的童鞋，希望我整理的这些博文对您有帮助，我打算分为以下几部分来描述。
2.步骤
注：点击链接可直接跳到指定位置
红色部分已编写完成，并已发布，后面的部分目前正在整理资料中。
Hadoop项目开发笔录
2017-11-24
1058
版权
版权声明：
本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《
阿里云开发者社区用户服务协议》和
《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写
侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。
简介：
目录
相关文章
|
分布式计算
大数据
Hadoop
hadoop项目开发案例举例
大数据Hadoop应用开发技术正可谓如火如荼推进中，以为大数据已经不仅仅是局限在互联网领域，而是已经被上升到了国家战略的高度层面。大数据正在深刻影响和改变我们的日常生活和工作方式。
2040
0
0
|
2月前
|
存储
分布式计算
大数据
Flume+Hadoop：打造你的大数据处理流水线
本文介绍了如何使用Apache Flume采集日志数据并上传至Hadoop分布式文件系统（HDFS）。Flume是一个高可用、可靠的分布式系统，适用于大规模日志数据的采集和传输。文章详细描述了Flume的安装、配置及启动过程，并通过具体示例展示了如何将本地日志数据实时传输到HDFS中。同时，还提供了验证步骤，确保数据成功上传。最后，补充说明了使用文件模式作为channel以避免数据丢失的方法。
89
4
4
|
3月前
|
存储
分布式计算
Hadoop
数据湖技术：Hadoop与Spark在大数据处理中的协同作用
【10月更文挑战第27天】在大数据时代，数据湖技术凭借其灵活性和成本效益成为企业存储和分析大规模异构数据的首选。Hadoop和Spark作为数据湖技术的核心组件，通过HDFS存储数据和Spark进行高效计算，实现了数据处理的优化。本文探讨了Hadoop与Spark的最佳实践，包括数据存储、处理、安全和可视化等方面，展示了它们在实际应用中的协同效应。
201
2
2
|
3月前
|
存储
分布式计算
Hadoop
数据湖技术：Hadoop与Spark在大数据处理中的协同作用
【10月更文挑战第26天】本文详细探讨了Hadoop与Spark在大数据处理中的协同作用，通过具体案例展示了两者的最佳实践。Hadoop的HDFS和MapReduce负责数据存储和预处理，确保高可靠性和容错性；Spark则凭借其高性能和丰富的API，进行深度分析和机器学习，实现高效的批处理和实时处理。
192
1
1
|
4月前
|
分布式计算
Hadoop
大数据
大数据体系知识学习（一）：PySpark和Hadoop环境的搭建与测试
这篇文章是关于大数据体系知识学习的，主要介绍了Apache Spark的基本概念、特点、组件，以及如何安装配置Java、PySpark和Hadoop环境。文章还提供了详细的安装步骤和测试代码，帮助读者搭建和测试大数据环境。
124
1
1
|
4月前
|
SQL
分布式计算
大数据
|
4月前
|
分布式计算
Kubernetes
Hadoop
大数据-82 Spark 集群模式启动、集群架构、集群管理器 Spark的HelloWorld + Hadoop + HDFS
大数据-82 Spark 集群模式启动、集群架构、集群管理器 Spark的HelloWorld + Hadoop + HDFS
242
6
6
|
4月前
|
分布式计算
资源调度
Hadoop
大数据-80 Spark 简要概述 系统架构 部署模式 与Hadoop MapReduce对比
大数据-80 Spark 简要概述 系统架构 部署模式 与Hadoop MapReduce对比
113
2
2
|
4月前
|
存储
分布式计算
资源调度
大数据-04-Hadoop集群 集群群起 NameNode/DataNode启动 3台公网云 ResourceManager Yarn HDFS 集群启动 UI可视化查看 YarnUI（一）
大数据-04-Hadoop集群 集群群起 NameNode/DataNode启动 3台公网云 ResourceManager Yarn HDFS 集群启动 UI可视化查看 YarnUI（一）
120
5
5
|
4月前
|
资源调度
数据可视化
大数据
大数据-04-Hadoop集群 集群群起 NameNode/DataNode启动 3台公网云 ResourceManager Yarn HDFS 集群启动 UI可视化查看 YarnUI（二）
大数据-04-Hadoop集群 集群群起 NameNode/DataNode启动 3台公网云 ResourceManager Yarn HDFS 集群启动 UI可视化查看 YarnUI（二）
53
4
5
热门文章
最新文章
1
MPP 架构与 Hadoop 架构技术选型指南
2
Flume+Hadoop：打造你的大数据处理流水线
3
基于Java的Hadoop文件处理系统：高效分布式数据解析与存储
4
安装hadoop集群(Multi Cluster)
5
基于Ubuntu Hadoop的群集搭建Hive
6
TensorFlow的开源与Hadoop的开源有什么不同？
7
Hadoop大象之旅009-通过Shell操作hdfs
8
Hadoop入门基础（二）：Hadoop集群安装与部署详解（超详细教程）（一）
9
解决Eclipse中运行WordCount出现 java.lang.ClassNotFoundException: org.apache.hadoop.examples.WordCount$TokenizerMapper问题
10
Hadoop单词统计
1
MPP 架构与 Hadoop 架构技术选型指南
103
2
基于Java的Hadoop文件处理系统：高效分布式数据解析与存储
50
3
Flume+Hadoop：打造你的大数据处理流水线
89
4
使用Hadoop MapReduce进行大规模数据爬取
62
5
linux中HADOOP_HOME和JAVA_HOME删除后依然指向旧目录
49
6
【赵渝强老师】基于ZooKeeper实现Hadoop HA
161
7
【赵渝强老师】部署Hadoop的本地模式
94
8
【赵渝强老师】Hadoop生态圈组件
346
9
Hadoop集群管理：向繁琐的计算源创建Say ByeBye
112
10
数据湖技术：Hadoop与Spark在大数据处理中的协同作用
201