第2章
Apache Hadoop和Apache Spark入门
在本章，我们将学习 Hadoop 和 Spark 的基本知识，了解 Spark 与 MapReduce 有哪些不同，并开始安装集群和设置分析所需的工具。
本章分为以下几个子主题：
《Spark与Hadoop大数据分析》——第2章 Apache Hadoop和Apache Spark入门
2017-09-01
1201
版权
版权声明：
本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《
阿里云开发者社区用户服务协议》和
《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写
侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。
简介：
本节书摘来自华章计算机《Spark与Hadoop大数据分析》一书中的第2章，作者 [美]文卡特·安卡姆（Venkat Ankam），译 吴今朝，更多章节内容可以访问云栖社区“华章计算机”公众号查看。
目录
相关文章
|
1月前
|
消息中间件
分布式计算
大数据
|
1月前
|
存储
SQL
分布式计算
大数据-162 Apache Kylin 全量增量Cube的构建 Segment 超详细记录 多图
大数据-162 Apache Kylin 全量增量Cube的构建 Segment 超详细记录 多图
52
3
3
|
10天前
|
存储
分布式计算
Hadoop
数据湖技术：Hadoop与Spark在大数据处理中的协同作用
【10月更文挑战第27天】在大数据时代，数据湖技术凭借其灵活性和成本效益成为企业存储和分析大规模异构数据的首选。Hadoop和Spark作为数据湖技术的核心组件，通过HDFS存储数据和Spark进行高效计算，实现了数据处理的优化。本文探讨了Hadoop与Spark的最佳实践，包括数据存储、处理、安全和可视化等方面，展示了它们在实际应用中的协同效应。
45
2
2
|
1月前
|
Java
大数据
数据库连接
大数据-163 Apache Kylin 全量增量Cube的构建 手动触发合并 JDBC 操作 Scala
大数据-163 Apache Kylin 全量增量Cube的构建 手动触发合并 JDBC 操作 Scala
27
2
2
|
11天前
|
存储
分布式计算
Hadoop
数据湖技术：Hadoop与Spark在大数据处理中的协同作用
【10月更文挑战第26天】本文详细探讨了Hadoop与Spark在大数据处理中的协同作用，通过具体案例展示了两者的最佳实践。Hadoop的HDFS和MapReduce负责数据存储和预处理，确保高可靠性和容错性；Spark则凭借其高性能和丰富的API，进行深度分析和机器学习，实现高效的批处理和实时处理。
45
1
1
|
1月前
|
SQL
分布式计算
NoSQL
|
22天前
|
分布式计算
大数据
Apache
利用.NET进行大数据处理：Apache Spark与.NET for Apache Spark
【10月更文挑战第15天】随着大数据成为企业决策和技术创新的关键驱动力，Apache Spark作为高效的大数据处理引擎，广受青睐。然而，.NET开发者面临使用Spark的门槛。本文介绍.NET for Apache Spark，展示如何通过C#和F#等.NET语言，结合Spark的强大功能进行大数据处理，简化开发流程并提升效率。示例代码演示了读取CSV文件及统计分析的基本操作，突显了.NET for Apache Spark的易用性和强大功能。
32
1
1
|
29天前
|
分布式计算
Hadoop
大数据
大数据体系知识学习（一）：PySpark和Hadoop环境的搭建与测试
这篇文章是关于大数据体系知识学习的，主要介绍了Apache Spark的基本概念、特点、组件，以及如何安装配置Java、PySpark和Hadoop环境。文章还提供了详细的安装步骤和测试代码，帮助读者搭建和测试大数据环境。
50
1
1
|
1月前
|
SQL
分布式计算
大数据
|
1月前
|
存储
大数据
分布式数据库
大数据-165 Apache Kylin Cube优化 案例 2 定义衍生维度及对比 & 聚合组 & RowKeys
大数据-165 Apache Kylin Cube优化 案例 2 定义衍生维度及对比 & 聚合组 & RowKeys
31
1
1
热门文章
最新文章
1
使用MaxCompute访问TableStore（OTS） 简明手册
2
丰富、连接、待集成—MaxCompute 生态再出发
3
日交易笔百万级，Ping++的大数据平台架构
4
十款卓越工具助力大数据与分析技术
5
大数据分析与云技术结合
6
湖北省加快推进云计算标准化促大数据产业发展
7
数据隐私与安全在大数据时代的挑战与应对
8
「镁客·请讲」百融金服张韶峰：为迎接大数据金融的风口，我们已准备了8年
9
使用MaxCompute LOAD命令批量导入OSS数据最佳实践—STS方式LOAD开启KMS加密OSS数据
10
2020阿里巴巴大数据技术公开课第五季 — SaaS模式云数据仓库MaxCompute开发实战与常见问题
1
从 Volcano 火山模型到 Pipeline 执行模型，阿里云数据库 SelectDB 内核 Apache Doris 执行模型的迭代
62822
2
欢迎报名 Apache Seata (incubating) 开源之夏
1323
3
构建高性能Web服务器：Nginx vs Apache
240
4
Maven配置以及IDEA设置（Cannot resolve plugin org.apache.maven.plugins:报错）
692
5
从离线到实时：无锡锡商银行基于 Apache Doris 的数据仓库演进实践
65387
6
Centos7 安装Apache
96
7
在STS里使用Gradle编译Apache POI5.0.0
59
8
数据猎手：使用Java和Apache HttpComponents库下载Facebook图像
74
9
Apache服务器配置与优化指南
372
10
Golang深入浅出之-Go语言中的分布式计算框架Apache Beam
232