Spark 原理_逻辑图_窄依赖_案例 | 学习笔记

简介: 快速学习 Spark 原理_逻辑图_窄依赖_案例

开发者学堂课程【大数据 Spark 2020版(知识精讲与实战演练)第三阶段Spark 原理_逻辑图_窄依赖_案例】学习笔记,与课程紧密联系,让用户快速学习知识。

课程地址:https://developer.aliyun.com/learning/course/689/detail/12014


Spark 原理_逻辑图_窄依赖_案例


内容简介

一、RDD 之间有那些依赖关系

二、窄依赖案例

 

我们已经学习了 rdd 之间的关系,探讨的是分区之间的关系,那么了解了分区之间就是一对一、多对一的关系,接下来会对这些内容做更详细的说明。

 

一、RDD 之间有那些依赖关系

1.  前置说明  //rdd 之间的关系有那些种

(1)一对一关系

(2)多对一关系

为什么一对一、多对一是前置说明,因为关系是一个相对的概念,例如夫妻之间是没有血缘关系的,但是从人伦的关系上来看,夫妻之间又是最亲近的关系。所以看待关系的视角不同,得到的结论也不同。

2. 下结论之前,探讨 spark 中为什么要在 RDD 之间划分关系原因:想要看看 RDD 的分区是否能放在同一个流水线上执行,这就是要为 rdd 之间划分关系的根本原因。

//依赖关系有两种,如下:

1.窄依赖

2.宽依赖

通过学习了解 rdd 之间的关系是什么,什么是窄依赖,窄依赖的作用

 

二、窄依赖

案例

1.进入代码,编写内容如下:

@test

Def narrowdependency():unit ={

//需求:求得两个 RDD 之间的笛卡尔积

步骤

//1.生成 RDD

val conf = new sparkconf().setmaster(local[6]).setAPPName(cartesian)

Val sc = new SparkContext(conf)

Val rdd1 = sc.parallelize(seq(1,2,3,4,5,6,))

Val rdd2 = sc.parallelize(seq(a,b,c))

//2.计算

Val resultRDD = rdd1.cortesian(rdd2) //cortesian 算子是生成笛卡尔积的算子,通过一个算子就可以求得 rdd1 rdd2 两个笛卡尔积

//3.结果获取

ResultRDD.collect().foreach(println(_))

Sc.stop()

}

2.运行结果如图:

image.png

...

image.png

Rdd1rdd2会生成的笛卡尔积,笛卡尔积中包含什么数据?

1a 1b 1c

2a 2b 2c

3a 3b 3c

4a 4b 4c......

这两个数据中所有数字全部连结

六个数量的数据集和三个数量的数据集,生成的笛卡尔积

在这里笛卡尔积中的结果数量为18

//编写整个笛卡尔积的目的是为了了解什么是窄依赖.

相关文章
|
5月前
|
SQL 分布式计算 数据可视化
Spark SQL案例【电商购买数据分析】
Spark SQL案例【电商购买数据分析】
|
5月前
|
存储 分布式计算 负载均衡
【大数据技术Hadoop+Spark】MapReduce概要、思想、编程模型组件、工作原理详解(超详细)
【大数据技术Hadoop+Spark】MapReduce概要、思想、编程模型组件、工作原理详解(超详细)
63 0
|
5月前
|
存储 分布式计算 Hadoop
【大数据技术Hadoop+Spark】HDFS概念、架构、原理、优缺点讲解(超详细必看)
【大数据技术Hadoop+Spark】HDFS概念、架构、原理、优缺点讲解(超详细必看)
131 0
|
8天前
|
分布式计算 Hadoop Scala
Spark【环境搭建 01】spark-3.0.0-without 单机版(安装+配置+测试案例)
【4月更文挑战第13天】Spark【环境搭建 01】spark-3.0.0-without 单机版(安装+配置+测试案例)
15 0
|
5月前
|
SQL 分布式计算 数据挖掘
Spark_Day07:Spark SQL(DataFrame是什么和数据分析(案例讲解))
Spark_Day07:Spark SQL(DataFrame是什么和数据分析(案例讲解))
77 0
|
6月前
|
分布式计算 Java Spark
图解Spark Graphx实现顶点关联邻接顶点的collectNeighbors函数原理
图解Spark Graphx实现顶点关联邻接顶点的collectNeighbors函数原理
35 0
|
2月前
|
存储 缓存 分布式计算
Spark学习--day04、RDD依赖关系、RDD持久化、RDD分区器、RDD文件读取与保存
Spark学习--day04、RDD依赖关系、RDD持久化、RDD分区器、RDD文件读取与保存
|
5月前
|
SQL 分布式计算 大数据
Hudi数据湖技术引领大数据新风口(三)解决spark模块依赖冲突
Hudi数据湖技术引领大数据新风口(三)解决spark模块依赖冲突
102 0
|
5月前
|
存储 分布式计算 大数据
【大数据技术Hadoop+Spark】Spark RDD设计、运行原理、运行流程、容错机制讲解(图文解释)
【大数据技术Hadoop+Spark】Spark RDD设计、运行原理、运行流程、容错机制讲解(图文解释)
71 0
|
5月前
|
分布式计算 资源调度 大数据
【大数据技术Hadoop+Spark】Spark架构、原理、优势、生态系统等讲解(图文解释)
【大数据技术Hadoop+Spark】Spark架构、原理、优势、生态系统等讲解(图文解释)
247 0