Spark 原理_逻辑图_窄依赖_案例 | 学习笔记

简介: 快速学习 Spark 原理_逻辑图_窄依赖_案例

开发者学堂课程【大数据 Spark 2020版(知识精讲与实战演练)第三阶段Spark 原理_逻辑图_窄依赖_案例】学习笔记,与课程紧密联系,让用户快速学习知识。

课程地址:https://developer.aliyun.com/learning/course/689/detail/12014


Spark 原理_逻辑图_窄依赖_案例


内容简介

一、RDD 之间有那些依赖关系

二、窄依赖案例

 

我们已经学习了 rdd 之间的关系,探讨的是分区之间的关系,那么了解了分区之间就是一对一、多对一的关系,接下来会对这些内容做更详细的说明。

 

一、RDD 之间有那些依赖关系

1.  前置说明  //rdd 之间的关系有那些种

(1)一对一关系

(2)多对一关系

为什么一对一、多对一是前置说明,因为关系是一个相对的概念,例如夫妻之间是没有血缘关系的,但是从人伦的关系上来看,夫妻之间又是最亲近的关系。所以看待关系的视角不同,得到的结论也不同。

2. 下结论之前,探讨 spark 中为什么要在 RDD 之间划分关系原因:想要看看 RDD 的分区是否能放在同一个流水线上执行,这就是要为 rdd 之间划分关系的根本原因。

//依赖关系有两种,如下:

1.窄依赖

2.宽依赖

通过学习了解 rdd 之间的关系是什么,什么是窄依赖,窄依赖的作用

 

二、窄依赖

案例

1.进入代码,编写内容如下:

@test

Def narrowdependency():unit ={

//需求:求得两个 RDD 之间的笛卡尔积

步骤

//1.生成 RDD

val conf = new sparkconf().setmaster(local[6]).setAPPName(cartesian)

Val sc = new SparkContext(conf)

Val rdd1 = sc.parallelize(seq(1,2,3,4,5,6,))

Val rdd2 = sc.parallelize(seq(a,b,c))

//2.计算

Val resultRDD = rdd1.cortesian(rdd2) //cortesian 算子是生成笛卡尔积的算子,通过一个算子就可以求得 rdd1 rdd2 两个笛卡尔积

//3.结果获取

ResultRDD.collect().foreach(println(_))

Sc.stop()

}

2.运行结果如图:

image.png

...

image.png

Rdd1rdd2会生成的笛卡尔积,笛卡尔积中包含什么数据?

1a 1b 1c

2a 2b 2c

3a 3b 3c

4a 4b 4c......

这两个数据中所有数字全部连结

六个数量的数据集和三个数量的数据集,生成的笛卡尔积

在这里笛卡尔积中的结果数量为18

//编写整个笛卡尔积的目的是为了了解什么是窄依赖.

相关文章
|
1月前
|
分布式计算 大数据 Java
大数据-87 Spark 集群 案例学习 Spark Scala 案例 手写计算圆周率、计算共同好友
大数据-87 Spark 集群 案例学习 Spark Scala 案例 手写计算圆周率、计算共同好友
49 5
|
1月前
|
分布式计算 关系型数据库 MySQL
大数据-88 Spark 集群 案例学习 Spark Scala 案例 SuperWordCount 计算结果数据写入MySQL
大数据-88 Spark 集群 案例学习 Spark Scala 案例 SuperWordCount 计算结果数据写入MySQL
49 3
|
1月前
|
存储 分布式计算 算法
大数据-106 Spark Graph X 计算学习 案例:1图的基本计算、2连通图算法、3寻找相同的用户
大数据-106 Spark Graph X 计算学习 案例:1图的基本计算、2连通图算法、3寻找相同的用户
60 0
|
1月前
|
分布式计算 大数据 Spark
大数据-95 Spark 集群 SparkSQL Action与Transformation操作 详细解释与测试案例(二)
大数据-95 Spark 集群 SparkSQL Action与Transformation操作 详细解释与测试案例(二)
39 1
|
1月前
|
分布式计算 Java 大数据
大数据-92 Spark 集群 SparkRDD 原理 Standalone详解 ShuffleV1V2详解 RDD编程优化
大数据-92 Spark 集群 SparkRDD 原理 Standalone详解 ShuffleV1V2详解 RDD编程优化
38 0
大数据-92 Spark 集群 SparkRDD 原理 Standalone详解 ShuffleV1V2详解 RDD编程优化
|
1月前
|
设计模式 数据采集 分布式计算
企业spark案例 —出租车轨迹分析
企业spark案例 —出租车轨迹分析
62 0
|
1月前
|
消息中间件 分布式计算 Kafka
大数据-102 Spark Streaming Kafka ReceiveApproach DirectApproach 附带Producer、DStream代码案例
大数据-102 Spark Streaming Kafka ReceiveApproach DirectApproach 附带Producer、DStream代码案例
55 0
|
1月前
|
SQL 分布式计算 大数据
大数据-101 Spark Streaming DStream转换 窗口操作状态 跟踪操作 附带多个案例(一)
大数据-101 Spark Streaming DStream转换 窗口操作状态 跟踪操作 附带多个案例(一)
29 0
|
1月前
|
存储 分布式计算 大数据
大数据-101 Spark Streaming DStream转换 窗口操作状态 跟踪操作 附带多个案例(二)
大数据-101 Spark Streaming DStream转换 窗口操作状态 跟踪操作 附带多个案例(二)
43 0
|
1月前
|
SQL 分布式计算 大数据
大数据-97 Spark 集群 SparkSQL 原理详细解析 Broadcast Shuffle SQL解析过程(一)
大数据-97 Spark 集群 SparkSQL 原理详细解析 Broadcast Shuffle SQL解析过程(一)
42 0