Spark的调优是面试或者笔试考察的重点：总结下
1.开发调优：
原则一：避免创建重复的RDD。
原则二：尽可能复用同一个RDD。
原则三：对多次使用的RDD进行持久化。
原则四：尽量避免使用shuffle类算子 。
原则五：使用map-side预聚合的shuffle操作。
原则六：使用高性能的算子
原则七：广播大变量。
原则八：使用Kryo优化序列化性能。
原则九：优化数据结构。
原则十：对数据进行压缩。
原则十一：合并小文件。
【Spark 调优】Spark 开发调优的十大原则
2022-06-11
179
版权
版权声明：
本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《
阿里云开发者社区用户服务协议》和
《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写
侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。
简介：
【Spark 调优】Spark 开发调优的十大原则
目录
相关文章
|
8月前
|
SQL
分布式计算
Java
|
5月前
|
分布式计算
Java
数据库连接
|
5月前
|
分布式计算
大数据
Linux
|
5月前
|
分布式计算
资源调度
大数据
大数据开发岗面试复习30天冲刺 - 日积月累，每日五题【Day30】——Spark数据调优(文末附完整文档)
大数据开发岗面试复习30天冲刺 - 日积月累，每日五题【Day30】——Spark数据调优(文末附完整文档)
66
0
0
|
11月前
|
缓存
分布式计算
Spark
|
12月前
|
分布式计算
Ubuntu
Java
|
12月前
|
存储
分布式计算
Ubuntu
|
12月前
|
分布式计算
监控
网络协议
|
SQL
数据采集
存储
|
分布式计算
Java
程序员
热门文章
最新文章
1
【Flink】Flink跟Spark Streaming的区别？
2
大数据技术与Python：结合Spark和Hadoop进行分布式计算
3
Paimon与Spark
4
[AIGC大数据基础] Spark 入门
5
Spark【环境搭建 01】spark-3.0.0-without 单机版（安装+配置+测试案例）
6
数据分享|基于Python、Hadoop零售交易数据的Spark数据处理与Echarts可视化分析
7
图解大数据 | 使用Spark分析新冠肺炎疫情数据@综合案例
8
Spark 源码分析 -- BlockStore
9
BR-MLP基于spark+Hadoop分布式数据挖掘解决方案功能剖析
10
地铁译：Spark for python developers --- 搭建Spark虚拟环境3
1
Spark学习---SparkSQL（概述、编程、数据的加载和保存、自定义UDFA、项目实战）
117
2
安装Spark
35
3
Spark学习---day07、Spark内核（Shuffle、任务执行）
42
4
Spark读取变更Hudi数据集Schema实现分析
39
5
实战|使用Spark Streaming写入Hudi
49
6
adb spark的lakehouse api访问内表数据，还支持算子下推吗
107
7
Spark学习---day06、Spark内核（源码提交流程、任务执行）
43
8
Spark学习--day05、SparkCore电商网站实操、SparkCore-工程代码
67
9
Spark【Spark学习大纲】简介+生态+RDD+安装+使用（xmind分享）
32
10
Spark【基础知识 03】【RDD常用算子详解】（图片来源于网络）
60