术语解释
Executor 多线程的方式运行
每个partirion会被分配一个task
taskset就是stage，一个stage由多个task组成
广播变量类似于hadoop的DistributedCache
本文出自 “点滴积累” 博客，请务必保留此出处http://tianxingzhe.blog.51cto.com/3390077/1701758
spark内核
2016-08-28
1206
版权
版权声明：
本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《
阿里云开发者社区用户服务协议》和
《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写
侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。
简介：
术语解释Executor 多线程的方式运行每个partirion会被分配一个tasktaskset就是stage，一个stage由多个task组成广播变量类似于hadoop的DistributedCache本文出自 “点滴积累” 博客，请务必保留此出处http://tianxingzhe.blog.51cto.com/3390077/1
目录
相关文章
|
7月前
|
设计模式
SQL
分布式计算
Spark Day06：Spark Core之Spark 内核调度和SparkSQL快速入门
Spark Day06：Spark Core之Spark 内核调度和SparkSQL快速入门
76
0
0
|
7月前
|
分布式计算
Spark
索引
|
7月前
|
分布式计算
监控
Java
|
分布式计算
监控
Java
Spark学习---7、Spark内核（源码提交流程、任务执行、Shuffle、内存管理）（一）
Spark学习---7、Spark内核（源码提交流程、任务执行、Shuffle、内存管理）（一）
388
0
1
|
存储
消息中间件
缓存
Spark内核解析
Spark内核泛指Spark的核心运行机制，包括Spark核心组件的运行机制、Spark任务调度机制、Spark内存管理机制、Spark核心功能的运行原理等，熟练掌握Spark内核原理。
199
0
0
|
分布式计算
大数据
API
Spark内核设计的艺术：架构设计与实现——前言
版权声明：本文为博主原创文章，未经博主允许不得转载。 https://blog.csdn.net/beliefer/article/details/79001468
前言
为什么写这本书
给这本书写前言，让我想起了两年前给《深入理解Spark：核心思想与源码分析》一书写前言的经历。
1853
0
0
|
分布式计算
Apache
Spark
【Spark Summit East 2017】Apache Toree：Spark的一种Jupyter内核
本讲义出自Marius van Niekerk在Spark Summit East 2017上的演讲，主要介绍了Toree的设计思想，Toree如何与Jupyter生态系统交互，以及用户如何借助强大的插件系统来扩展Apache Toree的功能。
2460
0
0
|
1月前
|
分布式计算
大数据
Apache
ClickHouse与大数据生态集成：Spark & Flink 实战
【10月更文挑战第26天】在当今这个数据爆炸的时代，能够高效地处理和分析海量数据成为了企业和组织提升竞争力的关键。作为一款高性能的列式数据库系统，ClickHouse 在大数据分析领域展现出了卓越的能力。然而，为了充分利用ClickHouse的优势，将其与现有的大数据处理框架（如Apache Spark和Apache Flink）进行集成变得尤为重要。本文将从我个人的角度出发，探讨如何通过这些技术的结合，实现对大规模数据的实时处理和分析。
124
2
3
|
2月前
|
存储
分布式计算
算法
大数据-106 Spark Graph X 计算学习 案例：1图的基本计算、2连通图算法、3寻找相同的用户
大数据-106 Spark Graph X 计算学习 案例：1图的基本计算、2连通图算法、3寻找相同的用户
72
0
0
|
2月前
|
消息中间件
分布式计算
NoSQL
大数据-104 Spark Streaming Kafka Offset Scala实现Redis管理Offset并更新
大数据-104 Spark Streaming Kafka Offset Scala实现Redis管理Offset并更新
44
0
0
热门文章
最新文章
1
Spark Master启动源码分析
2
Spark-spark streaming
3
Spark PruneDependency 依赖关系 RangePartitioner
4
Spark本地环境搭建（local模式）
5
spark1.4加载mysql数据 创建Dataframe及join操作连接方法问题
6
Spark为什么只有在调用action时才会触发任务执行呢（附算子优化和使用示例）？
7
10月17日Spark社区直播【Tablestore Spark Streaming Connector -- 海量结构化数据的实时计算和处理】
8
利用闪存优化在Cosco基础上的Spark Shuffle
9
Spark Shell入门教程（上）
10
Spark Stage切分 源码剖析——DAGScheduler
1
spark用于分析数据并将数据保存到数据库中是
76
2
数据分享|Python、Spark SQL、MapReduce决策树、回归对车祸发生率影响因素可视化分析
96
3
如何解决Spark在深度学习中的资源消耗问题？
91
4
Spark在深度学习中的优缺点是什么？
264
5
使用Spark进行机器学习
81
6
Spark是一个基于内存的通用数据处理引擎，可以进行大规模数据处理和分析
142
7
【Spark】Spark基础教程知识点
91
8
DataWorks产品使用合集之在DataWorks中，通过spark访问外网的步骤如何解决
177
9
MaxCompute操作报错合集之大数据计算的MaxCompute Spark引擎无法读取到表，是什么原因
149
10
MaxCompute操作报错合集之spark3.1.1通过resource目录下的conf文件配置，报错如何解决
84