1
条回答
写回答
写回答
-
https://developer.aliyun.com/profile/5yerqm5bn5yqg?spm=a2c6h.12873639.0.0.6eae304abcjaIBSpark的表有两种：DataSource表和Hive表。另外Spark后续版本中DataSourceV2也将逐渐流行，目前还在不断发展中，暂时就不在这里讨论。我们知道SparkSQL其实底层是SparkRDD，而RDD执行时，每个maptask会处理RDD的一个Partition中的数据（注意这里的Partition是RDD的概念，要和表的Partition进行区分）。因此，SparkSQL作业的任务切分关键在于底层RDD的partition如何切分。
2020-12-28 11:44:16赞同 展开评论 打赏
版权声明：本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。
相关问答
阿里云EMR是云原生开源大数据平台，为客户提供简单易集成的Hadoop、Hive、Spark、Flink、Presto、ClickHouse、StarRocks、Delta、Hudi等开源大数据计算和存储引擎，计算资源可以根据业务的需要调整。EMR可以部署在阿里云公有云的ECS和ACK平台。
热门讨论
热门文章
阿里云E-MapReduce notebook需要加白名单吗？
40
从旧版数据开发 迁移至dataflow EMR是支持么？
25
阿里云E-MapReduce这个错误的原因是什么？
22
阿里云E-MapReduce从魔搭启动notebook时，提示账号已被拉入黑名单，这个是什么情况呢？
21
阿里云E-MapReduce中workflow 提交任务到emr失败，这个问题怎么排查？
20
阿里云E-MapReduce有cdh6.3与jindofs结合的文档吗？
19
EMR这个怎么迁移到 dataworks，而且不影响业务？
19
请问阿里云E-MapReduce这个错有人知道怎么回事吗？
38
阿里云E-MapReduce，SHELL任務有能力可以寫檔案至oss或是修改資源中心內的文件嗎?
39
E-MapReduce这是 什么意思？
38
展开全部
如何使用Kafka Connect实现同步RDS binlog数据
15727
JindoFS: 云上大数据的高性能数据湖存储方案
16115
Spark in action on Kubernetes - Playground搭建与架构浅析
13049
HIVE MapJoin异常问题处理总结
14595
首次揭秘|为6.4亿人次出行提供无线网络的技术架构
10533
JindoFS概述：云原生的大数据计算存储分离方案
22696
助力云上开源生态 - 阿里云开源大数据平台的发展
11642
基于Spark Streaming 进行 MySQL Binlog 日志准实时传输
10903
在 Apache Spark 中利用 HyperLogLog 函数实现高级分析
10468
Flume NG 简介及配置实战
9566
展开全部
相关文章
相关电子书
更多
