AI 助理
备案控制台
开发者社区 问答 正文

Spark开发调优有什么？

Spark开发调优有什么？

展开
收起
芯在这 2021-12-06 23:18:45 304 分享 版权

版权声明：本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。

1 条回答
写回答
取消 提交回答
  • 真的很搞笑

    避免创建重复的RDD

    尽可能复用同一个RDD

    对多次使用的RDD进行持久化

    尽量避免使用shuffle类算子

    使用map-side预聚合的shuffle操作

    使用高性能的算子

    2021-12-06 23:18:57
    赞同 展开评论
问答分类：
分布式计算 Spark
问答标签：
apache spark开发 apache spark调优 apache spark开发调优
问答地址：
开发者社区 > 大数据 > 问答
相关问答
E-MapReduce开启使用DLF统一元数据后本地开发spark程序想访问emr hive中...
75
0
0
使用maxcompute开发ODPS Spark任务，使用spark.sql 无法 rename分区
207
4
0
E-MapReduce使用Spark如何开发HBase Bulkload
71
1
0
dataworks可以开发spark streaming任务吗？
80
0
0
dataworks上如何开发实时任务 spark任务或者flink任务？
89
0
0
在ODPS环境中，如何进行Spark的交互式开发测试？
102
1
0
dataworks怎么和spark EMR集成开发和运维调度？
91
0
0
E-MapReduce Serverless Spark 版开发是使用dataworks的吗？
83
0
0
大数据计算MaxCompute如何进行 spark 3.X 快速开发呢？是要用模版开发么？
69
1
0
DataWorks中ODPS spark sql 是这个模版开发么？
95
1
0