开发者社区> 问答> 正文

spark的资源参数调优有哪些方法?

spark的资源参数调优有哪些方法?

展开
收起
游客y244y7ln2rlpa 2021-12-06 23:12:25 350 0
1 条回答
写回答
取消 提交回答
  • spark的资源参数调优:

    ●num-executors: 设置Spark作业总共要用多少个Executor进程来执行

    ●executor-memory: 设置每个Executor进程的内存

    ●executor-cores: 设置每个Executor进程的CPU core数量

    ●driver-memory: 设置Driver进程的内存

    ●spark.default.parallelism: 设置每个stage的默认task数量

    ...

    2021-12-06 23:13:54
    赞同 展开评论 打赏
问答排行榜
最热
最新

相关电子书

更多
Hybrid Cloud and Apache Spark 立即下载
Scalable Deep Learning on Spark 立即下载
Comparison of Spark SQL with Hive 立即下载