开发者社区 问答 正文

Spark资源参数调优有什么?

Spark资源参数调优有什么?

展开
收起
芯在这 2021-12-06 23:18:08 340 分享 版权
1 条回答
写回答
取消 提交回答
  • num-executors:设置Spark作业总共要用多少个Executor进程来执行

    executor-memory:设置每个Executor进程的内存

    executor-cores:设置每个Executor进程的CPU core数量

    driver-memory:设置Driver进程的内存

    spark.default.parallelism:设置每个stage的默认task数量

    2021-12-06 23:18:19
    赞同 展开评论