开发者社区 问答 正文

spark当中的Stage具体是什么意思?

spark当中的Stage具体是什么意思?

展开
收起
游客ahv54x37wvm7u 2021-12-12 21:01:24 742 分享
分享
版权
举报
1 条回答
写回答
取消 提交回答
  • 在 DAG 中又进行 stage 的划分,划分的依据是依赖是否是 shuffle 的,每个 stage 又可以划分成若干 task。接下来的事情就是 driver 发送 task 到 executor,executor 自己的线程池去执行这些 task,完成之后将结果返回给 driver。action 算子是划分不同 job 的依据。

    2021-12-12 21:01:34 举报
    赞同 评论

    评论

    全部评论 (0)

    登录后可评论
问答分类:
问答标签:
问答地址:
AI助理

你好,我是AI助理

可以解答问题、推荐解决方案等