开发者社区> 问答> 正文

Standalone模式下运行Spark程序的大概流程是怎么样的?

Standalone模式下运行Spark程序的大概流程是怎么样的?

展开
收起
游客ahv54x37wvm7u 2021-12-13 20:17:28 850 0
1 条回答
写回答
取消 提交回答
  • Standalone 模式分别由客户端、Master 节点和 Worker 节点组成。在 Spark Shell 提交计算代码的时候,所在机器作为客户端启动应用程序,然后向 Master 注册应用程序,由 Master 通知 Worker 节点启动 Executor,Executor 启动之后向客户端的 Driver 注册,最后由 Driver 发送执行任务给 Executor 并监控任务执行情况。该程序代码中,在触发计算行数动作之前,需要设置缓存代码,这样在执行计算行数行为的时候进行缓存数据,缓存后再运行计算行数。

    2021-12-13 20:17:57
    赞同 展开评论 打赏
问答排行榜
最热
最新

相关电子书

更多
Hybrid Cloud and Apache Spark 立即下载
Scalable Deep Learning on Spark 立即下载
Comparison of Spark SQL with Hive 立即下载