AI 助理
备案控制台
开发者社区 问答 正文

Spark任务提交yarn模式yarn-cilent的过程是什么？

Spark任务提交yarn模式yarn-cilent的过程是什么？

展开
收起
游客fq2cv4o24bhvc 2021-12-07 18:29:35 477 分享
分享
 版权
举报

版权声明：本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。

1 条回答
写回答
取消 提交回答
  • 游客zxdz7pcxbx2uc

    1、在RM接受到申请后在集群中选择一个NM分配Container，并在Container中启动ApplicationMaster进程

    2、driver进程运行在client中，并初始化sparkContext sparkContext初始化完成后与ApplicationMaster通讯，通过ApplicationMaster向RM申请Container，ApplicationMaster通知NM在获得的Container中启动executor

    3、sparkContext分配Task给Executor，Executor发送运行状态给Driver

    2021-12-07 18:30:30 举报
    赞同 评论

    评论

    全部评论 (0)

    登录后可评论
问答分类：
分布式计算 资源调度 Spark
问答标签：
任务Yarn apache spark任务 apache spark yarn apache spark任务yarn Yarn任务
问答地址：
开发者社区 > 大数据 > 问答
相关问答
dataworks可以开发spark streaming任务吗？
43
0
0
dataworks上如何开发实时任务 spark任务或者flink任务？
50
0
0
阿里云E-MapReduce如何讓 spark 任務的 dataframe可以出現在日志之內?
71
0
0
如何通过Spark UI进行任务优化？
62
1
0
在client模式下，如果spark job的jar包过大，可能会导致什么问题？如何解决？
56
1
0
Spark的RDD和DataFrame编程模式如何帮助提升核算效率？
50
1
0
spark 写入oss-hdfs任务，spark客户端一直在等待，如何解决？
97
1
0
云数据仓库ADB有没有airflow调度adb任务的相关文档我看官方的产品文档只有调度spark的
40
2
0
EMR全托管starrocks集群使用spark connector导入任务事务处理慢如何解决
111
1
0
在DMS中是否有单独执行Spark SQL预览查询结果的功能，而不是执行整个任务并写入表？
69
1
0
AI助理

你好，我是AI助理

可以解答问题、推荐解决方案等