开发者社区> 问答> 正文

yarn-client、 yarn-cluster两种模式的差别是什么?

yarn-client、 yarn-cluster两种模式的差别是什么?

展开
收起
芯在这 2021-12-05 21:17:30 299 0
1 条回答
写回答
取消 提交回答
  • spark-submit提交给yarn的两种方式总结与区分:

    spark-submit提交给yarn有两种方式:1为yarn-cluster, 2为yarn-client

    两种方式的区别:

    yarn-client主要是用于测试,因为driver运行在本地客户端,负责调度application,会与yarn集群产生大量的网络通信,会导致网卡流量激增!!好处在于直接执行时,本地可以看到所有的log,方便调试

    yarn-cluster用户生产环境,以为driver运行在nodemanager,没有网卡流量激增的问题。缺点在于调试不方便,本地用spark-submit提交后,看不到log,只能通过yarn application -logs application_id这种命令来查看,比较麻烦 或者 yarn logs -applicationId application_id

    2021-12-05 22:24:00
    赞同 展开评论 打赏
问答排行榜
最热
最新

相关电子书

更多
深度学习+大数据 TensorFlow on Yarn 立即下载
Docker on Yarn 微服务实践 立即下载
深度学习+大数据-TensorFlow on Yarn 立即下载