备案控制台

开发者社区> 问答> 正文

Spark任务提交yarn模式yarn-client的缺点是什么？

Spark任务提交yarn模式yarn-client的缺点是什么？

展开

收起

游客fq2cv4o24bhvc 2021-12-07 18:35:22 441 0

1 条回答

写回答

取消提交回答

游客zxdz7pcxbx2uc

如果有多个Driver进程在任务提交的系统中运行，会拖慢当前系统的性能，和占用太多当前系统的内存和CPU等资源。且在当前系统因为资源限制中没法启动更多的Driver。也就没法提交更多的spark任务

2021-12-07 18:35:57

赞同展开评论打赏

问答分类：

分布式计算资源调度 Spark

问答标签：

Yarn模式 Yarn spark Yarn任务任务Yarn spark Yarn模式

问答地址：

开发者社区 > 大数据 > 问答

版权声明：本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。

相关问答

EMR集群如何配置Yarn和Spark组建的日志定期清理策略

15

1

0

大数据计算MaxCompute Spark可以支持yarn client模式吗？

32

1

0

大数据计算MaxCompute Spark Local 模式启动报错，还需要开其他的配置么？

22

1

0

大数据计算MaxCompute在idea下的Local模式下运行Spark，报错怎么排查这个问题啊？

91

5

0

请问bin/spark-sql --master yarn不能进行集群模式运行吗？

89

4

0

基于yarn，spark任务可以配置动态资源内存和核数，flink呢？

361

1

0

spark 在 yarn cluster 模式下的 driver 节点，是不是也没有这个 Java

607

0

0

MaxCompute Spark通过Yarn-Cluster模式任务提交命令过程是啥呢？

815

1

0

MaxCompute Spark通过Yarn-Cluster模式参数准备项目工程命令是啥呢？

893

1

0

MaxCompute Spark通过Yarn-Cluster模式参数配置操作命令是啥呢？

580

1

0

问答排行榜

最热

最新

1 通过阿里云代备案系统进行个人快速备案 2699917

2 【大咖问答】对话PostgreSQL 中国社区发起人之一，阿里云数据库高级专家德哥 1818327

3 据说在家办公的程序员是这样写代码的？ 1792367

4 阿里云开放端口权限 689932

5 如何升级配置 536076

6 【藏经阁一起读（27）】本周推荐《Apache Flink案例集（2022版）》，你有哪些心得？ 522472

7 【精品问答】python技术1000问(1) 514007

8 Flink Forward Asia 2021 有奖问答 512809

9 Linux Bash严重漏洞修复紧急通知（已全部给出最终修复方案） 456923

10 OceanBase 使用动画（持续更新） 359270

11 阿里云LNAMP(Linux + Nginx + Apache + MySQL + PHP)环境一键安装脚本 329725

12 OSS存储服务-客户端工具 321348

13 为体验实验室取一个新名字。 307329

14 企业邮箱发送邮件时，若出现投递失败产生退信，内容提示包含如下： the mta server of * reply:550 failed to meet SPF requirements 或者 the mta server of 163.com — 163mx01.mxmail.netease.com(220.181.14.141) reply:550 MI:SPF mx14,QMCowECpA0qTiftVaeB3Cg—.872S2 1442548128 http://mail.163.com/help 303869

15 Win Server 2003-2016 加密勒索事件必打补丁合集 295171

16 FLASH播放器，在IE浏览器下显示请确定您的域名已完成备案和CNAME绑定 283669

17 安全组详解，新手必看教程 277263

18 写code还是做管理，开发者如何进行职业规划？ 268486

19 惊喜翻倍：免费ECS+免费环境配置~！(ECS免费体验6个月活动3月31日结束) 255832

20 阿里云手机和阿云浏览器连接问题专帖 235632

1 使用通义灵码冲刺备战求职季，你有哪些深刻体验？ 117

2 通用大模型VS垂直大模型，你倾向于哪一方？ 181

3 如何破除工作中的“路径依赖”？ 163

4 一键生成你眼中的未来城市，分享部署过程、输出结果及使用体验 685

5 展示你用AI工具生成动漫头像，并分享配置过程及使用体验 440

6 国内AI大模型高考数学成绩超GPT-4o，如何看待这一结果？ 722

7 如何避免“写代码5分钟，调试2小时”的尴尬？ 805

8 通义灵码生成Git Commit的时候，偶尔生成中文，偶尔生成英文，根本无法控制生成的语言。 214

9 一键部署3D卡通风格模型，分享部署过程及使用体验 622

10 展示你通过AI修饰的自然风光照片，并讲述你的拍摄和编辑过程 1083

11 机器学习PAI现在一直在重试，怎样停掉？ 252

12 请问机器学习PAI eas服务拉取dockerhub失败怎么办？ 202

13 机器学习PAI dlc一直卡在预分配怎么解决？没有日志吗？ 119

14 请教下机器学习PAI的代码配置没有链接测试吗？ 140

15 平头哥芯片W800:芯片如何购买？ 179

16 阿里云Grafana升级10后已有的飞书webhook 报警机器人不再工作。请问如何排查？ 169

17 请问通义灵码IDEA生成Git Commit Message 如何默认生成中文注释 142

18 登录nacos提示No message available 怎么办？ 118

19 Nacos登录密码忘记了如何修改？ 484

20 你知道APP是怎么开发的吗？ 1750

相关课程

更多

大数据实战项目：反爬虫系统（Lua+Spark+Redis+Hadoop框架搭建）第一阶段

382

33

去学习

大数据实战项目：反爬虫系统（Lua+Spark+Redis+Hadoop框架搭建）第三阶段

118

25

去学习

大数据实战项目：反爬虫系统（Lua+Spark+Redis+Hadoop框架搭建）第五阶段

146

32

去学习

大数据实战项目 - 反爬虫系统（Lua+Spark+Redis+Hadoop框架搭建）第七阶段

342

9

去学习

Hadoop 分布式资源管理框架 YARN

492

5

去学习

大数据实时计算框架Spark快速入门

957

93

去学习

推荐问答

乘风问答官招募中！机械键盘免费拿

相关电子书

更多

深度学习+大数据 TensorFlow on Yarn 立即下载

Docker on Yarn 微服务实践 立即下载

深度学习+大数据-TensorFlow on Yarn 立即下载