备案控制台
开发者社区> 问答> 正文

Monitoring the Dynamic Resource Usage of Scala and Python Spark Jobs in Yarn

在SPARK SUMMIT 2017上，Ed Barnes, Ruslan Vaulin and Chris McCubbin Sqrrl Data分享了题为《Monitoring the Dynamic Resource Usage of Scala and Python Spark Jobs in Yarn》，就ML架构工作流，如何把spark运用到产品上等方面的内容做了深入的分析。

https://yq.aliyun.com/download/2128?spm=a2c4e.11154804.0.0.59316a793Ft1sn

展开
收起
福利达人 2018-07-29 00:48:46 1107 0
1 条回答
写回答
取消 提交回答
问答分类：
分布式计算 资源调度 Scala Spark Python
问答标签：
Scala Spark Python spark python apache spark apache spark yarn dynamic Python
问答地址：
开发者社区 > 大数据 > 问答

版权声明：本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。

相关问答
EMR集群如何配置Yarn和Spark组建的日志定期清理策略
15
1
0
大数据计算MaxCompute Spark可以支持yarn client模式吗？
32
1
0
DataWorks如何创建ODPS Spark节点创建Python资源？
69
2
0
ADB MySQL湖仓版提交python任务到spark集群时，如何打包环境？
19
0
0
请问bin/spark-sql --master yarn不能进行集群模式运行吗？
88
4
0
spark.aliyun.odps.datasource 有没有基于scala 2.12构建的版本？
55
4
0
DataWorks中maxcomputer如何更换spark节点的Python版本？
57
4
0
DataWorks创建ODPS Spark节点创建Python资源？
86
4
0
DataWorks如何创建ODPS Spark节点创建Python资源？
124
1
0
新建了一个FILE资源，如何通过spark或者python来读取FILE资源里的内容？
260
1
0
问答排行榜
最热
最新
1 通过阿里云代备案系统进行个人快速备案 2699889
2 【大咖问答】对话PostgreSQL 中国社区发起人之一，阿里云数据库高级专家 德哥 1818314
3 据说在家办公的程序员是这样写代码的？ 1792338
4 阿里云开放端口权限 689923
5 如何升级配置 536074
6 【藏经阁一起读（27）】本周推荐《Apache Flink案例集（2022版）》，你有哪些心得？ 522460
7 【精品问答】python技术1000问(1) 514001
8 Flink Forward Asia 2021 有奖问答 512807
9 Linux Bash严重漏洞修复紧急通知（已全部给出最终修复方案） 456921
10 OceanBase 使用动画（持续更新） 359266
11 阿里云LNAMP(Linux + Nginx + Apache + MySQL + PHP)环境一键安装脚本 329722
12 OSS存储服务-客户端工具 321336
13 为体验实验室取一个新名字。 307317
14 企业邮箱发送邮件时，若出现投递失败产生退信，内容提示包含如下： the mta server of * reply:550 failed to meet SPF requirements 或者 the mta server of 163.com — 163mx01.mxmail.netease.com(220.181.14.141) reply:550 MI:SPF mx14,QMCowECpA0qTiftVaeB3Cg—.872S2 1442548128 http://mail.163.com/help 303858
15 Win Server 2003-2016 加密勒索事件必打补丁合集 295162
16 FLASH播放器，在IE浏览器下显示请确定您的域名已完成备案和CNAME绑定 283657
17 安全组详解，新手必看教程 277260
18 写code还是做管理，开发者如何进行职业规划？ 268469
19 惊喜翻倍：免费ECS+免费环境配置~！(ECS免费体验6个月活动3月31日结束) 255828
20 阿里云手机和阿云浏览器连接问题专帖 235631
1 国内AI大模型高考数学成绩超GPT-4o，如何看待这一结果？ 511
2 如何避免“写代码5分钟，调试2小时”的尴尬？ 430
3 通义灵码生成Git Commit的时候，偶尔生成中文，偶尔生成英文，根本无法控制生成的语言。 107
4 一键部署3D卡通风格模型，分享部署过程及使用体验 504
5 展示你通过AI修饰的自然风光照片，并讲述你的拍摄和编辑过程 884
6 机器学习PAI现在一直在重试，怎样停掉？ 213
7 请问机器学习PAI eas服务拉取dockerhub失败怎么办？ 169
8 请教下机器学习PAI的代码配置没有链接测试吗？ 100
9 平头哥芯片W800:芯片如何购买？ 137
10 阿里云Grafana升级10后 已有的 飞书webhook 报警机器人不再工作。 请问如何排查？ 145
11 请问通义灵码IDEA生成Git Commit Message 如何默认生成中文注释 100
12 Nacos登录密码忘记了如何修改？ 250
13 你知道APP是怎么开发的吗？ 1478
14 如何提高企业的业务稳定性？ 619
15 钉钉宜搭，A提交一个表单，如何设置该表单只能给B看？ 138
16 百问求答 | 回答问题即有机会得米家落地扇 326
17 集成&自动化：3层触发时，新增和删除触发正常，但编辑时不正常 107
18 分享AI代码助手的使用体验 756
19 分享一张AI生成的“老照片”，讲讲你与它的故事 999
20 idea上的通义灵码生成git提交消息老是会变成英文 没有切换中文的入口 268

相关课程

更多
  • Python爬虫实战
    40031
    6
    去学习
  • Python开发基础入门
    11607
    17
    去学习
  • Python常用数据科学库
    1573
    53
    去学习
  • Python网络爬虫实战
    2429
    3
    去学习
  • Python完全自学手册图文教程
    11860
    39
    去学习
  • Python基础快速入门实战教程
    38541
    8
    去学习
    • 推荐问答
    乘风问答官招募中！机械键盘免费拿

    相关文章

  • DataWorks产品使用合集之在依赖普通的Python脚本和开源第三方包的场景下，如何使用DataWorks PyODPS节点调用第三方包
  • DataWorks产品使用合集之如何使用Python 3的Pandas库
  • DataWorks产品使用合集之GetFile接口是否存在所有FileType类型枚举
  • 优化大数据处理：Java与Hadoop生态系统集成
  • DataWorks产品使用合集之要在已有的分区表上添加新的分区字段，如地区分区，该如何实现

    • 相关电子书

    更多
    • From Python Scikit-Learn to Sc 立即下载
    Data Pre-Processing in Python: 立即下载
    双剑合璧-Python和大数据计算平台的结合 立即下载

    相关实验场景

    更多
  • 用Python画圣诞树
    241
    1.0小时
    去实验
  • Python选择及循环结构
    1567
    3.0小时
    去实验
  • 云端Python及基本操作
    2402
    2.0小时
    去实验
  • Python网络通信程序典型应用
    41
    1.0小时
    去实验
  • Python新手入门（Anolis OS）
    164
    2.0小时
    去实验