备案控制台

开发者社区> 问答> 正文

mapReduce中shuffle阶段的工作流程是什么，如何优化shuffle阶段呢？

mapReduce中shuffle阶段的工作流程是什么，如何优化shuffle阶段呢？

展开

收起

游客vqgchj4kfdzsu 2021-12-06 00:05:57 336 0

1 条回答

写回答

取消提交回答

游客qg2vswkfykdde

分区，排序，溢写，拷贝到对应reduce机器上

增加combiner，压缩溢写的文件。

2021-12-06 10:28:43

赞同展开评论打赏

问答分类：

分布式计算

问答标签：

mapreduce优化 mapreduce流程 mapreduce shuffle 开源大数据平台 E-MapReduce优化开源大数据平台 E-MapReduce shuffle

问答地址：

开发者社区 > 大数据 > 问答

版权声明：本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。

相关问答

E-MapReduce弹性伸缩配置本地盘机型扩容流程报错问题

8

0

0

E-MapReduce EMR集群JindoSDK升级流程

6

1

0

E-MapReduce Phoenix如何优化

3

1

0

E-MapReduce EMR集群JindoData升级流程

5

1

0

E-MapReduce ECS自身问题导致弹性伸缩流程卡住

19

1

0

阿里云E-MapReduce如果hive改不了，oss本身能优化吗？

142

1

0

E-MapReduce的HDFS启动过程很慢如何优化

148

1

0

E-MapReduce的HDFS使用优化建议

115

1

0

MapReduce在IO传输中该如何优化方法呢？

828

1

0

MapReduce在Reduce阶段该如何优化方法呢？

799

1

0

问答排行榜

最热

最新

1 通过阿里云代备案系统进行个人快速备案 2699814

2 【大咖问答】对话PostgreSQL 中国社区发起人之一，阿里云数据库高级专家德哥 1818279

3 据说在家办公的程序员是这样写代码的？ 1792274

4 阿里云开放端口权限 689884

5 《阿里云服务器从入门到精通》—论坛精华帖汇总（2013.8.21更新） 599467

6 如何升级配置 536058

7 【藏经阁一起读（27）】本周推荐《Apache Flink案例集（2022版）》，你有哪些心得？ 522423

8 【精品问答】python技术1000问(1) 513986

9 Flink Forward Asia 2021 有奖问答 512793

10 Linux Bash严重漏洞修复紧急通知（已全部给出最终修复方案） 456914

11 OceanBase 使用动画（持续更新） 359251

12 阿里云LNAMP(Linux + Nginx + Apache + MySQL + PHP)环境一键安装脚本 329716

13 OSS存储服务-客户端工具 321314

14 为体验实验室取一个新名字。 307281

15 企业邮箱发送邮件时，若出现投递失败产生退信，内容提示包含如下： the mta server of * reply:550 failed to meet SPF requirements 或者 the mta server of 163.com — 163mx01.mxmail.netease.com(220.181.14.141) reply:550 MI:SPF mx14,QMCowECpA0qTiftVaeB3Cg—.872S2 1442548128 http://mail.163.com/help 303822

16 Win Server 2003-2016 加密勒索事件必打补丁合集 295145

17 FLASH播放器，在IE浏览器下显示请确定您的域名已完成备案和CNAME绑定 283587

18 安全组详解，新手必看教程 277244

19 写code还是做管理，开发者如何进行职业规划？ 268409

20 惊喜翻倍：免费ECS+免费环境配置~！(ECS免费体验6个月活动3月31日结束) 255820

1 分享AI代码助手的使用体验 123

2 分享一张AI生成的“老照片”，讲讲你与它的故事 159

3 函数计算一键部署ComfyUI绘画平台的优势有哪些？ 530

4 域名控制台 267

5 2024过半，AI技术发展到哪个阶段了？ 877

6 二维码全球每天使用量达 100 多亿，会被用完吗？ 438

7 OpenKruise现在好多docker.io的镜像都拉不了，你们有这种情况吗？ 204

8 轻量应用服务器自建docker无法拉取镜像 139

9 你是如何使用AI集成工具提升工作效率的？ 952

10 图像生成技术飞速发展，我们距离个人化艺术创造的旅程还有多远？ 1184

11 宜搭的两个表单如何实现联动 168

12 宜搭子表单怎么实现图片压缩 107

13 你的编程能力从什么时候开始突飞猛进的？ 888

14 阿里云主力模型直降97%，两百万Tokens进入一元时代，对AI行业有哪些影响？ 636

15 大模型服务平台百炼和DashScope灵积模型服务有什么区别 106

16 如何批量修改子表单 125

17 乘风问答官6月排位赛开启！Xiaomi Watch S3手表等好礼等你赢~ 451

18 宜搭是否可以实现上传文件审批通过后自动上传至指定钉钉知识库中呢？ 110

19 请问怎么计算表单中某个条件下的金额总和？ 186

20 短信服务收不到验证码提示触发号码天级流控Permits:40 164

相关课程

更多

Hadoop 分布式计算框架 MapReduce

745

89

去学习

推荐问答

乘风问答官招募中！机械键盘免费拿

相关电子书

更多

Spark优化实践 立即下载

分布式流处理框架——功能对比和性能评估 立即下载

低代码开发师（初级）实战教程 立即下载