AI 助理
备案控制台
开发者社区 问答 正文

Hadoop shuffle的reduce端会从哪里获取数据？

Hadoop shuffle的reduce端会从哪里获取数据？

展开
收起
游客fq2cv4o24bhvc 2021-12-05 09:50:12 293 分享 版权

版权声明：本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。

1 条回答
写回答
取消 提交回答
  • 游客zxdz7pcxbx2uc

    reduce端可能从n多个map的结果中获取数据，而这些map的执行速度不尽相同，当其中一个map运行结束时，reduce就会从jobtractor中获取该信息

    2021-12-05 09:51:51
    赞同 展开评论
问答分类：
分布式计算 Hadoop
问答标签：
hadoop数据 hadoop shuffle hadoop reduce hadoop shuffle reduce
问答地址：
开发者社区 > 大数据 > 问答
相关问答
阿里云E-MapReduceJindo DistCp是否支持将数据从Hadoop同步至aws的s3？
124
2
0
hadoop号线不适合这种小文件的存储，还是将数据提取存储到nosql数据库中比较好？
56
1
0
你好 用机器学习PAI的emr上的ds集群读hive可以读取我现有hadoop集群的hive数据吗？
87
1
0
各位老师，遇到过：trino 不支持查询 使用hadoop catalog 写到iceberg的数据
172
0
0
Hadoop和Spark在数据读取方面有什么不同？
491
1
0
Hadoop是对什么数据做批量处理的中间件？
1940
1
0
使用 hive 创建数据表，并使用 hadoop 文件系统中的数据加载到 hive 数据表中的第三步
743
1
0
Hadoop 写数据的流程是怎样的？
802
1
0
hadoop和spark的shuffle相同和差异具体有哪些啊？
726
1
0
Hadoop数据迁到MaxCompute的数据准备有什么？
1188
1
0