AI 助理
备案控制台
开发者社区 大数据与机器学习 开源大数据平台 E-MapReduce 正文

HadoopDistCp是什么？

HadoopDistCp是什么？

展开
收起
Lee_tianbai 2021-01-07 15:51:33 1036 分享 版权

版权声明：本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。

1 条回答
写回答
取消 提交回答
  • Lee_tianbai

    HadoopDistCp 是 Hadoop 集成的分布式数据迁移工具，提供了基本文件拷贝、覆盖 拷贝、指定 map 并行度、log 输出路径等功能。在 Hadoop2x 上对 DistCp 进行了部分优 化例如拷贝策略的选择，默认使用 uniformsize（每个 map 会平衡文件大小）如果指定 dynamic，则会使用 DynamicInputFormat。这些功能优化了普通 hdfs 间数据拷贝，但 是对于对象存储系统如 OSS 缺少数据写入方面的优化。

    2021-01-07 15:51:43
    赞同 展开评论
问答分类：
开源大数据平台 E-MapReduce
问答地址：
开发者社区 > 大数据与机器学习 > 开源大数据平台 E-MapReduce > 问答
相关问答
this xml file does not appear to have any style in
47361
10
0
请问下 我访问接口不通 什么原因 Provisional headers are shown
1539
0
0
OSS的endpoint如何查看
36076
6
0
购买阿里国外的云服务器是否可以访问谷歌？
80182
47
0
配置了安全组规则，端口还是无法访问
32126
25
0
通过www和不带www的网址输入最终都指向www.我的域名.com，求指教
123000
28
0
sql server的用户名和密码怎么查啊？
35337
21
0
域名在腾讯云备案成功，解析到阿里云服务器，提示仍需备案？
59370
30
0
Connection reset by peer的常见原因及解决办法
3649
1
0
设置域名解析如何指向我的服务器url包括端口号
17470
2
0
大数据与机器学习

开源大数据平台 E-MapReduce

阿里云EMR是云原生开源大数据平台，为客户提供简单易集成的Hadoop、Hive、Spark、Flink、Presto、ClickHouse、StarRocks、Delta、Hudi等开源大数据计算和存储引擎，计算资源可以根据业务的需要调整。EMR可以部署在阿里云公有云的ECS和ACK平台。

我要提问
收录在圈子:
阿里云E-MapReduce
2323
+ 订阅

相关文章

  • EMR管控平台全面升级：智能化助力客户实现在离线混部和降本增效
  • 美的楼宇科技基于阿里云 EMR Serverless Spark 构建 LakeHouse 湖仓数据平台
  • StarRocks + Paimon 在阿里集团 Lakehouse 的探索与实践
  • 百观科技基于阿里云 EMR 的数据湖实践分享

    • 热门讨论

    热门文章

  • 核桃编程是什么？
  • Mem usage has exceed the limit of BE - com.mysql.j
  • Apache Spark 3.0 是什么？
  • 升级完，现有spark起不来了
  • NeuSoft是什么？
  • 请问starrocks用smt工具，执行./starrocks-migrate-tool,自动构建f
  • 大佬，可以请教下，有没有遇到 com.aliyun.oss
  • 买好emr以后，dms可以连接使用starrocks吗
  • 请教个问题，我想部署 1FE 节点 + 3BE节点的 StarRocks 集群， 在 EMR 控制台
  • 想问问大家clickhouse 怎么查嵌套了多重的json数据 ？
    • 展开全部
  • 分布式快照算法: Chandy-Lamport
  • 如何使用Kafka Connect实现同步RDS binlog数据
  • JindoFS: 云上大数据的高性能数据湖存储方案
  • Spark in action on Kubernetes - Playground搭建与架构浅析
  • 基于Alluxio系统的Spark DataFrame高效存储管理技术
  • HIVE MapJoin异常问题处理总结
  • 阿里封神-大数据处理技术漫谈
  • JindoFS概述：云原生的大数据计算存储分离方案
  • 5W1H(六何分析法)全景洞察大数据
  • 基于Spark Streaming 进行 MySQL Binlog 日志准实时传输
    • 展开全部
    还有其他疑问?
    咨询AI助理