AI 助理
备案控制台
开发者社区 问答 正文

E-MapReduce的HDFS客户端执行命令时报出OutOfMemoryError错误如何处理

已解决

E-MapReduce的HDFS客户端执行命令时报出OutOfMemoryError错误如何处理

展开
收起
阿里云服务支持 2022-12-13 15:36:25 372 分享 版权
来自： 阿里云支持与服务

版权声明：本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。

1 条回答
写回答
取消 提交回答
  • 阿里云服务支持
    官方回答

    可能的原因：

    HDFS客户端程序默认的内存设置过低，实际需要的内存超出了设置的内存导致内存不足而退出。如执行查询目录命令，HDFS系统待查询的目录包含的文件过多，HDFS客户端维护命令查询需要大量内存对目录进行缓存，需要的内存不足将导致OutOfMemoryError错误。

    解决方案：

    使用HDFS客户端之前，需要在HADOOP_CLIENT_OPTS更新"-Xmx" GC参数。在命令中调整参数，减少HDFS维护客户端运行命令时所需的内存。当执行hdfs dfs -ls /user///*/*命令时上报OutOfMemoryError，可以执行类似的命令来获取目录。例如：hdfs dfs -ls -R /user。

    2022-12-13 15:39:02
    赞同 展开评论
问答标签：
文件存储HDFS版命令 mapreduce hdfs 文件存储HDFS版e-mapreduce mapreduce文件存储HDFS版 e-mapreduce文件存储HDFS版
问答地址：
开发者社区 > 阿里云支持与服务 > 问答
相关问答
E-MapReduce集群如何给core节点新增云盘实现HDFS存储池扩容
60
1
0
如何通过hdfs命令操作oss并获取rquest id？
88
1
0
大数据计算MaxCompute是可以用hdfs和hive和mapreduce的吗？
100
0
0
E-MapReduce集群创建好后只启动了hdfs hbase zookeeper没看见YARN启动
69
1
0
E-MapReduce HDFS如何开启压缩算法
72
1
0
E-MapReduce上如何迁移HDFS数据到OSS
76
1
0
E-MapReduce集群HDFS指标介绍
48
1
0
E-MapReduce搭建了hadoop集群能否单独升级HDFS或者单独升级zookeeper
81
1
0
E-MapReduce集群KAFKA指标介绍
80
1
0
为什么我的包年包月E-MapReduce集群中按量ECS节点/抢占式ECS实例也会产生EMR服务费
85
1
0