E-MapReduce的HDFS客户端执行命令时报出OutOfMemoryError错误如何处理
可能的原因:
HDFS客户端程序默认的内存设置过低,实际需要的内存超出了设置的内存导致内存不足而退出。如执行查询目录命令,HDFS系统待查询的目录包含的文件过多,HDFS客户端维护命令查询需要大量内存对目录进行缓存,需要的内存不足将导致OutOfMemoryError错误。
解决方案:
使用HDFS客户端之前,需要在HADOOP_CLIENT_OPTS更新"-Xmx" GC参数。在命令中调整参数,减少HDFS维护客户端运行命令时所需的内存。当执行hdfs dfs -ls /user///*/*命令时上报OutOfMemoryError,可以执行类似的命令来获取目录。例如:hdfs dfs -ls -R /user。
版权声明:本文内容由阿里云实名注册用户自发贡献,版权归原作者所有,阿里云开发者社区不拥有其著作权,亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容,填写侵权投诉表单进行举报,一经查实,本社区将立刻删除涉嫌侵权内容。