Hadoop安装Hbase启动失败报错解决方法

本文涉及的产品
服务治理 MSE Sentinel/OpenSergo,Agent数量 不受限
注册配置 MSE Nacos/ZooKeeper,118元/月
云原生网关 MSE Higress,422元/月
简介: Hadoop安装Hbase启动失败报错解决方法

前言


本篇文章结合多篇博客文章解决方案具体汇总,方便遇到问题以后好解决问题。


本人大数据专业初入大三刚刚接触并开始学习Nosql数据库原理,当然初入一些算法和原理还不是很熟练掌握,有待提升自己的编程结合能力。在此领域本人有诸多不明确疑问,可能文章会有些许错误,望大家在评论区指正,本篇文章错误将会不断更正维护。


先进入hbase文件目录里看日志文件看看报什么错再具体解决:


vi /usr/local/hbase/logs/hbase-hadoop-master-hadoop.log


1.报错org.apache.hadoop.security.AccessControlException: Permission denied: user异常解决方法


1、第一种


在hdfs的配置文件中,将dfs.permissions修改为False(不推荐)


2、第二种


执行这样的操作,使用hdfs用户(最高权限)


hadoop dfs -mkdir -p /user/root(如果路径存在可不执行)


hadoop dfs -chown root:hdfs /user/root(如果所属用户一致可不执行)

hadoop dfs -chmod 777 /user/root(如果执行上面操作已解决可不执行,我没有走)


3.第三种


vim /etc/profile


添加:export HADOOP_USER_NAME=hdfs(hdfs为最高权限)

source /etc/profile(记得执行,以保证立即生效)


也可以执行 sed -i '$a export HADOOP_USER_NAME=hdfs' ,记得也要source一下


注意:root可以是其他的用户(路径),如报错是/user/xxx,将root换成xxx即可。


第二种与第三种区别


第二种    第三种

host    全集群的hosts都可以访问没有问题    只有做了环境变量配置的主机可用

root用户调用资源    root用户可以调用hdfs资源    root不能调用资源,如果计算是出现需要使用root用户调用的资源一样会报错

root执行hdfs命令    不能    能


2.FATAL [hadoop1:16000.activeMasterManager] master.HMaster: Failed to become active master

java.net.ConnectException: Call From hadoop1/192.168.30.3 to hadoop1:9000解决方法


错误分析:

从上面的日志可以看出,在连接hadoop1:8020时出错,我们知道8020是hdfs的默认端口,但是我们在配置hadoop集群时在core-site.xml中将hdfs的默认端口改为了9000:


fs.defaultFS
    hdfs://hadoop1:9000/


再观察我们的hbase-site.xml文件:
<configuration>
    <!-- 指定hbase在HDFS上存储的路径 -->
    <property>
        <name>hbase.rootdir</name>
        <value>hdfs://hadoop1/hbase</value>
    </property>
</configuration>

不难发现,这时候我们并没有指定hdfs的端口,因此,在hbase启动后它会去找hdfs的默认端口8020,于是就导致了上面的错误。


解决方案:

在配置hbase.rootdir属性时显式指定hdfs的端口为9000,配置文件修改如下:

<configuration>
    <!-- 指定hbase在HDFS上存储的路径 -->
    <property>
        <name>hbase.rootdir</name>
        <value>hdfs://hadoop1:9000/hbase</value>
    </property>
</configuration>

只要你在这个节点启动了hbase,那么这个节点就默认为master节点


3.INFO org.apache.zookeeper.ClientCnxn: Opening socket connection to server sdw2/192.168.10.202:2181. Will not attempt to authenticate using SASL


解决方法:


1、同步hbase集群和ZooKeeper集群主机的时间,确保误差在30秒以内。

2、关闭ipv6,并修改/etc/hosts,注释掉以"::1"开头的那行代码


4.

20200928090946300.png

产生错误的原因:zookeeper 链接信息过期了

解决办法:

进入zookeeper 删除hbase (rmr /hbase )重启zookeeper即可


具体步骤: 1、停止hbase(./stop-hbase.sh)


                  2、运行如下代码

hbase org.apache.hadoop.hbase.util.hbck.OfflineMetaRepair


                  3、运行如下代码

/usr/local/hadoop/app/zookeeper/bin/zkCli.sh


                  4、使用  ls / 来扫描zookeeper中的数据


                  5、使用 rmr / hbase删除zookeeper中的hbase数据


                  6、重新启动hbase即可



5.20201012124532108.png

主要错误:ERROR [main] master.HMasterCommandLine: Master exiting

java.lang.RuntimeException: Failed construction of Master: class org.apache.hadoop.hbase.master.HMaster.


Caused by: org.apache.hadoop.hbase.ZooKeeperConnectionException: master:160000x0, quorum=hadoop1:2181,hadoop2:2181,hadoop3:2181, baseZNode=/hbase Unexpected KeeperException creating base node


Caused by: org.apache.zookeeper.KeeperException$ConnectionLossException: KeeperErrorCode = ConnectionLoss for /hbase


解决方法:说明Hbase没有连接上Zookeeper,我们知道,HBase可以使用内置的Zookeeper,也可以使用外部的Zookeeper,通过在配置文件hbase-env.sh将 export HBASE_MANAGES_ZK 属性设置为false ,设置为外部的Zookeeper(这个没有问题)


export HBASE_MANAGES_ZK=false


所有的节点时间误差不能大于30s,需要同步,安装时hadoop和hbase应该使用同一套域名。/etc/hosts中映射必须要是自己主节点的namenode的名字与hbase和hadoop文件配置中保存一致。


20201012125353461.png


相关实践学习
lindorm多模间数据无缝流转
展现了Lindorm多模融合能力——用kafka API写入,无缝流转在各引擎内进行数据存储和计算的实验。
云数据库HBase版使用教程
&nbsp; 相关的阿里云产品:云数据库 HBase 版 面向大数据领域的一站式NoSQL服务,100%兼容开源HBase并深度扩展,支持海量数据下的实时存储、高并发吞吐、轻SQL分析、全文检索、时序时空查询等能力,是风控、推荐、广告、物联网、车联网、Feeds流、数据大屏等场景首选数据库,是为淘宝、支付宝、菜鸟等众多阿里核心业务提供关键支撑的数据库。 了解产品详情:&nbsp;https://cn.aliyun.com/product/hbase &nbsp; ------------------------------------------------------------------------- 阿里云数据库体验:数据库上云实战 开发者云会免费提供一台带自建MySQL的源数据库&nbsp;ECS 实例和一台目标数据库&nbsp;RDS实例。跟着指引,您可以一步步实现将ECS自建数据库迁移到目标数据库RDS。 点击下方链接,领取免费ECS&amp;RDS资源,30分钟完成数据库上云实战!https://developer.aliyun.com/adc/scenario/51eefbd1894e42f6bb9acacadd3f9121?spm=a2c6h.13788135.J_3257954370.9.4ba85f24utseFl
目录
相关文章
|
13天前
|
分布式计算 资源调度 Hadoop
centos7二进制安装Hadoop3
centos7二进制安装Hadoop3
|
27天前
|
分布式计算 Ubuntu Hadoop
在Ubuntu 16.04上如何在独立模式下安装Hadoop
在Ubuntu 16.04上如何在独立模式下安装Hadoop
16 1
|
2月前
|
DataWorks 数据管理 大数据
DataWorks操作报错合集之在连接HBase时出现超时问题,该怎么解决
DataWorks是阿里云提供的一站式大数据开发与治理平台,支持数据集成、数据开发、数据服务、数据质量管理、数据安全管理等全流程数据处理。在使用DataWorks过程中,可能会遇到各种操作报错。以下是一些常见的报错情况及其可能的原因和解决方法。
|
2月前
|
SQL 分布式计算 关系型数据库
Hadoop-12-Hive 基本介绍 下载安装配置 MariaDB安装 3台云服务Hadoop集群 架构图 对比SQL HQL
Hadoop-12-Hive 基本介绍 下载安装配置 MariaDB安装 3台云服务Hadoop集群 架构图 对比SQL HQL
42 2
|
3月前
|
存储 分布式计算 Hadoop
Hadoop节点文件存储HBase设计目的
【6月更文挑战第2天】
47 6
|
3月前
|
存储 分布式计算 Hadoop
Hadoop节点文件存储Hbase高可靠性
【6月更文挑战第2天】
58 2
|
3月前
|
存储 分布式计算 Hadoop
Hadoop节点文件存储Hbase面向列
【6月更文挑战第2天】
31 2
|
3月前
|
分布式计算 Hadoop 大数据
【大数据】Hadoop下载安装及伪分布式集群搭建教程
【大数据】Hadoop下载安装及伪分布式集群搭建教程
113 0
|
4月前
|
Java Shell 分布式数据库
【大数据技术Hadoop+Spark】HBase数据模型、Shell操作、Java API示例程序讲解(附源码 超详细)
【大数据技术Hadoop+Spark】HBase数据模型、Shell操作、Java API示例程序讲解(附源码 超详细)
131 0
|
SQL 分布式计算 Hadoop
Hadoop集群hbase的安装
Hadoop集群hbase的安装
189 0

相关实验场景

更多
下一篇
DDNS