CDH5.6下线Hdfs的DataNode

简介: CDH5.6下线Hdfs的DataNode

CDH5.6下线Hdfs的DataNode

1、准备工作

1.1 健康检查

# 退役/下线过程中也需要检查
hdfs fsck / -list-corruptfileblocks -openforwrite -files -blocks -locations

1.2 问题处理

# 若hdfs出现块问题可进入如下操作处理
hdfs fsck file_name -move
# 或
hdfs fsck file_name -delete

1.3 带宽调整

# balance带宽,平衡带宽值应小于磁盘和网络上的带宽,
# 以最大限度地减少对群集的影响,但需花费更长时间,如下值仅供参考
dfs.datanode.balance.bandwidthPerSec = 500MB/S

2、确定节点

进入Hdfs的实例列表,选择需要下线的DataNode节点。

3、维护模式

CDH中Hdfs的DataNode进入维护模式的作用是为了在不影响集群可用性的情况下,对DataNode进行短期的操作,比如系统升级或重启。

维护模式与退役模式不同,退役模式适用于长期的操作,比如替换硬件或移除节点。

当管理员将DataNode置于维护模式时,DataNode会先进入ENTERING_MAINTENANCE状态,然后在所有属于该DataNode的块都在其他地方有最小副本数的情况下,DataNode会进入IN_MAINTENANCE状态。

4、退役节点

4.1 解除授权

CDH中Hdfs对DataNode解除授权的作用是为了在不需要该DataNode的情况下,将其从集群中移除,比如替换硬件或减少节点数。

解除授权的过程会将DataNode上的所有块复制到其他DataNode上,以保证数据的可靠性;且DataNode会在DataNode的UI上显示为退役状态。解除授权的DataNode可以通过重新授权的方式重新加入集群。

解除授权过程中千万不要中止, 否则很大概率会出现数据块丢失的问题!

4.2 完成解除

解除授权后就相当于已经把这个DataNode节点退役完成。

5、删除节点

删除下线的DataNode,至此就完成了Hdfs的DataNode下线。

6、注意事项

  1. 1.CDH5.6比较特殊, 通过配置dfs_host的方式无法生效;
  2. 2.通过解除授权即可下线, 但是解除过程中切记不要中止, 否则大概率会发生数据块丢失的问题。
相关文章
CDH5.6下线Hdfs的DataNode
CDH5.6下线Hdfs的DataNode
547 0
|
Web App开发 SQL 资源调度
CDH/CDP中开启kerberos后如何访问HDFS/YARN/HIVESERVER2 等服务的webui
CDH/CDP中开启kerberos后如何访问HDFS/YARN/HIVESERVER2 等服务的webui
|
分布式数据库 Hbase
HBase StochasticLoadBalancer组件介绍
HBase StochasticLoadBalancer组件介绍。
3331 0
|
监控 负载均衡 分布式数据库
Region 的分裂和合并是如何影响 Region 性能的
Region 的分裂和合并是如何影响 Region 性能的
|
消息中间件 资源调度 Kafka
实时计算 Flink版操作报错合集之提交任务后,如何解决报错:UnavailableDispatcherOperationException
在使用实时计算Flink版过程中,可能会遇到各种错误,了解这些错误的原因及解决方法对于高效排错至关重要。针对具体问题,查看Flink的日志是关键,它们通常会提供更详细的错误信息和堆栈跟踪,有助于定位问题。此外,Flink社区文档和官方论坛也是寻求帮助的好去处。以下是一些常见的操作报错及其可能的原因与解决策略。
|
分布式计算 安全 Hadoop
Hadoop执行Balancer程序
【6月更文挑战第15天】
326 4
|
存储 分布式计算 负载均衡
HDFS服役新数据节点和退役旧节点步骤
HDFS服役新数据节点和退役旧节点步骤
738 1
|
安全 Java 大数据
CDH/HDP/CDP等大数据平台中如何快速应对LOG4J的JNDI系列漏洞
CDH/HDP/CDP等大数据平台中如何快速应对LOG4J的JNDI系列漏洞
|
SQL 分布式计算 关系型数据库
CDH环境搭建及部署及常见错误解决方法
Cloudera版本(Cloudera’s Distribution Including Apache Hadoop,简称“CDH”),基于Web的用户界面,支持大多数Hadoop组件,包括HDFS、MapReduce、Hive、Pig、 Hbase、Zookeeper、Sqoop。
3440 1
CDH环境搭建及部署及常见错误解决方法
|
资源调度 大数据
YARN 中VCores Total和集群节点实际的CPU核数不一致问题
YARN 中VCores Total和集群节点实际的CPU核数不一致问题

热门文章

最新文章