hadoop cluster decommission node (下线节点,超级实用)

简介:

一、描述

为了节约成本,避免资源浪费,下线集群中的一个节点,也就是把一台云主机回收喽。

centos 6.6_64bit

hadoop 2.6.0


二、操作步骤(动态下线)

下线节点主机名如下,在hadoop用户下操作,配置文件都在conf目录下  

host-10-10-10-10   ##一看就在云上是不是


1.在conf目录下创建文件

touch excludes 

echo "host-10-10-10-10" > exclude 

less exclude     ##要有验证



2.修改配置文件hdfs-site.conf

 vi hdfs-site.xml

 添加如下内容,路径根据自己的实际情况

        <property>

                <name>dfs.hosts.exclude</name>

                <value>/usr/local/RoilandGroup/hadoop-2.6.0/etc/hadoop/excludes</value>

       </property>


3.修改配置文件 yarn-site.conf

 添加如下内容,路径根据自己的实际情况

        <property>                     

                <name>yarn.resourcemanager.nodes.exclude-path</name>

                <value>/usr/local/RoilandGroup/hadoop-2.6.0/etc/hadoop/excludes</value>

        </property>


4.刷新hdfs节点(namenode active操作)

hdfs dfsadmin -refreshNodes 

hdfs dfsadmin -report   ##观察节点是否decommission


5.刷新nodemanager节点(resourcemanager active操作)

yarn rmadmin -refreshNodes


6.修改slave文件

注释掉主机名

#host-10-10-10-10


7.同步exclude文件和slave文件

scp exclude 到namenode/resourcemanager 的 standby节点


8.再次验证,确保是我们想要的结果,通知运维同事可以回收云主机。



三、注意事项


1.生产环境操作之前一定要做好测试

2.查看官方文档,要知道自己修改的文件对系统有多大影响,做到心里有数。










本文转自 roidba 51CTO博客,原文链接:http://blog.51cto.com/roidba/1922803,如需转载请自行联系原作者
目录
相关文章
|
9天前
|
XML 存储 JavaScript
DOM 节点列表(Node List)
XML DOM允许访问XML文档的每个节点,提供三种访问方法:getElementsByTagName()、循环遍历和导航节点关系。getElementsByTagName()返回一个节点列表,类似于数组,可用于获取特定标签名的节点。例如,加载&quot;books.xml&quot;后,`xmlDoc.getElementsByTagName(&quot;title&quot;)`会获取所有&lt;title&gt;元素,存储在变量x中。通过索引如x[2]可访问第三个&lt;title&gt;元素,注意索引从0开始。后续章节将进一步探讨节点列表(Node List)。
|
1天前
LabVIEW使用VI服务器的调用节点将数据传递到另一个VI 使用调用节点(Invoke Node)与通过引用调用节点(Call by Reference)调用VI时有什么差别?
LabVIEW使用VI服务器的调用节点将数据传递到另一个VI 使用调用节点(Invoke Node)与通过引用调用节点(Call by Reference)调用VI时有什么差别?
|
4天前
|
分布式计算 Hadoop
在Hadoop节点线缆连接检查中线缆长度
【5月更文挑战第3天】在Hadoop节点线缆连接检查中线缆长度
13 3
在Hadoop节点线缆连接检查中线缆长度
|
4天前
|
分布式计算 Hadoop 网络架构
在Hadoop节点线缆连接检查中线缆类型
【5月更文挑战第3天】在Hadoop节点线缆连接检查中线缆类型
9 1
|
4天前
|
分布式计算 Hadoop
在Hadoop节点线缆连接检查中物理检查
【5月更文挑战第3天】在Hadoop节点线缆连接检查中物理检查
9 1
|
5天前
|
分布式计算 网络协议 Hadoop
Hadoop节点IP地址和子网掩码
【5月更文挑战第2天】
13 2
|
5天前
|
分布式计算 Hadoop 测试技术
Hadoop节点线缆连接检查
【5月更文挑战第2天】Hadoop节点线缆连接检查
14 4
|
5天前
|
分布式计算 资源调度 监控
Hadoop节点网络硬件检查
【5月更文挑战第2天】
22 9
|
5天前
|
JavaScript
DOM 属性列表(命名节点图 Named Node Map)
这段内容介绍了DOM中的`attributes`属性,它返回元素节点的属性节点列表,形成一个命名节点图。这个列表自动更新,当属性增删时反映变化。示例代码展示了如何加载&quot;books.xml&quot;,获取第一个`&lt;book&gt;`元素的属性列表,然后使用`getNamedItem()`方法获取&quot;category&quot;属性的值并显示属性数量。输出为&quot;cooking&quot;和&quot;1&quot;。
|
5天前
|
XML 数据格式
节点列表长度(Node List Length)
`NodeList`对象自动更新,其`length`属性表示列表中节点数量。例如,加载&quot;books.xml&quot;后,`getElementsByTagName(&#39;title&#39;).length`返回`4`。此属性可用来遍历列表,如示例所示,遍历所有`&lt;title&gt;`元素并打印其文本内容:Everyday Italian, Harry Potter, XQuery Kick Start, Learning XML。