监控Hadoop集群实战篇

简介: 介绍了监控Hadoop集群的方法,包括监控Linux服务器、Hadoop指标、使用Ganglia监控Hadoop集群、Hadoop日志记录、通过Hadoop的Web UI进行监控以及其他Hadoop组件的监控,并提供了相关监控工具和资源的推荐阅读链接。

作者:尹正杰
版权声明:原创作品,谢绝转载!否则将追究法律责任。

一.监控Linux服务器

  大多数Hadoop安装在Linux系统上,因此必须了解Linux监控的事情,并且要熟悉Linux系统监控工具。缓慢的系统可能会导致处理器(CPU),内存,磁盘或带宽等方面的瓶颈。

  系统工具可帮助我们清楚地识别导致性能下降的瓶颈。监控Linux设计跟踪关键系统资源,如存储子系统,CPU,内存和网络。

  博主推荐阅读:
    https://developer.aliyun.com/article/1604493

二.监控Hadoop指标

  Hadoop指标是关于各种Hadoop守护程序的信息集合。例如,ResourceManager守护程序生成关于作业队列的指标。Hadoop Metrics(正式说法为Metric 2)在分析hadoop服务的性能时至关重要。  

  Hadoop提供了非常有用的指标,可以通过这些指标监视,调整和调试MapReduce和其他作业。每个hadoop守护程序都会提供指标。

  博主推荐阅读:
    https://developer.aliyun.com/article/1604501

三.使用Ganglia监控Hadoop集群实战篇

  开源软件Ganglia是企业广泛使用的一种很好的工具,用于指标收集和跟踪,以及指标的汇聚。开源设置Ganglia在集群节点上运行,从而Hadoop可以将数据发送到Ganglia接收器。然后,可以设置Nagios使用这些指标作为发送关键警报的基础。Ganglia可以监测非常大的集群。

  Ganglia收集CPU和可用磁盘空间等指标,还可以帮助监测故障点。Ganglia可以提供有关集群及其节点状态的图形信息。Ganglia收集器运行监测守护程序并收集指标。收集器通过Web用户界面以及与运行进程有关的指标,实时显示内存,磁盘和网络使用情况。

  博主推荐阅读:
    https://www.cnblogs.com/yinzhengjie2020/p/13829436.html

四.Hadoop日志记录

五.使用Hadoop的Web UI进行监控

六.监控其他Hadoop组件

目录
相关文章
|
18小时前
|
分布式计算 Hadoop Shell
Hadoop-35 HBase 集群配置和启动 3节点云服务器 集群效果测试 Shell测试
Hadoop-35 HBase 集群配置和启动 3节点云服务器 集群效果测试 Shell测试
12 4
|
18小时前
|
SQL 分布式计算 Hadoop
Hadoop-37 HBase集群 JavaAPI 操作3台云服务器 POM 实现增删改查调用操作 列族信息 扫描全表
Hadoop-37 HBase集群 JavaAPI 操作3台云服务器 POM 实现增删改查调用操作 列族信息 扫描全表
16 3
|
18小时前
|
分布式计算 Hadoop Shell
Hadoop-36 HBase 3节点云服务器集群 HBase Shell 增删改查 全程多图详细 列族 row key value filter
Hadoop-36 HBase 3节点云服务器集群 HBase Shell 增删改查 全程多图详细 列族 row key value filter
13 3
|
18小时前
|
分布式计算 Java Hadoop
Hadoop-30 ZooKeeper集群 JavaAPI 客户端 POM Java操作ZK 监听节点 监听数据变化 创建节点 删除节点
Hadoop-30 ZooKeeper集群 JavaAPI 客户端 POM Java操作ZK 监听节点 监听数据变化 创建节点 删除节点
7 1
|
18小时前
|
分布式计算 监控 Hadoop
Hadoop-29 ZooKeeper集群 Watcher机制 工作原理 与 ZK基本命令 测试集群效果 3台公网云服务器
Hadoop-29 ZooKeeper集群 Watcher机制 工作原理 与 ZK基本命令 测试集群效果 3台公网云服务器
9 1
|
18小时前
|
分布式计算 Hadoop Unix
Hadoop-28 ZooKeeper集群 ZNode简介概念和测试 数据结构与监听机制 持久性节点 持久顺序节点 事务ID Watcher机制
Hadoop-28 ZooKeeper集群 ZNode简介概念和测试 数据结构与监听机制 持久性节点 持久顺序节点 事务ID Watcher机制
9 1
|
18小时前
|
分布式计算 Hadoop
Hadoop-27 ZooKeeper集群 集群配置启动 3台云服务器 myid集群 zoo.cfg多节点配置 分布式协调框架 Leader Follower Observer
Hadoop-27 ZooKeeper集群 集群配置启动 3台云服务器 myid集群 zoo.cfg多节点配置 分布式协调框架 Leader Follower Observer
6 1
|
1天前
|
存储 分布式计算 资源调度
大数据-04-Hadoop集群 集群群起 NameNode/DataNode启动 3台公网云 ResourceManager Yarn HDFS 集群启动 UI可视化查看 YarnUI(一)
大数据-04-Hadoop集群 集群群起 NameNode/DataNode启动 3台公网云 ResourceManager Yarn HDFS 集群启动 UI可视化查看 YarnUI(一)
21 5
|
1天前
|
资源调度 数据可视化 大数据
大数据-04-Hadoop集群 集群群起 NameNode/DataNode启动 3台公网云 ResourceManager Yarn HDFS 集群启动 UI可视化查看 YarnUI(二)
大数据-04-Hadoop集群 集群群起 NameNode/DataNode启动 3台公网云 ResourceManager Yarn HDFS 集群启动 UI可视化查看 YarnUI(二)
17 4
|
1天前
|
大数据 网络安全 数据安全/隐私保护
大数据-03-Hadoop集群 免密登录 超详细 3节点云 分发脚本 踩坑笔记 SSH免密 集群搭建(二)
大数据-03-Hadoop集群 免密登录 超详细 3节点云 分发脚本 踩坑笔记 SSH免密 集群搭建(二)
20 5