HBase 监控 | HBase Metrics 初探(一)

本文涉及的产品
可观测监控 Prometheus 版,每月50GB免费额度
简介:

前言:对于任意一个系统而言,做好监控都是非常重要的,HBase也不例外。经常,我们会从JMX中获取相关指标来做展示、对HBase进行监控,那这些指标是怎么生成的呢?如果你想自定义自己的监控指标又该怎么做呢?基于好奇之心和学习的目的,最近打算学习一下HBase监控相关原理及实现,今天先简单捋一捋思路。

1. 如何下手?

我一向比较喜欢先看项目所依赖的pom文件,打开HBase源码,有两个非常相关的模块:

  • hbase-metrics-api
  • hbase-metrics

分别打开两个子项目的pom文件查看,搜索关键词'metrics'碰碰运气,有两个小发现:

  1. 子项目hbase-metrics依赖子项目hbase-metrics-api,子项目hbase-metrics-api大部分是接口类,而子项目hbase-metrics基本上是对子项目hbase-metrics-api接口类的实现类。
  2. 子项目hbase-metrics中有metrics相关继承式依赖,如下:
<dependency>
    <groupId>io.dropwizard.metrics</groupId>
    <artifactId>metrics-core</artifactId>
</dependency>

那这是个什么东西呢?凭直觉,要理解好HBase Metrics的实现,首先要先搞明白这是个什么东东。本文接下来也主要围绕io.dropwizard.metrics展开。

2. Dropwizard是什么?

经过一番调研,总感觉dropwizard是上个世纪的产物。看下官网介绍:

Dropwizard is a Java framework for developing ops-friendly, high-performance, RESTful web services.

翻译一下:

Dropwizard是一个Java框架,用于开发对操作友好的高性能RESTful Web服务。

感觉理解不太到位,RESTful Web服务也没听说过这个,百度扫扫盲吧!结果很意外,网上竟是Dropwizard与Spring Boot比较相关的文章。我抽两条比较重要的:

  1. Dropwizard定位:微服务框架
  2. 两者都有很强很大的社区支持。如果你更喜欢轻量,无疑Dropwizard胜出,如果你已经有Spring经验,无疑使用Spring Boot。

好稀罕!真的是孤陋寡闻了吗?竟然是跟Spring Boot相媲美的,也集成了众多框架,Dropwizard metrics 就是其自带的监控框架。下面就介绍一下Dropwizard metrics。

3. Dropwizard metrics

看下官网介绍:

Metrics is a Java library which gives you unparalleled insight into what your code does in production.

Metrics provides a powerful toolkit of ways to measure the behavior of critical components in your production environment.
With modules for common libraries like Jetty, Logback, Log4j, Apache HttpClient, Ehcache, JDBI, Jersey and reporting backends like Graphite, Metrics provides you with full-stack visibility.

翻译一下:

Metrics是一个Java库,可让您无比洞察代码在生产中的功能。Metrics提供了一种功能强大的工具包,该工具包可用于衡量生产环境中关键组件的行为。借助适用于常见库(如Jetty,Logback,Log4j,Apache HttpClient,Ehcache,JDBI,Jersey)的模块以及报告后端(如Graphite),Metrics可为您提供全栈可见性。

大白话:dropwizard-metrics是一个度量工具包,可集成于多种常见库,提供全栈监控可见性。

“目前最为流行的 metrics 库是来自 Coda Hale 的 dropwizard/metrics,该库被广泛地应用于各个知名的开源项目中。例如 Hadoop,Kafka,Spark,JStorm 中。”

然后我又不禁自己问自己了:市面上这么多监控系统和框架,dropwizard-metrics处于什么定位呢?

基于好奇,自己又展开了一番调研。

4. 监控体系梳理

提到监控,无非以下这些常见的词汇:

Atlas、Datadog、Ganglia、Graphite、Influx、JMX、NewRelic、Prometheus、SignalFx、StatsD、Wavefront、Micrometer、Spring-actuator、Pinpoint、Zipkin、Skywalking、Grafana等等。

我从数据流的角度将以上框架大致分为三种:

  • 生产类监控指标框架:进行指标统计与监控,首先要生产指标数据,这类框架如Micrometer,我们也叫埋点类指标框架。
  • 消费类监控指标框架:有了指标数据,我们就要采集处理进行消费,这类框架如Ganglia、Prometheus、Influx等。
  • 展示类监控指标框架:这类框架主要用于数据图标的前端展示,如:Graphite、Grafana等。

而今天我们了解到的Dropwizard-Metrics监控框架,就属于生产类监控指标框架。那Dropwizard-Metrics监控框架与Micrometer有什么关系吗?如何做选择呢?

回答是:没有关系,并存关系。

我们知道,Spring2监控框架是基于Micrometer,并深度集成的。然而Hadoop、HBase则是基于Dropwizard-Metrics拓展开来,你猜是为什么?先读读下面一句话。

“springboot2在spring-boot-actuator中引入了micrometer,对1.x的metrics进行了重构,另外支持对接的监控系统也更加丰富(Atlas、Datadog、Ganglia、Graphite、Influx、JMX、NewRelic、Prometheus、SignalFx、StatsD、Wavefront)。1.x的metrics都有点对齐dropwizard-metrics的味道,而micrometer除了一些基本metrics与dropwizard-metrics相类似外,重点支持了tag。这是一个很重要的信号,标志着老一代的statsd、graphite逐步让步于支持tag的influx以及prometheus。”

看着好像Micrometer更强大似的,简直像Dropwizard-Metrics二代升级版呀!不仅对接的监控系统更加丰富,而且还重点支持了tag,对于伟大的集大成者、人人口中的强力胶——Spring而言,当然选择爸爸版咯~

而像Hadoop、HBase之类的数据层软件框架,或许我只能大概猜一猜了!

  • Micrometer固然强大,但我并不需要你那么强大,Dropwizard-Metrics够轻所以我选它!
  • 难道跟Spring家族是死对头?
  • 或许真的是当初选错了?
  • 还是Micrometer生的太晚了?

你猜呢?哈哈哈~ 魂力不足,不如继续学习吧!随后我们继续深入Dropwizard-Metrics~
900px

相关实践学习
lindorm多模间数据无缝流转
展现了Lindorm多模融合能力——用kafka API写入,无缝流转在各引擎内进行数据存储和计算的实验。
云数据库HBase版使用教程
&nbsp; 相关的阿里云产品:云数据库 HBase 版 面向大数据领域的一站式NoSQL服务,100%兼容开源HBase并深度扩展,支持海量数据下的实时存储、高并发吞吐、轻SQL分析、全文检索、时序时空查询等能力,是风控、推荐、广告、物联网、车联网、Feeds流、数据大屏等场景首选数据库,是为淘宝、支付宝、菜鸟等众多阿里核心业务提供关键支撑的数据库。 了解产品详情:&nbsp;https://cn.aliyun.com/product/hbase &nbsp; ------------------------------------------------------------------------- 阿里云数据库体验:数据库上云实战 开发者云会免费提供一台带自建MySQL的源数据库&nbsp;ECS 实例和一台目标数据库&nbsp;RDS实例。跟着指引,您可以一步步实现将ECS自建数据库迁移到目标数据库RDS。 点击下方链接,领取免费ECS&amp;RDS资源,30分钟完成数据库上云实战!https://developer.aliyun.com/adc/scenario/51eefbd1894e42f6bb9acacadd3f9121?spm=a2c6h.13788135.J_3257954370.9.4ba85f24utseFl
目录
相关文章
|
11天前
|
Prometheus 监控 Cloud Native
在 HBase 集群中,Prometheus 通常监控哪些类型的性能指标?
在 HBase 集群中,Prometheus 监控关注的核心指标包括 Master 和 RegionServer 的进程存在性、RPC 请求数、JVM 内存使用率、磁盘和网络错误、延迟和吞吐量、资源利用率及 JVM 使用信息。通过 Grafana 可视化和告警规则,帮助管理员实时监控集群性能和健康状况。
|
6月前
|
分布式计算 监控 Hadoop
Ganglia监控Hadoop与HBase集群
Ganglia监控Hadoop与HBase集群
|
监控 分布式数据库 Hbase
《HBase in Practise 性能、监控和问题排查》电子版地址
HBase in Practise: 性能、监控和问题排查
118 0
《HBase in Practise 性能、监控和问题排查》电子版地址
|
分布式计算 监控 分布式数据库
hbase监控简单实用脚本
我们以前使用过的对hbase和hdfs进行健康检查,及剩余hdfs容量告警,简单易用 1.针对hadoop2的脚本: #/bin/bashbin=`dirname $0`bin=`cd $bin;pwd`STATE_OK=0STATE_WARNING=1STATE...
1027 0
|
监控 PHP 分布式计算
|
监控 Java 分布式数据库
|
分布式计算 监控 Hadoop
Ganglia+Hadoop+Hbase监控搭建流程
Hadoop集群基本部署完成,接下来就需要有一个监控系统,能及时发现性能瓶颈,给故障排除提供有力依据。监控hadoop集群系统好用的比较少,自身感觉ambari比较好用,但不能监控已有的集群环境,挺悲催的。
1132 0
|
分布式计算 监控 Hadoop
|
监控 分布式数据库 Hbase
hbase监控实现
目前实现的监控概览               
675 0
下一篇
无影云桌面