【夜莺监控】初识夜莺,还是强!

本文涉及的产品
Redis 开源版,标准版 2GB
推荐场景:
搭建游戏排行榜
云数据库 RDS MySQL,集群系列 2核4GB
推荐场景:
搭建个人博客
RDS MySQL Serverless 基础系列,0.5-2RCU 50GB
简介: 【夜莺监控】初识夜莺,还是强!

前言

可观测性是大部分中小公司比较头疼的问题,主要表现以下几个方面:

  1. 需要不同的开源软件来组装以实现不同的功能,比如使用 Skywalking 实现链路监控,使用 ELK 实现日志收集监控,使用 Grafana+Prometheus 来实现指标监控。
  2. 每个开源软件背后都是独立的一套体系,它们之前是相互独立的(Grafana 全家桶已经实现组合)。
  3. 数据孤岛,链路、日志、指标各玩各的,没有建立联系。目前市面上的解决方案要么是商业化产品,要么是自研。

本文的主角其实也没有做大一统,目前阶段依然是不同的开源组件实现不同的功能,只不过N9e可以在同一个主面板查看它们,但是数据之间的联系依然没有实现。

那为什么还要学习研究N9e呢?

因为它正在向这方面发展。

上面提到 Grafana 其实已经在做了,基于 Grafana+Loki+Tempo+Prometheus 组合可以实现监控、指标、链路的联动,N9e 和 Grafana 有什么不同呢?

用秦总的话说:Grafana更擅长监控面板的管理,N9e更擅长告警规则的管理

N9e 可以将不同的告警规则发送到不同的业务组,不同的群体,避免在一个群里产生大量的告警信息,久而久之就上演了狼来了的故事。

说了这么多,N9e到底长啥样?

下面是我部署好的一套系统。

image.pngimage.png

可以看到,在该面板上,我们可以实现:

  • 告警管理
  • 时序指标查询
  • 日志分析
  • 链路追踪
  • 告警自愈
  • 人员管理
  • .....

这样就不用几个应用来回切了,方面快捷。

系统架构

说一千到一万,架构不懂都白干

现在我们来看看 N9e 的架构到底是什么样的,只有从架构逻辑上理清楚 N9e 是怎么玩的,不论是对部署还是维护都大有裨益。

N9e 主要有中心汇聚式部署方案以及边缘下沉式混杂部署方案,下面会分别做解释。

中心汇聚式部署方案

先上图:

image.pngimage.png

这种方案就是建立一个 N9e 集群,其他 region 的监控数据都往这一个集群发送数据,这要求中心集群和其他 region 要有很好的网络连接。

对于中心集群来说,主要包括以下组件:

  • MySQL:用于存放配置信息以及告警事件。
  • Redis:用于存储 JWT Token,机器元信息等数据。
  • TSDB:时序数据库,存放监控指标。
  • N9e:核心服务,处理 Web 请求、提供告警引擎
  • LB:为多个 N9e 提供负载功能。

对于其他 Region,只需要部署 Categraf 即可,它会将本地的监控数据推送到中心集群。

这个架构的特点是简单,维护成本比较低。前提是要求机房之间的网络链路要比较好,如果网络不好就要用下面的方案了。

边缘下沉式混杂部署方案

image.pngimage.png

这种架构是对中心式部署方案的补充,主要是针对网络不好的情况:

  1. 把时序数据库 TSDB、转发网关、告警引擎都下沉到具体的 Region,由 Region 自己的来处理。不过 Region 依然需要和中心集群建立心跳连接,用户还是可以通过中心集群的监控面板查看其他 Region 的监控信息。
  2. 对于已有 Prometheus 的情况,也可以直接将 Prometheus 作为数据源接入即可。

边缘机房,下沉部署时序库、告警引擎、转发网关的时候,要注意,告警引擎需要依赖数据库,因为要同步告警规则,转发网关也要依赖数据库,因为要注册对象到数据库里去,需要打通相关网络。

!! PS:对于这种方案,本身网络不好,还要打通网络,可能还是会受网络问题影响。

单机部署

为什么这里要选择单机部署呢?

其实我是想挨着部署各个组件,这样对于理解整个 N9e 的运行模式有一定的帮助。

!! Tips:我这里使用的是 Ubuntu 22.04.1 系统

安装 MySQL

!! Tips:为了快速我安装的是 Mariadb

# 更新镜像源
$ sudo apt-get update
# 更新软件
$ sudo apt-get upgrade
# 安装Mariabd
$ sudo apt-get install mariadb-server-10.6

安装完成后会自动启动。然后为数据库设置一个用户密码。

# 连接数据库
$ sudo mysql
# 设置权限和密码
> GRANT ALL PRIVILEGES ON *.* TO 'root'@'localhost' IDENTIFIED BY '1234';
>  flush privileges;

安装 Redis

# 更新镜像源
$ sudo apt-get update
# 更新软件
$ sudo apt-get upgrade
# 安装Redis
$ sudo apt install redis-server

默认会自动启动。

安装 TSDB

N9e 的 TSDB 有多种选择:

  • Prometheus
  • M3DB
  • VictoriaMetrics
  • InfluxDB
  • Thanos

这里我选择的是 VictoriaMetrics。

# 下载二进制包
$ wget https://github.com/VictoriaMetrics/VictoriaMetrics/releases/download/v1.90.0/victoria-metrics-linux-amd64-v1.90.0.tar.gz
# 解压
$ tar xf victoria-metrics-linux-amd64-v1.90.0.tar.gz
# 启动
$ nohup ./victoria-metrics-prod &>victoria.log &

观察8428是否启动。

安装 N9e

# 下载最新版本的二进制包
$ wget https://github.com/ccfos/nightingale/releases/download/v6.0.0-ga.3/n9e-v6.0.0-ga.3-linux-amd64.tar.gz
# 解压
$ mkdir n9e
$ tar xf n9e-v6.0.0-ga.3-linux-amd64.tar.gz -C n9e/
# 检验目录如下
$ ll
total 35332
drwxrwxr-x  7 jokerbai jokerbai     4096  4月 12 14:05 ./
drwxr-xr-x  4 jokerbai jokerbai     4096  4月 12 14:05 ../
drwxrwxr-x  3 jokerbai jokerbai     4096  4月 12 14:05 cli/
drwxrwxr-x 10 jokerbai jokerbai     4096  4月 12 14:05 docker/
drwxrwxr-x  4 jokerbai jokerbai     4096  4月 12 14:09 etc/
drwxrwxr-x 20 jokerbai jokerbai     4096  4月 12 14:05 integrations/
-rwxr-xr-x  1 jokerbai jokerbai 25280512  4月  6 19:05 n9e*
-rwxr-xr-x  1 jokerbai jokerbai 10838016  4月  6 19:05 n9e-cli*
-rw-r--r--  1 jokerbai jokerbai    29784  4月  6 19:04 n9e.sql
drwxrwxr-x  6 jokerbai jokerbai     4096  4月 12 14:05 pub/

然后导入 N9e 的数据库。

# 导入数据库
$ mysql -uroot -p <n9e.sql

修改 N9e 的配置文件,在当前目录 etc/config.toml 文件中。

[[Pushgw.Writers]]
# Url = "http://127.0.0.1:8480/insert/0/prometheus/api/v1/write"
Url = "http://127.0.0.1:8428/api/v1/write"

然后启动 N9e 服务。

# 启动服务
$ nohup ./n9e &>n9e.log &
# 检测17000端口是否启动
$ ss -ntl | grep 17000
LISTEN 0      4096               *:17000            *:*

在浏览器输入http://127.0.0.1:17000,然后输入用户名root,密码root.2020即可登录系统。image.png

安装 Categraf

Categraf 是一个监控采集 Agent,会将采集到的信息推送到 TSDB。

# 下载
$ wget https://download.flashcat.cloud/categraf-v0.2.38-linux-amd64.tar.gz
# 解压
$ tar xf categraf-v0.2.38-linux-amd64.tar.gz
# 进入目录
$ cd categraf-v0.2.38-linux-amd64/

修改配置文件,在 conf/config.toml 中,修改的部分如下:

[[writers]]
url = "http://127.0.0.1:17000/prometheus/v1/write"
[heartbeat]
enable = true

然后启动 Categraf。

$ nohup ./categraf &>categraf.log &

然后就可以在主界面看到基础信息。image.png

添加数据源

现在如果去查看时序数据指标,是查询不到的,因为没有添加数据源。image.png

在系统配置->数据源处添加数据源,如下:image.png

然后就能看到对应的指标数据了。image.png

也可以通过内置的仪表盘查看主机的监控数据,如下:image.png

总结

这篇文章主要是带搭建对夜莺(Nightingale )有一个初步的印象,对它的整体架构做了简单的介绍,然后带大家从 0 到 1 安装了一遍,旨在让大家对夜莺的组件有一个清晰的认识。

目前夜莺已经更新迭代到 V6 版本,该版本有许多新的功能尝试,比如接入 ELK,接入 Jaeger 等,后续会持续对这个系列进行更新。

相关实践学习
通过可观测可视化Grafana版进行数据可视化展示与分析
使用可观测可视化Grafana版进行数据可视化展示与分析。
相关文章
|
运维 监控 数据可视化
ELK日志监控分析系统的探索与实践(二):利用Metricbeat监控服务器系统指标
在ELK日志监控分析系统的探索与实践(一)中,我们介绍了如何利用ELK+Filebeat监控Springboot项目的日志,本篇则是重点介绍如何利用ELk+Metricbeat监控服务器系统CPU、内存、磁盘等系统指标。
ELK日志监控分析系统的探索与实践(二):利用Metricbeat监控服务器系统指标
|
4月前
|
监控 Unix Shell
Nightingale——夜莺监控系统部署邮件告警系统【三】
Nightingale——夜莺监控系统部署邮件告警系统【三】
52 1
Nightingale——夜莺监控系统部署邮件告警系统【三】
|
5月前
|
Kubernetes 监控 数据安全/隐私保护
普罗米修斯监控k8s
普罗米修斯监控k8s
90 1
|
4月前
|
Prometheus 监控 Kubernetes
在k8S中,blackbox主要是监控什么的?
在k8S中,blackbox主要是监控什么的?
|
4月前
|
SQL 监控 前端开发
Nightingale——夜莺监控版本升级
Nightingale——夜莺监控版本升级
48 0
|
4月前
|
Prometheus 监控 Cloud Native
简单搭建基本Prometheus监控系统
简单搭建基本Prometheus监控系统
|
存储 数据采集 JSON
彻底搞懂监控系统,使用Prometheus +Grafana搭建完整的应用监控系统
监控是运维系统的基础,我们衡量一个公司/部门的运维水平,看他们的监控系统就可以了。一个完善的监控系统可以提高应用的可用性和可靠性,在提供更优质服务的前提下,降低运维的投入和工作量,为用户带来更多的商业利益和客户体验。下面就带大家彻底搞懂监控系统,使用Prometheus +Grafana搭建完整的应用监控系统。
12443 1
彻底搞懂监控系统,使用Prometheus +Grafana搭建完整的应用监控系统
|
数据采集 消息中间件 Prometheus
夜莺系列 3 监控采集Categraf
Categraf监控采集agent
1272 0
|
消息中间件 Prometheus 资源调度
K8s + Prometheus = 监控神器
K8s + Prometheus = 监控神器
|
Prometheus 运维 监控
基于Prometheus和Grafana的监控平台 - 运维告警
基于Prometheus和Grafana的监控平台 - 运维告警
251 0