基于Prometheus+Grafana的PolarDB-X监控体系

本文涉及的产品
云原生数据库 PolarDB MySQL 版,通用型 2核4GB 50GB
云原生数据库 PolarDB PostgreSQL 版,标准版 2核4GB 50GB
简介: 《PolarDB-X 动手实践》系列第十期,体验如何监控PolarDB-X集群。


1. 创建实验资源

开始实验之前,您需要先创建ECS实例资源。

  1. 在实验室页面,单击创建资源

说明:资源创建过程需要1~3分钟。

  1. (可选)在实验室页面左侧导航栏中,单击云产品资源列表,可查看本次实验资源相关信息(例如IP地址、用户信息等)。


2. 连接PolarDB-X集群

本步骤将指导您如何连接通过K8s部署的PolarDB-X集群。

说明:本场景ECS实例已为您提前安装完成通过K8s部署的PolarDB-X集群

  1. 执行如下命令,切换到账号galaxykube。
su galaxykube
  1. 执行如下命令,启动一个minikube。

说明:这里我们使用了阿里云的minikube镜像源以及USTC提供的docker镜像源来加速镜像的拉取。

minikube start --cpus 8 --memory 12288 --image-mirror-country cn --registry-mirror=https://docker.mirrors.sjtug.sjtu.edu.cn

返回结果如下,表示minikube已经正常运行。

  1. 执行如下命令,查看PolarDB-X集群登录密码。
kubectl get secret polardb-x -o jsonpath="{.data['polardbx_root']}" | base64 -d - | xargs echo "Password: "

返回结果如下,您可以查看到PolarDB-X集群登录密码。

  1. 执行如下命令,将PolarDB-X集群端口转发到3306端口。

说明:使用MySQL Client方式登录通过k8s部署的PolarDB-X集群前,您需要进行获取PolarDB-X集群登录密码和端口转发。

kubectl port-forward svc/polardb-x 3306
  1. 在实验页面,单击右上角的 图标,创建新的终端二。

  1. 执行如下命令,连接PolarDB-X集群。

说明:

  • 您需要将替换为实际获取到的PolarDB-X集群登录密码。
  • 如遇到到mysql: [Warning] Using a password on the command line interface can be insecure.ERROR 2013 (HY000): Lost connection to MySQL server at 'reading initial communication packet', system error: 0报错,是因为PolarDB-X集群容器在启动中,请您稍等三分钟,重新转发端口并连接PolarDB-X集群即可。
mysql -h127.0.0.1 -P3306 -upolardbx_root -p<PolarDB-X集群登录密码>


3. 启动业务

本步骤将指导您如何使用Sysbench Select场景模拟业务流量。

  1. 准备压测数据。

a.执行如下SQL语句,创建压测库。

create database sysbench_test;

b.输入exit退出数据库。

c.执行如下命令,切换到账号galaxykube。

su galaxykube

d.执行如下命令,进入到/home/galaxykube目录。

cd

e.执行如下命令,创建压测数据的配置文件sysbench-prepare.yaml。

vim sysbench-prepare.yaml

f.按i键进入编辑模式,将如下代码复制到sysbench-prepare.yaml文件中,然后按ECS退出编辑模式,输入:wq后按下Enter键保存并退出。

apiVersion: batch/v1
kind: Job
metadata:
  name: sysbench-prepare-data-test
  namespace: default
spec:
  backoffLimit: 0
  template:
    spec:
      restartPolicy: Never
      containers:
        - name: sysbench-prepare
          image: severalnines/sysbench
          env:
            - name: POLARDB_X_USER
              value: polardbx_root
            - name: POLARDB_X_PASSWD
              valueFrom:
                secretKeyRef:
                  name: polardb-x
                  key: polardbx_root
          command: [ 'sysbench' ]
          args:
            - --db-driver=mysql
            - --mysql-host=$(POLARDB_X_SERVICE_HOST)
            - --mysql-port=$(POLARDB_X_SERVICE_PORT)
            - --mysql-user=$(POLARDB_X_USER)
            - --mysql_password=$(POLARDB_X_PASSWD)
            - --mysql-db=sysbench_test
            - --mysql-table-engine=innodb
            - --rand-init=on
            - --max-requests=1
            - --oltp-tables-count=1
            - --report-interval=5
            - --oltp-table-size=160000
            - --oltp_skip_trx=on
            - --oltp_auto_inc=off
            - --oltp_secondary
            - --oltp_range_size=5
            - --mysql_table_options=dbpartition by hash(`id`)
            - --num-threads=1
            - --time=3600
            - /usr/share/sysbench/tests/include/oltp_legacy/parallel_prepare.lua
            - run


g.执行如下命令,运行准备压测数据的配置文件sysbench-prepare.yaml,初始化测试数据。

kubectl apply -f sysbench-prepare.yaml

h.执行如下命令,获取任务进行状态。

kubectl get jobs

返回结果如下,请您耐心等待大约1分钟,当任务状态COMPLETIONS为1/1时,表示数据已经初始化完成。

  1. 启动压测流量。

a.执行如下命令,创建启动压测的配置文件sysbench-select.yaml。

vim sysbench-select.yaml

b.按i键进入编辑模式,将如下代码复制到文件中,然后按ECS退出编辑模式,输入:wq后按下Enter键保存并退出。

apiVersion: batch/v1
kind: Job
metadata:
  name: sysbench-point-select-k-test
  namespace: default
spec:
  backoffLimit: 0
  template:
    spec:
      restartPolicy: Never
      containers:
        - name: sysbench-point-select-k
          image: severalnines/sysbench
          env:
            - name: POLARDB_X_USER
              value: polardbx_root
            - name: POLARDB_X_PASSWD
              valueFrom:
                secretKeyRef:
                  name: polardb-x
                  key: polardbx_root
          command: [ 'sysbench' ]
          args:
            - --db-driver=mysql
            - --mysql-host=$(POLARDB_X_SERVICE_HOST)
            - --mysql-port=$(POLARDB_X_SERVICE_PORT)
            - --mysql-user=$(POLARDB_X_USER)
            - --mysql_password=$(POLARDB_X_PASSWD)
            - --mysql-db=sysbench_test
            - --mysql-table-engine=innodb
            - --rand-init=on
            - --max-requests=0
            - --oltp-tables-count=1
            - --report-interval=5
            - --oltp-table-size=32000000
            - --oltp_skip_trx=on
            - --oltp_auto_inc=off
            - --oltp_secondary
            - --oltp_range_size=5
            - --mysql-ignore-errors=all
            - --num-threads=8
            - --time=3600
            - --random_points=1
            - /usr/share/sysbench/tests/include/oltp_legacy/select.lua
            - run


c.执行如下命令,运行启动压测的配置文件sysbench-oltp.yaml,开始压测。

kubectl apply -f sysbench-select.yaml

d.执行如下命令,查找压测脚本运行的POD。

kubectl get pods

返回结果如下, 以‘sysbench-point-select-k-test-’开头的POD即为目标POD。

e.执行如下命令,查看QPS等流量数据。

说明:您需要将命令中的目标POD替换为以‘sysbench-point-select-k-test’开头的POD。

kubectl logs -f 目标POD

返回结果如下,您可查看到QPS等流量数据。


4. 开启监控

本步骤将指导您如何安装PolarDB-X Monitor组件、开启PolarDB-X监控并访问Grafana Dashboard。

  1. 在实验页面,单击右上角的 图标,创建新的终端三。

  1. 安装PolarDB-X Monitor组件。

a.执行如下命令,切换到账号galaxykube。

su galaxykube

b.执行如下命令,进入到/home/galaxykube目录。

cd

c.执行如下命令,创建一个名为polardbx-monitor的命名空间。

kubectl create namespace polardbx-monitor

d.执行如下命令,添加PolarDB-X的Helm chart仓库。

helm repo add polardbx https://polardbx-charts.oss-cn-beijing.aliyuncs.com

e.由于在minikube上安装Prometheus+Grafana可能出现资源不够的情况,需要准备一个values.yaml的文件调整这两个组件的规格。执行如下命令,创建values.yaml文件。

vim values.yaml

f.按i键进入编辑模式,将如下代码复制到values.yaml文件中,然后按ECS退出编辑模式,输入:wq后按下Enter键保存并退出。

monitors:
 prometheus:
   resources:
     requests:
       cpu: 1000m
       memory: 2Gi
     limits:
       cpu: 2000m
       memory: 8Gi

g.执行如下命令,安装PolarDB-X Monitor。

helm install --namespace polardbx-monitor polardbx-monitor polardbx/polardbx-monitor -f values.yaml

h.执行如下命令,检查相关组件是否正常,确认所有的pod都处于Running状态。

kubectl get pods -n polardbx-monitor

返回结果如下,请您耐心等待大约一分钟,当所有pod的STATUS为Running时,表示PolarDB-X Monito安装完成。

  1. 开启PolarDB-X监控。

PolarDB-X 集群的监控采集功能默认是关闭的,需要为您需要监控的PolarDBXCluster创建PolarDBXMonitor对象进行开启。

a.执行如下命令,创建polardbx-monitor.yaml文件。

vim polardbx-monitor.yaml

b.按i键进入编辑模式,将如下代码复制到polardbx-monitor.yaml文件中,然后按ECS退出编辑模式,输入:wq后按下Enter键保存并退出。

apiVersion: polardbx.aliyun.com/v1
kind: PolarDBXMonitor
metadata:
  name: polardb-x-monitor
spec:
  clusterName: polardb-x
  monitorInterval: 15s
  scrapeTimeout: 10s

c.执行如下命令,创建PolarDBXMonitor对象。

kubectl apply -f polardbx-monitor.yaml
  1. 访问Grafana Dashboard。

a.默认情况下执行如下命令,将Grafana端口转发到本地。

kubectl port-forward svc/grafana -n polardbx-monitor 3000 --address=0.0.0.0

b.打开您的本机浏览器,在地址栏中访问http://:3000

说明:您需要将替换为云产品资源列表中的ECS弹性IP。

c.在Grafana Dashboard登录页面,输入默认的用户名admin和密码admin,单击Log in

d.在设置密码页面,自定义admin用户的新密码,单击Submit

返回如下页面,您即可在在PolarDB-X Dashboard页面查看QPS,RT等指标。


5. 了解更多

如果您想了解更多有关PolarDB-X的知识,详情请参见PolarDB-X on Kubenetes(一)

实验链接

相关实践学习
函数计算X RDS PostgreSQL,基于LLM大语言模型构建AI知识库
基于ChatGLM6B 大语言模型构建AI知识库问答应用。答疑群17125058181
相关文章
|
24天前
|
Prometheus 运维 监控
智能运维实战:Prometheus与Grafana的监控与告警体系
【10月更文挑战第26天】Prometheus与Grafana是智能运维中的强大组合,前者是开源的系统监控和警报工具,后者是数据可视化平台。Prometheus具备时间序列数据库、多维数据模型、PromQL查询语言等特性,而Grafana支持多数据源、丰富的可视化选项和告警功能。两者结合可实现实时监控、灵活告警和高度定制化的仪表板,广泛应用于服务器、应用和数据库的监控。
134 3
|
14天前
|
Prometheus 监控 Cloud Native
在 HBase 集群中,Prometheus 通常监控哪些类型的性能指标?
在 HBase 集群中,Prometheus 监控关注的核心指标包括 Master 和 RegionServer 的进程存在性、RPC 请求数、JVM 内存使用率、磁盘和网络错误、延迟和吞吐量、资源利用率及 JVM 使用信息。通过 Grafana 可视化和告警规则,帮助管理员实时监控集群性能和健康状况。
|
25天前
|
Prometheus 监控 Cloud Native
基于Docker安装Grafana和Prometheus
Grafana 是一款用 Go 语言开发的开源数据可视化工具,支持数据监控和统计,并具备告警功能。通过 Docker 部署 Grafana 和 Prometheus,可实现系统数据的采集、展示和告警。默认登录用户名和密码均为 admin。配置 Prometheus 数据源后,可导入主机监控模板(ID 8919)进行数据展示。
65 2
|
23天前
|
Prometheus 运维 监控
智能运维实战:Prometheus与Grafana的监控与告警体系
【10月更文挑战第27天】在智能运维中,Prometheus和Grafana的组合已成为监控和告警体系的事实标准。Prometheus负责数据收集和存储,支持灵活的查询语言PromQL;Grafana提供数据的可视化展示和告警功能。本文介绍如何配置Prometheus监控目标、Grafana数据源及告警规则,帮助运维团队实时监控系统状态,确保稳定性和可靠性。
121 0
|
2月前
|
Prometheus 监控 Cloud Native
介绍如何使用Prometheus进行监控
介绍如何使用Prometheus进行监控
224 3
|
2月前
|
Prometheus 监控 Cloud Native
docker安装prometheus+Granfan并监控容器
【9月更文挑战第14天】本文介绍了在Docker中安装Prometheus与Grafana并监控容器的步骤,包括创建配置文件、运行Prometheus与Grafana容器,以及在Grafana中配置数据源和创建监控仪表盘,展示了如何通过Prometheus抓取数据并利用Grafana展示容器的CPU使用率等关键指标。
|
3月前
|
Prometheus 监控 Cloud Native
自定义grafana_table(数据源Prometheus)
综上所述,自定义 Grafana 表格并将 Prometheus 作为数据源的关键是理解 PromQL 的查询机制、熟悉 Grafana 面板的配置选项,并利用 Grafana 强大的转换和自定义功能使数据展示更为直观和有洞见性。随着对这些工具更深入的了解,您将可以创建出更高级的监控仪表盘,以支持复杂的业务监控需求。
303 1
|
2月前
|
运维 Kubernetes 监控
Loki+Promtail+Grafana监控K8s日志
综上,Loki+Promtail+Grafana 监控组合对于在 K8s 环境中优化日志管理至关重要,它不仅提供了强大且易于扩展的日志收集与汇总工具,还有可视化这些日志的能力。通过有效地使用这套工具,可以显著地提高对应用的运维监控能力和故障诊断效率。
311 0
|
1月前
|
关系型数据库 MySQL 分布式数据库
零基础教你用云数据库PolarDB搭建企业网站,完成就送桌面收纳桶!
零基础教你用云数据库PolarDB搭建企业网站,完成就送桌面收纳桶,邀请好友完成更有机会获得​小米Watch S3、小米体重称​等诸多好礼!
零基础教你用云数据库PolarDB搭建企业网站,完成就送桌面收纳桶!
|
2月前
|
关系型数据库 MySQL Serverless
探索PolarDB MySQL版:Serverless数据库的灵活性与性能
本文介绍了个人开发者对阿里云PolarDB MySQL版,特别是其Serverless特性的详细评测体验。评测涵盖了产品初体验、性能观测、Serverless特性深度评测及成本效益分析等方面。尽管试用过程中遇到一些小问题,但总体而言,PolarDB MySQL版表现出色,提供了高性能、高可用性和灵活的资源管理,是个人开发者和企业用户的优秀选择。

相关产品

  • 云原生数据库 PolarDB
  • 下一篇
    无影云桌面