【巡检问题分析与最佳实践】RDS MySQL慢SQL问题

本文涉及的产品
云数据库 RDS SQL Server,基础系列 2核4GB
云原生数据库 PolarDB 分布式版,标准版 2核8GB
RDS SQL Server Serverless,2-4RCU 50GB 3个月
推荐场景:
简介: 判断查询的性能就是看查询执行的时间,这个时间针对不同的业务要求上也有差异。在同一时间内SQL执行的越快,执行的SQL就越多,完成的业务逻辑就越多。同样一个业务场景不同的架构设计、数据库表索引设计,由不同的人来做效果是不同的,有的人可以用很低的成本,RDS规格,ECS规格跑出很高的性能。最好的情况是自顶向下了解业务,以及每个业务涉及的SQL,这样就能厘清业务和数据库负载的关系;也能找到短板,并对短板做有针对性的优化;全链路压测就是做的这个事情。

前言

判断查询的性能就是看查询执行的时间,这个时间针对不同的业务要求上也有差异。在同一时间内SQL执行的越快,执行的SQL就越多,完成的业务逻辑就越多。同样一个业务场景不同的架构设计、数据库表索引设计,由不同的人来做效果是不同的,有的人可以用很低的成本,RDS规格,ECS规格跑出很高的性能。最好的情况是自顶向下了解业务,以及每个业务涉及的SQL,这样就能厘清业务和数据库负载的关系;也能找到短板,并对短板做有针对性的优化;全链路压测就是做的这个事情。另外也可以借鉴xtrace,strace等理念在分布式环境中做全链路的监控,阿里云已经有这样的产品叫链路追踪,可以清楚地监控从应用组件到基础组件,哪一个环节耗时最长,哪一个环节报错,详细请参考文档 https://www.aliyun.com/product/xtrace。全链路监控和全链路压测是值得大多数系统学习的。

下面针对数据库的各种导致SQL慢的排查思路,原因和解决方法进行阐述:

实例达到瓶颈

如果监控比较细微或对响应时间比较敏感的话,瓶颈很容易被监控到,达到瓶颈时一般可能有以下几种因素:

  1. 随着业务的增长而没有扩容,总有那么一天系统变慢;
  2. 随着时间的变化,大量的磁盘擦写或快过保的机器性能有损耗,也会达到瓶颈;
  3. 随着时间的累计,数据只增加不清理,表的大小也不断增加,有可能原来不慢的SQL变慢,如:索引缺失;可以借助自治服务诊断。

控制台路径是选择“云数据库RDS”->选择“实例列表”->点击实例链接,进入实例页面->选择“自治服务”->选择“资源监控”,详细参考 https://help.aliyun.com/document_detail/95667.html 。如果资源使用利用率各项指标都100%,可能是实例达到了瓶颈,这时候建议升级实例规格,方法参考 https://help.aliyun.com/document_detail/96061.html

判断实例有没有达到瓶颈,比较好的方法是先找到实例的性能基准值,先用sysbench或其他测试工具构建基准测试,当不管怎么增加压力,数据库的性能再也上不去时说明基准值已经出来了,在复杂场景下的QPS/TPS响应时间很少会超过基准值的。

版本升降级

数据库的版本升级可能会导致SQL执行计划发生改变,执行计划查询类型依次从好到坏的顺序是“system > const > eq_ref > ref > fulltext > ref_or_null > index_merge > unique_subquery > index_subquery > range > index > all”(官方链接 https://dev.mysql.com/doc/refman/5.6/en/explain-output.html#explain-join-types ),查询类型从“range -> index”,因为SQL的请求变慢,业务又不断重试请求,导致SQL并行查询比较多,进而影响应用线程释放慢,导致应用连接池耗尽,影响整个业务。查看近期有没有修改过参数的控制台路径是选择“云数据库RDS”->选择“历史事件”,详细参考 https://help.aliyun.com/document_detail/131008.html ,如下图所示:

1.png

参数调整

参数buffer_pool_instances/join_buffer_size/AHI等的变化也会导致性能变慢。关于这方面的文章比较多,这里不一一赘述。查看近期有没有修改过参数的控制台路径是选择“云数据库RDS”->选择“实例列表”->点击实例链接,进入实例页面->选择“参数设置”->选择“修改历史”,详细参考 https://help.aliyun.com/document_detail/131008.html ,如下图所示:

2.png

缓存失效

缓存的设计在架构上很好地承担了大量的查询,但并不能保证缓存命中率100%,如果缓存失效,也会有大量的查询涌到数据库端,导致性能下降。从数据库表现来说,看到各方面的资源(通常是CPU)打满,QPS/活跃线程飙的非常高。这样的情况RDS MySQL可以用SQL限流、打开线程池、语句并行队列、Fast Query Cache等可以缓解,详情参考https://help.aliyun.com/document_detail/130306.html 。目前数据库自治服务DAS,可以提供自动调参/自动扩容/SQL自动优化/SQL自动限流的工作,详情参考 https://help.aliyun.com/document_detail/164859.html

批量操作

如果有大批量的数据导入、删除、或拖数据的情况。

批量数据导入

这种情况可以从磁盘空间,或SQL洞察/慢查询里找到对应语句。如从binlog的大小,正常情况每个binlog问卷大小是500MB,如果有超过500MB的,就可以看是否有异常情况。

3.png

也可以从监控上看哪部分的空间有变化。

4.png

如果有批量数据导入IOPS上也会增加。5.png

事务数也会增加。

6.png

InnoDB的写入量也会增加。

7.png

日志文件的写入也会增加。

8.png

InnoDB层的写入也会增加。

9.png

批量数据删除/回收

这种情况可以从磁盘空间,或SQL洞察/慢查询里找到对应语句。

10.png

11.png

12.png

可以看到truncate table时select 1都很慢。


13.png

拖数据

这种情况可以通过监控指标的变化或SQL洞察/慢查询里找到对应语句。

14.png

15.png

未关闭的事务

如果某个任务突然变慢,应该考虑是否有锁阻塞的问题。可以通过“如何定位长时间未关闭的事务和处理方法”这篇文章找到未释放的锁,应通过更快地释放锁来改善。如下图CPU和IOPS的利用率并不高,但应用拥堵,MySQL的活跃会话上涨就是存在未关闭的事务导致的。

16.png


未提交事务:

19.png

定时任务

如果负载随时间有规律性变化,则瓶颈随负载有规律性地变化,很大可能是定时任务引起的,如图所示:

20.png

SQL异常

查询慢有很多种原因导致,这种情况可能是由于库表结构设计不合理,或索引缺失,或扫描行数太多,或不常用到的查询条件导致,这种情况需要开发人员修改。

影响SQL语句执行的因素大概分为以下几类:表有哪些索引、存储特性、数据库引擎特性、查询条件的区分度、结果集大小、表的数据量、CPU时间。关于这一点已经讲的比较多,详细可以参考阿里云数据库最佳实践 https://yq.aliyun.com/live/1938

此外还可以使用数据库自治服务优化慢SQL,可参考https://help.aliyun.com/document_detail/167895.html

业务场景发生改变

如何确定业务场景发生了改变呢?有两种可能:

1. 应用进行过发布

应用有没有进行过发布,需要看下应用的部署日志或发布系统可以查到痕迹。

2. 没发布,功能早上线,但不经常用,某天用户点了某个功能。

如果想确切定位同时段的SQL是否一样,就需要打开审计日志。打开审计日志的方法参考文档 https://help.aliyun.com/document_detail/96123.html 。同时段的SQL可以跟昨天同时间对比,或上周同时间对比。借助SQL洞察的SQL分析功能,或者更方便地用DAS专业版的“SQL对比”/“来源统计”。发现和没有问题时间段的SQL,找到来源即可。

22.png

或用DAS数据库自治服务的"一键诊断",路径参考https://help.aliyun.com/document_detail/99478.html

23.png

扫描行数多

路径地址:阿里云控制台->选择对应数据库引擎->找到对应实例,点击“实例ID/名称”->选择“SQL洞察”或“自治服务”里的“慢SQL”

24.png

多表join

这种情况可以通过监控指标的变化或SQL洞察/慢查询里找到对应语句。

25.png

索引不合理

例如:

26.png

全表扫描

全表扫描一般发生在索引不合理或没有WHERE条件的SQL语句中,索引不合理好解决建立合适的索引就可以了,但对于没有WHERE条件的SQL语句发生时可以kill或降级业务解决。没有WHERE条件但SQL语句是高风险SQL,建议分批执行或放在业务低峰期执行,当然了尽量带上WHERE条件。如下图就是不带WHERE条件的,在DAS控制台/慢查询/SQL洞察等都可以找到。

27.png

CPU达到瓶颈

CPU在系统中相当于大脑,当CPU达到瓶颈后调度IO等就慢,也会导致慢SQL产生,这种情况可以从监控指标上看出。如

28.png

IO慢

IOPS达到瓶颈

如果慢SQL里出现DML,很大程度是IOPS利用率较高,如:

29.png

可以从SQL洞察里找到慢SQL:

30.png

也可从慢日志明细看到:

31.png33.png

刷脏导致的IO慢

MySQL触发刷脏的时机有:RedoLog满,内存不够用,内存刷脏过程中的额外开销。这种情况可能会触发Buffer Pool的锁

截屏2020-12-28下午11.40.53.png

lnnoDB缓存读命中率,使用率,胆块率(

(%)

120

80

2020-12-2816:51:00

缓冲池的读命中率(%)

99.98

n1

20

缓冲池的利用率(%)

97.92

缓冲池胆块的百分率(%)

22.48

21:00

18:00

14:00

15:00

16:00

17:00

19:00

20:00

22:00

23:00

缓冲池的利用率(%)

缓冲池脏块的百分率(%)

缓冲池的读命中率(%)

业务场景发生变化

业务进行过发布,或有不经常访问的业务突发访问比如ad-hoc类等,从监控指标上可以看到异常。

image.png

查看历史

近1小时

发起诊断

近12小时

近6小时

2020年12月28日22:47:09

2020年12月28日21:47:09

健诊断

自治中心neW

危险:1警告:0

性能趋势

贤温监控

实时会话

SQL分析

死锁

实时性能

大中务:当前无大务详情

当前时段光新未发生死铺

大会话:14条详情

实例会话

性能洞柴"ew!

话求分析

资无诊断

会话快国

全量SQL

sQL

慢日志

快丽开关:未开启会话快服前往

全HSQL要开启全量SOL高

QPSAVG:269.3MAX:4591.2

CPU用本:AVG:18.7%MAX:

魔SQL款量:6查看

级版前往

开启

100.0%详情

环比地长率:-96.30%上一个

SQL洞亮和审计

网士对长率:0.00%(昨天同村间

段情SQL技量为O)

时段AVG:7268.5)

需要优化的SQL模板校品:无

内存机用率:AVG:65.3%

MAX69.8%

法获取数拼

同比:长半:2780.08%(昨天同

空间分析

时间段AVG:9.3)

IOPS使用率:20.2%

该间后

全量SCL

模SeL

容量评估

锁分析

空间使用

附盘使用率:10.88%详情

实例告誉

剩会可用空间:1.74TB

近一周日均墙长量:164.18GB

性能快照

总结

哪些可以帮助我们定位慢SQL?

  • 监控指标

对比两个时间段的监控指标的差异,如资源层面的差异,引擎层面的差异,选择“云数据库RDS”->选择“实例列表”->点击实例链接,进入实例页面->选择“监控与报警”->选择“资源监控”/“引擎监控”,下面看下各个指标的含义:

监控项

含义

说明

磁盘空间

实例的磁盘空间占用历史趋势,单位GB

IOPS

RDS实例的IOPS(每秒IO请求次数)

连接数

当前总连接数

CPU使用率

RDS实例CPU使用率(占操作系统总数)

网络流量

MySQL实例平均每秒钟的输入、输出流量,单位为KB

QPS/TPS

每秒钟SQL语句执行次数和事务处理数

InnoDB缓存读命中率、使用率、脏块率

InnoDB缓冲池的读命中率、使用率以及缓冲池脏块的百分率

InnoDB读写量

InnoDB平均每秒读取和写入的数据量

InnoDB读写次数

InnoDB每秒钟的读取和写入的次数

InnoDB日志

InnoDB的日志写入情况

MySQL执行语句时在硬盘上自动创建的临时表的数量

执行语句时在硬盘上自动创建的临时表的数量

MyISAM Key Buffer

MyISAM平均每秒的Key Buffer使用状况

MyISAM读写次数

MyISAM平均每秒的读写次数

MySQL_COMDML

数据库每秒SQL语句执行次数,包括的类型如下:Insert、Delete、Insert_Select、Replace、Replace_Select、Select、Update

MySQL_RowDML

InnoDB每秒钟操作执行次数,包括:

  • 每秒向日志文件的物理写次数
  • 每秒从 InnoDB 表读取、更新、删除、插入的行数

  • 慢日志
  • SQL洞察
  • 数据库自治服务

因为上面已经有路径或帮助文档,这里不再赘述。在实际业务场景中情况可能会比上面提到的情况复杂的多,有可能是多种情况的叠加,不过排查问题的思路是一致的,希望上述方法对您有帮助。

相关实践学习
如何在云端创建MySQL数据库
开始实验后,系统会自动创建一台自建MySQL的 源数据库 ECS 实例和一台 目标数据库 RDS。
全面了解阿里云能为你做什么
阿里云在全球各地部署高效节能的绿色数据中心,利用清洁计算为万物互联的新世界提供源源不断的能源动力,目前开服的区域包括中国(华北、华东、华南、香港)、新加坡、美国(美东、美西)、欧洲、中东、澳大利亚、日本。目前阿里云的产品涵盖弹性计算、数据库、存储与CDN、分析与搜索、云通信、网络、管理与监控、应用服务、互联网中间件、移动服务、视频服务等。通过本课程,来了解阿里云能够为你的业务带来哪些帮助     相关的阿里云产品:云服务器ECS 云服务器 ECS(Elastic Compute Service)是一种弹性可伸缩的计算服务,助您降低 IT 成本,提升运维效率,使您更专注于核心业务创新。产品详情: https://www.aliyun.com/product/ecs
相关文章
|
1月前
|
关系型数据库 MySQL Linux
在 CentOS 7 中通过编译源码方式安装 MySQL 数据库的详细步骤,包括准备工作、下载源码、编译安装、配置 MySQL 服务、登录设置等。
本文介绍了在 CentOS 7 中通过编译源码方式安装 MySQL 数据库的详细步骤,包括准备工作、下载源码、编译安装、配置 MySQL 服务、登录设置等。同时,文章还对比了编译源码安装与使用 RPM 包安装的优缺点,帮助读者根据需求选择最合适的方法。通过具体案例,展示了编译源码安装的灵活性和定制性。
127 2
|
2月前
|
存储 缓存 关系型数据库
MySQL事务日志-Redo Log工作原理分析
事务的隔离性和原子性分别通过锁和事务日志实现,而持久性则依赖于事务日志中的`Redo Log`。在MySQL中,`Redo Log`确保已提交事务的数据能持久保存,即使系统崩溃也能通过重做日志恢复数据。其工作原理是记录数据在内存中的更改,待事务提交时写入磁盘。此外,`Redo Log`采用简单的物理日志格式和高效的顺序IO,确保快速提交。通过不同的落盘策略,可在性能和安全性之间做出权衡。
1684 14
|
2月前
|
存储 关系型数据库 MySQL
基于案例分析 MySQL 权限认证中的具体优先原则
【10月更文挑战第26天】本文通过具体案例分析了MySQL权限认证中的优先原则,包括全局权限、数据库级别权限和表级别权限的设置与优先级。全局权限优先于数据库级别权限,后者又优先于表级别权限。在权限冲突时,更严格的权限将被优先执行,确保数据库的安全性与资源合理分配。
|
3月前
|
存储 SQL 关系型数据库
一篇文章搞懂MySQL的分库分表,从拆分场景、目标评估、拆分方案、不停机迁移、一致性补偿等方面详细阐述MySQL数据库的分库分表方案
MySQL如何进行分库分表、数据迁移?从相关概念、使用场景、拆分方式、分表字段选择、数据一致性校验等角度阐述MySQL数据库的分库分表方案。
490 15
一篇文章搞懂MySQL的分库分表,从拆分场景、目标评估、拆分方案、不停机迁移、一致性补偿等方面详细阐述MySQL数据库的分库分表方案
|
2月前
|
关系型数据库 MySQL Java
Django学习二:配置mysql,创建model实例,自动创建数据库表,对mysql数据库表已经创建好的进行直接操作和实验。
这篇文章是关于如何使用Django框架配置MySQL数据库,创建模型实例,并自动或手动创建数据库表,以及对这些表进行操作的详细教程。
84 0
Django学习二:配置mysql,创建model实例,自动创建数据库表,对mysql数据库表已经创建好的进行直接操作和实验。
|
2月前
|
Java 关系型数据库 MySQL
springboot学习四:springboot链接mysql数据库,使用JdbcTemplate 操作mysql
这篇文章是关于如何使用Spring Boot框架通过JdbcTemplate操作MySQL数据库的教程。
69 0
springboot学习四:springboot链接mysql数据库,使用JdbcTemplate 操作mysql
|
2月前
|
关系型数据库 MySQL 数据库
MySQL数据库:基础概念、应用与最佳实践
一、引言随着互联网技术的快速发展,数据库管理系统在现代信息系统中扮演着核心角色。在众多数据库管理系统中,MySQL以其开源、稳定、可靠以及跨平台的特性受到了广泛的关注和应用。本文将详细介绍MySQL数据库的基本概念、特性、应用领域以及最佳实践,帮助读者更好地理解和应用MySQL数据库。二、MySQL
146 5
|
2月前
|
SQL 关系型数据库 MySQL
MySQL 更新1000万条数据和DDL执行时间分析
MySQL 更新1000万条数据和DDL执行时间分析
160 4
|
2月前
|
SQL 自然语言处理 关系型数据库
Vanna使用ollama分析本地MySQL数据库
这篇文章详细介绍了如何使用Vanna结合Ollama框架来分析本地MySQL数据库,实现自然语言查询功能,包括环境搭建和配置流程。
286 0
|
1月前
|
SQL 关系型数据库 MySQL
MySql5.6版本开启慢SQL功能-本次采用永久生效方式
MySql5.6版本开启慢SQL功能-本次采用永久生效方式
43 0

相关产品

  • 云数据库 RDS MySQL 版
  • 云数据库 RDS