【巡检问题分析与最佳实践】RDS MySQL 实例IO高问题

本文涉及的产品
云数据库 RDS MySQL,集群系列 2核4GB
推荐场景:
搭建个人博客
RDS SQL Server Serverless,2-4RCU 50GB 3个月
推荐场景:
RDS MySQL Serverless 基础系列,0.5-2RCU 50GB
简介: RDS MySQL的IO性能受到硬件层存储介质类型、软件层的DB内核架构、具体SQL语句扫描或修改数据量的影响。

存储形态

RDS MySQL的存储形态主要有2种:

  • 本地存储:本地存储拥有最低的IO延迟,但是本地盘的存储大小有限,如果数据增量大,本地空间不够时,需要迁移数据到其他的主机,数据量大时迁移时间较长,且迁移会有闪断。
  • 分布式存储:也就是云盘,包括SSD和ESSD,云盘拥有更高的性价比,提供更大的存储空间,扩容非常快,不需要迁移数据。

关于更多存储相关的介绍,请参考:云数据库RDS简介 -> 存储类型 https://help.aliyun.com/document_detail/69795.html

InnoDB IO系统

InnoDB AIO实现了一套独立的IO系统来处理数据页的读取和写入,如果SQL请求的数据页不在buffer pool中,会产生物理IO,需要读写底层存储的数据。对于读数据页操作通过同步IO实现,同步IO调用底层的读接口,对于写数据页操作通过异步IO实现,比如后台线程刷脏,后台IO线程会异步的将脏页刷到存储。除了对普通数据文件的读写IO操作,写redo/undo日志、写binlog日志、临时表排序、DDL重建表空间也会产生大量的IO。

高IO负载常见问题

高吞吐的写入

比如表上有很多索引或大字段,频繁的更新、删除、插入场景,读取数据和刷脏会有大量的IO。您可以从自治服务->性能趋势查看IO负载相关的指标:

InnoDB Data读写吞吐量

1.png

每秒Innodb读取、删除、插入、更新的行数:

2.png

建议降低读写频率或升级实例规格、优化刷脏相关的参数来解决高IO问题。和刷脏相关的参数如下:

innodb_max_dirty_pages_pct

innodb_max_dirty_pages_pct_lwm

innodb_io_capacity

innodb_io_capacity_max

临时表产生大量IO

关注临时文件目录大小,如果临时目录很大,可能有慢SQL排序、去重产生很大的临时表,临时表写入也会造成IO增加。您可以从自治服务->性能趋势查看tmp或other目录大小:

3.png

读取冷数据造成的IO高

如果SQL查询或修改的数据不在buffer pool中,则需要从存储读取,如果读取的数据量非常大,可能会造成很大的读IO吞吐。缓存池命中率,如果命中率很低说明请求的数据不在buffer pool中,可能会产生大量的读IO请求。您可以从自治服务->性能趋势查看buffer pool命中率:

4.png

DDL语句产生的IO负担

DDL语句可能会rebuild表空间,扫描全表数据,创建索引排序,新表产生的脏页需要刷脏,这些都会导致大量的IO吞吐。另外一种场景是drop table大表造成的IO抖动,常见于删除上T的大表,可能会造成文件系统jbd2 进程D状态,可以采用AliSQL异步删除大文件的功能避免这个问题。如下图所示:

5.png

6.png

大事务写Binlog

事务只有在提交时才会写binlog文件,如果存在大事务,比如一条delete sql删除大量的行,可能会产生数十G的binlog文件,这个binlog的文件的落盘,会造成很高的IO吞吐。建议尽量将事务拆小,避免大事务和降低修改频率。如下图所示:

7.png

优化建议

您需要分析实例高IO负载是属于上面说的哪种类型,然后采取针对性的优化方法,比如调整刷脏参数,SQL优化(培训视频https://yq.aliyun.com/live/1938)、规格升级(参考https://help.aliyun.com/document_detail/96061.html)、采用AliSQL异步删除表空间(参考https://help.aliyun.com/document_detail/134095.html)的功能等。

相关实践学习
如何在云端创建MySQL数据库
开始实验后,系统会自动创建一台自建MySQL的 源数据库 ECS 实例和一台 目标数据库 RDS。
全面了解阿里云能为你做什么
阿里云在全球各地部署高效节能的绿色数据中心,利用清洁计算为万物互联的新世界提供源源不断的能源动力,目前开服的区域包括中国(华北、华东、华南、香港)、新加坡、美国(美东、美西)、欧洲、中东、澳大利亚、日本。目前阿里云的产品涵盖弹性计算、数据库、存储与CDN、分析与搜索、云通信、网络、管理与监控、应用服务、互联网中间件、移动服务、视频服务等。通过本课程,来了解阿里云能够为你的业务带来哪些帮助     相关的阿里云产品:云服务器ECS 云服务器 ECS(Elastic Compute Service)是一种弹性可伸缩的计算服务,助您降低 IT 成本,提升运维效率,使您更专注于核心业务创新。产品详情: https://www.aliyun.com/product/ecs
相关文章
|
15天前
|
存储 关系型数据库 MySQL
环比、环比增长率、同比、同比增长率 ,占比,Mysql 8.0 实例(最简单的方法之一)(sample database classicmodels _No.2 )
环比、环比增长率、同比、同比增长率 ,占比,Mysql 8.0 实例(最简单的方法之一)(sample database classicmodels _No.2 )
54 1
|
15天前
|
SQL 前端开发 关系型数据库
全表数据核对 ,行数据核对,列数据核对,Mysql 8.0 实例(sample database classicmodels _No.3 )
全表数据核对 ,行数据核对,列数据核对,Mysql 8.0 实例(sample database classicmodels _No.3 )
32 0
全表数据核对 ,行数据核对,列数据核对,Mysql 8.0 实例(sample database classicmodels _No.3 )
|
22天前
|
存储 缓存 关系型数据库
MySQL事务日志-Redo Log工作原理分析
事务的隔离性和原子性分别通过锁和事务日志实现,而持久性则依赖于事务日志中的`Redo Log`。在MySQL中,`Redo Log`确保已提交事务的数据能持久保存,即使系统崩溃也能通过重做日志恢复数据。其工作原理是记录数据在内存中的更改,待事务提交时写入磁盘。此外,`Redo Log`采用简单的物理日志格式和高效的顺序IO,确保快速提交。通过不同的落盘策略,可在性能和安全性之间做出权衡。
1585 14
|
8天前
|
存储 关系型数据库 MySQL
基于案例分析 MySQL 权限认证中的具体优先原则
【10月更文挑战第26天】本文通过具体案例分析了MySQL权限认证中的优先原则,包括全局权限、数据库级别权限和表级别权限的设置与优先级。全局权限优先于数据库级别权限,后者又优先于表级别权限。在权限冲突时,更严格的权限将被优先执行,确保数据库的安全性与资源合理分配。
|
17天前
|
关系型数据库 MySQL Java
Django学习二:配置mysql,创建model实例,自动创建数据库表,对mysql数据库表已经创建好的进行直接操作和实验。
这篇文章是关于如何使用Django框架配置MySQL数据库,创建模型实例,并自动或手动创建数据库表,以及对这些表进行操作的详细教程。
47 0
Django学习二:配置mysql,创建model实例,自动创建数据库表,对mysql数据库表已经创建好的进行直接操作和实验。
|
25天前
|
SQL 关系型数据库 MySQL
MySQL 更新1000万条数据和DDL执行时间分析
MySQL 更新1000万条数据和DDL执行时间分析
54 4
|
24天前
|
SQL 自然语言处理 关系型数据库
Vanna使用ollama分析本地MySQL数据库
这篇文章详细介绍了如何使用Vanna结合Ollama框架来分析本地MySQL数据库,实现自然语言查询功能,包括环境搭建和配置流程。
124 0
|
2月前
|
Oracle NoSQL 关系型数据库
主流数据库对比:MySQL、PostgreSQL、Oracle和Redis的优缺点分析
主流数据库对比:MySQL、PostgreSQL、Oracle和Redis的优缺点分析
198 2
|
14天前
|
存储 关系型数据库 MySQL
mysql 8.0 的 建表 和八种 建表引擎实例
mysql 8.0 的 建表 和八种 建表引擎实例
17 0
|
15天前
|
存储 关系型数据库 MySQL
Key_Value 形式 存储_5级省市城乡划分代码 (mysql 8.0 实例)
本文介绍了如何使用MySQL8.0数据库中的Key_Value形式存储全国统计用区划代码和城乡划分代码(5级),包括导入数据、通过数学函数提取省市区信息,以及查询5级行政区划的详细数据。
25 0

相关产品

  • 云数据库 RDS MySQL 版
  • 云数据库 RDS