【巡检问题分析与最佳实践】RDS MySQL 实例IO高问题

本文涉及的产品
RDS PostgreSQL Serverless,0.5-4RCU 50GB 3个月
推荐场景:
对影评进行热评分析
云原生数据库 PolarDB 分布式版,标准版 2核8GB
RDS MySQL Serverless 基础系列,0.5-2RCU 50GB
简介: RDS MySQL的IO性能受到硬件层存储介质类型、软件层的DB内核架构、具体SQL语句扫描或修改数据量的影响。

存储形态

RDS MySQL的存储形态主要有2种:

  • 本地存储:本地存储拥有最低的IO延迟,但是本地盘的存储大小有限,如果数据增量大,本地空间不够时,需要迁移数据到其他的主机,数据量大时迁移时间较长,且迁移会有闪断。
  • 分布式存储:也就是云盘,包括SSD和ESSD,云盘拥有更高的性价比,提供更大的存储空间,扩容非常快,不需要迁移数据。

关于更多存储相关的介绍,请参考:云数据库RDS简介 -> 存储类型 https://help.aliyun.com/document_detail/69795.html

InnoDB IO系统

InnoDB AIO实现了一套独立的IO系统来处理数据页的读取和写入,如果SQL请求的数据页不在buffer pool中,会产生物理IO,需要读写底层存储的数据。对于读数据页操作通过同步IO实现,同步IO调用底层的读接口,对于写数据页操作通过异步IO实现,比如后台线程刷脏,后台IO线程会异步的将脏页刷到存储。除了对普通数据文件的读写IO操作,写redo/undo日志、写binlog日志、临时表排序、DDL重建表空间也会产生大量的IO。

高IO负载常见问题

高吞吐的写入

比如表上有很多索引或大字段,频繁的更新、删除、插入场景,读取数据和刷脏会有大量的IO。您可以从自治服务->性能趋势查看IO负载相关的指标:

InnoDB Data读写吞吐量

1.png

每秒Innodb读取、删除、插入、更新的行数:

2.png

建议降低读写频率或升级实例规格、优化刷脏相关的参数来解决高IO问题。和刷脏相关的参数如下:

innodb_max_dirty_pages_pct

innodb_max_dirty_pages_pct_lwm

innodb_io_capacity

innodb_io_capacity_max

临时表产生大量IO

关注临时文件目录大小,如果临时目录很大,可能有慢SQL排序、去重产生很大的临时表,临时表写入也会造成IO增加。您可以从自治服务->性能趋势查看tmp或other目录大小:

3.png

读取冷数据造成的IO高

如果SQL查询或修改的数据不在buffer pool中,则需要从存储读取,如果读取的数据量非常大,可能会造成很大的读IO吞吐。缓存池命中率,如果命中率很低说明请求的数据不在buffer pool中,可能会产生大量的读IO请求。您可以从自治服务->性能趋势查看buffer pool命中率:

4.png

DDL语句产生的IO负担

DDL语句可能会rebuild表空间,扫描全表数据,创建索引排序,新表产生的脏页需要刷脏,这些都会导致大量的IO吞吐。另外一种场景是drop table大表造成的IO抖动,常见于删除上T的大表,可能会造成文件系统jbd2 进程D状态,可以采用AliSQL异步删除大文件的功能避免这个问题。如下图所示:

5.png

6.png

大事务写Binlog

事务只有在提交时才会写binlog文件,如果存在大事务,比如一条delete sql删除大量的行,可能会产生数十G的binlog文件,这个binlog的文件的落盘,会造成很高的IO吞吐。建议尽量将事务拆小,避免大事务和降低修改频率。如下图所示:

7.png

优化建议

您需要分析实例高IO负载是属于上面说的哪种类型,然后采取针对性的优化方法,比如调整刷脏参数,SQL优化(培训视频https://yq.aliyun.com/live/1938)、规格升级(参考https://help.aliyun.com/document_detail/96061.html)、采用AliSQL异步删除表空间(参考https://help.aliyun.com/document_detail/134095.html)的功能等。

相关实践学习
每个IT人都想学的“Web应用上云经典架构”实战
本实验从Web应用上云这个最基本的、最普遍的需求出发,帮助IT从业者们通过“阿里云Web应用上云解决方案”,了解一个企业级Web应用上云的常见架构,了解如何构建一个高可用、可扩展的企业级应用架构。
MySQL数据库入门学习
本课程通过最流行的开源数据库MySQL带你了解数据库的世界。   相关的阿里云产品:云数据库RDS MySQL 版 阿里云关系型数据库RDS(Relational Database Service)是一种稳定可靠、可弹性伸缩的在线数据库服务,提供容灾、备份、恢复、迁移等方面的全套解决方案,彻底解决数据库运维的烦恼。 了解产品详情: https://www.aliyun.com/product/rds/mysql 
相关文章
|
5月前
|
SQL Oracle 关系型数据库
在MySQL Shell里 重启MySQL 8.4实例
在MySQL Shell里 重启MySQL 8.4实例
127 2
|
8月前
|
关系型数据库 MySQL Docker
docker pull mysql:8.0.26提示Error response from daemon: Get “https://registry-1.docker.io/v2/“: EOF错误
docker pull mysql:8.0.26提示Error response from daemon: Get “https://registry-1.docker.io/v2/“: EOF错误
|
9月前
|
关系型数据库 MySQL Linux
升级到MySQL 8.4,MySQL启动报错:io_setup() failed with EAGAIN
当MySQL 8.4启动时报错“io_setup() failed with EAGAIN”时,通常是由于系统AIO资源不足所致。通过增加AIO上下文数量、调整MySQL配置、优化系统资源或升级内核版本,可以有效解决这一问题。上述解决方案详细且实用,能够帮助管理员快速定位并处理此类问题,确保数据库系统的正常运行。
307 9
|
10月前
|
关系型数据库 MySQL 数据库
【赵渝强老师】启动与关闭MySQL数据库实例
MySQL数据库安装完成后,可以通过命令脚本启动、查看状态、配置开机自启、查看自启列表及关闭数据库。本文提供了详细的操作步骤和示例代码,并附有视频讲解。
134 0
|
11月前
|
存储 关系型数据库 MySQL
mysql 8.0 的 建表 和八种 建表引擎实例
mysql 8.0 的 建表 和八种 建表引擎实例
147 0
|
11月前
|
存储 关系型数据库 MySQL
Key_Value 形式 存储_5级省市城乡划分代码 (mysql 8.0 实例)
本文介绍了如何使用MySQL8.0数据库中的Key_Value形式存储全国统计用区划代码和城乡划分代码(5级),包括导入数据、通过数学函数提取省市区信息,以及查询5级行政区划的详细数据。
121 0
|
3月前
|
人工智能 运维 关系型数据库
数据库运维:mysql 数据库迁移方法-mysqldump
本文介绍了MySQL数据库迁移的方法与技巧,重点探讨了数据量大小对迁移方式的影响。对于10GB以下的小型数据库,推荐使用mysqldump进行逻辑导出和source导入;10GB以上可考虑mydumper与myloader工具;100GB以上则建议物理迁移。文中还提供了统计数据库及表空间大小的SQL语句,并讲解了如何使用mysqldump导出存储过程、函数和数据结构。通过结合实际应用场景选择合适的工具与方法,可实现高效的数据迁移。
563 1
|
4月前
|
负载均衡 算法 关系型数据库
大数据大厂之MySQL数据库课程设计:揭秘MySQL集群架构负载均衡核心算法:从理论到Java代码实战,让你的数据库性能飙升!
本文聚焦 MySQL 集群架构中的负载均衡算法,阐述其重要性。详细介绍轮询、加权轮询、最少连接、加权最少连接、随机、源地址哈希等常用算法,分析各自优缺点及适用场景。并提供 Java 语言代码实现示例,助力直观理解。文章结构清晰,语言通俗易懂,对理解和应用负载均衡算法具有实用价值和参考价值。
大数据大厂之MySQL数据库课程设计:揭秘MySQL集群架构负载均衡核心算法:从理论到Java代码实战,让你的数据库性能飙升!
|
3月前
|
SQL 关系型数据库 MySQL
Go语言数据库编程:使用 `database/sql` 与 MySQL/PostgreSQL
Go语言通过`database/sql`标准库提供统一数据库操作接口,支持MySQL、PostgreSQL等多种数据库。本文介绍了驱动安装、连接数据库、基本增删改查操作、预处理语句、事务处理及错误管理等内容,涵盖实际开发中常用的技巧与注意事项,适合快速掌握Go语言数据库编程基础。
205 62
|
2月前
|
SQL 存储 关系型数据库
MySQL功能模块探秘:数据库世界的奇妙之旅
]带你轻松愉快地探索MySQL 8.4.5的核心功能模块,从SQL引擎到存储引擎,从复制机制到插件系统,让你在欢声笑语中掌握数据库的精髓!

相关产品

  • 云数据库 RDS MySQL 版
  • 云数据库 RDS
  • 推荐镜像

    更多