mysql大量的waiting for table level lock怎么办

本文涉及的产品
RDS MySQL Serverless 基础系列,0.5-2RCU 50GB
云数据库 RDS PostgreSQL,高可用系列 2核4GB
RDS MySQL Serverless 高可用系列,价值2615元额度,1个月
简介: mysql大量的waiting for table level lock怎么办

MySQL从5.5版本开始,新增元数据锁,也就是metadata lock,简称MDL锁。

MDL锁的主要目是保护表元数据并行请求过程中不被修改,例如会话1在执行SELECT查询数据,会话2要新增一列,这时第二个会话会被阻塞,以免造成会话1前后看到的表结构不一致。

当然了,MDL后来被扩展了,并不只是针对表(TABLE)对象,也包含库(SCHEMA)、表空间(TABLESPACE)、存储程序(过程、函数、触发器、定时器)等对象,也受到MDL的保护。此外,MDL锁也会阻塞全局 COMMIT 行为,比如加了FTWRL(FLUSH TABLE WITH READ LOCK)后,就会持有一个全局的 COMMIT 共享锁,此时会阻止其他会话的事务提交。

我们从 performance_schema.metadata_lock 就可以看到MDL的详细情况,从MySQL 5.7版本开始,还可以从 sys.schema_table_lock_waits 查看MDL阻塞等待的情况。要特别注意的是,MDL锁等待超时阈值由选项 lock_wait_timeout 控制,该选项默认值是 31536000秒,也就是 一年、一年、一年(重要的话重复三遍),建议调低,比如改成5-10分钟,建议最长不超过1小时(想想,这种MDL等待超过1小时还不报警的话,DBA也该下岗了吧)。

另外,想要在PFS(performance_schema)和 sys schema中能看到MDL详情的话,需要先启用相关的设置:(横屏观看)

[root@yejr.me]> use performance_schema;
[root@yejr.me]> UPDATE setup_consumers
    SET ENABLED = 'YES' WHERE NAME ='global_instrumentation';
[root@yejr.me]> UPDATE setup_instruments
    SET ENABLED = 'YES' WHERE NAME =‘wait/lock/metadata/sql/mdl';

然后就能查看当前是否有MDL锁了:(横屏观看)

# session1执行一个未结束的只读事务

[root@yejr.me]> begin; select * from test.t1 limit 1;

# session2 查看MDL详情
[root@yejr.me]> SELECT * FROM metadata_locks\G
1. row **
OBJECT_TYPE: TABLE
OBJECT_SCHEMA: test
OBJECT_NAME: t1
COLUMN_NAME: NULL
OBJECT_INSTANCE_BEGIN: 140334142005184
LOCK_TYPE: SHARED_READ -- 该MDL请求类型为共享读
LOCK_DURATION: TRANSACTION -- 该MDL请求处于事务级别
LOCK_STATUS: GRANTED -- 该MDL请求已获得
SOURCE: sql_parse.cc:5929
OWNER_THREAD_ID: 1892 -- 线程ID
OWNER_EVENT_ID: 13



已有各路大神对MDL做了详细解析,所以本文不再赘述,我更喜欢写点接地气的。所以我们共同分析一个非常经典的MDL等待案例,借此分析遇到这种问题时,该怎么分析和判断,以及如何应对处理。(横屏观看)

session1 session2 session3
begin;
select from t1 limit 1;



alter table t1 add cx int;
# 此时该请求被阻塞



select from t1 limit 1;
# 此时该请求被阻塞

这时执行 SHOW PROCESSLIST 的话,能看到下面这样的现场(删除了部分无用输出列)(横屏观看)

+------+------+---------------------------------+--------------------------+
| Id | Time | State | Info |
+------+------+---------------------------------+--------------------------+
| 1853 | 0 | starting | show processlist |
| 1854 | 134 | Waiting for table metadata lock | alter table t1 add cx int|
| 1855 | 83 | Waiting for table metadata lock | select * from t1 limit 1 |
+------+------+---------------------------------+--------------------------+

如果只看现场,我们是没办法分析出到底哪个线程导致的MDL阻塞,这正是MySQL 5.7之前版本的痛苦之处,遇到MDL等待,只能靠DBA的经验、感觉去分析,还不一定完全可靠。

但是,5.7版本之后,我们就可以用PFS和sys schema进行跟踪分析了:(横屏观看)

# 1、查看当前的MDL请求状态(删除部分信息)
[root@yejr.me]> select * from performance_schema.metadata_locks;
+-------------+-----------+---------------------+---------------+-------------+------+
| OBJECT_TYPE | OBJECT_NAM| LOCK_TYPE | LOCK_DURATION | LOCK_STATUS | TID |
+-------------+-----------+---------------------+---------------+-------------+------+
| TABLE | t1 | SHARED_READ | TRANSACTION | GRANTED | 1892 |
| GLOBAL | NULL | INTENTION_EXCLUSIVE | STATEMENT | GRANTED | 1893 |
| SCHEMA | NULL | INTENTION_EXCLUSIVE | TRANSACTION | GRANTED | 1893 |
| TABLE | t1 | SHARED_UPGRADABLE | TRANSACTION | GRANTED | 1893 |
| BACKUP LOCK | NULL | INTENTION_EXCLUSIVE | TRANSACTION | GRANTED | 1893 |
| TABLESPACE | test/t1 | INTENTION_EXCLUSIVE | TRANSACTION | GRANTED | 1893 |
| TABLE | #sql-e953_| EXCLUSIVE | STATEMENT | GRANTED | 1893 |
| TABLE | t1 | EXCLUSIVE | TRANSACTION | PENDING | 1893 |
| TABLE | t1 | SHARED_READ | TRANSACTION | PENDING | 1894 |
+-------------+-----------+---------------------+---------------+-------------+------+

# 2、查看当前的MDL等待状态
[root@yejr.me]> select * from sys.schema_table_lock_waits\G
1. row **
object_schema: test
object_name: t1
waiting_thread_id: 1893 -- 等待的线程ID
waiting_pid: 1854 -- 等待的连接PID
waiting_account: root@localhost
waiting_lock_type: EXCLUSIVE -- 等待的锁类型
waiting_lock_duration: TRANSACTION
waiting_query: alter table t1 drop cx
waiting_query_secs: 134 -- 锁等待时长
waiting_query_rows_affected: 0
waiting_query_rows_examined: 0
blocking_thread_id: 1892 -- 这里的线程ID值对应上面的TID
blocking_pid: 1853 -- 连接PID,对应下方的trx_mysql_thread_id
blocking_account: root@localhost
blocking_lock_type: SHARED_READ -- 阻塞的锁类型
blocking_lock_duration: TRANSACTION
sql_kill_blocking_query: KILL QUERY 1853
sql_kill_blocking_connection: KILL 1853
2. row **
object_schema: test
object_name: t1
waiting_thread_id: 1894
waiting_pid: 1855
waiting_account: root@localhost
waiting_lock_type: SHARED_READ
waiting_lock_duration: TRANSACTION
waiting_query: select * from t1 limit 1
waiting_query_secs: 83
waiting_query_rows_affected: 0
waiting_query_rows_examined: 0
blocking_thread_id: 1892
blocking_pid: 1853
blocking_account: root@localhost
blocking_lock_type: SHARED_READ
blocking_lock_duration: TRANSACTION
sql_kill_blocking_query: KILL QUERY 1853
sql_kill_blocking_connection: KILL 1853
3. row **
object_schema: test
object_name: t1
waiting_thread_id: 1893
waiting_pid: 1854
waiting_account: root@localhost
waiting_lock_type: EXCLUSIVE
waiting_lock_duration: TRANSACTION
waiting_query: alter table t1 drop cx
waiting_query_secs: 83
waiting_query_rows_affected: 0
waiting_query_rows_examined: 0
blocking_thread_id: 1893
blocking_pid: 1854
blocking_account: root@localhost
blocking_lock_type: SHARED_UPGRADABLE
blocking_lock_duration: TRANSACTION
sql_kill_blocking_query: KILL QUERY 1854
sql_kill_blocking_connection: KILL 1854
4. row **
object_schema: test
object_name: t1
waiting_thread_id: 1894
waiting_pid: 1855
waiting_account: root@localhost
waiting_lock_type: SHARED_READ
waiting_lock_duration: TRANSACTION
waiting_query: select * from t1 limit 1
waiting_query_secs: 83
waiting_query_rows_affected: 0
waiting_query_rows_examined: 0
blocking_thread_id: 1893
blocking_pid: 1854
blocking_account: root@localhost
blocking_lock_type: SHARED_UPGRADABLE
blocking_lock_duration: TRANSACTION
sql_kill_blocking_query: KILL QUERY 1854
sql_kill_blocking_connection: KILL 1854

# 3、顺便查看当前是否有活跃未提交的事务,通常持续时间最久的事务也是引起大面积MDL锁阻塞的根源
[root@yejr.me]> select trx_id,trx_state,time_to_sec(timediff(now(), trx_started))
as trx_active_secs, trx_mysql_thread_id as pid, trx_query
from information_schema.innodb_trx
order by trx_active_secs desc \G
1. row **
trx_id: 281479749621520
trx_state: RUNNING
trx_active_secs: 226
pid: 1853
trx_query: select trx_id,trx_state...

上述测试的环境是:

[root@yejr.me]>
...
Server version: 8.0.16 MySQL Community Server - GPL
...



问题分析

从上面的结果可分析得到以下结论:

  1. 连接PID=1854的那个会话,被连接PID=1853的会话阻塞了
  2. 连接PID=1855的那个会话,被连接PID=1854的会话阻塞了
  3. 连接PID=1855被阻塞的源头也可以追溯到PID=1853那个会话
  4. 也就是:session1阻塞session2,然后 session2阻塞session3

问题解决方法:

  1. 想要让session2和3都不被阻塞,只需要让session1上持有的锁释放即可
  2. 虽然上面提示可以执行KILL QUERY 1853,但实际上是不管用的,因为PID=1853中导致MDL等待的SQL已经执行结束,只是事务还没提交而已,因此正确的方法是执行 KILL 1853 彻底杀掉该连接,回滚相应的事务,释放MDL锁

最后多说一下,MDL是在MySQL server层的锁,而InnoDB层也有表级别上的IS/IX锁,二者并不是一回事。Enjoy MySQL :)

            </div>
相关实践学习
每个IT人都想学的“Web应用上云经典架构”实战
本实验从Web应用上云这个最基本的、最普遍的需求出发,帮助IT从业者们通过“阿里云Web应用上云解决方案”,了解一个企业级Web应用上云的常见架构,了解如何构建一个高可用、可扩展的企业级应用架构。
MySQL数据库入门学习
本课程通过最流行的开源数据库MySQL带你了解数据库的世界。 &nbsp; 相关的阿里云产品:云数据库RDS MySQL 版 阿里云关系型数据库RDS(Relational Database Service)是一种稳定可靠、可弹性伸缩的在线数据库服务,提供容灾、备份、恢复、迁移等方面的全套解决方案,彻底解决数据库运维的烦恼。 了解产品详情:&nbsp;https://www.aliyun.com/product/rds/mysql&nbsp;
相关文章
|
Linux
Linux rsyslog占用内存CPU过高解决办法
该文档描述了`rsyslog`占用内存过高的问题及其解决方案。
903 4
|
SQL 关系型数据库 MySQL
因为一条SQL慢查询的思考
本文探讨了MySQL中的慢查询问题,包括定义(执行时间过长的SQL语句)、如何查看慢查询(通过`long_query_time`配置)以及其对系统性能的影响。慢查询可能由缺乏索引、大数据量、网络延迟等因素引起。解决和避免慢查询的方法包括优化配置、添加索引、调整查询语句、批量处理数据、分库分表等。文章还强调了索引在提升查询性能中的作用,解释了B+树索引的工作原理,并列举了可能导致索引失效的场景。
815 0
|
应用服务中间件 nginx
iframe嵌套其他网站提示连接被拒绝
iframe嵌套其他网站提示连接被拒绝
1916 0
|
SQL 前端开发 JavaScript
分享几个开源Java写的博客系统
分享几个开源Java写的博客系统
5873 0
分享几个开源Java写的博客系统
|
11月前
|
XML Java 数据格式
探索Spring之利剑:ApplicationContext接口
本文深入介绍了Spring框架中的核心接口ApplicationContext,解释了其作为应用容器的功能,包括事件发布、国际化支持等,并通过基于XML和注解的配置示例展示了如何使用ApplicationContext管理Bean实例。
514 6
|
JavaScript 前端开发 调度
事件驱动模型
【10月更文挑战第7天】事件驱动模型
504 7
|
存储 NoSQL 算法
Redis中的BigKey问题:排查与解决思路
Redis中的BigKey问题:排查与解决思路
793 0
|
10月前
|
关系型数据库 OLAP OLTP
深入剖析 OALP 与 OLTP:概念、区别、技术、场景
本文深入剖析了OLTP(在线事务处理)与OLAP(在线分析处理)的概念、区别、技术及应用场景。OLTP专注于实时业务操作,确保数据一致性和高效性,适用于金融、电商等行业;OLAP则侧重于历史数据分析,支持复杂查询和多维分析,助力企业决策。两者在数据特点、系统设计、用户类型及数据库设计上存在显著差异。合理结合OLTP和OLAP,可提升企业的运营效率和决策水平。
1672 15
|
12月前
|
存储 NoSQL 算法
面试官:Redis 大 key 多 key,你要怎么拆分?
本文介绍了在Redis中处理大key和多key的几种策略,包括将大value拆分成多个key-value对、对包含大量元素的数据结构进行分桶处理、通过Hash结构减少key数量,以及如何合理拆分大Bitmap或布隆过滤器以提高效率和减少内存占用。这些方法有助于优化Redis性能,特别是在数据量庞大的场景下。
面试官:Redis 大 key 多 key,你要怎么拆分?
|
SQL 分布式计算 测试技术
从 Clickhouse 到阿里云数据库 SelectDB 版内核 Apache Doris:有赞业务场景下性能测试与迁移验证
从 Clickhouse 到阿里云数据库 SelectDB 版内核 Apache Doris 迁移实践:有赞查询提速近 10 倍,OLAP 分析更实时高效!
2312 2
从 Clickhouse 到阿里云数据库 SelectDB 版内核 Apache Doris:有赞业务场景下性能测试与迁移验证