MySQL · 挖坑 · LOCK_active_mi/LOCK_msp_map 优化思路

本文涉及的产品
RDS SQL Server Serverless,2-4RCU 50GB 3个月
推荐场景:
云数据库 RDS MySQL,集群系列 2核4GB
推荐场景:
搭建个人博客
RDS MySQL Serverless 基础系列,0.5-2RCU 50GB
简介: 背景在MySQL中Slave相关操作一直存在一把大锁——LOCK_active_mi (5.5及之前版本,以及MariaDB),或LOCK_msp_map(5.6及之后的版本)。在Slave操作中大家可能经常会遇到如下懵逼的操作:线程1:STOP SLAVE;有事务要回滚,一直不结束,然后LOCK_active_mi一直被这个线程持有 线程2:SHOW SLAVE STATUS;拿

背景

在MySQL中Slave相关操作一直存在一把大锁——LOCK_active_mi (5.5及之前版本,以及MariaDB),或LOCK_msp_map(5.6及之后的版本)。
在Slave操作中大家可能经常会遇到如下懵逼的操作:

  1. 线程1:STOP SLAVE;有事务要回滚,一直不结束,然后LOCK_active_mi一直被这个线程持有
  2. 线程2:SHOW SLAVE STATUS;拿不到LOCK_active_mi,无法执行。

SHOW SLAVE STATUS 经常作为监控脚本的语句被自动执行,然后就不停地被卡住,线程堆积,直到 too many connections。

等到了5.6引入了多源复制之后,这个问题就更严重了,LOCK_msr_map需要在访问任何通道时都被持有,因此操作两个不同的通道也可能冲突。

Percona曾经推出了SHOW SLAVE STATUS NO_BLOCK这样的语法,不加锁查看复制状态,但是,毕竟这不是根治之法,一方面查看的数据并不一定对,还可能Crash(例如查看过程中通道被删除了),并且需要专门的语法。

特别是5.6还支持了多线程复制,IO THREAD可以多个(多通道),SQL THREAD可以并行(并行复制),这种情况下,LOCK_msr_map这么大一把锁就更加显得格格不入了。

解决思路

我们先来分析一下,对各个Slave通道的操作到底有哪些是真的互斥。

  1. 并发读写同一个通道的运行状态:
    例如 mi->running,mi->info_thd 等,已有mi->run_lock保护IO线程,mi->rli->run_lock保护SQL线程。

  2. 并发读写同一个通道的执行数据:
    例如 mi->master_log_pos,mi->rpl_filter 等,已有mi->data_lock保护IO线程,mi->rli->data_lock保护SQL线程。

  3. 并发读写同一个通道的错误码和错误消息:
    例如 mi->last_error 等,已有mi->err_lock保护IO线程,mi->rli->err_lock保护SQL线程。

  4. 对于多源复制,增减通道:
    msr_map结构的增删改查需要保护,否则可能在遍历所有通道时有通道增加或删除,那遍历结果就不对了。这里真的需要LOCK_msr_map保护。

可见,除了msr_map的操作真的需要全局互斥以外,其他的操作其实都有Master_info内的锁可以保护,在mi内部解决矛盾就可以,根本无需全局锁。

MySQL 5.7 给了一个改进方案,是将LOCK_msr_map从mysql_mutex_t(pthread_mutex_t)改成了Checkable_rwlock。这个方案可以解决部分只读操作时可以相互并发,但是并没有解决LOCK_msr_map保护范围太广的问题。上面我们给出的STOP SLAVE卡住(wr_lock)和SHOW SLAVE STATUS执行互斥的问题就没有解决。

为了彻底解决这个问题,我们可以参考InnoDB怎么保证Buffer Pool中Page的并发性的:

  1. 每当有线程正在访问Page时,将计数器(bpage->io_fix)加一,就把这个Page Pin在内存中了。
  2. LRU淘汰Page时,看到io_fix还不是0,就不能从内存中清理,因为还有人在访问,必须等到0才能清除。
  3. 对Page内容的操作,有Latch来保证,避免同时有人修改页面。

因此我们也可以在每个Master_info中加一个计数器(mi->users),有线程要使用mi,就将计数器加一,不用了就减一,以此来代替加锁放锁,再用一个专门的锁(sleep_lock)来保护计数器就可以了。

加锁操作成了:

void Master_info::use()
{
  mysql_mutex_lock(&sleep_lock);
  users++;
  mysql_mutex_unlock(&sleep_lock);
}

放锁操作成了:

void Master_info::release()
{
  mysql_mutex_lock(&sleep_lock);
  if (!--users && killed)
    mysql_cond_signal(&sleep_cond);
  mysql_mutex_unlock(&sleep_lock);
  DBUG_VOID_RETURN;

}

每次放锁时发一个信号量,让remove_mi操作能收到信号量后再执行删除Master_info的操作。

然后原本需要LOCK_msr_map保护的Master_info操作,可以缩小范围,只需要在取出mi时拿锁就可以了。

Master_info *get_master_info(const char *connection_name)
{
  Master_info *mi;
  DBUG_ENTER("get_master_info");
  /* Protect against inserts into msr_map */
  mysql_mutex_lock(&LOCK_msr_map);
  if ((mi= msr_map.get_mi(connection_name)))

    mi->use();
  mysql_mutex_unlock(&LOCK_msr_map);
  DBUG_RETURN(mi);
}

再把原来需要get_mi调用的地方,全部修改为get_master_info这个调用,就可以删掉其mysql_mutex_lock(&LOCK_msr_map)加锁保护了,放锁的mysql_mutex_unlock(&LOCK_msr_map)语句全部改成mi->release()即可。这样就不存在全局锁定了。

比如启动一个通道的复制:

if ((mi= get_master_info(lex->mi.channel)))
  {    
    res= start_slave(thd, mi, 1 /*net report */); 
    mi->release();
}

完全不需要 mysql_mutex_lock(&LOCK_msr_map)和mysql_mutex_unlock(&LOCK_msr_map)来包住start_slave了对不对!

但这种修改就带来了另一个问题,要删除一个Master_info的时候,可能还有线程在使用这个mi。
因此在析构函数中需要增加一个等待,让这个mi的所有调用都释放了再清理这个mi。
有了计数器这个也很容易做到,每当收到计数器减一的信号时,看一下是不是计数器到0了,到0了就说明所有使用者全部释放了,就可以正常删除了。

void Master_info::wait_until_free()
{
  mysql_mutex_lock(&sleep_lock);
  killed= 1;
  while (users)
    mysql_cond_wait(&sleep_cond, &sleep_lock);
  mysql_mutex_unlock(&sleep_lock);
}

效果

这样改进以后,我们再来看最开始这个典型的案例:

  1. STOP SLAVE执行卡住,那么会导致这个mi或者所有mi的计数器加一。
  2. SHOW SLAVE STATUS执行,在这个mi或者所有mi的计数器加一。
    并不涉及到相互锁定,只是此时无法删除通道而已,这也是合理的。两个线程都能愉快的执行自己的任务。

补丁我们会在之后的AliSQL开源版本中开源,敬请期待。

相关实践学习
如何在云端创建MySQL数据库
开始实验后,系统会自动创建一台自建MySQL的 源数据库 ECS 实例和一台 目标数据库 RDS。
全面了解阿里云能为你做什么
阿里云在全球各地部署高效节能的绿色数据中心,利用清洁计算为万物互联的新世界提供源源不断的能源动力,目前开服的区域包括中国(华北、华东、华南、香港)、新加坡、美国(美东、美西)、欧洲、中东、澳大利亚、日本。目前阿里云的产品涵盖弹性计算、数据库、存储与CDN、分析与搜索、云通信、网络、管理与监控、应用服务、互联网中间件、移动服务、视频服务等。通过本课程,来了解阿里云能够为你的业务带来哪些帮助     相关的阿里云产品:云服务器ECS 云服务器 ECS(Elastic Compute Service)是一种弹性可伸缩的计算服务,助您降低 IT 成本,提升运维效率,使您更专注于核心业务创新。产品详情: https://www.aliyun.com/product/ecs
目录
相关文章
|
9天前
|
SQL 关系型数据库 MySQL
MySQL慢查询优化、索引优化、以及表等优化详解
本文详细介绍了MySQL优化方案,包括索引优化、SQL慢查询优化和数据库表优化,帮助提升数据库性能。关注【mikechen的互联网架构】,10年+BAT架构经验倾囊相授。
MySQL慢查询优化、索引优化、以及表等优化详解
|
14天前
|
缓存 监控 关系型数据库
如何优化MySQL查询速度?
如何优化MySQL查询速度?【10月更文挑战第31天】
41 3
|
16天前
|
缓存 关系型数据库 MySQL
如何优化 MySQL 数据库的性能?
【10月更文挑战第28天】
38 1
|
24天前
|
NoSQL 关系型数据库 MySQL
MySQL与Redis协同作战:百万级数据统计优化实践
【10月更文挑战第21天】 在处理大规模数据集时,传统的单体数据库解决方案往往力不从心。MySQL和Redis的组合提供了一种高效的解决方案,通过将数据库操作与高速缓存相结合,可以显著提升数据处理的性能。本文将分享一次实际的优化案例,探讨如何利用MySQL和Redis共同实现百万级数据统计的优化。
61 9
|
18天前
|
监控 关系型数据库 MySQL
数据库优化:MySQL索引策略与查询性能调优实战
【10月更文挑战第27天】本文深入探讨了MySQL的索引策略和查询性能调优技巧。通过介绍B-Tree索引、哈希索引和全文索引等不同类型,以及如何创建和维护索引,结合实战案例分析查询执行计划,帮助读者掌握提升查询性能的方法。定期优化索引和调整查询语句是提高数据库性能的关键。
85 1
|
24天前
|
NoSQL 关系型数据库 MySQL
MySQL与Redis协同作战:优化百万数据查询的实战经验
【10月更文挑战第13天】 在处理大规模数据集时,传统的关系型数据库如MySQL可能会遇到性能瓶颈。为了提升数据处理的效率,我们可以结合使用MySQL和Redis,利用两者的优势来优化数据查询。本文将分享一次实战经验,探讨如何通过MySQL与Redis的协同工作来优化百万级数据统计。
53 5
|
28天前
|
存储 关系型数据库 MySQL
优化 MySQL 的锁机制以提高并发性能
【10月更文挑战第16天】优化 MySQL 锁机制需要综合考虑多个因素,根据具体的应用场景和需求进行针对性的调整。通过不断地优化和改进,可以提高数据库的并发性能,提升系统的整体效率。
49 1
|
29天前
|
缓存 关系型数据库 MySQL
一文彻底弄懂MySQL优化之深度分页
【10月更文挑战第24天】本文深入探讨了 MySQL 深度分页的原理、常见问题及优化策略。首先解释了深度分页的概念及其带来的性能和资源问题。接着介绍了基于偏移量(OFFSET)和限制(LIMIT)以及基于游标的分页方法,并分析了它们的优缺点。最后,提出了多种优化策略,包括合理创建索引、优化查询语句和使用数据缓存,帮助提升分页查询的性能和系统稳定性。
|
19天前
|
监控 关系型数据库 MySQL
数据库优化:MySQL索引策略与查询性能调优实战
【10月更文挑战第26天】数据库作为现代应用系统的核心组件,其性能优化至关重要。本文主要探讨MySQL的索引策略与查询性能调优。通过合理创建索引(如B-Tree、复合索引)和优化查询语句(如使用EXPLAIN、优化分页查询),可以显著提升数据库的响应速度和稳定性。实践中还需定期审查慢查询日志,持续优化性能。
47 0
|
27天前
|
存储 监控 关系型数据库
MySQL并发控制与管理:优化数据库性能的关键
【10月更文挑战第17天】MySQL并发控制与管理:优化数据库性能的关键
118 0

相关产品

  • 云数据库 RDS MySQL 版