MySQL学习笔记-如何安全的给小表加字段

本文涉及的产品
RDS MySQL Serverless 基础系列,0.5-2RCU 50GB
RDS MySQL Serverless 高可用系列,价值2615元额度,1个月
简介: MySQL学习笔记-如何安全的给小表加字段

如果要给一个大表加字段,你一般都会非常谨慎小心,以免对线上业务造成影响,但实际上给一个小表加字段不慎操作也会导致线上业务出问题,这篇文章主要学习一下 MySQLMDL 锁对性能的影响,防止采坑。

1.笔记图

2.全局锁


  • 全局锁就是对整个数据库实例加锁
  • 命令
Flush tables with read lock (FTWRL)
  • 全局锁现象:数据更新语句(数据的增删改)、数据定义语句(包括建表、修改表结构等)和更新类事务的提交语句会被阻塞

3.数据逻辑备份的方式

  • 加全局锁(MyISAM)
  • 假设现在要维护购买系统,用户账户余额表和用户课程表
  • 发起一个逻辑备份,不加锁的话,备份系统备份的得到的库不是一个逻辑时间点
  • 通过 FTWRL 确保不会有其他线程对数据库做更新,然后对整个库做备份
  • 如果在主库上备份,备份期间都不能执行更新
  • 如果在从库上备份,备份期间从库不能执行主库同步过来的 binlog,会导致主从延迟
  • 备份为什么要加锁?
  • 事务(InnoDB)
  • 方自带的逻辑备份工具是 mysqldump
  • mysqldump 使用 single-transaction 参数,导数据之前就会启动一个事务,拿到一致性视图
  • 由于 MVCC 的支持,这个过程中数据是可以正常更新的

4.表级锁

  • 表锁
  • 如果在某个线程 A 中执行 lock tables t1 read, t2 write 这个语句,则其他线程写 t1、读写 t2 的语句都会被阻塞
  • 同时,线程 A 在执行 unlock tables 之前,也只能执行读 t1、读写 t2 的操作,不能访问其他表
  • 对于 InnoDB 这种支持行锁的引擎,一般不使用 lock tables 命令来控制并发
  • 可以用 unlock tables 主动释放锁,也可以在客户端断开的时候自动释放
  • 加表锁的语法是 lock tables … read/write
  • 元数据锁(meta data lock,MDL)
  • 如果一个查询正在遍历一个表中的数据,执行期间另一个线程对这个表结构做变更,删了一列,查询线程拿到的结果跟表结构对不上,肯定是不行的
  • 在访问一个表的时候会被自动加上 MDL 锁,其作用是保证读写的正确性
  • 当对一个表做增删改查操作的时候,加 MDL 读锁,读锁之间不互斥,可以有多个线程同时对一张表增删改查
  • 当要对表做结构变更操作的时候,加 MDL 写锁,读写锁之间、写锁之间是互斥的,用来保证变更表结构操作的安全性

5.给一个小表加个字段,导致整个库挂了

  • session A 先启动,这时候会对表 t 加一个 MDL 读锁
  • session B 需要的也是 MDL 读锁,因此可以正常执行
  • session AMDL 读锁还没有释放,session C 需要 MDL 写锁,因此只能被阻塞
  • 之后所有要在表 t 上新申请 MDL 读锁的请求也会被 session C 阻塞,所有对表的增删改查操作都需要先申请 MDL 读锁,这个表此时完全不可读写

6.如何安全地给小表加字段?

  • 事务中的 MDL 锁,在语句执行开始时申请,但是语句结束后并不会马上释放,而会等到整个事务提交后再释放
  • 首先要解决长事务,事务不提交,会一直占着 MDL 锁,如果要做 DDL 变更的表刚好有长事务在执行,要考虑先暂停 DDL,或者 kill 掉这个长事务
  • 热点表请求很频繁,不得不加个字段
  • alter table 语句里面设定等待时间,在这个指定的等待时间里面能够拿到 MDL 写锁最好,拿不到也不要阻塞后面的业务语句,先放弃
  • 再通过重试命令重复这个过程
  • MariaDB 已经合并了 AliSQL 的这个功能,所以这两个开源分支目前都支持 DDL NOWAIT/WAIT n 这个语法
ALTER TABLE tbl_name NOWAIT add column ...
ALTER TABLE tbl_name WAIT N add column ...

7.课后问题

当备库用 single-transaction 做逻辑备份的时候,如果从主库的 binlog 传来一个 DDL 语句会怎么样?

  • 从库备份过程中几个关键的语句
Q1:SET SESSION TRANSACTION ISOLATION LEVEL REPEATABLE READ;
Q2:START TRANSACTION  WITH CONSISTENT SNAPSHOT;
/* other tables */
Q3:SAVEPOINT sp;
/* 时刻 1 */
Q4:show create table `t1`;
/* 时刻 2 */
Q5:SELECT * FROM `t1`;
/* 时刻 3 */
Q6:ROLLBACK TO SAVEPOINT sp;
/* 时刻 4 */
/* other tables */

Tips:Q1 表示为了确保 RR(可重复读)隔离级别,设置 RR 隔离级别 (Q1)Q2 表示 WITH CONSISTENT SNAPSHOT 这个语句执行完就可以得到一个一致性视图 (Q2)Q3 表示设置一个保存点,Q4 表示show create 是为了拿到表结构,Q5 表示正式导数据,Q6 表示回滚到 SAVEPOINT sp,作用是释放 t1MDL 锁。

  • 如果主库 DDL 命令在 Q4 之前到达从库,没有影响
  • 如果主库 DDL时刻2 到达从库,此时会有 MDL写锁,会造成 Q5 执行失败,备份过程被终止
  • 如果主库 DDL时刻3 到达从库,由于备份过程占用读锁,会导致 binlog 复制被阻塞,会造成主从延迟,直到备份完成 Q6 执行之后从库才能继续复制主库 binlog
  • 如果主库 DDL时刻4 到达从库,没有影响
相关实践学习
基于CentOS快速搭建LAMP环境
本教程介绍如何搭建LAMP环境,其中LAMP分别代表Linux、Apache、MySQL和PHP。
全面了解阿里云能为你做什么
阿里云在全球各地部署高效节能的绿色数据中心,利用清洁计算为万物互联的新世界提供源源不断的能源动力,目前开服的区域包括中国(华北、华东、华南、香港)、新加坡、美国(美东、美西)、欧洲、中东、澳大利亚、日本。目前阿里云的产品涵盖弹性计算、数据库、存储与CDN、分析与搜索、云通信、网络、管理与监控、应用服务、互联网中间件、移动服务、视频服务等。通过本课程,来了解阿里云能够为你的业务带来哪些帮助     相关的阿里云产品:云服务器ECS 云服务器 ECS(Elastic Compute Service)是一种弹性可伸缩的计算服务,助您降低 IT 成本,提升运维效率,使您更专注于核心业务创新。产品详情: https://www.aliyun.com/product/ecs
相关文章
|
6天前
|
存储 SQL 关系型数据库
MySQL Group 字段逗号链接
【4月更文挑战第26天】
|
6天前
|
SQL 存储 关系型数据库
|
6天前
|
关系型数据库 MySQL 数据库
【MySQL实战笔记】 06 | 全局锁和表锁 :给表加个字段怎么有这么多阻碍?-01
【4月更文挑战第17天】MySQL的锁分为全局锁、表级锁和行锁。全局锁用于全库备份,可能导致业务暂停或主从延迟。不加锁备份会导致逻辑不一致。推荐使用`FTWRL`而非`readonly=true`因后者可能影响其他逻辑且异常处理不同。表级锁如`lock tables`限制读写并限定操作对象,常用于并发控制。元数据锁(MDL)在访问表时自动加锁,确保读写正确性。
70 31
|
6天前
|
SQL 存储 关系型数据库
MySQL 中将使用逗号分隔的字段转换为多行数据
在开发中,遇到逗号分隔字段的处理是常见问题。本文通过一个实际场景展示了如何改造数据存储:从单一字段存储多个页面(如`page1,page2,page3`)到使用新表`bus_pages`存储每个页面的详细配置。使用`SUBSTRING_INDEX`函数配合`help_topic`表(具有连续ID)拆分`bus_mark_info`表中的`pages`字段,按`help_topic_id`截取页面名称并插入新表。当`pages`字段超过701个页面时,需寻找其他辅助表。最终,数据成功迁移到新结构中,便于单独配置每个页面。
58 1
|
6天前
|
存储 关系型数据库 MySQL
MySQL数据库性能大揭秘:表设计优化的高效策略(优化数据类型、增加冗余字段、拆分表以及使用非空约束)
MySQL数据库性能大揭秘:表设计优化的高效策略(优化数据类型、增加冗余字段、拆分表以及使用非空约束)
|
3天前
|
Oracle 关系型数据库 MySQL
实时计算 Flink版操作报错合集之用CTAS从mysql同步数据到hologres,改了字段长度,报错提示需要全部重新同步如何解决
在使用实时计算Flink版过程中,可能会遇到各种错误,了解这些错误的原因及解决方法对于高效排错至关重要。针对具体问题,查看Flink的日志是关键,它们通常会提供更详细的错误信息和堆栈跟踪,有助于定位问题。此外,Flink社区文档和官方论坛也是寻求帮助的好去处。以下是一些常见的操作报错及其可能的原因与解决策略。
45 8
|
3天前
|
SQL 资源调度 关系型数据库
实时计算 Flink版产品使用合集之在抓取 MySQL binlog 数据时,datetime 字段会被自动转换为时间戳形式如何解决
实时计算Flink版作为一种强大的流处理和批处理统一的计算框架,广泛应用于各种需要实时数据处理和分析的场景。实时计算Flink版通常结合SQL接口、DataStream API、以及与上下游数据源和存储系统的丰富连接器,提供了一套全面的解决方案,以应对各种实时计算需求。其低延迟、高吞吐、容错性强的特点,使其成为众多企业和组织实时数据处理首选的技术平台。以下是实时计算Flink版的一些典型使用合集。
12 2
|
4天前
|
关系型数据库 MySQL 数据处理
实时计算 Flink版产品使用合集之如果在 MySQL 表中为某个字段设置了默认值,并且在插入数据时指定了该字段为 NULL,那么 MySQL 是否会使用默认值来填充这个字段
实时计算Flink版作为一种强大的流处理和批处理统一的计算框架,广泛应用于各种需要实时数据处理和分析的场景。实时计算Flink版通常结合SQL接口、DataStream API、以及与上下游数据源和存储系统的丰富连接器,提供了一套全面的解决方案,以应对各种实时计算需求。其低延迟、高吞吐、容错性强的特点,使其成为众多企业和组织实时数据处理首选的技术平台。以下是实时计算Flink版的一些典型使用合集。
19 0
|
6天前
|
SQL 存储 关系型数据库
实时数仓 Hologres产品使用合集之有没有MySQL那样的AUTOINCREMENT字段来实现自增ID功能
实时数仓Hologres是阿里云推出的一款高性能、实时分析的数据库服务,专为大数据分析和复杂查询场景设计。使用Hologres,企业能够打破传统数据仓库的延迟瓶颈,实现数据到决策的无缝衔接,加速业务创新和响应速度。以下是Hologres产品的一些典型使用场景合集。
57 5
|
6天前
|
SQL 存储 关系型数据库
MySQL插入时间戳字段的值
【5月更文挑战第1天】