MySQL Online DDL 方案剖析

本文涉及的产品
RDS MySQL Serverless 基础系列,0.5-2RCU 50GB
RDS MySQL Serverless 高可用系列,价值2615元额度,1个月
云数据库 RDS MySQL,高可用系列 2核4GB
简介:

一、常见的几种方案

  • 1.1 MySQL源生的IN-PLACE ONLINE DDL

5.5,5.6 开始支持
5.7 支持的更好,有更多ddl操作支持online
8.0 支持快速加列功能
  • 1.2 第三方工具
1. pt-online-schema-change
2. gh-ost
  • 1.3 slave 先ddl,后切换主从

二、方案剖析

2.1 MySQL源生的IN-PLACE ONLINE DDL

  • 原理
原理比较复杂,不一一解读。但是中间有几个重要的过程:
1. 加一会排它锁,开启战场,并释放排它锁
2. 记录ddl期间产生的增量dml(大小由innodb_online_alter_log_max_size控制)
3. 应用这些增量dml
4. 再加一会排它锁,清理战场,释放排它锁

这里关心的问题:
1. 如果再ddl期间,innodb_online_alter_log_max_size的大小被占满,会有怎样的后果?
2. 如果DDL期间,被强行终止了,会有怎么样的后果?
  • 优点
1. 官方出品,原生态,品质有保障
  • 缺点
1. 有所等待风险
2. innodb_online_alter_log_max_size 是有限制的
3. 有可能造成主从延迟
4. 不是所有的ddl都是online的,对ddl类型有要求
  • 哪些DDL可以online (基于5.7的官方文档)

8.0 可以支持快速加列

类型 操作 是否需要copy数据,重新rebuild表 是否允许并发DML 是否只修改元数据 备注
索引相关 创建、添加二级索引 NO YES NO -
索引相关 删除索引 NO YES YES -
索引相关 重命名索引 NO YES YES -
索引相关 添加FULLTEXT索引 NO* NO NO -
索引相关 添加SPATIAL索引 NO NO NO -
索引相关 改变索引类型(USING {BTREE or HASH}) NO YES YES -
主键相关 添加主键 YES* YES NO -
主键相关 删除主键 YES NO NO -
主键相关 删除主键并且又添加主键 YES YES NO -
列操作相关 添加列 YES YES* NO -
列操作相关 删除列 YES YES NO -
列操作相关 重命名列 NO YES* YES -
列操作相关 重新排列列(use FIRST or AFTER) YES YES NO -
列操作相关 设置列的默认值 NO YES YES -
列操作相关 修改列的数据类型 YES NO NO -
列操作相关 扩展varchar列的长度 NO YES YES 0~255 , 256 ~ 256+ 这两个区间可以in-place
列操作相关 删除列的默认值 NO YES YES -
列操作相关 修改auto-increcement的值 NO YES NO* -
列操作相关 使某列修改成NULL YES* YES NO -
列操作相关 使某列修改成NOT NULL YES* YES NO -
列操作相关 修改列定义为ENUM、SET NO YES YES -
表相关操作 optimizing table YES YES NO -
表相关操作 Rebuilding with the FORCE option YES YES NO -
表相关操作 Renaming a table NO YES YES -

三、第三方工具

3.0 第三方工具大致原理

  1. 先创建一个临时表 old_table_tmp
  2. 给临时表变更结构 alter old_table_tmp ...
  3. 然后呢就是关键了: 将增量数据 和 原表的数据 都拷贝到 临时表
  4. 当原表数据拷贝完毕后,对原表加锁,进行切换
  5. 打扫战场,结束

好了,这里pt-online-shema-change 是通过触发器的方式,来同步增量数据的 , gh-ost 是通过模拟slave,监听binlog并应用binlog来完成增量数据同步的,这里是主要区别。

所以,不管哪种方式,这里需要解决一个时序的问题(因为rowcopy和row_apply是并行的,不知道哪个先哪个后),我们暂且认为 拷贝原表数据叫: rowcopy , 拷贝增量数据并应用为 row_apply

由于rowcopy从时序上来说,都是老数据,所以它的优先级是最低的,所以将rowcopy的动作转换为inset ignore,意味着,row apply是可以覆盖rowcopy数据的,这样理解没问题吧

好了,上面的问题解决了,其他的基本就不是问题了

3.1 pt-online-shema-change

  • 优点
1. percona 出品,必属金品

2. 经过多年的生产环境验证,质量可靠

3. 支持并发DML操作
  • 缺点
1. 原表不能有触发器
3. 由于触发器的原因,对master的性能消耗比较大
4. 处理外键有一定的风险,需要特殊处理
5. 原表中至少要有主键或者唯一键
    检查是否具有主键或者唯一索引,如果都没有,这一步会报错
    提示The new table `xx`.`_xx_new` does not have a PRIMARY KEY or a unique index which is required for the DELETE trigger.

6. ddl不能有添加唯一索引的操作
    如果对表增加唯一索引的话,会存在丢数据的风险。
    具体原因是因为pt-osc在copy已有的数据时会使用insert ignore将老表中的数据插入到新表中,因为新表已经增加了unique index,所以重复的数据会被ignore掉
    --check-unique-key-change 可以避免  , 默认yes
  • 原理
1. 创建一张新表
2. alter新表
3. 原表创建insert,update,delete三种触发器
4. 原表开始拷贝数据到新表,且触发器也开始映射到新表
5. 处理外键(如果没有忽略)
6. 重命名新表和原表
7. 清理战场


重要:

insert触发器 =SQL转换=> replace into

update触发器
    =SQL转换=> delete ignore + replace into (大于3.0.2版本)
    =SQL转换=> replace into(低于3.0.2版本,所以这个版本会有问题,如果这时候对老的主键修改,那么修改之前的值不会去掉,从而多了一些异常数据)
delete触发器 =SQL转换=> delete ignore

copy rows    =SQL转换=> insert ignore into


  • 最佳实践
1. innodb_autoinc_lock_mode 设置成 2 , 否则会经常死锁,autoinc锁
2. 如果中途ddl失败,需要先删除触发器,再删除新的临时表

3.2 gh-ost

  • 优点
1. 无触发器设计
2. out-over方案设计
3. 对主机性能级别无影响
4. 可以暂停

  • 缺点
1. 原表不能有外键
2. 原表不能有触发器
3. 强制要求binlog为row格式
4. 原表不能有字母大小不同的同名表
5. 当并发写入多的时候,在应用binlog阶段由于是单线程,所以会非常慢,影响ddl性能和进度
  • 原理
原理基本都一样,这里主要的区别就是row apply这里,pt-osc是触发器,这里是监听master binlog并应用日志,其余的差别不大,这里不再赘述

四、 slave 先ddl,后切换主从

如果其余方式都不行,只能祭出大招slave先ddl,然后主从切换了

  • 优点
1. slave操作,不影响master
  • 缺点
1. 需要主从切换,主从切换越平滑,此方案就越好
2. 有几点需要考虑和处理下:
    2.1 add column after|before , 这样的操作slave先做是否有影响
    2.2 slave先新增字段,可能会导致主从同步停掉,需要设置某些参数

五、 ONLINE DDL 最佳方案选型

    1. 如果是创建索引、修改默认值这样的,online ddl 快速且无影响的操作,尽量优先选择online ddl
    1. 如果当前服务器写入量不高,负载不高,且原表没有触发器,没有外键,且此表有主键,尽量优先选择pt-online-schema-change
    1. 其余情况,选择主从切换
相关实践学习
每个IT人都想学的“Web应用上云经典架构”实战
本实验从Web应用上云这个最基本的、最普遍的需求出发,帮助IT从业者们通过“阿里云Web应用上云解决方案”,了解一个企业级Web应用上云的常见架构,了解如何构建一个高可用、可扩展的企业级应用架构。
MySQL数据库入门学习
本课程通过最流行的开源数据库MySQL带你了解数据库的世界。   相关的阿里云产品:云数据库RDS MySQL 版 阿里云关系型数据库RDS(Relational Database Service)是一种稳定可靠、可弹性伸缩的在线数据库服务,提供容灾、备份、恢复、迁移等方面的全套解决方案,彻底解决数据库运维的烦恼。 了解产品详情: https://www.aliyun.com/product/rds/mysql 
目录
相关文章
|
2月前
|
运维 监控 关系型数据库
MySQL高可用方案:MHA与Galera Cluster对比
本文深入对比了MySQL高可用方案MHA与Galera Cluster的架构原理及适用场景。MHA适用于读写分离、集中写入的场景,具备高效写性能与简单运维优势;而Galera Cluster提供强一致性与多主写入能力,适合对数据一致性要求严格的业务。通过架构对比、性能分析及运维复杂度评估,帮助读者根据自身业务需求选择最合适的高可用方案。
|
6月前
|
SQL 存储 关系型数据库
菜鸟之路Day29一一MySQL之DDL
本文《菜鸟之路Day29——MySQL之DDL》由作者blue于2025年5月2日撰写,主要介绍了MySQL中的数据定义语言(DDL)。文章详细讲解了DDL在数据库和表操作中的应用,包括数据库的查询、创建、使用与删除,以及表的创建、修改与删除。同时,文章还深入探讨了字段约束(如主键、外键、非空等)、常见数据类型(数值、字符串、日期时间类型)及表结构的查询与调整方法。通过示例代码,读者可以更好地理解并实践MySQL中DDL的相关操作。
210 11
|
3月前
|
存储 关系型数据库 MySQL
修复.net Framework4.x连接MYSQL时遇到utf8mb3字符集不支持错误方案。
通过上述步骤大多数情况下能够解决由于UTF-encoding相关错误所带来影响,在实施过程当中要注意备份重要信息以防止意外发生造成无法挽回损失,并且逐一排查确认具体原因以采取针对性措施解除障碍。
191 12
|
4月前
|
SQL 关系型数据库 MySQL
解决MySQL "ONLY_FULL_GROUP_BY" 错误的方案
在实际操作中,应优先考虑修正查询,使之符合 `ONLY_FULL_GROUP_BY`模式的要求,从而既保持了查询的准确性,也避免了潜在的不一致和难以预测的结果。只有在完全理解查询的业务逻辑及其后果,并且需要临时解决问题的情况下,才选择修改SQL模式或使用 `ANY_VALUE()`等方法作为短期解决方案。
542 8
|
3月前
|
监控 NoSQL 关系型数据库
保障Redis与MySQL数据一致性的强化方案
在设计时,需要充分考虑到业务场景和系统复杂度,避免为了追求一致性而过度牺牲系统性能。保持简洁但有效的策略往往比采取过于复杂的方案更加实际。同时,各种方案都需要在实际业务场景中经过慎重评估和充分测试才可以投入生产环境。
161 0
|
4月前
|
关系型数据库 MySQL Java
MySQL 分库分表 + 平滑扩容方案 (秒懂+史上最全)
MySQL 分库分表 + 平滑扩容方案 (秒懂+史上最全)
|
12月前
|
存储 SQL 关系型数据库
Mysql高可用架构方案
本文阐述了Mysql高可用架构方案,介绍了 主从模式,MHA模式,MMM模式,MGR模式 方案的实现方式,没有哪个方案是完美的,开发人员在选择何种方案应用到项目中也没有标准答案,合适的才是最好的。
859 3
Mysql高可用架构方案
|
5月前
|
SQL 关系型数据库 MySQL
MySQL 5.6/5.7 DDL 失败残留文件清理指南
通过本文的指南,您可以更安全地处理 MySQL 5.6 和 5.7 版本中 DDL 失败后的残留文件,有效避免数据丢失和数据库不一致的问题。
|
11月前
|
存储 缓存 关系型数据库
【MySQL进阶篇】存储引擎(MySQL体系结构、InnoDB、MyISAM、Memory区别及特点、存储引擎的选择方案)
MySQL的存储引擎是其核心组件之一,负责数据的存储、索引和检索。不同的存储引擎具有不同的功能和特性,可以根据业务需求 选择合适的引擎。本文详细介绍了MySQL体系结构、InnoDB、MyISAM、Memory区别及特点、存储引擎的选择方案。
1785 57
【MySQL进阶篇】存储引擎(MySQL体系结构、InnoDB、MyISAM、Memory区别及特点、存储引擎的选择方案)
|
8月前
|
消息中间件 缓存 NoSQL
缓存与数据库的一致性方案,Redis与Mysql一致性方案,大厂P8的终极方案(图解+秒懂+史上最全)
缓存与数据库的一致性方案,Redis与Mysql一致性方案,大厂P8的终极方案(图解+秒懂+史上最全)

推荐镜像

更多
下一篇
开通oss服务