pt-online-schema-change你今天滥用了吗?

本文涉及的产品
RDS MySQL Serverless 基础系列,0.5-2RCU 50GB
RDS MySQL Serverless 高可用系列,价值2615元额度,1个月
云数据库 RDS PostgreSQL,高可用系列 2核4GB
简介:

注:本文来自真实生产案例,感谢网友小豚提供,本人加以故障重现校验。


场景

因想整理一下线上的独立表空间碎片,故使用了pt-online-schema-changeslave从库上执行,目的是怕影响主库的CPU,维护的时候再进行一次主从切换,然后再收缩主库上的表空间碎片。

slave从库上执行的命令如下:

1
2
3
# pt-online-schema-change -S /tmp/mysql.sock --alter="engine=innodb"  
--no-check-replication-filters  --recursion-method=none
--user=root D= test ,t=sbtest --execute


故障

DBA在修改完表结构以后,业务方反馈数据不准确,在排查的过程中发现同步报错1032

 

分析

1、主库和从库的binlog格式为ROW

wKiom1hGTjSjAMYEAAAKJHbkX34384.png


2、pt-online-schema-change在拷贝原表数据时,原表的数据变更会通过触发器insert/updete/delete到临时表_sbtest_new里,完成之后原表改名为_sbtest_old老表,_sbtest_new临时表改为原表sbtest,最后删除_sbtest_old老表。过程如下:

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
Altering ` test `.`sbtest`...
Creating new table...
Created new table  test ._sbtest_new OK.
Altering new table...
Altered ` test `.`_sbtest_new` OK.
2016-12-06T12:15:30 Creating triggers...
2016-12-06T12:15:30 Created triggers OK.
2016-12-06T12:15:30 Copying approximately 1099152 rows...
2016-12-06T12:15:54 Copied rows OK.
2016-12-06T12:15:54 Analyzing new table...
2016-12-06T12:15:54 Swapping tables...
2016-12-06T12:15:54 Swapped original and new tables OK.
2016-12-06T12:15:54 Dropping old table...
2016-12-06T12:15:54 Dropped old table ` test `.`_sbtest_old` OK.
2016-12-06T12:15:54 Dropping triggers...
2016-12-06T12:15:54 Dropped triggers OK.
Successfully altered ` test `.`sbtest`.


3、基于binlogROW行的复制,触发器不会在slave从库上工作,这就导致了主从数据不一致。但基于binlogstatement语句的复制,触发器会在slave从库上工作。

With statement-based replication, triggers executed on the master also execute on the slave. With row-based replication, triggers executed on the master do not execute on the slave.

参考文献:http://dev.mysql.com/doc/refman/5.7/en/replication-features-triggers.html

 

注:在二进制日志里,MIXED默认还是采用STATEMENT格式记录的,但在下面这6种情况下会转化为ROW格式

第一种情况:NDB引擎,表的DML操作增、删、改会以ROW格式记录。

第二种情况:SQL语句里包含了UUID()函数。

第三种情况:自增长字段被更新了。

第四种情况:包含了INSERT DELAYED语句。

第五种情况:使用了用户定义函数(UDF

第六种情况:使用了临时表。

参考文献:https://dev.mysql.com/doc/refman/5.7/en/binary-log-mixed.html


复现

1、主库创建t1

1
2
3
4
  CREATE TABLE `t1` (
   ` id ` int(11) NOT NULL,
   PRIMARY KEY (` id `)
) ENGINE=InnoDB DEFAULT CHARSET=utf8


2、从库创建t2表并创建触发器

1
2
3
4
CREATE TABLE `t2` (
   ` id ` int(11) NOT NULL,
   PRIMARY KEY (` id `)
) ENGINE=InnoDB DEFAULT CHARSET=utf8


触发器

1
2
3
4
5
6
7
8
9
10
11
12
13
14
DELIMITER $$
  
USE ` test `$$
  
DROP TRIGGER IF EXISTS `t1_1`$$
  
CREATE
     TRIGGER `t1_1` AFTER INSERT ON `t1` 
     FOR EACH ROW BEGIN
     INSERT INTO t2( id ) VALUES(NEW. id );
     END;
$$
  
DELIMITER ;


3、主库插入

1
2
insert into t1 values(1),(2),(3);
select  * from t2;

此时t2表里没有任何数据,触发器没有工作。


结论

如果你使用pt-online-schema-change修改表结构在主库上运行,数据不一致的情况不会发生。但如果在从库上运行,且主库的binlog格式为ROW,那将是危险的。






















本文转自hcymysql51CTO博客,原文链接:http://blog.51cto.com/hcymysql/1879962 ,如需转载请自行联系原作者



相关实践学习
每个IT人都想学的“Web应用上云经典架构”实战
本实验从Web应用上云这个最基本的、最普遍的需求出发,帮助IT从业者们通过“阿里云Web应用上云解决方案”,了解一个企业级Web应用上云的常见架构,了解如何构建一个高可用、可扩展的企业级应用架构。
MySQL数据库入门学习
本课程通过最流行的开源数据库MySQL带你了解数据库的世界。   相关的阿里云产品:云数据库RDS MySQL 版 阿里云关系型数据库RDS(Relational Database Service)是一种稳定可靠、可弹性伸缩的在线数据库服务,提供容灾、备份、恢复、迁移等方面的全套解决方案,彻底解决数据库运维的烦恼。 了解产品详情: https://www.aliyun.com/product/rds/mysql 
相关文章
|
SQL 关系型数据库 MySQL
pt-tools系列:pt-online-schema-change 最佳实践
pt的详细步骤 Step 1: Create the new table. Step 2: Alter the new, empty table. This should be very quick, or die if the user specified a bad alter statement.
5548 0
|
存储 关系型数据库 MySQL
|
前端开发 JavaScript 数据可视化
最棒的 7 个 Laravel admin 后台管理系统推荐
Laravel 已经凭借自己的易用性及低门槛成为 github 上 stars 第一的 PHP 框架,本文将介绍我精心为大家挑选出来的 Laravel admin 后台管理系统,从抽象程度最低(灵活但代码量大)到抽象程度最高(代码量小但不灵活)来帮助大家选择合适自己的 Laravel admin 后台管理系统。
3371 0
Debian 官方源换为国内的源的操作方法
apt-get update 报错,采用更换源的方式解决问题。
56329 0
|
4月前
|
数据采集 XML 搜索推荐
一文搞懂SEO优化之站点robots.txt
建站后千万别忘记配置 `robots.txt` 爬虫规则,对于搜索引擎发现你的站点非常重要,除了主动到搜索引擎平台提交网站之外,也要主动告诉搜索引擎网站里都有哪些网页?哪些希望被抓取?哪些不希望被抓取?
213 3
|
网络协议 Shell Go
Socks5代理协议与Golang实现
本文主要讲解了SOCKS5协议以及golang实现相关内容
552 1
|
PHP
php 使用phpize报错Cannot find config.m4. Make sure that you run ‘/usr/bin/phpize‘ in the top l
php 使用phpize报错Cannot find config.m4. Make sure that you run ‘/usr/bin/phpize‘ in the top l
665 1
解决docker-compose 命令不存在、未找到命令错误
解决docker-compose 命令不存在、未找到命令错误
1171 1
|
缓存 Linux
CentOS7系统配置国内yum源和epel源
1.首先进入/etc/yum.repos.d/目录下,新建一个repo_bak目录,用于保存系统中原来的repo文件 [root@bogon ~]# cd /etc/yum.repos.d/ [root@bogon yum.
11460 57