MySQL · 答疑释惑 · GTID下auto_position=0时数据不一致

本文涉及的产品
RDS SQL Server Serverless,2-4RCU 50GB 3个月
推荐场景:
RDS MySQL Serverless 基础系列,0.5-2RCU 50GB
RDS PostgreSQL Serverless,0.5-4RCU 50GB 3个月
推荐场景:
对影评进行热评分析
简介: 问题重现 搭建一主一备,主备配置分别如下 ,同时设置备库的auto_position=0 $cat crash_recovery-slave.opt gtid_mode=on enforce_gtid_consistency=on log_slave_updates=on

问题重现

搭建一主一备,主备配置分别如下 ,同时设置备库的auto_position=0

$cat crash_recovery-slave.opt

gtid_mode=on 

enforce_gtid_consistency=on 

log_slave_updates=on

relay_log_purge=OFF

sync_relay_log_info=1000

sync_relay_log=1

sync_relay_log_info=100



$cat crash_recovery-master.opt

gtid_mode=on 

enforce_gtid_consistency=on 

log_slave_updates=on

用 sysbench 不断对主库进行压测,由于主库压力比较大,可以发现备库延迟不断增加,在有延迟的情况下,重启备库 OS 并启动备库 mysql server,关闭主库压力,待主备延迟为零的时候,做主备校验(这样的过程我们称之为一轮,在每一轮的结尾处做主备校验),这时可以发现会有一个表的 checksum 不一致,即产生了主备不一致的问题。

问题分析

  1. 分别在主备库比较 show global variables like '%gtid_executed%' 可以发现主备的 gtid_executed 的值是相等的;

  2. 将 checksum 不一致的表中的数据分别取出,然后vimdiff 一下,找到不一致表的具体数据的主建;

  3. 在主库的binlog中找到对这条数据最近一次操作的gtid;

  4. 解析备库的relaylog,并查找步骤 3) 中的gtid,可以发现,该gtid是一个relay log的结尾,且文件结尾处没有rotate log event.

  5. 继续解析relaylog文件,可以发现在format event之后是一个table_map_event, update_rows, xid_log_event, gtid_log_event, 只是gtid_log_event 的 id 小于3)中出现问题的gtid;

  6. 从 5)解析的relay log 来看,备库crash后,并不是接着crash之前的 binlog 来进行拉的,而是 crash 之前的一个位点,假设我们在crash之前拉取了 gtid 为30的binlog event,并sync 了relay log,此时,master_log_info记录的是之前的主库事务位点,假设为事务 10 的一个位点,那么当 OS 重启后,由于备库 auto_position=0, 会从master_log_info中的位点10来拉取binlog,从而形成了这样的binlog序列:

gtid_log_event(30), table_map_event(10), update_rows_log_event(10), xid_log_event(10), gtid_log_event(11)…..

这样的后果是将事务10的数据再次执行并误认为是事务30的数据,而直正拉取到事务30的binlog event时不执行,从而造成主备不一致的问题。

解决方案

  1. 打开gtid时,必须指定auto_position= 1;

  2. 备库在记录master_log_info时,以事务为单位记录位点信息,而不是以event为单位记录位点信息,这个需要在handle_slave_io中修改源码。

参数说明

sync_relay_log_info:Synchronously flush relay log info to disk after every #th transaction,每隔多少个事务 sync 一次 relay log 信息;

sync_master_info: Synchronously flush master info to disk after every #th event,每隔多少个log_event sync 一次 master log 信息;

sync_relay_log: Synchronously flush relay log to disk after every #th event,每隔多少个 log_event sync 一次 relay log 信息;

mysql 在读取binlog event时,会首先将位点信息写入操作系统的文件,但是没有 sync 操作,所以当OS crash时,会造成之前写但没有 sync 的位点信息丢失。

相关实践学习
如何在云端创建MySQL数据库
开始实验后,系统会自动创建一台自建MySQL的 源数据库 ECS 实例和一台 目标数据库 RDS。
全面了解阿里云能为你做什么
阿里云在全球各地部署高效节能的绿色数据中心,利用清洁计算为万物互联的新世界提供源源不断的能源动力,目前开服的区域包括中国(华北、华东、华南、香港)、新加坡、美国(美东、美西)、欧洲、中东、澳大利亚、日本。目前阿里云的产品涵盖弹性计算、数据库、存储与CDN、分析与搜索、云通信、网络、管理与监控、应用服务、互联网中间件、移动服务、视频服务等。通过本课程,来了解阿里云能够为你的业务带来哪些帮助     相关的阿里云产品:云服务器ECS 云服务器 ECS(Elastic Compute Service)是一种弹性可伸缩的计算服务,助您降低 IT 成本,提升运维效率,使您更专注于核心业务创新。产品详情: https://www.aliyun.com/product/ecs
目录
相关文章
|
13天前
|
安全 关系型数据库 MySQL
如何将数据从MySQL同步到其他系统
【10月更文挑战第17天】如何将数据从MySQL同步到其他系统
79 0
|
19天前
|
SQL 前端开发 关系型数据库
全表数据核对 ,行数据核对,列数据核对,Mysql 8.0 实例(sample database classicmodels _No.3 )
全表数据核对 ,行数据核对,列数据核对,Mysql 8.0 实例(sample database classicmodels _No.3 )
36 0
全表数据核对 ,行数据核对,列数据核对,Mysql 8.0 实例(sample database classicmodels _No.3 )
|
24天前
|
关系型数据库 MySQL 数据库
mysql 里创建表并插入数据
【10月更文挑战第5天】
98 1
|
26天前
|
分布式计算 关系型数据库 MySQL
大数据-88 Spark 集群 案例学习 Spark Scala 案例 SuperWordCount 计算结果数据写入MySQL
大数据-88 Spark 集群 案例学习 Spark Scala 案例 SuperWordCount 计算结果数据写入MySQL
45 3
|
9天前
|
SQL Java 关系型数据库
java连接mysql查询数据(基础版,无框架)
【10月更文挑战第12天】该示例展示了如何使用Java通过JDBC连接MySQL数据库并查询数据。首先在项目中引入`mysql-connector-java`依赖,然后通过`JdbcUtil`类中的`main`方法实现数据库连接、执行SQL查询及结果处理,最后关闭相关资源。
|
6天前
|
SQL 关系型数据库 MySQL
定时任务频繁插入数据导致锁表问题 -> 查询mysql进程
定时任务频繁插入数据导致锁表问题 -> 查询mysql进程
17 1
|
7天前
|
SQL 关系型数据库 MySQL
mysql数据误删后的数据回滚
【11月更文挑战第1天】本文介绍了四种恢复误删数据的方法:1. 使用事务回滚,通过 `pymysql` 库在 Python 中实现;2. 使用备份恢复,通过 `mysqldump` 命令备份和恢复数据;3. 使用二进制日志恢复,通过 `mysqlbinlog` 工具恢复特定位置的事件;4. 使用延迟复制从副本恢复,通过停止和重启从库复制来恢复数据。每种方法都有详细的步骤和示例代码。
|
19天前
|
存储 关系型数据库 MySQL
面试官:MySQL一次到底插入多少条数据合适啊?
本文探讨了数据库插入操作的基础知识、批量插入的优势与挑战,以及如何确定合适的插入数据量。通过面试对话的形式,详细解析了单条插入与批量插入的区别,磁盘I/O、内存使用、事务大小和锁策略等关键因素。最后,结合MyBatis框架,提供了实际应用中的批量插入策略和优化建议。希望读者不仅能掌握技术细节,还能理解背后的原理,从而更好地优化数据库性能。
|
27天前
|
SQL 分布式计算 关系型数据库
Hadoop-24 Sqoop迁移 MySQL到Hive 与 Hive到MySQL SQL生成数据 HDFS集群 Sqoop import jdbc ETL MapReduce
Hadoop-24 Sqoop迁移 MySQL到Hive 与 Hive到MySQL SQL生成数据 HDFS集群 Sqoop import jdbc ETL MapReduce
68 0
|
27天前
|
SQL 分布式计算 关系型数据库
Hadoop-23 Sqoop 数据MySQL到HDFS(部分) SQL生成数据 HDFS集群 Sqoop import jdbc ETL MapReduce
Hadoop-23 Sqoop 数据MySQL到HDFS(部分) SQL生成数据 HDFS集群 Sqoop import jdbc ETL MapReduce
33 0

相关产品

  • 云数据库 RDS MySQL 版