通过RDS MySQL SQL洞察和审计排查如何丢失数据?

本文涉及的产品
云数据库 RDS MySQL Serverless,0.5-2RCU 50GB
简介: 最近遇到多次业务方,反馈数据写入成功,但是需要查询使用时,数据确找不到了,所以需要确认数据什么不见了?

背景描述

最近遇到多次业务方,反馈数据写入成功,但是需要查询使用时,数据确找不到了,所以需要确认数据什么不见了?

排查方案

  1. 通过应用排查数据是否写入成功。
  1. 通过应用确认每次都是写入成功.
  2. 而且写入后,进行查询都是有数据的。
  1. 通过主键自增确认写入过数据。
  1. 确认主键自增都是有的,但是最后数据不见了。
  1. 查看binlog是否有提交记录。
  1. 确认binlog中没有相应的提交记录,说明最终没有提交成功。
  1. 通过SQL洞察和审计最终确认原因。(重点


SQL洞察和审计

RDS MySQL的SQL洞察和审计由数据库自治服务DAS提供,在全量请求和安全审计的基础上,融合了搜索、SQL洞察、安全审计以及流量回放和压测等功能,帮助您更好地获取SQL语句的具体信息、排查各种性能问题、识别高危风险来源、验证实例规格。

支持版本范围

  • RDS MySQL实例为高可用版、三节点企业版或集群版。

支持SQL记录

  • 开启SQL洞察和审计功能可以记录所有DQL、DML和DDL操作信息,这些信息是通过数据库内核输出,对系统CPU消耗极低。

SQL洞察与Binlog日志的区别

  • SQL洞察:
  • 类似于MySQL的审计日志,会统计所有DQL、DML和DDL操作信息,这些信息是系统通过网络协议分析所得。
  • SQL洞察不解析实际的参数值,在SQL查询量较大的时候会丢失少量记录。因此通过这种方式来统计增量数据可能会出现不准确的情况。
  • SQL洞察是在开始执行时就记录了,所以在显示提交事务时,若最后回滚或退出,就会出现数据没有,但是SQL洞察是有执行记录的。
  • Binlog日志:
  • 准确记录数据库所有的增、删、改操作信息以及恢复用户的增量数据。
  • Binlog是在事务commit时才会记录,所以binlog中记录的,一定是已经提交的记录。

实战场景

在事务中,插入数据,然后执行进行插入数据,最后没有commit,最终数据没有被提交。

1. 测试表:

CREATETABLE `t11` (  `c1` intNOTNULL AUTO_INCREMENT,  `c2` varchar(100) DEFAULT NULL,  `c3` varchar(100) DEFAULT NULL,  PRIMARY KEY (`c1`),  KEY `idx_c2` (`c2`)) ENGINE=InnoDB AUTO_INCREMENT=4 DEFAULT CHARSET=utf8mb3 COMMENT='TEST';

2. 执行的测试SQL:

set autocommit=0;insertinto t11(c2,c3)values('a','b');commit;insertinto t11(c2,c3)values('a2','b2');rollback;insertinto t11(c2,c3)values('a3','b3');exit

3. 控制台SQL洞察分析

  1. 搜索条件
    探索条件使用得当可以快速找到问题原因。本次探索条件都是跟事务操作有关:
    Login:登录操作;
    LOGOUT:登出操作;
    SET:环境变量操作;
    ROLLBACK:未提的事务回滚;
    COMMIT:提交事务;
    线程ID:可以查看整个线程的操作逻辑


  1. 通过上面的搜索条件,获取关键数据

  1. 结论:
    通过SQL洞察与审计最终可以确定数据为什么不见了!


QA

Q:什么情况会导致出现rollback和没提交就退出了。

A:

  1. 业务代码缺陷,导致最终没有提交事务就自动退出或回滚了。
  2. SQL锁冲突,当会导致其它一个会话回滚。
  3. 会话没有最终执行commit操作就退出了。

解决方案:

  1. 优化调整业务逻辑,避免代码缺陷或锁冲突。
  2. 业务上在出现异常时,保留关键的日志,可以快速定位问题。
相关实践学习
基于CentOS快速搭建LAMP环境
本教程介绍如何搭建LAMP环境,其中LAMP分别代表Linux、Apache、MySQL和PHP。
全面了解阿里云能为你做什么
阿里云在全球各地部署高效节能的绿色数据中心,利用清洁计算为万物互联的新世界提供源源不断的能源动力,目前开服的区域包括中国(华北、华东、华南、香港)、新加坡、美国(美东、美西)、欧洲、中东、澳大利亚、日本。目前阿里云的产品涵盖弹性计算、数据库、存储与CDN、分析与搜索、云通信、网络、管理与监控、应用服务、互联网中间件、移动服务、视频服务等。通过本课程,来了解阿里云能够为你的业务带来哪些帮助     相关的阿里云产品:云服务器ECS 云服务器 ECS(Elastic Compute Service)是一种弹性可伸缩的计算服务,助您降低 IT 成本,提升运维效率,使您更专注于核心业务创新。产品详情: https://www.aliyun.com/product/ecs
相关文章
|
17天前
|
缓存 NoSQL 关系型数据库
13- Redis和Mysql如何保证数据⼀致?
该内容讨论了保证Redis和MySQL数据一致性的几种策略。首先提到的两种方法存在不一致风险:先更新MySQL再更新Redis,或先删Redis再更新MySQL。第三种方案是通过MQ异步同步以达到最终一致性,适用于一致性要求较高的场景。项目中根据不同业务需求选择不同方案,如对一致性要求不高的情况不做处理,时效性数据设置过期时间,高一致性需求则使用MQ确保同步,最严格的情况可能涉及分布式事务(如Seata的TCC模式)。
44 6
|
24天前
|
SQL 关系型数据库 MySQL
轻松入门MySQL:保障数据完整性,MySQL事务在进销存管理系统中的应用(12)
轻松入门MySQL:保障数据完整性,MySQL事务在进销存管理系统中的应用(12)
|
29天前
|
SQL 关系型数据库 MySQL
【MySQL技术专题】「问题实战系列」深入探索和分析MySQL数据库的数据备份和恢复实战开发指南(8.0版本升级篇)
【MySQL技术专题】「问题实战系列」深入探索和分析MySQL数据库的数据备份和恢复实战开发指南(8.0版本升级篇)
96 0
|
26天前
|
SQL 关系型数据库 MySQL
mysql一条sql查询出多个统计结果
mysql一条sql查询出多个统计结果
15 0
|
2天前
|
SQL 关系型数据库 MySQL
Spring_jdbc数据连接池(mysql实现增、删、改、查)
Spring_jdbc数据连接池(mysql实现增、删、改、查)
9 0
|
4天前
|
存储 数据可视化 关系型数据库
MySQL字段的时间类型该如何选择?千万数据下性能提升10%~30%🚀
本文探讨MySQL中时间类型的选择,阐述datetime、timestamp、整形时间戳等类型特点以及它们在千万级数据量下的查询性能
MySQL字段的时间类型该如何选择?千万数据下性能提升10%~30%🚀
|
10天前
|
SQL 关系型数据库 MySQL
MySQL环境搭建——“MySQL数据库”
MySQL环境搭建——“MySQL数据库”
|
10天前
|
SQL NoSQL 关系型数据库
初识MySQL数据库——“MySQL数据库”
初识MySQL数据库——“MySQL数据库”
|
19天前
|
SQL 存储 关系型数据库
【MySQL实战笔记】02.一条SQL更新语句是如何执行的-2
【4月更文挑战第5天】两阶段提交是为确保`redo log`和`binlog`逻辑一致,避免数据不一致。若先写`redo log`, crash后数据可能丢失,导致恢复后状态错误;若先写`binlog`,crash则可能导致重复事务,影响数据库一致性。一天一备相较于一周一备,能缩短“最长恢复时间”,但需权衡额外的存储成本。
16 1
|
26天前
|
SQL 关系型数据库 MySQL
【MySQL】慢SQL分析流程
【4月更文挑战第1天】【MySQL】慢SQL分析流程