通过RDS MySQL SQL洞察和审计排查如何丢失数据?

本文涉及的产品
RDS AI 助手,专业版
RDS MySQL DuckDB 分析主实例,基础系列 4核8GB
RDS MySQL DuckDB 分析主实例,集群系列 4核8GB
简介: 最近遇到多次业务方,反馈数据写入成功,但是需要查询使用时,数据确找不到了,所以需要确认数据什么不见了?

背景描述

最近遇到多次业务方,反馈数据写入成功,但是需要查询使用时,数据确找不到了,所以需要确认数据什么不见了?

排查方案

  1. 通过应用排查数据是否写入成功。
  1. 通过应用确认每次都是写入成功.
  2. 而且写入后,进行查询都是有数据的。
  1. 通过主键自增确认写入过数据。
  1. 确认主键自增都是有的,但是最后数据不见了。
  1. 查看binlog是否有提交记录。
  1. 确认binlog中没有相应的提交记录,说明最终没有提交成功。
  1. 通过SQL洞察和审计最终确认原因。(重点


SQL洞察和审计

RDS MySQL的SQL洞察和审计由数据库自治服务DAS提供,在全量请求和安全审计的基础上,融合了搜索、SQL洞察、安全审计以及流量回放和压测等功能,帮助您更好地获取SQL语句的具体信息、排查各种性能问题、识别高危风险来源、验证实例规格。

支持版本范围

  • RDS MySQL实例为高可用版、三节点企业版或集群版。

支持SQL记录

  • 开启SQL洞察和审计功能可以记录所有DQL、DML和DDL操作信息,这些信息是通过数据库内核输出,对系统CPU消耗极低。

SQL洞察与Binlog日志的区别

  • SQL洞察:
  • 类似于MySQL的审计日志,会统计所有DQL、DML和DDL操作信息,这些信息是系统通过网络协议分析所得。
  • SQL洞察不解析实际的参数值,在SQL查询量较大的时候会丢失少量记录。因此通过这种方式来统计增量数据可能会出现不准确的情况。
  • SQL洞察是在开始执行时就记录了,所以在显示提交事务时,若最后回滚或退出,就会出现数据没有,但是SQL洞察是有执行记录的。
  • Binlog日志:
  • 准确记录数据库所有的增、删、改操作信息以及恢复用户的增量数据。
  • Binlog是在事务commit时才会记录,所以binlog中记录的,一定是已经提交的记录。

实战场景

在事务中,插入数据,然后执行进行插入数据,最后没有commit,最终数据没有被提交。

1. 测试表:

CREATETABLE `t11` (  `c1` intNOTNULL AUTO_INCREMENT,  `c2` varchar(100) DEFAULT NULL,  `c3` varchar(100) DEFAULT NULL,  PRIMARY KEY (`c1`),  KEY `idx_c2` (`c2`)) ENGINE=InnoDB AUTO_INCREMENT=4 DEFAULT CHARSET=utf8mb3 COMMENT='TEST';

2. 执行的测试SQL:

set autocommit=0;insertinto t11(c2,c3)values('a','b');commit;insertinto t11(c2,c3)values('a2','b2');rollback;insertinto t11(c2,c3)values('a3','b3');exit

3. 控制台SQL洞察分析

  1. 搜索条件
    探索条件使用得当可以快速找到问题原因。本次探索条件都是跟事务操作有关:
    Login:登录操作;
    LOGOUT:登出操作;
    SET:环境变量操作;
    ROLLBACK:未提的事务回滚;
    COMMIT:提交事务;
    线程ID:可以查看整个线程的操作逻辑


  1. 通过上面的搜索条件,获取关键数据

  1. 结论:
    通过SQL洞察与审计最终可以确定数据为什么不见了!


QA

Q:什么情况会导致出现rollback和没提交就退出了。

A:

  1. 业务代码缺陷,导致最终没有提交事务就自动退出或回滚了。
  2. SQL锁冲突,当会导致其它一个会话回滚。
  3. 会话没有最终执行commit操作就退出了。

解决方案:

  1. 优化调整业务逻辑,避免代码缺陷或锁冲突。
  2. 业务上在出现异常时,保留关键的日志,可以快速定位问题。
相关实践学习
每个IT人都想学的“Web应用上云经典架构”实战
本实验从Web应用上云这个最基本的、最普遍的需求出发,帮助IT从业者们通过“阿里云Web应用上云解决方案”,了解一个企业级Web应用上云的常见架构,了解如何构建一个高可用、可扩展的企业级应用架构。
MySQL数据库入门学习
本课程通过最流行的开源数据库MySQL带你了解数据库的世界。   相关的阿里云产品:云数据库RDS MySQL 版 阿里云关系型数据库RDS(Relational Database Service)是一种稳定可靠、可弹性伸缩的在线数据库服务,提供容灾、备份、恢复、迁移等方面的全套解决方案,彻底解决数据库运维的烦恼。 了解产品详情: https://www.aliyun.com/product/rds/mysql 
相关文章
|
6月前
|
关系型数据库 MySQL 数据库
阿里云数据库RDS费用价格:MySQL、SQL Server、PostgreSQL和MariaDB引擎收费标准
阿里云RDS数据库支持MySQL、SQL Server、PostgreSQL、MariaDB,多种引擎优惠上线!MySQL倚天版88元/年,SQL Server 2核4G仅299元/年,PostgreSQL 227元/年起。高可用、可弹性伸缩,安全稳定。详情见官网活动页。
1125 152
|
6月前
|
关系型数据库 MySQL 数据库
阿里云数据库RDS支持MySQL、SQL Server、PostgreSQL和MariaDB引擎
阿里云数据库RDS支持MySQL、SQL Server、PostgreSQL和MariaDB引擎,提供高性价比、稳定安全的云数据库服务,适用于多种行业与业务场景。
861 156
|
6月前
|
SQL 监控 关系型数据库
一键开启百倍加速!RDS DuckDB 黑科技让SQL查询速度最高提升200倍
RDS MySQL DuckDB分析实例结合事务处理与实时分析能力,显著提升SQL查询性能,最高可达200倍,兼容MySQL语法,无需额外学习成本。
|
6月前
|
SQL 监控 关系型数据库
SQL优化技巧:让MySQL查询快人一步
本文深入解析了MySQL查询优化的核心技巧,涵盖索引设计、查询重写、分页优化、批量操作、数据类型优化及性能监控等方面,帮助开发者显著提升数据库性能,解决慢查询问题,适用于高并发与大数据场景。
|
6月前
|
关系型数据库 分布式数据库 数据库
阿里云数据库收费价格:MySQL、PostgreSQL、SQL Server和MariaDB引擎费用整理
阿里云数据库提供多种类型,包括关系型与NoSQL,主流如PolarDB、RDS MySQL/PostgreSQL、Redis等。价格低至21元/月起,支持按需付费与优惠套餐,适用于各类应用场景。
|
6月前
|
SQL 监控 关系型数据库
查寻MySQL或SQL Server的连接数,并配置超时时间和最大连接量
以上步骤提供了直观、实用且易于理解且执行的指导方针来监管和优化数据库服务器配置。务必记得,在做任何重要变更前备份相关配置文件,并确保理解每个参数对系统性能可能产生影响后再做出调节。
663 11
|
6月前
|
关系型数据库 MySQL 数据库
云时代MySQL:RDS与自建数据库的抉择
在云计算时代,选择合适的数据库部署方案至关重要。本文深入对比了AWS RDS与自建MySQL的优劣,帮助您在控制权、运维成本和业务敏捷性之间找到最佳平衡点。内容涵盖核心概念、功能特性、成本模型、安全性、性能优化、高可用方案及迁移策略,为您提供全面的决策参考。
|
关系型数据库 MySQL 网络安全
5-10Can't connect to MySQL server on 'sh-cynosl-grp-fcs50xoa.sql.tencentcdb.com' (110)")
5-10Can't connect to MySQL server on 'sh-cynosl-grp-fcs50xoa.sql.tencentcdb.com' (110)")
|
SQL 存储 监控
SQL Server的并行实施如何优化?
【7月更文挑战第23天】SQL Server的并行实施如何优化?
667 13
解锁 SQL Server 2022的时间序列数据功能
【7月更文挑战第14天】要解锁SQL Server 2022的时间序列数据功能,可使用`generate_series`函数生成整数序列,例如:`SELECT value FROM generate_series(1, 10)。此外,`date_bucket`函数能按指定间隔(如周)对日期时间值分组,这些工具结合窗口函数和其他时间日期函数,能高效处理和分析时间序列数据。更多信息请参考官方文档和技术资料。
483 9

推荐镜像

更多