【数据库】讨论MySQL日志系统中的更新语句的执行

本文涉及的产品
RDS MySQL Serverless 基础系列,0.5-2RCU 50GB
云数据库 RDS MySQL,高可用系列 2核4GB
云数据库 RDS PostgreSQL,高可用系列 2核4GB
简介: 小议MySQL日志系统中的更新语句的执行

在MySQL中有六种日志文件 分别是:重做日志(redo log)回滚日志(undo log)二进制日志(binlog)错误日志(errorlog)慢查询日志(slow query log)一般查询日志(general log)中继日志(relay log)

其中重做日志,回滚日志和二进制日志与事务操作相关。要想深入理解MySQL的事务,对这三种日志的理解,必不可少。

重做日志,回滚日志位于innodb 引擎层
二进制日志位于MySQL Service层


这篇博文侧重于讨论MySQL日志系统中的更新语句的执行,主要涉及的日志是重做日志(redo log)二进制日志(binlog)


之前有篇博文 【数据库】了解MySQL中SQL语句的执行过程 大致讲述了MySQL中一条SQL语句的执行过程

按照它的理解就是:在一个表上有更新的时候,跟这个表有关的查询缓存会失效(MySQL5.0版本),所以这条语句就会把表T上所有缓存结果都清空。这也就是我们一般不建议使用查询缓存的原因之一。
接下来,分析器会通过词法和语法解析知道这是一条更新语句。优化器决定要使用ID这个索引。然后,执行器负责具体执行,找到这一行,然后更新。


与查询流程不一样的是,更新流程还涉及两个重要的日志模块,就是上面专门提到的重做日志(redo log)、二进制日志(binlog)。( 当然如果更新过程出现了意外,还要用到回滚日志(undo log),这里也提提吧 )


首先介绍一下InnoDB引擎中的redo log

如果没有InnoDB,在MySQL中会有一个严重的问题:如果每一次的更新操作都需要写进磁盘,然后磁盘也要找到对应的那条记录,接着再更新,整个过程 IO成本、查找成本都很高。

而如果有了InnoDB的话,当有一条记录需要更新的时候,InnoDB引擎就会先把记录写到redo log里面,并更新内存,这个时候更新就算完成了。同时,InnoDB引擎会在适当的时候,将这个操作记录更新到磁盘里面,而这个更新往往是在系统比较空闲的时候做。不仅解决了上面 IO成本、查找成本都很高的问题,而且还提升了性能。

InnoDB上述的这个特性就是MySQL里经常说到的WAL技术,WAL的全称是Write-Ahead Logging,它的关键点就是先写日志,再写磁盘

但是InnoDB也有一定的局限性,就是它的redo log是固定大小的。

比如可以配置为一组5个文件,每个文件的大小是1GB,那么它总共就可以记录5GB的操作。从头开始写,写到末尾就又回到开头循环写,如下面这个图所示。

在这里插入图片描述

write pos是当前记录的位置,一边写一边后移,写到第4号文件末尾后就回到0号文件开头。checkpoint是当前要擦除的位置,也是往后推移并且循环的,擦除记录前要把记录更新到数据文件。

橙色的部分,可以用来记录新的操作。如果write pos追上checkpoint,表示满了,这时候不能再执行新的更新,得停下来先擦掉一些记录,把checkpoint推进一下。

有了redo log,InnoDB就可以保证即使数据库发生异常重启,之前提交的记录都不会丢失,这个能力称为crash-safe。


那接下来介绍一下binlog
刚才介绍了InnoDB中的redo log,redo log是循环写的,空间固定会用完;
binlog是可以追加写入的。 “追加写”是指binlog文件写到一定大小后会切换到下一个,并不会覆盖以前的日志。

redo log是InnoDB引擎特有的;binlog是MySQL的Server层实现的,所有引擎都可以使用。两者配合岂不美哉?


以下面的sql语句为例进行讲解(MySQL5.0版本):

update student set score = score +1 where ID = 20172240221

执行器和InnoDB引擎在执行这个简单的update语句时的内部流程图:
在这里插入图片描述
redo log是物理日志,记录的是“在某个数据页上做了什么修改”;
binlog是逻辑日志,记录的是这个语句的原始逻辑,比如“给ID=20172240221这一行的score字段加1 ”。

看一下它们的执行流程:

  1. 执行器先找引擎取ID=20172240221这一行。ID是主键,引擎直接用树搜索找到这一行。如果ID=20172240221这一行所在的数据页本来就在内存中,就直接返回给执行器;否则,需要先从磁盘读入内存,然后再返回。
  2. 执行器拿到引擎给的行数据,把score加上1,得到新的一行数据,再调用引擎接口写入这行新数据
  3. 引擎将这行新数据更新到内存中,同时将这个更新操作记录到redo log里面,此时redo log处于prepare状态。然后告知执行器执行完成了,随时可以提交事务。
  4. 执行器生成这个操作的binlog,并把binlog写入磁盘。
  5. 执行器调用引擎的提交事务接口,引擎把刚刚写入的redo log改成提交(commit)状态,更新完成。

执行器

经过优化器选定了一个方案后,执行器就按照选定的方案执行 sql 语句。在连接器中会读取当前用户的权限,连接器中只是获取权限而已,并没有对权限进行判断和校验。所以在执行器中,在执行语句之前会判断权限,如果没有对应的权限则会直接返回并提示没有相关权限。
引擎
数据库引擎是用于存储、处理和保护数据的核心服务。利用数据库引擎可控制访问权限并快速处理事务,从而满足企业内大多数需要处理大量数据的应用程序的要求。 使用数据库引擎创建用于联机事务处理或联机分析处理数据的关系数据库。这包括创建用于存储数据的表和用于查看、管理和保护数据安全的数据库对象(如索引、视图和存储过程)。

图中无色框表示是在InnoDB内部执行的,深色框表示是在执行器中执行的。

从图中会发现将redo log的写入拆成了两个步骤:prepare和commit,这就是 "两阶段提交"。这里需要你仔细考虑一下它们的特点.

假设在redo log写完,binlog还没有写完的时候,MySQL进程异常重启。就像前面加黑字体所说的,redo log写完之后,系统即使崩溃,仍然能够把数据恢复回来。

这里恢复过来用到的是回滚日志(undo log)
回滚日志(undo log)的作用:保存了事务发生之前的数据的一个版本,可以用于回滚,同时可以提供多版本并发控制下的读(MVCC),也即非锁定读。

它的内容:
同bin log, 它也是逻辑格式的日志,在执行undo的时候,仅仅是将数据从逻辑上恢复至事务之前的状态,而不是从物理页面上操作实现的。

产生时间:
事务开始之前,将当前是的版本生成undo log, undo 也会产生 redo 来保证undo log的可靠性

释放时间:
当事务提交之后,undo log并不能立马被删除,而是放入待清理的链表,由相关线程(purge线程)判断是否有其他事务在使用undo log中记录的上一个事务之前的版本信息,进而决定是否可以清理undo log的日志空间。

这些就是日志系统中的更新语句执行的大致内容了,中间穿插了基础的事务内容。

相关实践学习
每个IT人都想学的“Web应用上云经典架构”实战
本实验从Web应用上云这个最基本的、最普遍的需求出发,帮助IT从业者们通过“阿里云Web应用上云解决方案”,了解一个企业级Web应用上云的常见架构,了解如何构建一个高可用、可扩展的企业级应用架构。
MySQL数据库入门学习
本课程通过最流行的开源数据库MySQL带你了解数据库的世界。   相关的阿里云产品:云数据库RDS MySQL 版 阿里云关系型数据库RDS(Relational Database Service)是一种稳定可靠、可弹性伸缩的在线数据库服务,提供容灾、备份、恢复、迁移等方面的全套解决方案,彻底解决数据库运维的烦恼。 了解产品详情: https://www.aliyun.com/product/rds/mysql 
目录
相关文章
|
5月前
|
消息中间件 缓存 弹性计算
纯PHP+MySQL手搓高性能论坛系统!代码精简,拒绝臃肿
本内容分享了一套经实战验证的社交系统架构设计,支撑从1到100万用户的发展,并历经6次流量洪峰考验。架构涵盖客户端层(App、小程序、公众号)、接入层(API网关、负载均衡、CDN)、业务服务层(用户、内容、关系、消息等服务)、数据层(MySQL、Redis、MongoDB等)及运维监控层(日志、监控、告警)。核心设计包括数据库分库分表、多级缓存体系、消息队列削峰填谷、CQRS模式与热点数据动态缓存。同时提供应对流量洪峰的弹性伸缩方案及降级熔断机制,并通过Prometheus实现全链路监控。开源建议结构清晰,适合大型社交平台构建与优化。
217 11
|
5月前
|
前端开发 数据库
会议室管理系统源码(含数据库脚本)
会议室管理系统源码(含数据库脚本)
94 0
|
6月前
|
存储 缓存 监控
【YashanDB数据库】数据库运行正常,日志出现大量错误metadata changed
数据库运行正常,日志出现大量错误metadata changed
|
4月前
|
SQL 监控 关系型数据库
MySQL日志分析:binlog、redolog、undolog三大日志的深度探讨。
数据库管理其实和写小说一样,需要规划,需要修订,也需要有能力回滚。理解这些日志的作用与优化,就像把握写作工具的使用与运用,为我们的数据库保驾护航。
208 23
|
4月前
|
开发框架 Java 关系型数据库
在Linux系统中安装JDK、Tomcat、MySQL以及部署J2EE后端接口
校验时,浏览器输入:http://[your_server_IP]:8080/myapp。如果你看到你的应用的欢迎页面,恭喜你,一切都已就绪。
387 17
|
5月前
|
关系型数据库 MySQL Linux
CentOS 7系统下详细安装MySQL 5.7的步骤:包括密码配置、字符集配置、远程连接配置
以上就是在CentOS 7系统下安装MySQL 5.7的详细步骤。希望这个指南能帮助你顺利完成安装。
1409 26
|
5月前
|
Java 数据库
jsp CRM客户管理系统(含数据库脚本以及文档)
jsp CRM客户管理系统(含数据库脚本以及文档)
117 10
|
5月前
|
Ubuntu 关系型数据库 MySQL
在Ubuntu系统的Docker上安装MySQL的方法
以上的步骤就是在Ubuntu系统的Docker上安装MySQL的详细方法,希望对你有所帮助!
594 12
|
5月前
|
SQL 运维 关系型数据库
MySQL Binlog 日志查看方法及查看内容解析
本文介绍了 MySQL 的 Binlog(二进制日志)功能及其使用方法。Binlog 记录了数据库的所有数据变更操作,如 INSERT、UPDATE 和 DELETE,对数据恢复、主从复制和审计至关重要。文章详细说明了如何开启 Binlog 功能、查看当前日志文件及内容,并解析了常见的事件类型,包括 Format_desc、Query、Table_map、Write_rows、Update_rows 和 Delete_rows 等,帮助用户掌握数据库变化历史,提升维护和排障能力。

推荐镜像

更多