【Mysql系列】(二)日志系统:一条更新语句是如何执行的(上)

本文涉及的产品
云数据库 RDS MySQL,集群系列 2核4GB
推荐场景:
搭建个人博客
RDS MySQL Serverless 基础系列,0.5-2RCU 50GB
RDS MySQL Serverless 高可用系列,价值2615元额度,1个月
简介: 【Mysql系列】(二)日志系统:一条更新语句是如何执行的

有的时候博客内容会有变动,首发博客是最新的,其他博客地址可能会未同步,认准https://blog.zysicyj.top

这篇文章是从Github ReadMe拷贝的,内容实践下载是没问题的,能够正常发送短信,而且也不需要服务器,本地也能跑起来

首发博客地址

系列文章地址


上篇文章我们介绍了一个查询语句的执行流程,并介绍了执行过程中涉及的处理模块。一条查询语句的执行过程一般是经过连接器、分析器、优化器、执行器等功能模块,最后到达存储引擎。

那么,一条语句的更新流程是什么样的?

MySQL可以恢复到半个月内任意一秒的状态,是怎么做到的?

我们先复习下查询流程

这里我们需要注意的是,更新语句的流程和查询流程有两个区别,更新流程涉及两个重要的日志模块:

  • redo log(重做日志)
  • binlog(归档日志)

相信大家在这个面试,学习MySQL的过程中都反复听到这两个词

WAL技术

在MySQL中,WAL(Write-Ahead Logging)技术是一种常用的持久化数据的机制,用于确保数据库的事务操作能够持久化到磁盘并保持数据的一致性。WAL技术的核心思想是在事务进行修改之前,「先将修改操作记录到日志中,然后再将修改应用到数据库中」

具体来说,MySQL中的WAL技术主要包括以下几个组件和步骤:

  1. Redo Log(重做日志):Redo Log是一种事务日志,用于记录数据库中发生的修改操作。在事务提交之前,MySQL会将修改操作写入Redo Log,而不是直接写入磁盘。这样可以提高性能,因为磁盘写入是相对较慢的操作。
  2. Write-Ahead Logging(预写式日志):WAL技术要求在事务提交之前,Redo Log必须先写入磁盘,然后再将修改操作应用到数据库中。这样即使在事务提交后发生系统崩溃,MySQL也可以通过Redo Log来恢复数据。
  3. Redo Log Buffer(重做日志缓冲区):Redo Log Buffer是一个内存缓冲区,用于暂存待写入Redo Log的修改操作。当事务提交时,Redo Log Buffer中的内容会被刷新到磁盘的Redo Log文件中。
  4. Checkpoint(检查点):Checkpoint是一个标记点,表示在这个点之前的所有事务已经持久化到磁盘。MySQL会定期将Checkpoint的位置更新到磁盘,以确保已经持久化的数据不会丢失。
  5. Crash Recovery(崩溃恢复):当数据库发生崩溃或重启时,MySQL会通过读取Redo Log来恢复数据的一致性。它会按照Redo Log中的顺序,将每个事务的修改操作重新应用到数据库中,以还原数据的最新状态。

WAL技术的优点是可以提高数据库的性能和可靠性。通过将修改操作先记录到Redo Log中,可以避免频繁地写入磁盘,从而提高性能。同时,WAL技术还可以确保数据的持久性和一致性,即使在系统崩溃或断电的情况下也能够恢复数据。

MySQL中的WAL技术通过使用Redo Log和预写式日志的机制,确保事务的修改操作能够持久化到磁盘并保持数据的一致性。它是一种提高性能和可靠性的重要技术。

Redo log执行流程

  1. 当一个事务开始时,MySQL会为该事务分配一个唯一的事务ID,并将该事务的相关信息存储在内存中的事务控制块(Transaction Control Block,TCB)中。
  2. 在事务执行过程中,所有的修改操作都会被写入redo log缓冲区。这些修改操作包括插入、更新和删除等操作。
  3. 当事务提交时,MySQL会将该事务的所有修改操作按照顺序写入redo log文件中。这些修改操作会被写入到redo log缓冲区,然后通过后台线程定期将缓冲区中的内容刷新到磁盘上的redo log文件中。这个过程称为redo log的刷新。
  4. 在事务提交之前,MySQL会将redo log的刷新操作和数据页的刷新操作进行协调,以保证数据的一致性。这是通过使用write-ahead logging(预写式日志)的机制来实现的。即在事务提交之前,redo log必须先写入磁盘,然后再将修改操作应用到数据库中。
  5. 当数据库发生崩溃或重启时,MySQL会在启动过程中读取redo log文件,并将其中的修改操作重新应用到数据库中,以恢复数据的一致性。这个过程称为崩溃恢复。

Write Pos和CheckPoint

在MySQL的redo log中,有两个重要的概念:write pos(写入位置)和checkpoint(检查点)。

  1. Write Pos(写入位置):Write Pos是指当前事务写入redo log的位置。当一个事务提交时,其修改操作会被写入redo log中的某个位置,Write Pos指向这个位置。下一个事务的修改操作将会从Write Pos指向的位置开始写入。
  2. Checkpoint(检查点):Checkpoint是指一个标记点,表示在这个点之前的所有事务已经持久化到磁盘。当一个事务提交时,它的修改操作会被写入redo log,并且会更新Checkpoint的位置。这样,在Checkpoint之前的redo log中的操作可以被认为是已经持久化到磁盘的。

Checkpoint的作用是用于数据库的恢复和崩溃恢复。当数据库发生崩溃或重启时,MySQL会从Checkpoint的位置开始,读取redo log中的操作,并将其应用到数据库中,以还原数据的一致性。

Write Pos和Checkpoint之间的关系是,Write Pos会不断向前移动,指向最新的写入位置,而Checkpoint会根据一定的策略进行更新,以标记已经持久化到磁盘的操作。

需要注意的是,Write Pos和Checkpoint的位置是相对于redo log文件的偏移量,而不是绝对的字节位置。它们的值通常以字节为单位,表示相对于redo log文件起始位置的偏移量。

Write Pos表示当前事务写入redo log的位置,Checkpoint表示已经持久化到磁盘的操作的位置。Write Pos会不断向前移动,而Checkpoint会根据一定的策略进行更新,用于数据库的恢复和崩溃恢复。

Redo log是固定大小的,超出会发生什么

当redo log的固定大小不足以容纳新的修改操作时,MySQL会触发一个称为"redo log空间不足"的错误。在这种情况下,MySQL会停止新的事务提交,直到有足够的空间来写入redo log。

为了解决redo log空间不足的问题,可以采取以下几种方法:

  1. 增加redo log的大小:可以通过修改MySQL的配置参数innodb_log_file_size来增加每个redo log文件的大小。增加redo log的大小可以提供更多的空间来存储修改操作,从而延长redo log的使用寿命。
  2. 增加redo log文件的数量:可以通过修改MySQL的配置参数innodb_log_files_in_group来增加redo log文件组中的文件数量。增加文件数量可以增加redo log的总大小,从而提供更多的空间来存储修改操作。
  3. 提交事务并清空redo log:如果当前的事务已经提交,但redo log空间不足,可以尝试手动提交其他未提交的事务,以释放redo log空间。这可以通过执行COMMIT语句来提交事务。
  4. 优化事务的写入操作:可以通过优化事务的写入操作,减少对redo log的写入量。例如,可以合并多个小事务为一个大事务,减少redo log的写入次数。

需要注意的是,增加redo log的大小或数量可能会增加系统的负载和崩溃恢复的时间。因此,在调整redo log大小时,需要综合考虑系统的性能和可靠性需求,并进行充分的测试和验证。

什么是binlog日志

Binlog(二进制日志)是MySQL的服务器层产生的一种日志,用于记录数据库中的所有修改操作,包括数据定义语言(DDL)和数据操作语言(DML)等操作。

Binlog以二进制格式记录了对数据库的逻辑修改操作,而不是直接记录对数据页的具体修改。它包含了一系列的事件(Event),每个事件都代表了一个数据库操作,如插入、更新、删除等。

Binlog的主要作用是用于「数据复制和恢复」。通过将Binlog传递给其他MySQL实例,可以实现数据的复制和同步。其他MySQL实例可以读取Binlog中的事件,并将其中的修改操作应用到自己的数据库中,从而实现数据的复制和同步。

此外,Binlog也可以用于数据恢复。在误操作、数据丢失或灾难恢复的情况下,可以通过读取Binlog来还原数据。通过逐个回放Binlog中的事件,可以将数据库恢复到特定的时间点或特定的操作之前的状态。

Binlog是追加写入的,不会被重复使用,以保留完整的修改历史。它可以通过配置参数进行启用和配置,包括指定Binlog的存储位置、设置Binlog的大小和保留时间等。

为什么MySQL会有两个日志,redo log和binlog?

MySQL之所以同时使用redo log和binlog两个日志,是因为它们具有不同的功能和用途。

  1. Redo Log(重做日志):
  • 功能:Redo log是InnoDB存储引擎特有的日志,用于保证事务的持久性和一致性。它记录了数据库中发生的修改操作,包括插入、更新和删除等操作。
  • 作用:在数据库崩溃或重启时,通过读取redo log来恢复数据的一致性。它可以将未持久化到磁盘的修改操作重新应用到数据库中,以还原数据的最新状态。
  • 特点:redo log是 「物理日志」,记录了对数据页的具体修改操作。它是循环写入的,可以重复使用,以减少磁盘IO的开销。
  1. Binlog(二进制日志):
  • 功能:Binlog是MySQL的服务器层产生的日志,记录了数据库中的所有修改操作,包括数据定义语言(DDL)和数据操作语言(DML)等操作。
  • 作用:Binlog主要用于数据复制和恢复。它可以被其他MySQL实例读取,并将其中的修改操作应用到自己的数据库中,实现数据的复制和同步。同时,Binlog也可以用于数据恢复,例如在误操作或数据丢失时,可以通过读取Binlog来还原数据。
  • 特点:Binlog是 「逻辑日志」,记录了对数据的逻辑修改操作。它是追加写入的,不会被重复使用,以保留完整的修改历史。

redo log保证了事务的持久性和一致性,而binlog则提供了数据复制和恢复的功能。它们共同工作,确保了MySQL数据库的数据安全和可靠性。

相关实践学习
如何快速连接云数据库RDS MySQL
本场景介绍如何通过阿里云数据管理服务DMS快速连接云数据库RDS MySQL,然后进行数据表的CRUD操作。
全面了解阿里云能为你做什么
阿里云在全球各地部署高效节能的绿色数据中心,利用清洁计算为万物互联的新世界提供源源不断的能源动力,目前开服的区域包括中国(华北、华东、华南、香港)、新加坡、美国(美东、美西)、欧洲、中东、澳大利亚、日本。目前阿里云的产品涵盖弹性计算、数据库、存储与CDN、分析与搜索、云通信、网络、管理与监控、应用服务、互联网中间件、移动服务、视频服务等。通过本课程,来了解阿里云能够为你的业务带来哪些帮助     相关的阿里云产品:云服务器ECS 云服务器 ECS(Elastic Compute Service)是一种弹性可伸缩的计算服务,助您降低 IT 成本,提升运维效率,使您更专注于核心业务创新。产品详情: https://www.aliyun.com/product/ecs
相关文章
|
18天前
|
SQL 关系型数据库 MySQL
MySQL事务日志-Undo Log工作原理分析
事务的持久性是交由Redo Log来保证,原子性则是交由Undo Log来保证。如果事务中的SQL执行到一半出现错误,需要把前面已经执行过的SQL撤销以达到原子性的目的,这个过程也叫做"回滚",所以Undo Log也叫回滚日志。
MySQL事务日志-Undo Log工作原理分析
|
14天前
|
存储 安全 Java
Spring Boot 3 集成Spring AOP实现系统日志记录
本文介绍了如何在Spring Boot 3中集成Spring AOP实现系统日志记录功能。通过定义`SysLog`注解和配置相应的AOP切面,可以在方法执行前后自动记录日志信息,包括操作的开始时间、结束时间、请求参数、返回结果、异常信息等,并将这些信息保存到数据库中。此外,还使用了`ThreadLocal`变量来存储每个线程独立的日志数据,确保线程安全。文中还展示了项目实战中的部分代码片段,以及基于Spring Boot 3 + Vue 3构建的快速开发框架的简介与内置功能列表。此框架结合了当前主流技术栈,提供了用户管理、权限控制、接口文档自动生成等多项实用特性。
60 8
|
1月前
|
SQL 存储 关系型数据库
Mysql并发控制和日志
通过深入理解和应用 MySQL 的并发控制和日志管理技术,您可以显著提升数据库系统的效率和稳定性。
122 10
|
29天前
|
安全 关系型数据库 MySQL
MySQL崩溃保险箱:探秘Redo/Undo日志确保数据库安全无忧!
《MySQL崩溃保险箱:探秘Redo/Undo日志确保数据库安全无忧!》介绍了MySQL中的三种关键日志:二进制日志(Binary Log)、重做日志(Redo Log)和撤销日志(Undo Log)。这些日志确保了数据库的ACID特性,即原子性、一致性、隔离性和持久性。Redo Log记录数据页的物理修改,保证事务持久性;Undo Log记录事务的逆操作,支持回滚和多版本并发控制(MVCC)。文章还详细对比了InnoDB和MyISAM存储引擎在事务支持、锁定机制、并发性等方面的差异,强调了InnoDB在高并发和事务处理中的优势。通过这些机制,MySQL能够在事务执行、崩溃和恢复过程中保持
71 3
|
2月前
|
存储 Oracle 关系型数据库
【赵渝强老师】MySQL InnoDB的数据文件与重做日志文件
本文介绍了MySQL InnoDB存储引擎中的数据文件和重做日志文件。数据文件包括`.ibd`和`ibdata`文件,用于存放InnoDB数据和索引。重做日志文件(redo log)确保数据的可靠性和事务的持久性,其大小和路径可由相关参数配置。文章还提供了视频讲解和示例代码。
177 11
【赵渝强老师】MySQL InnoDB的数据文件与重做日志文件
|
1月前
|
SQL 存储 缓存
MySQL进阶突击系列(02)一条更新SQL执行过程 | 讲透undoLog、redoLog、binLog日志三宝
本文详细介绍了MySQL中update SQL执行过程涉及的undoLog、redoLog和binLog三种日志的作用及其工作原理,包括它们如何确保数据的一致性和完整性,以及在事务提交过程中各自的角色。同时,文章还探讨了这些日志在故障恢复中的重要性,强调了合理配置相关参数对于提高系统稳定性的必要性。
|
1月前
|
存储 监控 安全
什么是事件日志管理系统?事件日志管理系统有哪些用处?
事件日志管理系统是IT安全的重要工具,用于集中收集、分析和解释来自组织IT基础设施各组件的事件日志,如防火墙、路由器、交换机等,帮助提升网络安全、实现主动威胁检测和促进合规性。系统支持多种日志类型,包括Windows事件日志、Syslog日志和应用程序日志,通过实时监测、告警及可视化分析,为企业提供强大的安全保障。然而,实施过程中也面临数据量大、日志管理和分析复杂等挑战。EventLog Analyzer作为一款高效工具,不仅提供实时监测与告警、可视化分析和报告功能,还支持多种合规性报告,帮助企业克服挑战,提升网络安全水平。
|
2月前
|
SQL 关系型数据库 MySQL
【赵渝强老师】MySQL的全量日志文件
MySQL全量日志记录所有操作的SQL语句,默认禁用。启用后,可通过`show variables like %general_log%检查状态,使用`set global general_log=ON`临时开启,执行查询并查看日志文件以追踪SQL执行详情。
|
2月前
|
关系型数据库 MySQL 数据库
【赵渝强老师】MySQL的binlog日志文件
MySQL的binlog日志记录了所有对数据库的更改操作(不包括SELECT和SHOW),主要用于主从复制和数据恢复。binlog有三种模式,可通过设置binlog_format参数选择。示例展示了如何启用binlog、设置格式、查看日志文件及记录的信息。
245 6
|
2月前
|
SQL 关系型数据库 MySQL
【赵渝强老师】MySQL的慢查询日志
MySQL的慢查询日志用于记录执行时间超过设定阈值的SQL语句,帮助数据库管理员识别并优化性能问题。通过`mysqldumpslow`工具可查看日志。本文介绍了如何检查、启用及配置慢查询日志,并通过实例演示了慢查询的记录与分析过程。
256 3

热门文章

最新文章