开发者社区> 飞天小牛肉> 正文
阿里云
为了无法计算的价值
打开APP
阿里云APP内打开

美团二面:如何解决 bin log 与 redo log 的一致性问题

简介: 打开百度就像吃饭一样自然
+关注继续查看

刚看见这个题目的时候还是有点懵逼的,后来才反应过来其实问的就是 redo log 的两阶段提交

老规矩,背诵版在文末。

为什么说 redo log 具有崩溃恢复的能力

前面我们说过,MySQL Server 层拥有的 bin log 只能用于归档,不足以实现崩溃恢复(crash-safe),需要借助 InnoDB 引擎的 redo log 才能拥有崩溃恢复的能力。所谓崩溃恢复就是:即使在数据库宕机的情况下,也不会出现操作一半的情况(更直白点说:日志已经写好,但是数据并未落盘,通过日志来把数据恢复到磁盘上

至于为什么说 redo log 具有崩溃恢复的能力,而 bin log 没有,我们先来简单看一下这两种日志有哪些不同点:

1)适用对象不同

  • bin log 是 MySQL 的 Server 层实现的,所有引擎都可以使用
  • 而 redo log 是 InnoDB 引擎特有的

2)写入内容不同

  • bin log 是逻辑日志,记录的是这个语句的原始逻辑,比如 “给 id = 1 这一行的 age 字段加 1”
  • redo log 是物理日志,记录的是 “在某个数据页上做了什么修改”

3)写入方式不同

  • bin log 是可以追加写入的。“追加写” 是指 bin log 文件写到一定大小后会切换到下一个,并不会覆盖以前的日志
  • redo log 是循环写的,空间固定会被用完

可以看到,redo log 和 bin log 的一个很大的区别就是,一个是循环写,一个是追加写。也就是说 redo log 只会记录未刷入磁盘的日志,已经刷入磁盘的数据都会从 redo log 这个有限大小的日志文件里删除。

而 bin log 是追加日志,保存的是全量的日志。这就会导致一个问题,那就是没有标志能让 InnoDB 从 bin log 中判断哪些数据已经刷入磁盘了,哪些数据还没有。

举个例子,bin log 记录了两条日志:

记录 1:给 id = 1 这一行的 age 字段加 1
记录 2:给 id = 1 这一行的 age 字段加 1

假设在记录 1 刷盘后,记录 2 未刷盘时,数据库崩溃。重启后,只通过 bin log 数据库是无法判断这两条记录哪条已经写入磁盘,哪条没有写入磁盘,不管是两条都恢复至内存,还是都不恢复,对 id = 1 这行数据来说,都是不对的。

但 redo log 不一样,只要刷入磁盘的数据,都会从 redo log 中被抹掉,数据库重启后,直接把 redo log 中的数据都恢复至内存就可以了。

这就是为什么说 redo log 具有崩溃恢复的能力,而 bin log 不具备。

直接用 binlog 做全量恢复也能做崩溃后的数据恢复,类比主从同步,但是速度肯定很慢,一般都是用 redolog 做崩溃恢复,binlog 做数据同步

redo log 两阶段提交

前面我们介绍过一条 SQL 查询语句的执行过程,简单回顾:

  1. MySQL 客户端与服务器间建立连接,客户端发送一条查询给服务器;
  2. 服务器先检查查询缓存,如果命中了缓存,则立刻返回存储在缓存中的结果;否则进入下一阶段;
  3. 服务器端进行 SQL 解析、预处理,生成合法的解析树;
  4. 再由优化器生成对应的执行计划;
  5. 执行器根据优化器生成的执行计划,调用相应的存储引擎的 API 来执行,并将执行结果返回给客户端

image

对于更新语句来说,这套流程同样也是要走一遍的,不同的是,更新流程还涉及两个重要的日志模块 bin log 和 redo log。

以下面这条简单的 SQL 语句为例,我们来解释下执行器和 InnoDB 存储引擎在更新时做了哪些事情:

update table set age = age + 1 where id = 1;
  1. 执行器:找存储引擎取到 id = 1 这一行记录
  2. 存储引擎:根据主键索引树找到这一行,如果 id = 1 这一行所在的数据页本来就在内存池(Buffer Pool)中,就直接返回给执行器;否则,需要先从磁盘读入内存池,然后再返回
  3. 执行器:拿到存储引擎返回的行记录,把 age 字段加上 1,得到一行新的记录,然后再调用存储引擎的接口写入这行新记录
  4. 存储引擎:将这行新数据更新到内存中,同时将这个更新操作记录到 redo log 里面,为 redo log 中的事务打上 prepare 标识。然后告知执行器执行完成了,随时可以提交事务

注意不要把这里的提交事务和我们 sql 语句中的提交事务 commit 命令搞混了哈,我们这里说的提交事务,指的是事务提交过程中的一个小步骤,也是最后一步。当这个步骤执行完成后,commit 命令就执行成功了。

  1. 执行器:生成这个操作的 bin log,并把 bin log 写入磁盘
  2. 执行器:调用存储引擎的提交事务接口
  3. 存储引擎:把刚刚写入的 redo log 状态改成提交(commit)状态,更新完成

如下图所示:

image

图片中的写入 redo log 和写入 bin log,并不等同于写入磁盘文件了哦,redo log 和 bin log 的写入其实分为两个阶段,可能仅仅写入内存了,也可能继续持久化到磁盘了,这个下篇文章有详细解释~

可以看到,所谓两阶段提交,其实就是把 redo log 的写入拆分成了两个步骤:prepare 和 commit

所以,为什么要这样设计呢?这样设计怎么就能够实现崩溃恢复呢?

<br>

根据两阶段提交,崩溃恢复时的判断规则是这样的:

  1. 如果 redo log 里面的事务是完整的,也就是已经有了 commit 标识,则直接提交
  2. 如果 redo log 里面的事务处于 prepare 状态,则判断对应的事务 binlog 是否存在并完整
  • a. 如果 binlog 存在并完整,则提交事务;
  • b. 否则,回滚事务。

当然,这样说小伙伴们肯定没法理解,下面来看几个实际的例子:

如下图所示,假设数据库在写入 redo log(prepare) 阶段之后、写入 binlog 之前,发生了崩溃,此时 redo log 里面的事务处于 prepare 状态,binlog 还没写(对应 2b),所以崩溃的时候,这个事务会回滚。

Why?

因为 binlog 还没有写入,之后从库进行同步的时候,无法执行这个操作,那如果我们主库上继续恢复这个操作的话显然就会导致主备不一致,所以在主库上需要回滚这个事务

并且,由于 binlog 还没写,所以也就不会传到备库,从而避免主备不一致的情况。

image

而如果数据库在写入 binlog 之后,redo log 状态修改为 commit 前发生崩溃,此时 redo log 里面的事务仍然是 prepare 状态,binlog 存在并完整(对应 2a),所以如果在这个时刻数据库崩溃了,该事务在崩溃恢复的时候会被正常提交。

Why?

因为 binlog 已经写入成功了,这样之后就会被从库同步过去,但是如果 redolog 没有这条记录的话,所以为了主备一致,在主库上崩溃恢复的时候需要提交这个事务。

image

所以,其实可以看出来,处于 prepare 阶段的 redo log 加上完整的 bin log,就能保证数据库的崩溃恢复了

可能有同学就会问了,MySQL 咋知道 bin log 是不是完整的?

简单来说,一个事务的 binlog 是有完整格式的:

  • statement 格式的 bin log,最后会有 COMMIT
  • row 格式的 bin log,最后会有 XID event

而对于 bin log 可能会在中间出错的情况,MySQL 5.6.2 版本以后引入了 binlog-checksum 参数,用来验证 bin log 内容的正确性。

思考一个问题,两阶段提交是必要的吗?可不可以先 redo log 写完,再写 bin log 或者反过来?

1)对于先写完 redo log 后写 bin log 的情况:

假设在 redo log 写完,bin log 还没有写完的时候,MySQL 崩溃。崩溃恢复的时候主库会根据 redolog 执行更新,但是这时候 binlog 里面并没有记录这个语句。因此,从库同步的时候,就会丢失这个更新,和主库不一致。

image

2)对于先写完 binlog 后写 redo log 的情况:

如果在 bin log 写完,redo log 还没写的时候,MySQL 崩溃。因为 binlog 已经写入成功了,这样之后就会被从库同步过去,但是实际上 redo log 还没写,崩溃恢复的时候主库并不会执行这个事务,所以从库相比主库就会多执行一个事务,导致主备不一致

image

⭐ 所以,总结来说,不论 MySQL 什么时刻发生崩溃,最终是 commit 还是 rollback 完全取决于 MySQL 能不能判断出 binlog 和 redolog 在逻辑上是否达成了一致。只要逻辑上达成了一致就可以 commit,否则只能rollback。


最后放上这道题的背诵版:

🥸 面试官

  • 问法 1:如何解决 bin log 与 redo log 的一致性问题?
  • 问法 2:一条 SQL 更新语句是如何执行的?
  • 问法 3:讲一下 redo log / redo log 两阶段提交原理

😎 小牛肉

所谓两阶段提交,其实就是把 redo log 的写入拆分成了两个步骤:prepare 和 commit。

首先,存储引擎将执行更新好的新数据存到内存中,同时将这个更新操作记录到 redo log 里面,此时 redo log 处于 prepare 状态。然后告知执行器执行完成了,随时可以提交事务

然后执行器生成这个操作的 bin log,并把 bin log 写入磁盘

最后执行器调用存储引擎的提交事务接口,存储引擎把刚刚写入的 redo log 状态改成提交(commit)状态,更新完成

如果数据库在写入 redo log(prepare) 阶段之后、写入 binlog 之前,发生了崩溃:

此时 redo log 里面的事务处于 prepare 状态,binlog 还没写,之后从库进行同步的时候,无法执行这个事务,那如果我们主库上继续恢复执行这个事务的话显然就会导致主备不一致,所以崩溃恢复的时候在主库上需要回滚这个事务

而如果数据库在写入 binlog 之后,redolog 状态修改为 commit 前发生崩溃,此时 redolog 里面的事务仍然是 prepare 状态,binlog 存在并完整,这样之后就会被从库同步过去,所以为了主备一致,在主库上崩溃恢复的时候需要提交这个事务。

版权声明:本文内容由阿里云实名注册用户自发贡献,版权归原作者所有,阿里云开发者社区不拥有其著作权,亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容,填写侵权投诉表单进行举报,一经查实,本社区将立刻删除涉嫌侵权内容。

相关文章
Python分析捕食者和被捕食者模型 Lotka--Volterra方程 | 拟合求解a,b,c,d
捕食者和被捕食者模型(Predator-Prey Model),这是生态学中非常经典的一个模型。
189 0
学习javaScript必知必会(3)~数组(数组创建,for...in遍历,辅助函数,高级函数filter、map、reduce)
学习javaScript必知必会(3)~数组(数组创建,for...in遍历,辅助函数,高级函数filter、map、reduce)
21 0
Anaconda3-2020.11+PyCharm2020.3.5+PyQt5.15.x+Eric6-20.7的安装
Anaconda3-2020.11+PyCharm2020.3.5+PyQt5.15.x+Eric6-20.7的安装
31 0
Java入门 - 语言基础 - 20.Stream和File和IO
Java.io 包几乎包含了所有操作输入、输出需要的类。所有这些流类代表了输入源和输出目标。 Java.io 包中的流支持很多种格式,比如:基本类型、对象、本地化字符集等等。 一个流可以理解为一个数据的序列。输入流表示从一个源读取数据,输出流表示向一个目标写数据。 Java 为 I/O 提供了强大的而灵活的支持,使其更广泛地应用到文件传输和网络编程中。
246 0
git不分页一次性输出某一开发者过去若干天的代码改动记录
git不分页一次性输出某一开发者过去若干天的代码改动记录 git命令: git --no-pager log --word-diff --author="zhangphil" --since=8.days -p 输出开发者“zhangphil”过去8天的代码改动记录,不分页一次性输出全部改动。
1136 0
URL rewrite 3.2 jar 和 文档 pdf 下载
    url rewrite 的网站访问不了了。   要墙果去。     配置     <filter> <filter-name>UrlRewriteFilter</filter-name> <filter-class>org.tuckey.web.filters.urlrewrite
861 0
一起谈.NET技术,.NET中的异步编程- IO完成端口以及FileStream.BeginRead
  写这个系列原本的想法是讨论一下.NET中异步编程风格的变化,特别是F#中的异步工作流以及未来的.NET 5.0中的基于任务的异步编程模型。但经过三篇文章后很多人对IO异步背后实现的原理以及为什么这样能提高性能很感兴趣。
710 0
1
文章
0
问答
文章排行榜
最热
最新
相关电子书
更多
低代码开发师(初级)实战教程
立即下载
阿里巴巴DevOps 最佳实践手册
立即下载
冬季实战营第三期:MySQL数据库进阶实战
立即下载