Mysql数据库redo log及binlog的写入

本文涉及的产品
RDS MySQL Serverless 基础系列,0.5-2RCU 50GB
云数据库 RDS MySQL,集群系列 2核4GB
推荐场景:
搭建个人博客
日志服务 SLS,月写入数据量 50GB 1个月
简介: Mysql数据库redo log及binlog的写入

Mysql整理记录Day4

通过前几篇文章的学习,我们知道Mysql主要是依靠 redo log 和 binlog 这两个日志来保证数据不丢失的。

redolog 和 binlog 的写入流程是怎样的?今天我们就来聊聊这个话题

binlog的写入机制

其实,binlog的写入逻辑比较简单,事务执行的过程中,先把日志写到binlog cache,事务提交的时候再写到binlog文件。注意,一个事务的binlog是不能被拆开的,因此不管这个事务有多大,都需要保证一次性写入,这就涉及到binlog cache的保存问题。

在了解binlog的写入机制之前,我们需要有这么几个概念

  1. 系统给binlog cache分配了一段内存,每个线程有自己的 binlog cache,但是共用一份binlog文件, binlog_cache_size 参数用来控制每个线程中binlog cache的大小,如果超过了 这个参数,就需要暂存到磁盘。
  2. 下图中的write,指的是将binlogcache的日志写入到文件系统的pagecache中,并没有持久化到磁盘,所以速度比较快。(补充:page cache是文件系统中的概念,是文件系统向内核申请的一段内存。后面说到的mysql异常重启,不会影响page cache保存的数据。只有当操作系统断电或者异常重启时,page cache的内容才会丢失。)
  3. 下图中的fsync,才是将数据持久化到磁盘,一般情况下,我们认为只有fsync才占磁盘的IOPS。

write和fsync的时机是由参数sync_binlog控制的:

  • sync_binlog = 0时,表示每次提交事务,直接write,不fsync;
  • sync_binlog = 1时,表示每次提交事务,都会执行fsync;
  • sync_binlog = N(N>1)时,表示每次提交事务都write,在累积到N个事务的时候,调用fsync。

因此,在IO瓶颈的场景里,将sync_binlog设置为一个比较大的值,可以提升性能,降低 IOPS 消耗。但是,对应的风险就是,如果主机异常重启,会丢失这N个事务的binlog。实际业务中,考虑到丢失日志的可控性,一般设置为100~1000。

redo log的写入机制

事务执行过程中,redo log是先写到redo log buffer的。redo log buffer是Mysql进程向系统申请的一段内存。所有的线程共用这段内存空间。

InnoDB 提供了参数 innodb_flush_log_at_trx_commit 来控制 redo log 的写入策略:

  1. 设置为0,表示每次事务提交都只是把 redo log 保留在 redo log buffer 中;
  2. 设置为1,表示每次事务提交都将 redo log 持久化到磁盘;
  3. 设置为2,表示每次事务提交都只是把 redo log 调用 write 写到 page cache。

InnoDB 后台有一个线程,每隔1s,调用 write 写入到 page cache,再调用 fsync 持久化到磁盘。注意,事务执行过程中的 redo log 也是直接写在 redo log buffer 中的,这些 redo log 也会被后台线程一起持久化到磁盘。也就是说,一个没有提交事务的 redo log 也可能被持久化到磁盘。

以下两种场景也会让一个没有提交事务的redolog写入到磁盘:

第一种:redo log buffer 占用空间即将达到参数 innodb_log_buffer_size 的一半,后台线程主动写盘。(只是写到文件系统的 page cache);

第二种:并行事务提交的时候,顺带将另外一个没提交事务的redo log持久化到磁盘。

通常我们说的Mysql 的双“1”配置,指的是 sync_binlog 和 innodb_flush_log_at_trx_commit 都设置为1。也就是说,一个事务完整提交前,需要两次刷盘,一次是redo log(prepare阶段),一次是bin log。

假设你从Mysql看到的TPS是每秒2万的话,那么是不是每秒会有四万次刷盘?实际上不是,因为redo log的组提交机制,大大节约率磁盘的IOPS。

LSN(日志逻辑序列号),单调递增,对应一次次redo log的写入点,每次写入len长度的redolog,LSN就增加len。

笔记参考于极客时间《MySQL实战45讲》

相关实践学习
如何在云端创建MySQL数据库
开始实验后,系统会自动创建一台自建MySQL的 源数据库 ECS 实例和一台 目标数据库 RDS。
全面了解阿里云能为你做什么
阿里云在全球各地部署高效节能的绿色数据中心,利用清洁计算为万物互联的新世界提供源源不断的能源动力,目前开服的区域包括中国(华北、华东、华南、香港)、新加坡、美国(美东、美西)、欧洲、中东、澳大利亚、日本。目前阿里云的产品涵盖弹性计算、数据库、存储与CDN、分析与搜索、云通信、网络、管理与监控、应用服务、互联网中间件、移动服务、视频服务等。通过本课程,来了解阿里云能够为你的业务带来哪些帮助     相关的阿里云产品:云服务器ECS 云服务器 ECS(Elastic Compute Service)是一种弹性可伸缩的计算服务,助您降低 IT 成本,提升运维效率,使您更专注于核心业务创新。产品详情: https://www.aliyun.com/product/ecs
相关文章
|
12天前
|
存储 SQL 关系型数据库
mysql 的ReLog和BinLog区别
MySQL中的重做日志(Redo Log)和二进制日志(Binary Log)是两种重要的日志系统。重做日志主要用于保证事务的持久性和原子性,通过记录数据页的物理修改信息来恢复未提交的事务更改。二进制日志则记录了数据库的所有逻辑变化操作,用于数据的复制、恢复和审计。两者在写入时机、存储方式、配置参数和使用范围上有所不同,共同确保了数据库的稳定性和可靠性。
|
1月前
|
SQL 存储 关系型数据库
美团面试:binlog、redo log、undo log的底层原理是什么?它们分别实现ACID的哪个特性?
老架构师尼恩在其读者交流群中分享了关于 MySQL 中 redo log、undo log 和 binlog 的面试题及其答案。这些问题涵盖了事务的 ACID 特性、日志的一致性问题、SQL 语句的执行流程等。尼恩详细解释了这些日志的作用、所在架构层级、日志形式、缓存机制以及写文件方式等内容。他还提供了多个面试题的详细解答,帮助读者系统化地掌握这些知识点,提升面试表现。此外,尼恩还推荐了《尼恩Java面试宝典PDF》和其他技术圣经系列PDF,帮助读者进一步巩固知识,实现“offer自由”。
美团面试:binlog、redo log、undo log的底层原理是什么?它们分别实现ACID的哪个特性?
|
1月前
|
存储 缓存 关系型数据库
MySQL事务日志-Redo Log工作原理分析
事务的隔离性和原子性分别通过锁和事务日志实现,而持久性则依赖于事务日志中的`Redo Log`。在MySQL中,`Redo Log`确保已提交事务的数据能持久保存,即使系统崩溃也能通过重做日志恢复数据。其工作原理是记录数据在内存中的更改,待事务提交时写入磁盘。此外,`Redo Log`采用简单的物理日志格式和高效的顺序IO,确保快速提交。通过不同的落盘策略,可在性能和安全性之间做出权衡。
1630 14
|
1月前
|
存储 SQL 关系型数据库
面试官:你能聊聊 binlog、undo log、redo log 吗?
本文详细解析了MySQL数据库中的三种日志:binlog、undo log和redo log。binlog用于记录数据库的所有表结构变更及数据修改,支持归档、主从复制和数据恢复;undo log用于事务回滚,确保事务的原子性和实现多版本控制;redo log则用于crash-safe,确保数据库异常重启后已提交记录不丢失。文章通过实例和图表,深入浅出地介绍了每种日志的特点、应用场景及其实现机制。适合数据库开发者和运维人员阅读。
78 2
|
2月前
|
消息中间件 canal 关系型数据库
Maxwell:binlog 解析器,轻松同步 MySQL 数据
Maxwell:binlog 解析器,轻松同步 MySQL 数据
304 11
|
1月前
|
存储 关系型数据库 数据库
数据库启用慢速查询日志如何增强 Postgres 可观测性
数据库启用慢速查询日志如何增强 Postgres 可观测性
33 1
|
27天前
|
存储 关系型数据库 MySQL
MySQL中的Redo Log、Undo Log和Binlog:深入解析
【10月更文挑战第21天】在数据库管理系统中,日志是保障数据一致性和完整性的关键机制。MySQL作为一种广泛使用的关系型数据库管理系统,提供了多种日志类型来满足不同的需求。本文将详细介绍MySQL中的Redo Log、Undo Log和Binlog,从背景、业务场景、功能、底层实现原理、使用措施等方面进行详细分析,并通过Java代码示例展示如何与这些日志进行交互。
56 0
|
8天前
|
SQL 关系型数据库 MySQL
12 PHP配置数据库MySQL
路老师分享了PHP操作MySQL数据库的方法,包括安装并连接MySQL服务器、选择数据库、执行SQL语句(如插入、更新、删除和查询),以及将结果集返回到数组。通过具体示例代码,详细介绍了每一步的操作流程,帮助读者快速入门PHP与MySQL的交互。
23 1
|
10天前
|
SQL 关系型数据库 MySQL
go语言数据库中mysql驱动安装
【11月更文挑战第2天】
25 4
|
17天前
|
监控 关系型数据库 MySQL
数据库优化:MySQL索引策略与查询性能调优实战
【10月更文挑战第27天】本文深入探讨了MySQL的索引策略和查询性能调优技巧。通过介绍B-Tree索引、哈希索引和全文索引等不同类型,以及如何创建和维护索引,结合实战案例分析查询执行计划,帮助读者掌握提升查询性能的方法。定期优化索引和调整查询语句是提高数据库性能的关键。
84 1