Redo日志 (5)—mysql进阶(六十三)

本文涉及的产品
RDS MySQL Serverless 基础系列,0.5-2RCU 50GB
云数据库 RDS MySQL,集群系列 2核4GB
推荐场景:
搭建个人博客
日志服务 SLS,月写入数据量 50GB 1个月
简介: Redo日志 (5)—mysql进阶(六十三)

前面说了lsn值就是log sequence number代表记录redo日志存了多少字节,默认值是8000多,算偏移量直接减一下就好,还有flush_to_disk的lsn值,这个值之前的数据代表都已经持久化,这个持久化代表redo日志持久化,但是对应的buffer pool数据还不能覆盖,这时候又checkpoint lsn值,这个值之前的数据都代表已经持久化完毕,是可以覆盖的。因为redo日志存储有限,存满之后,又会从第一个文件循环存储。可以用show engine innoDB status查看。

Redo日志 (4)—log sequence number(六十二)


innoDB_flush_log_at_trx_commit的用法


我们前面说过为了保证持久性,每次事务提交都会吧redo日志从buffer pool刷新到磁盘,但这样很明显会降低性能,我们可以选择修改innoDB_flush_log_at_trx_commit来自己设计:

0:当设置为0的时候,表示事务提交时候不会吧redo日志刷新到磁盘,只会在后台自己刷,这样就可能会导致,事务提交后,服务器挂了,后台线程没有及时刷新到磁盘,则就数据丢失。

1:当设置为1的时候,表示事务提交的时候需要刷新到磁盘,这也是系统默认的。

2:当设置为2的时候,表示事务提交需要将redo日志刷新到buffer pool缓冲区,这时候数据库挂了,操作系统没挂的话,事务持久性可以保证,但如果操作系统页挂了,则不能保证。


崩溃恢复


我们先要确定恢复的起点,我们前面说过checkpoint_lsn前面的数据都是刷新到磁盘的,所以之前的数据就没必要恢复了,所以起点就是从checkpont_lsn值开始。

当redo日志文件组第一个文件管理信息有两个block存了checkpoint_lsn信息,我们当然要选取最近发生的依次checkpoint信息。衡量checkpoint发生早晚主要通过checkpont_no,我们只要吧checkpoint1和checkpoint2 的checkpoint_no拿出来比较,谁的更大,说明是最近checkpoint。这样我们就能拿到对应的checkpoint_lsn和checkpoint_offset。


确定恢复的终点


前面我们说了block是循环使用的,log block header里有一个参数,log_block_hdr_data_len,当存满的时候,显示512字节,当有一个block不是512,就代表当前 block是恢复的终点。


怎么恢复


理论上我们只要在checkpoint_lsn值后面,按照日志记载的挨个进行恢复就行,但innoDB有更好的恢复办法。

使用哈希表:

根据redo日志的space id和page number计算出散列值,吧space id和page number相同的redo日志放入hash槽,如果有多个相同的,则把他们之间使用链表连接起来,按照先后顺序。

这样的好处是,一次性可以将一个页面恢复好,避免对同一个页面多次I/O,需要注意的时候,是严格按照时间顺序的,比如如果记录的是先删除,再增加,则就按这个时间顺序,不能先增加后删除。


跳过已经刷新到磁盘的页面


Checkpoint之前的值已经刷新到磁盘,但是checkpoint之后的值呢,因为后台线程在不断刷新flush链表和lru链表到磁盘。如果被刷新了,则没必要恢复。

那么怎么判断是否已经刷新过呢?我们前面说过每个页面都有一个file header,这里面有个file_page_lsn的属性,该属性记录了最后一次修改lsn的值(就是页面控制块newest_modification)。如果在checkpoint之后,又有数据被刷新到磁盘,那么file_page_lsn的值肯定大于checkpoint_lsn的值,那么满足这个条件的,都不需要恢复,又提升了速度。


Log_block_hdr_no


Log_block_hdr_no第一个比特位比较特殊,称为flush bit如果是1,代表本block是第一个被刷入到磁盘的block。

该值也在log_block_header中,代表唯一的标号,初次使用block分配的,计算该值的公式:

((lsn/512) & 0x 3FFFFFFFUL) + 1

后面的0x3FFFFFFFUL就是表示二进制。

相关实践学习
日志服务之使用Nginx模式采集日志
本文介绍如何通过日志服务控制台创建Nginx模式的Logtail配置快速采集Nginx日志并进行多维度分析。
相关文章
|
2天前
|
SQL 存储 关系型数据库
Mysql并发控制和日志
通过深入理解和应用 MySQL 的并发控制和日志管理技术,您可以显著提升数据库系统的效率和稳定性。
21 10
|
1月前
|
存储 Oracle 关系型数据库
【赵渝强老师】MySQL InnoDB的数据文件与重做日志文件
本文介绍了MySQL InnoDB存储引擎中的数据文件和重做日志文件。数据文件包括`.ibd`和`ibdata`文件,用于存放InnoDB数据和索引。重做日志文件(redo log)确保数据的可靠性和事务的持久性,其大小和路径可由相关参数配置。文章还提供了视频讲解和示例代码。
141 11
【赵渝强老师】MySQL InnoDB的数据文件与重做日志文件
|
14天前
|
SQL 存储 缓存
MySQL进阶突击系列(02)一条更新SQL执行过程 | 讲透undoLog、redoLog、binLog日志三宝
本文详细介绍了MySQL中update SQL执行过程涉及的undoLog、redoLog和binLog三种日志的作用及其工作原理,包括它们如何确保数据的一致性和完整性,以及在事务提交过程中各自的角色。同时,文章还探讨了这些日志在故障恢复中的重要性,强调了合理配置相关参数对于提高系统稳定性的必要性。
|
29天前
|
SQL 关系型数据库 MySQL
【赵渝强老师】MySQL的全量日志文件
MySQL全量日志记录所有操作的SQL语句,默认禁用。启用后,可通过`show variables like %general_log%检查状态,使用`set global general_log=ON`临时开启,执行查询并查看日志文件以追踪SQL执行详情。
|
1月前
|
关系型数据库 MySQL 数据库
【赵渝强老师】MySQL的binlog日志文件
MySQL的binlog日志记录了所有对数据库的更改操作(不包括SELECT和SHOW),主要用于主从复制和数据恢复。binlog有三种模式,可通过设置binlog_format参数选择。示例展示了如何启用binlog、设置格式、查看日志文件及记录的信息。
|
1月前
|
SQL 关系型数据库 MySQL
【赵渝强老师】MySQL的慢查询日志
MySQL的慢查询日志用于记录执行时间超过设定阈值的SQL语句,帮助数据库管理员识别并优化性能问题。通过`mysqldumpslow`工具可查看日志。本文介绍了如何检查、启用及配置慢查询日志,并通过实例演示了慢查询的记录与分析过程。
115 3
|
1月前
|
存储 Oracle 关系型数据库
【赵渝强老师】MySQL的撤销日志文件和错误日志文件
本文介绍了MySQL的物理存储结构,重点讲解了InnoDB存储引擎中的撤销日志文件(undo log)和错误日志文件。从MySQL 8.0开始,默认生成两个10MB的undo表空间文件,并支持动态扩容和收缩。错误日志文件记录了MySQL启动、运行、关闭过程中的问题,通过示例展示了如何查看和使用这些日志。
|
1月前
|
XML 安全 Java
【日志框架整合】Slf4j、Log4j、Log4j2、Logback配置模板
本文介绍了Java日志框架的基本概念和使用方法,重点讨论了SLF4J、Log4j、Logback和Log4j2之间的关系及其性能对比。SLF4J作为一个日志抽象层,允许开发者使用统一的日志接口,而Log4j、Logback和Log4j2则是具体的日志实现框架。Log4j2在性能上优于Logback,推荐在新项目中使用。文章还详细说明了如何在Spring Boot项目中配置Log4j2和Logback,以及如何使用Lombok简化日志记录。最后,提供了一些日志配置的最佳实践,包括滚动日志、统一日志格式和提高日志性能的方法。
279 30
【日志框架整合】Slf4j、Log4j、Log4j2、Logback配置模板
|
8天前
|
监控 安全 Apache
什么是Apache日志?为什么Apache日志分析很重要?
Apache是全球广泛使用的Web服务器软件,支持超过30%的活跃网站。它通过接收和处理HTTP请求,与后端服务器通信,返回响应并记录日志,确保网页请求的快速准确处理。Apache日志分为访问日志和错误日志,对提升用户体验、保障安全及优化性能至关重要。EventLog Analyzer等工具可有效管理和分析这些日志,增强Web服务的安全性和可靠性。
|
2月前
|
XML JSON Java
Logback 与 log4j2 性能对比:谁才是日志框架的性能王者?
【10月更文挑战第5天】在Java开发中,日志框架是不可或缺的工具,它们帮助我们记录系统运行时的信息、警告和错误,对于开发人员来说至关重要。在众多日志框架中,Logback和log4j2以其卓越的性能和丰富的功能脱颖而出,成为开发者们的首选。本文将深入探讨Logback与log4j2在性能方面的对比,通过详细的分析和实例,帮助大家理解两者之间的性能差异,以便在实际项目中做出更明智的选择。
313 3
下一篇
DataWorks