redo日志文件格式(3)—mysql进阶(六十一)

本文涉及的产品
RDS MySQL Serverless 基础系列,0.5-2RCU 50GB
RDS MySQL Serverless 高可用系列,价值2615元额度,1个月
云数据库 RDS PostgreSQL,高可用系列 2核4GB
简介: redo日志文件格式(3)—mysql进阶(六十一)

前面我们说了修改一条数据总不能吧16kb的页全部持久化到磁盘上,于是有了redo日志,记录哪些修改的数据,redo日志也有自己的缓存区,并不是直接把数据记录到磁盘上,缓存区是innoDB_redo_buffer_size,默认是16mb,为了保证原子性,他会分为不同的组,当乐观插入的时候,只有一条数据需要插入,则type的第一个字节是1,代表只有一条插入,当悲观插入多条插入的时候,会有一个MLOG_MULTI_REC_END的日志,表示这组记录完毕,若系统宕机重启,解析redo日志时候,没有解析到这个,则前面解析的全部放弃。

redo log-Transaction(2)—mysql进阶(六十)

 

Redo日志刷盘时机


我们前面说了mtr运行过程中产生一些redo日志,在mtr结束的时候会复制到log buffer中,可也不能一直在内存中,什么时候刷新到磁盘呢。

Log buffer空间不足的时候:

Log buffer大小是有限的,如果一直塞进去肯定会被填满,innoDB大叔认为如果写入log buffer的redo填满占了大约一半的时候,就需要持久化到磁盘上。

事务提交时候:

我们之前说过使用redo日志主要占用空间小,还是顺序写入,在事务提交时候,可以不吧buffer pool修改的数据刷新到磁盘上,但为了保证持久性,必须把这些redo日志刷新到磁盘上。

后台有个线程:

后台有个线程,大约每秒都会刷新一次log buffer 到磁盘。

正常关闭服务器:

做所谓的checkpoint时,也会刷新到磁盘。

其他一些情况。。

 

Redo日志文件组


Mysql的数据目录,用show variables like ‘datadir’查看,可以看到两个ib_logfile0和ib_logfile1的文件,log buffer中的日志默认就是刷新到磁盘上的这两个文件中。如果想修改redo文件,可以通过几个启动参调节:

Innodb_log_group_home_dir:该参数指定redo文件所在目录,默认就是在当前数据目录。

Innodb_log_file_Size:指定每个redo日志文件大小,在mysql5.7.21这个版本默认值是48M。

innoDB_log_files_in_group:该参数指定redo日志文件个数,默认是2,最大为100。

所以从上可以看到,磁盘的redo日志文件不只一个,而是以日志文件组的形式出现。当redo日志刷新到磁盘时候,先刷新到ib_logfile0然后就是1,2,如果满了,就继续循环从0开始记录。

所以总的redo日志大小就是innodb_log_file_size * innodb_log_file_in_group

 

Redo日志文件格式


我们前面说过log buffer本质是个连续空间,划分若干个512字节的block。将log buffer中的redo日志刷新到磁盘本质就是把block刷新到磁盘,所以磁盘上的redo日志文件也是由各种512字节的block组成。

Redo日志文件组每个文件大小一样,格式一样,由两个部分组成:

前2048个字节,也就是前4个block存一些管理信息。

从2048个字节之后开始,开始存log buffer 的block镜像。

所以前面说循环存储redo日志是从2048个字节开始算。

前面我们说过普通的block组要就是三个部分,log block header,log block body,log block trailder三个部分。下面介绍下4个存储管理信息的block。

1、Log file header:描述redo日志文件的整体信息。

这里面包含着五个参数:

A、log_header_format:4个字节,redo日志版本,在mysql5.7.21中永远为1.

B、Log_header_pad1:4个字节,做字节填充中。

C、Log_header_start_lsn:8个字节,标记redo日志文件开始的LSN值,也就是文件偏移量的2048个字节对应的LSN值。

D、Log_header_cheator:32个字节,一个字符串,标记redo日志创建者是谁。正常运行时该值是mysql版本号,比如MySql5.7.21,使用mysqlbackup命令创建redo日志文件的该值为“ibbackup”和创建时间。

E、Log_block_checksum:4个字节,block的效验值。

注意,mysql对block格式经常修改,如果阅读其他书籍发现不一样,可能因为版本不同。

2、checkpoint1:记录关于checkpoint的一些属性:

这里面也包含五个参数:

A、log_checkpoint_no:8个字节,服务器做checkpoint的编号,每次有新的就加1.

B、Log_checkpoint_lsn:8个字节,服务器做checkpont结束时对应的LSN值,系统崩溃从这个值开始。

C、Log_checkpoint_offset:8个字节,上个属性的LSN值在redo日志偏移量。

D、Log_checkpoint_log_buffer_size:8个字节,服务器在做checkpoint操作时对应的log buffer大小。

E、Log_block_checksum:4个字节,block的效验值。

第三个参数未使用,忽略。

第三个参数checkpoint2和上面的checkpoint1一样。


相关实践学习
如何快速连接云数据库RDS MySQL
本场景介绍如何通过阿里云数据管理服务DMS快速连接云数据库RDS MySQL,然后进行数据表的CRUD操作。
全面了解阿里云能为你做什么
阿里云在全球各地部署高效节能的绿色数据中心,利用清洁计算为万物互联的新世界提供源源不断的能源动力,目前开服的区域包括中国(华北、华东、华南、香港)、新加坡、美国(美东、美西)、欧洲、中东、澳大利亚、日本。目前阿里云的产品涵盖弹性计算、数据库、存储与CDN、分析与搜索、云通信、网络、管理与监控、应用服务、互联网中间件、移动服务、视频服务等。通过本课程,来了解阿里云能够为你的业务带来哪些帮助     相关的阿里云产品:云服务器ECS 云服务器 ECS(Elastic Compute Service)是一种弹性可伸缩的计算服务,助您降低 IT 成本,提升运维效率,使您更专注于核心业务创新。产品详情: https://www.aliyun.com/product/ecs
目录
打赏
0
0
0
0
121
分享
相关文章
MySQL日志分析:binlog、redolog、undolog三大日志的深度探讨。
数据库管理其实和写小说一样,需要规划,需要修订,也需要有能力回滚。理解这些日志的作用与优化,就像把握写作工具的使用与运用,为我们的数据库保驾护航。
120 23
MySQL Binlog 日志查看方法及查看内容解析
本文介绍了 MySQL 的 Binlog(二进制日志)功能及其使用方法。Binlog 记录了数据库的所有数据变更操作,如 INSERT、UPDATE 和 DELETE,对数据恢复、主从复制和审计至关重要。文章详细说明了如何开启 Binlog 功能、查看当前日志文件及内容,并解析了常见的事件类型,包括 Format_desc、Query、Table_map、Write_rows、Update_rows 和 Delete_rows 等,帮助用户掌握数据库变化历史,提升维护和排障能力。
简单聊聊MySQL的三大日志(Redo Log、Binlog和Undo Log)各有什么区别
在MySQL数据库管理中,理解Redo Log(重做日志)、Binlog(二进制日志)和Undo Log(回滚日志)至关重要。Redo Log确保数据持久性和崩溃恢复;Binlog用于主从复制和数据恢复,记录逻辑操作;Undo Log支持事务的原子性和隔离性,实现回滚与MVCC。三者协同工作,保障事务ACID特性。文章还详细解析了日志写入流程及可能的异常情况,帮助深入理解数据库日志机制。
400 0
mysql的undo log、redo log、bin log、buffer pool
MySQL的undo log、redo log、bin log和buffer pool是确保数据库高效、安全和可靠运行的关键组件。理解这些组件的工作原理和作用,对于优化数据库性能和保障数据安全具有重要意义。通过适当的配置和优化,可以显著提升MySQL的运行效率和数据可靠性。
79 4
mysql的undo log、redo log、bin log、buffer pool
MySQL的undo log、redo log、bin log和buffer pool是确保数据库高效、安全和可靠运行的关键组件。理解这些组件的工作原理和作用,对于优化数据库性能和保障数据安全具有重要意义。通过适当的配置和优化,可以显著提升MySQL的运行效率和数据可靠性。
105 16
ELK实现nginx、mysql、http的日志可视化实验
通过本文的步骤,你可以成功配置ELK(Elasticsearch, Logstash, Kibana)来实现nginx、mysql和http日志的可视化。通过Kibana,你可以直观地查看和分析日志数据,从而更好地监控和管理系统。希望这些步骤能帮助你在实际项目中有效地利用ELK来处理日志数据。
390 90
什么是Apache日志?为什么Apache日志分析很重要?
Apache是全球广泛使用的Web服务器软件,支持超过30%的活跃网站。它通过接收和处理HTTP请求,与后端服务器通信,返回响应并记录日志,确保网页请求的快速准确处理。Apache日志分为访问日志和错误日志,对提升用户体验、保障安全及优化性能至关重要。EventLog Analyzer等工具可有效管理和分析这些日志,增强Web服务的安全性和可靠性。
206 9
【日志框架整合】Slf4j、Log4j、Log4j2、Logback配置模板
本文介绍了Java日志框架的基本概念和使用方法,重点讨论了SLF4J、Log4j、Logback和Log4j2之间的关系及其性能对比。SLF4J作为一个日志抽象层,允许开发者使用统一的日志接口,而Log4j、Logback和Log4j2则是具体的日志实现框架。Log4j2在性能上优于Logback,推荐在新项目中使用。文章还详细说明了如何在Spring Boot项目中配置Log4j2和Logback,以及如何使用Lombok简化日志记录。最后,提供了一些日志配置的最佳实践,包括滚动日志、统一日志格式和提高日志性能的方法。
2490 31
【日志框架整合】Slf4j、Log4j、Log4j2、Logback配置模板
|
9月前
|
Logback 与 log4j2 性能对比:谁才是日志框架的性能王者?
【10月更文挑战第5天】在Java开发中,日志框架是不可或缺的工具,它们帮助我们记录系统运行时的信息、警告和错误,对于开发人员来说至关重要。在众多日志框架中,Logback和log4j2以其卓越的性能和丰富的功能脱颖而出,成为开发者们的首选。本文将深入探讨Logback与log4j2在性能方面的对比,通过详细的分析和实例,帮助大家理解两者之间的性能差异,以便在实际项目中做出更明智的选择。
862 3
Tomcat log日志解析
理解和解析Tomcat日志文件对于诊断和解决Web应用中的问题至关重要。通过分析 `catalina.out`、`localhost.log`、`localhost_access_log.*.txt`、`manager.log`和 `host-manager.log`等日志文件,可以快速定位和解决问题,确保Tomcat服务器的稳定运行。掌握这些日志解析技巧,可以显著提高运维和开发效率。
273 13

推荐镜像

更多
AI助理

你好,我是AI助理

可以解答问题、推荐解决方案等

登录插画

登录以查看您的控制台资源

管理云资源
状态一览
快捷访问