学习笔记-Redis设计与实现-RDB持久化

本文涉及的产品
Redis 开源版,标准版 2GB
推荐场景:
搭建游戏排行榜
云数据库 Tair(兼容Redis),内存型 2GB
简介:

10.1 RDB文件的创建和载入

 

SAVE命令会阻塞Redis服务器进程,直到RDB文件创建完毕为止,在服务器进程阻塞期间,服务器不能处理任何命令请求。

 

BGSAVE命令会派生出一个子进程,然后由子进程负责创建RDB文件,服务器进程继续处理命令请求。

 

RDB文件的载入工作是在服务器启动时自动执行的,Redis并没有专门用于载入RDB文件的命令,只要Redis服务器在启动时检测到RDB文件存在,就会自动载入RDB文件。

 

因为AOF文件的更新频率通常比RDB文件的更新频率高,所以:

  • 如果服务器开启了AOF持久化功能,那么服务器会优先使用AOF文件来还原数据库状态。

  • 只有在AOF持久化功能处于关闭状态时,服务器才会使用RDB文件来还原数据库状态。


10.1.1SAVE命令执行时的服务器状态

 

SAVE命令执行时,Redis服务器会被阻塞,当SAVE命令正在执行时,客户端发送的所有命令请求都会被拒绝。

只有在服务器执行完SAVE命令、重新开始接受命令请求之后,客户端发送的命令才会被处理。

 

10.1.2BGSAVE命令执行时的服务器状态

 

因为BGSAVE命令的保存工作是由子进程执行的,所以在子进程创建RDB文件的过程中,Redis服务器仍然可以继续处理客户端的命令请求,但是,在BGSAVE命令执行期间,服务器处理SAVEBGSAVEBGREWITEAOF三个命令的方式会和平时有所不同。

  • BGSAVE命令执行期间,客户端发送的SAVE命令会被服务器拒绝,服务器禁止SAVE命令和BGSAVE命令同时执行是为了避免父进程和子进程同时执行两个rdbSave调用,防止产生竞争条件。

  • BGSAVE命令执行期间,客户端发送的BGSAVE命令会被服务器拒绝,因为同时执行两个BGSAVE命令也会产生竞争条件。

  • BGREWRITEAOFBGSAVE另个命令不能同时执行:

  • 如果BGSAVE命令正在执行,客户端发送的BGREWRITEAOF命令会被延迟到BGSAVE命令执行完毕之后执行。

  • BGREWRITEAOF命令正在执行,客户端发送的BGSAVE命令会被服务器拒绝。


BGREWRITEAOFBGSAVE都由子进程执行,都同时执行大量的磁盘写操作,对性能有影响。

 

10.1.3 RDB文件载入时的服务器状态

 

服务器在载入RDB文件期间,会一直处于阻塞状态,直到载入工作完成为止。

 

10.2 自动间隔性保存

 

因为BGSAVE命令可以在不阻塞服务器进程的情况下执行,所以Redis允许用户通过设置服务器配置的save选项,让服务器每隔一段时间自动执行一次BGSAVE命令。

 

用户可以通过save选项设置多个保存条件,但只要其中任意一个条件被满足,服务器就会执行BGSAVE命令。

 

当Redis服务器启动时,用户可以通过指定配置文件或者传入启动参数的方式设置save选项,如果用户没有主动设置save选项,那么服务器会为save选项设置默认条件。

 

10.2.2 dirty计数器和lastsave属性


出了saveparams数组外,服务器状态还维持着一个dirty计数器,以及一个lastsave属性:

  • dirty计数器记录距离上一次成功执行SAVE命令或者BGSAVE命令之后,服务器对数据库状态(服务器中的所有数据库)进行了多少次修改。

  • lastsave属性时一个UNIX时间戳,记录了服务器上一次成功执行SAVE命令或者BGSAVE命令的时间。


10.2.3 检查保存条件是否满足

 

Redis的服务器周期性操作函数serverCron默认每隔100毫秒就会执行一次,该函数用于对正在运行的服务器进行维护,它的其中一项工作就是检查save选项所设置的保存条件是否已经满足,如果满足的话,就执行BGSAVE命令。

 

10.3 RDB文件结构


wKioL1imY0XQIl4uAADV27WuggU651.png

RDB文件的最开头是REDIS部分,这个部分的长度为5字节,保存着REDIS五个字符。通过这五个字符,程序可以在载入文件时,快速检查所载入的文件是否RDB文件。

 

db_version长度为4字节,它的值时一个字符串表示的整数,这个整数记录了RDB文件的版本号。

 

 database部分包含着零个或任意多个数据库,以及各个数据库中的键值对数据:

  • 如果服务器的数据库状态为空(所有数据库都是空的),那个这个部分也为空,长度为0字节。

  • 如果服务器的数据库状态为非空,那么这个部分也为非空。


EOF常量的长度为1字节,这个常量标志着RDB文件正文内容的结束。

 

check_sum是一个8字节的无符号整数,保存着一个校验和,这个校验和是程序通过REDISdb_versiondatabasesEOF四个部分的内容进行计算得出的。服务器在载入RDB文件时,会将载入数据所计算出的校验和与check_sum所记录的校验和进行对比,以此来检查RDB文件是否有出错或者损坏的情况出现。


10.3.1 databases部分

 

每个非空数据库在RDB文件中都可以保存为SELECTDBdb_numberkey_value_pairs三个部分。

wKiom1imY4fwnbM9AADsLDFHqiw789.png


SELECTDB常量的长度为1字节,当读入程序遇到这个值的时候,它直到接下来要读入的将是一个数据库号码。

 

Db_number保存着一个数据库号码,根据号码的大小不同,这个部分的长度可以是1字节、2字节或者5字节。当程序读入db_number部分之后,服务器会调用SELECT命令,根据读入的数据库号码进行数据库切换,使得之后读入的键值对可以载入到正确的数据库中。

 

Key_value_pairs部分保存了数据库中的所有键值对数据,如果键值对带有过期时间,那么过期时间也会和键值对保存在一起。


10.3.2 key_value_pairs部分

 

不带过期时间的键值对在RDB文件中由TYPEkeyvalue三部分组成。


wKioL1imY7LCuW0EAADsLC13Nds712.png


TYPE记录了value的类型,长度为1字节:

  • REDIS_RDB_TYPE_STRING

  • REDIS_RDB_TYPE_LIST

  • REDIS_RDB_TYPE_SET

  • REDIS_RDB_TYPE_ZSET

  • REDIS_RDB_TYPE_HASH

  • REDIS_RDB_TYPE_LIST_ZIPLIST

  • REDIS_RDB_TYPE_SET_INTSET

  • REDIS_RDB_TYPE_ZSET_ZIPLIST

  • REDIS_RDB_TYPE_HASH_ZIPLIST

 

带过期时间的键值对在RDB文件中的结构

wKiom1imY9mwh80rAADsLJzy1zw794.png


  • EXPIRETIME_MS常量的长度为1字节,它告知读入程序,接下来要读入的将是一个以毫秒为单位的过期时间。

  • ms是一个8字节长的带符号整数,记录着一个以毫秒为单位的UNIX时间戳。

10.3.3 value的编码

 

1、字符串对象

2、列表对象

3、集合对象

4、哈希表对象

5、有序集合对象

6、INTSET编码的集合

7、ZIPLIST编码的列表、哈希表或者有序集合

 

10.4 分析RDB文件

 

10.4.1 不包含任何键值对的RDB文件


当一个RDB文件没有包含任何数据库数据时,这个RDB文件将由以下四个部分组成:

  • 五个字节的“REDIS”字符串。

  • 四个字节的版本号(db_version)

  • 一个字节的EOF常量。

  • 八个字节的校验和(check_sum)


10.4.2 包含字符串键的RDB文件

 

10.4.3 包含带有过期时间的字符串键的RDB文件

 

10.4.4 包含一个集合键的RDB文件

 

10.4.5 关于分析RDB文件的说明

  • RDB文件用于保存和还原Redis服务器所有数据库中的所有键值对数据。

  • SAVE命令由服务器进程直接执行保存操作,所以该命令会阻塞服务器。

  • BGSAVE命令由子进程执行保存操作,所以该命令不会阻塞服务器。

  • 服务器状态中会保存所有用save选项设置的保存条件,当任意一个保存条件被满足时,服务器会执行BGSAVE命令。

  • RDB文件时一个经过压缩的二进制文件,由多个部分组成。

  • 对于不同类型的键值对,RDB文件会使用不同的方式来保存它们。


本文转自 许大树 51CTO博客,原文链接:http://blog.51cto.com/abelxu/1898707,如需转载请自行联系原作者
相关实践学习
基于Redis实现在线游戏积分排行榜
本场景将介绍如何基于Redis数据库实现在线游戏中的游戏玩家积分排行榜功能。
相关文章
|
7月前
|
存储 NoSQL 安全
Redis的两种持久化方式---RDB、AOF
通过本文的介绍,我们详细讲解了Redis的两种主要持久化方式:RDB和AOF。每种方式都有其独特的优缺点和适用场景。在实际应用中,可以根据具体需求选择合适的持久化方式,或者同时启用RDB和AOF,以达到最佳效果。希望本文能帮助您更好地理解和应用Redis的持久化机制,构建高效、可靠的数据存储解决方案。
554 79
|
6月前
|
NoSQL Redis
Redis的数据持久化策略有哪些 ?
Redis 提供了两种方式,实现数据的持久化到硬盘。 1. RDB 持久化(全量),是指在指定的时间间隔内将内存中的数据集快照写入磁盘。 2. AOF持久化(增量),以日志的形式记录服务器所处理的每一个写、删除操作 RDB和AOF一起使用, 在Redis4.0版本支持混合持久化方式 ( 设置 aof-use-rdb-preamble yes )
|
9月前
|
存储 NoSQL Redis
Redis 持久化揭秘:选择 RDB、AOF 还是混合持久化?
Redis 是一个内存数据库,意味着它主要将数据存储在内存中,从而能够提供极高的性能。然而,作为内存数据库,Redis 默认情况下的数据不会永久保存。为了确保数据在重启或故障后能够恢复,Redis 提供了几种 **持久化机制**。这些机制允许 Redis 将内存中的数据保存到硬盘上,从而实现数据持久化。
505 22
Redis 持久化揭秘:选择 RDB、AOF 还是混合持久化?
|
9月前
|
NoSQL 安全 Redis
redis持久化策略
Redis 提供了两种主要的持久化策略:RDB(Redis DataBase)和AOF(Append Only File)。RDB通过定期快照将内存数据保存为二进制文件,适用于快速备份与恢复,但可能因定期保存导致数据丢失。AOF则通过记录所有写操作来确保数据安全性,适合频繁写入场景,但文件较大且恢复速度较慢。两者结合使用可增强数据持久性和恢复能力,同时Redis还支持复制功能提升数据可用性和容错性。
179 5
|
10月前
|
缓存 NoSQL PHP
Redis作为PHP缓存解决方案的优势、实现方式及注意事项。Redis凭借其高性能、丰富的数据结构、数据持久化和分布式支持等特点,在提升应用响应速度和处理能力方面表现突出
本文深入探讨了Redis作为PHP缓存解决方案的优势、实现方式及注意事项。Redis凭借其高性能、丰富的数据结构、数据持久化和分布式支持等特点,在提升应用响应速度和处理能力方面表现突出。文章还介绍了Redis在页面缓存、数据缓存和会话缓存等应用场景中的使用,并强调了缓存数据一致性、过期时间设置、容量控制和安全问题的重要性。
183 5
|
11月前
|
NoSQL 数据可视化 Linux
redis学习四、可视化操作工具链接 centos redis,付费Redis Desktop Manager和免费Another Redis DeskTop Manager下载、安装
本文介绍了Redis的两个可视化管理工具:付费的Redis Desktop Manager和免费的Another Redis DeskTop Manager,包括它们的下载、安装和使用方法,以及在使用Another Redis DeskTop Manager连接Redis时可能遇到的问题和解决方案。
1187 1
redis学习四、可视化操作工具链接 centos redis,付费Redis Desktop Manager和免费Another Redis DeskTop Manager下载、安装
|
11月前
|
存储 缓存 NoSQL
大数据-45 Redis 持久化概念 RDB AOF机制 持久化原因和对比
大数据-45 Redis 持久化概念 RDB AOF机制 持久化原因和对比
159 2
大数据-45 Redis 持久化概念 RDB AOF机制 持久化原因和对比
|
10月前
|
监控 NoSQL 测试技术
【赵渝强老师】Redis的AOF数据持久化
Redis 是内存数据库,提供数据持久化功能,支持 RDB 和 AOF 两种方式。AOF 以日志形式记录每个写操作,支持定期重写以压缩文件。默认情况下,AOF 功能关闭,需在 `redis.conf` 中启用。通过 `info` 命令可监控 AOF 状态。AOF 重写功能可有效控制文件大小,避免性能下降。
222 6
|
10月前
|
存储 监控 NoSQL
【赵渝强老师】Redis的RDB数据持久化
Redis 是内存数据库,提供数据持久化功能以防止服务器进程退出导致数据丢失。Redis 支持 RDB 和 AOF 两种持久化方式,其中 RDB 是默认的持久化方式。RDB 通过在指定时间间隔内将内存中的数据快照写入磁盘,确保数据的安全性和恢复能力。RDB 持久化机制包括创建子进程、将数据写入临时文件并替换旧文件等步骤。优点包括适合大规模数据恢复和低数据完整性要求的场景,但也有数据完整性和一致性较低及备份时占用内存的缺点。
362 6
|
11月前
|
NoSQL Linux Redis
Docker学习二(Centos):Docker安装并运行redis(成功运行)
这篇文章介绍了在CentOS系统上使用Docker安装并运行Redis数据库的详细步骤,包括拉取Redis镜像、创建挂载目录、下载配置文件、修改配置以及使用Docker命令运行Redis容器,并检查运行状态和使用Navicat连接Redis。
1275 3