【Redis】Redis AOF持久化

本文涉及的产品
云数据库 Tair(兼容Redis),内存型 2GB
Redis 开源版,标准版 2GB
推荐场景:
搭建游戏排行榜
简介: 【Redis】Redis AOF持久化

一、AOF概念

RDB存储的弊端

  • 存储数据量较大,效率较低——基于快照思想,每次读写都是全部数据,当数据量巨大时,效率非常低
  • 大数据量下的IO性能较低
  • 基于fork创建子进程,内存产生额外消耗
  • 宕机会带来数据丢失

AOF解决思路

  • 不记录数据,记录操作过程
  • 对所有操作均进行记录,排除丢失数据的风险

AOF(append only file)持久化:不记录数据,只是以独立日志的方式记录每次写命令,重启时再重新执行AOF文件中命令达到恢复数据的目的

AOF的主要作用是解决了数据持久化的实时性,目前已经是Redis持久化的主流方式(优先用AOF,再使用RDB)

image.png

二、AOF写数据三种策略

always:每次写入操作均同步到AOF文件中,数据零误差,性能较低,一般不建议使用

everysec:每秒将缓冲区中的指令同步到AOF文件中,数据准确性高,性能较高,再系统突然当即的情况下最多丢失1秒内的数据,一般建议使用,同时也是默认配置

no:由操作系统每次同步到AOF文件的周期,整体过程不可控

三、AOF功能配置

配置文件.conf中配置

是否开启APF持久化功能,默认为不开启


appendonly yes|no

配置AOF写策略


appendfsync always|everysec|no

修改AOF持久化文件名,默认文件名为appendonly.aof,建议配置为appendonly-端口号.aof


appendfilename filename

AOF持久化文件保存路径,与RDB持久化文件保持一致即可


dir

测试always写策略

image.png

后台启动后,配置的数据目录下出现appendonly.aof文件,此时文件大小还是0字节

image.png

由于我们配置的AOF存储方式是always,每次写指令AOF文件都会记录

我们启动客户端,执行2个写指令

image.png

然后我们查看AOF文件中的内容

image.png

测试everysec写策略

修改配置文件中的写策略

image.png

杀掉进程后重启redis服务器

image.png

启动客户端插入一些数据

image.png

查看appendonly.aof文件

image.png

四、AOF重写机制

如果连续执行以下指令,会造成AOF文件冗余,连续三次set同一个变量是没必要的,记住最后一次set即可;同理,连续三次incr也是没有必要的,直接求和set即可

image.png

随着命令不断写入AOF,文件会越来越大,为了解决这个问题,Redis引入了AOF重写机制压缩文件体积。AOF文件重写是将Redis进程内的数据转化为写命令同步到新AOF文件的过程,简单说就是将对同一个数据的若干个条命令执行结果转化成最终结果数据对应的指令进行记录

AOF重写作用

  • 降低磁盘占用量,提高磁盘利用率
  • 提高持久化效率,降低持久化写时间,提高IO性能
  • 降低数据恢复所需时长,提高数据恢复效率

AOF重写规则

  • 进程内已超时的数据不再写入文件,即不写无效数据
  • 忽略无效指令,重写时使用进程内数据直接生成,这样新的AOF文件只保留最终数据的写入命令如del key1、 hdel key2、srem key3、set key4 111、set key4 222等
  • 对同一数据的多条写命令合并为一条命令:如lpush list1 a、lpush list1 b、 lpush list1 c 可以转化为:lpush list1 a b c
  • 为防止数据量过大造成客户端缓冲区溢出,对list、set、hash、zset等类型,每条指令最多写入64个元素

AOF重写方式

指令方式:手动重写


bgrewriteaof

验证手动重写指令 bgrewriteaof

修改配置文件后,重启服务

image.png

image.png

客户端连接后,连续set三次

image.png

查看一下appendonly-6379.aof

image.png

手动执行bgrewriteaof指令,重写aof文件

image.png

查看aof文件,文件重写后占用空间变小了

image.png

客户端给list1中插入三个数据,并删除变量name

image.png

查看appendonly-6379.aof

image.png

客户端输入bgrewriteaof指令,重写aof文件

image.png

查看appendonly-6379.aof

image.png

bgrewriteaof指令工作原理

image.png

配置文件方式:自动重写


auto-aof-rewrite-min-size size            # size的默认大小比较大,32M或64M,超过size触发重写
auto-aof-rewrite-percentage percentage    # 超过百分比,触发AOF重写

自动重写触发对比参数(运行指令info Persistence获取具体信息)


aof_current_size
aof_base_size

自动重写触发条件

image.png

输入info指令可以获得以下信息


# Persistence
loading:0
rdb_changes_since_last_save:0
rdb_bgsave_in_progress:0
rdb_last_save_time:1655626139
rdb_last_bgsave_status:ok
rdb_last_bgsave_time_sec:-1
rdb_current_bgsave_time_sec:-1
rdb_last_cow_size:0
aof_enabled:0
aof_rewrite_in_progress:0
aof_rewrite_scheduled:0
aof_last_rewrite_time_sec:-1
aof_current_rewrite_time_sec:-1
aof_last_bgrewrite_status:ok
aof_last_write_status:ok
aof_last_cow_size:0

五、AOF工作流程

image.png

always:主进程执行set,子进程写AOF文件中相关信息

everysec:主进程执行set,子进程先把相关信息写入AOF缓存区(突然停电,这里面的数据就丢了),时间到1s后,写入AOF文件

image.png

配置everysec重写方式:根据配置文件,后台进程执行bgrewriteaof,先给用户返回提示信息。然后用左边子进程写入aof缓存区的数据重写临时aof文件,最终会讲临时aof文件的内容更新到真正的aof文件,然后临时的aof文件就被删除了

六、AOF和RDB的区别

image.png

  • 占用空间:  由于很多指令可能只是对某几个数据进行操作,所以对于同样的数据量,AOF存指令会占用更多的空间
  • 存储速度:  由于RDB每次都会存储所有的数据,而AOF只是追加当前的写操作,所以RDB存储较慢,AOF存储较快
  • 恢复速度:  RDB恢复的时候直接导入数据即可,AOF需要执行很多指令,恢复速度较慢
  • 数据安全性:  RDB快照频率高则丢失数据少,快照频率低则丢失数据多;AOF设置always记录所有指令,不丢数据,everysec可能丢1s数据
  • 启动优先级:  AOF是redis默认的持久化方式,优先级高于RDB,当数据量很大时RDB每存一次都需要消耗一定时间

基于需求选择RDB和AOF

  • 对数据非常敏感,建议使用默认的AOF持久化方案,丢数据更少:AOF持久化策略使用everysecond,每秒钟持久化一次。该策略redis仍可以保持很好的处理性能,当出现问题时,最多丢失0-1秒内的数据 。注意:由于AOF文件存储体积较大,恢复速度较慢
  • 数据呈现阶段有效性,建议使用RDB持久化方案:数据可以良好的做到阶段内无丢失(该阶段是开发者或运维人员手工维护的),且恢复速度较快,阶段点数据恢复通常采用RDB方案。注意:利用RDB实现紧凑的数据持久化会使Redis降的很低

综合比对

  • RDB与AOF的选择实际上是在做一种权衡,每种都有利有弊
  • 如不能承受数分钟以内的数据丢失,对业务数据非常敏感,选用AOF,因为AOF可以用always保存所有写操作
  • 如能承受数分钟以内的数据丢失,且追求大数据集的恢复速度,选用RDB,RDB恢复数据快
  • 灾难恢复选用RDB,因为RDB保存的是全数据
  • 双保险策略,同时开启 RDB 和 AOF,重启后,Redis优先使用 AOF 来恢复数据,降低丢失数据的量



相关实践学习
基于Redis实现在线游戏积分排行榜
本场景将介绍如何基于Redis数据库实现在线游戏中的游戏玩家积分排行榜功能。
云数据库 Redis 版使用教程
云数据库Redis版是兼容Redis协议标准的、提供持久化的内存数据库服务,基于高可靠双机热备架构及可无缝扩展的集群架构,满足高读写性能场景及容量需弹性变配的业务需求。 产品详情:https://www.aliyun.com/product/kvstore     ------------------------------------------------------------------------- 阿里云数据库体验:数据库上云实战 开发者云会免费提供一台带自建MySQL的源数据库 ECS 实例和一台目标数据库 RDS实例。跟着指引,您可以一步步实现将ECS自建数据库迁移到目标数据库RDS。 点击下方链接,领取免费ECS&RDS资源,30分钟完成数据库上云实战!https://developer.aliyun.com/adc/scenario/51eefbd1894e42f6bb9acacadd3f9121?spm=a2c6h.13788135.J_3257954370.9.4ba85f24utseFl
相关文章
|
8天前
|
NoSQL 安全 Redis
redis持久化策略
Redis 提供了两种主要的持久化策略:RDB(Redis DataBase)和AOF(Append Only File)。RDB通过定期快照将内存数据保存为二进制文件,适用于快速备份与恢复,但可能因定期保存导致数据丢失。AOF则通过记录所有写操作来确保数据安全性,适合频繁写入场景,但文件较大且恢复速度较慢。两者结合使用可增强数据持久性和恢复能力,同时Redis还支持复制功能提升数据可用性和容错性。
28 5
|
21天前
|
缓存 NoSQL PHP
Redis作为PHP缓存解决方案的优势、实现方式及注意事项。Redis凭借其高性能、丰富的数据结构、数据持久化和分布式支持等特点,在提升应用响应速度和处理能力方面表现突出
本文深入探讨了Redis作为PHP缓存解决方案的优势、实现方式及注意事项。Redis凭借其高性能、丰富的数据结构、数据持久化和分布式支持等特点,在提升应用响应速度和处理能力方面表现突出。文章还介绍了Redis在页面缓存、数据缓存和会话缓存等应用场景中的使用,并强调了缓存数据一致性、过期时间设置、容量控制和安全问题的重要性。
36 5
|
28天前
|
监控 NoSQL 测试技术
【赵渝强老师】Redis的AOF数据持久化
Redis 是内存数据库,提供数据持久化功能,支持 RDB 和 AOF 两种方式。AOF 以日志形式记录每个写操作,支持定期重写以压缩文件。默认情况下,AOF 功能关闭,需在 `redis.conf` 中启用。通过 `info` 命令可监控 AOF 状态。AOF 重写功能可有效控制文件大小,避免性能下降。
|
28天前
|
存储 监控 NoSQL
【赵渝强老师】Redis的RDB数据持久化
Redis 是内存数据库,提供数据持久化功能以防止服务器进程退出导致数据丢失。Redis 支持 RDB 和 AOF 两种持久化方式,其中 RDB 是默认的持久化方式。RDB 通过在指定时间间隔内将内存中的数据快照写入磁盘,确保数据的安全性和恢复能力。RDB 持久化机制包括创建子进程、将数据写入临时文件并替换旧文件等步骤。优点包括适合大规模数据恢复和低数据完整性要求的场景,但也有数据完整性和一致性较低及备份时占用内存的缺点。
|
2月前
|
存储 缓存 NoSQL
大数据-45 Redis 持久化概念 RDB AOF机制 持久化原因和对比
大数据-45 Redis 持久化概念 RDB AOF机制 持久化原因和对比
43 2
大数据-45 Redis 持久化概念 RDB AOF机制 持久化原因和对比
|
3月前
|
存储 缓存 NoSQL
Redis中的rdb和aof
本文深入探讨了Redis的持久化机制,包括RDB和AOF两种方式。详细解释了RDB的工作原理、优势和劣势,以及AOF的实现原理、配置选项、文件重写机制和三种数据同步方式,还介绍了AOF文件修复工具redis-check-aof的使用,并通过实例展示了如何开启和配置AOF持久化方式。
Redis中的rdb和aof
|
2月前
|
消息中间件 分布式计算 NoSQL
大数据-41 Redis 类型集合(2) bitmap位操作 geohash空间计算 stream持久化消息队列 Z阶曲线 Base32编码
大数据-41 Redis 类型集合(2) bitmap位操作 geohash空间计算 stream持久化消息队列 Z阶曲线 Base32编码
27 2
|
2月前
|
存储 缓存 NoSQL
大数据-46 Redis 持久化 RDB AOF 配置参数 混合模式 具体原理 触发方式 优点与缺点
大数据-46 Redis 持久化 RDB AOF 配置参数 混合模式 具体原理 触发方式 优点与缺点
67 1
|
3月前
|
存储 NoSQL Redis
SpringCloud基础7——Redis分布式缓存,RDB,AOF持久化+主从+哨兵+分片集群
Redis持久化、RDB和AOF方案、Redis主从集群、哨兵、分片集群、散列插槽、自动手动故障转移
SpringCloud基础7——Redis分布式缓存,RDB,AOF持久化+主从+哨兵+分片集群
|
3月前
|
存储 缓存 NoSQL
Redis 大 Key 对持久化的影响及解决方案
Redis 大 Key 对持久化的影响及解决方案
49 1