聊聊Redis数据持久化备份

本文涉及的产品
云数据库 Tair(兼容Redis),内存型 2GB
Redis 开源版,标准版 2GB
推荐场景:
搭建游戏排行榜
简介: 聊聊Redis数据持久化备份

image.png

缓存应用在服务中我们经常都会使用的,其中尤其是Redis,今天给大家聊聊Redis的数据持久化。

Redis持久化主要有两种方式,一种是RDB,一种是AOF。

其中RDB(Redis DataBase)持久化是以快照(snapshotting)方式进行,把存在某一时刻的所有数据写入硬盘过程。


AOF(append-only file)是以追加文件方式持久化,它以日志文件的方式记录每次的写命令,在服务重启再重新执行AOF文件命令来恢复数据。

这两种数据备份方式即可以同时使用,又可以单独使用。


RDB 快照持久化

首先我们看下RDB快照方式,这种持久化方式主要分为手动触发和被动触发。

手动触发分为SAVEBGSAVE,由于SAVE会阻塞Redis服务,直到RDB过程完成,所以生产环境我们主要使用BGSAVE操作,执行BGSAVE之后,Redis进程会执行fork子进程,让子进程负责,直到自动结束。


被动触发是由于我们配置文件进行了save配置选项,如果用户设置了多个配置save配置选项那么任何一个条件满足就会触发BGSAVE。


我们可以看下下面的一段配置:

1. save 60 10000 # 60s有10000次写入(修改)被动触发BGSAVE
2. save 900 10  # 900s有10次就触发BGSAVE,保存到硬盘(两个满足一个就触发)
3. stop-writes-on-bgsave-error no # 创建快照失败是否继续写命令
4. rdbcompression yes # 是否进行压缩(默认压缩)
5. dbfilename dump.rdb # 生成文件名

其中save的配置需要我们进行合理评估,过频繁会浪费资源,过于稀少可能会有丢失大量数据隐患。

在这里我们需要知道通过快照持久化的方式来保存数据,如果服务发生故障,用户将会丢失最近一次生成快照之后更改的所有数据。

当然如果缓存数据小于或者只有几个GB时候,使用快照进行保存数据没有啥问题的。


AOF 追加持久化


由于RDB快照持久化适合小规模或丢失一部分数据也不会造成问题的应用,但是大多数场景里面,我们需要尽量保证数据完整性,所以这里我们有了AOF这种方式。

AOF持久化会将执行的命令写到AOF文件的末尾,来记录数据发生的变化,所以只需要将AOF的文件命令在Redis重新执行一遍就能恢复AOF文件的数据。

但是AOF文件会随着命令的不断增加,文件会越来越大,所以Redis有了重写机制,通过重写机制来压缩控制文件大小。


重写机制的原理就是合并多个命令,比如同样 inc 操作了100次,那么就可以合并为1次进行,或者之前添加了某个数据,后面又删除了就可以删除之前无效的命令等等。

AOF重写这种方式和RDB触发同样分为手动触发和被动触发。

手动触发方式:bgrewriteaof

被动触发方式:auto-aof-rewrite-percentage, auto-aof-rewrite-min-sieze

我们可以看下下面的配置:

appendonly no  # 是否进行aof持久化
appendfsync everysec # 每秒同步一次,有always,no选项
no-appendfsync-on-rewrite no # aof重写期间是否同步
auto-aof-rewrite-percentage 100 # 当前文件是上一次大小的两倍的时候触发重写
auto-aof-rewrie-min-size 64mb # 文件最小体积触发重写


AOF重写和RDB快照方式一样,都会创建子进程,然后AOF子进程进行文件重写,所以快照持久化因为创建子进程导致性能和内存问题在AOF一样存在。

通过AOF的方式能相对更完善保留数据,让我们更为放心。

在这儿我们需要知道服务重启之后Redis默认加载流程,优先加载AOF文件,如果没有再考虑加载RDB文件。

最后

我们来简单总结一下RDB和AOF优缺点:

RDB优点:压缩二进制适合备份,加载恢复数据比AOF快

RDB缺点:没法做到实时持久化,频繁操作消耗资源

AOF优点:通过追加命令可以实时持久化

AOF缺点:加载恢复数据慢

有了这两种持久化方式,我们服务在重启或者宕机的时候就能更加完整保留数据,除了进行持久化操作外,我们也应该尽量把数据文件备份到不同服务器,避免在出现严重问题的时候不会丢失数据。

相关文章
|
1月前
|
NoSQL 安全 关系型数据库
Redis:持久化的两种方式
Redis持久化机制主要包括RDB和AOF两种方式。RDB通过生成数据快照进行持久化,支持手动或自动触发,具有加载速度快、文件紧凑等特点,但无法实时保存数据。AOF则记录每个操作命令,保障数据更安全,支持多种写入策略,并可通过重写机制优化文件大小。两者各有优劣,常结合使用以兼顾性能与数据安全。
|
5月前
|
缓存 NoSQL 关系型数据库
美团面试:MySQL有1000w数据,redis只存20w的数据,如何做 缓存 设计?
美团面试:MySQL有1000w数据,redis只存20w的数据,如何做 缓存 设计?
美团面试:MySQL有1000w数据,redis只存20w的数据,如何做 缓存 设计?
|
1月前
|
存储 缓存 NoSQL
Redis持久化深度解析:数据安全与性能的平衡艺术
Redis持久化解决内存数据易失问题,提供RDB快照与AOF日志两种机制。RDB恢复快、性能高,但可能丢数据;AOF安全性高,最多丢1秒数据,支持多种写回策略,适合不同场景。Redis 4.0+支持混合持久化,兼顾速度与安全。根据业务需求选择合适方案,实现数据可靠与性能平衡。(238字)
|
5月前
|
数据采集 存储 NoSQL
基于Scrapy-Redis的分布式景点数据爬取与热力图生成
基于Scrapy-Redis的分布式景点数据爬取与热力图生成
343 67
|
4月前
|
存储 监控 NoSQL
流量洪峰应对术:Redis持久化策略与内存压测避坑指南
本文深入解析Redis持久化策略与内存优化技巧,涵盖RDB快照机制、AOF重写原理及混合持久化实践。通过实测数据揭示bgsave内存翻倍风险、Hash结构内存节省方案,并提供高并发场景下的主从复制冲突解决策略。结合压测工具链构建与故障恢复演练,总结出生产环境最佳实践清单。
144 9
|
8月前
|
存储 NoSQL 安全
Redis的两种持久化方式---RDB、AOF
通过本文的介绍,我们详细讲解了Redis的两种主要持久化方式:RDB和AOF。每种方式都有其独特的优缺点和适用场景。在实际应用中,可以根据具体需求选择合适的持久化方式,或者同时启用RDB和AOF,以达到最佳效果。希望本文能帮助您更好地理解和应用Redis的持久化机制,构建高效、可靠的数据存储解决方案。
680 79
|
4月前
|
存储 缓存 NoSQL
告别数据僵尸!Redis实现自动清理过期键值对
在数据激增的时代,Redis如同内存管理的智能管家,支持键值对的自动过期功能,实现“数据保鲜”。通过`EXPIRE`设定生命倒计时、`TTL`查询剩余时间,结合惰性删除与定期清理策略,Redis高效维护内存秩序。本文以Python实战演示其过期机制,并提供最佳实践指南,助你掌握数据生命周期管理的艺术,让数据优雅退场。
304 0
|
7月前
|
存储 NoSQL 算法
Redis分片集群中数据是怎么存储和读取的 ?
Redis集群采用的算法是哈希槽分区算法。Redis集群中有16384个哈希槽(槽的范围是 0 -16383,哈希槽),将不同的哈希槽分布在不同的Redis节点上面进行管理,也就是说每个Redis节点只负责一部分的哈希槽。在对数据进行操作的时候,集群会对使用CRC16算法对key进行计算并对16384取模(slot = CRC16(key)%16383),得到的结果就是 Key-Value 所放入的槽,通过这个值,去找到对应的槽所对应的Redis节点,然后直接到这个对应的节点上进行存取操作
|
7月前
|
缓存 NoSQL 关系型数据库
Redis和Mysql如何保证数据⼀致?
1. 先更新Mysql,再更新Redis,如果更新Redis失败,可能仍然不⼀致 2. 先删除Redis缓存数据,再更新Mysql,再次查询的时候在将数据添加到缓存中 这种⽅案能解决1 ⽅案的问题,但是在⾼并发下性能较低,⽽且仍然会出现数据不⼀致的问题,⽐如线程1删除了 Redis缓存数据,正在更新Mysql,此时另外⼀个查询再查询,那么就会把Mysql中⽼数据⼜查到 Redis中 1. 使用MQ异步同步, 保证数据的最终一致性 我们项目中会根据业务情况 , 使用不同的方案来解决Redis和Mysql的一致性问题 : 1. 对于一些一致性要求不高的场景 , 不做处理例如 : 用户行为数据 ,
|
7月前
|
NoSQL Redis
Redis的数据淘汰策略有哪些 ?
Redis 提供 8 种数据淘汰策略: 淘汰易失数据(具有过期时间的数据) 1. volatile-lru(least recently used):从已设置过期时间的数据集(server.db[i].expires)中挑选最近最少使用的数据淘汰 2. volatile-lfu(least frequently used):从已设置过期时间的数据集(server.db[i].expires)中挑选最不经常使用的数据淘汰 3. volatile-ttl:从已设置过期时间的数据集(server.db[i].expires)中挑选将要过期的数据淘汰 4. volatile-random:从已设置过期

热门文章

最新文章