大数据-45 Redis 持久化概念 RDB AOF机制 持久化原因和对比

本文涉及的产品
云原生大数据计算服务MaxCompute,500CU*H 100GB 3个月
日志服务 SLS,月写入数据量 50GB 1个月
简介: 大数据-45 Redis 持久化概念 RDB AOF机制 持久化原因和对比

点一下关注吧!!!非常感谢!!持续更新!!!

目前已经更新到了:

Hadoop(已更完)

HDFS(已更完)

MapReduce(已更完)

Hive(已更完)

Flume(已更完)

Sqoop(已更完)

Zookeeper(已更完)

HBase(已更完)

Redis (正在更新…)

章节内容

上节完成了的内容如下:


Redis慢查询日志

Redis监视器

Redis慢查询定位和处理

持久化原因

  • Redis 是内存数据库,宕机后数据消失
  • Redis 重启后快速恢复数据 需要提供持久化机制
  • Redis 持久化是为了快速恢复

持久化方式

Redis 的持久化不保证数据的完整性!

  • RDB
  • AOF

我们可以通过 INFO 指令查看Redis当前持久化的信息:

./redis-cli
info

RDB(Redis Database)

RDB 持久化是通过生成内存快照的方式,将 Redis 数据写入到磁盘上的二进制文件中。

RDB 文件可以在指定的时间间隔内进行创建(快照方式),例如每隔一段时间或者每达到一定数量的写操作时。


具体特性如下:


自动备份:RDB 文件可以设置在特定时间间隔自动生成,用于数据备份和恢复。

高效恢复:由于 RDB 文件是紧凑的二进制格式,恢复数据时速度非常快。

性能开销低:在持久化的过程中,Redis 仍然可以处理客户端请求,只是在生成 RDB 文件时会稍微影响性能。

数据丢失风险:如果 Redis 意外崩溃,最后一次 RDB 快照之后的数据会丢失,因为快照是周期性的而不是实时的。

AOF(Append Only File)

AOF 持久化是将每一个写操作记录到日志文件中。

AOF 文件以文本形式记录了每一条修改命令,通过不断追加的方式来保证数据持久化。


具体特性如下:


实时性更高:AOF 可以设置为每次写操作都进行持久化(always),或者每秒持久化一次(every second),因此数据丢失的可能性较低。

可重写:随着时间推移,AOF 文件会越来越大,但可以通过 AOF 重写机制将文件压缩,保持较小的文件大小。

日志冗长:由于每个写操作都被记录,AOF 文件比 RDB 文件要大,而且恢复速度相对较慢,因为需要逐条执行日志命令。

安全性高:AOF 更适合需要最大化数据持久性的场景,例如金融数据处理。

如何选择 RDB 和 AOF

选择 RDB 还是 AOF 取决于你的具体需求:


如果需要快速恢复数据,并且对少量数据丢失不敏感,可以选择 RDB。

如果需要更高的持久化保证,并且能够接受较大的磁盘和恢复开销,可以选择 AOF。

许多场景下,可以结合两者使用,即开启 RDB 作为定期备份,开启 AOF 作为实时持久化,以获得更好的数据安全性和恢复性能。

模式对比

RDB存在某个时刻的快照,采用二进制的方式压缩存储,AOF存操作命令,采用文本存储

RDB性能高,AOF性能低

RDB在配置触发状态会丢失最后一次快照以后更改的所有数据,AOF每1秒都保存一次,最多丢2秒。

Redis以主服务模式运行,RDB不会保存过期键值数据

Redis以从服务模式运行,RDB会保存过期数据,但是同步时会清空

应用场景

RDB(Redis Database)

RDB 持久化适用于以下场景:


快速恢复数据:


场景:需要在服务器重启或故障后快速恢复数据。

例子:游戏状态数据、会话管理等需要在短时间内恢复大量数据的应用。

较少的数据变更:


场景:数据变更不频繁,允许在一段时间内进行定期快照。

例子:只读数据集或数据变更较少的应用,如配置管理、静态内容缓存等。

定期备份:


场景:需要定期对数据进行备份以防止数据丢失。

例子:日终备份、每小时备份等场景,适用于数据分析和报表生成。

较低的持久化需求:


场景:可以容忍一定的数据丢失,追求更高的性能。

例子:缓存应用、临时数据存储等。

AOF(Append Only File)

AOF 持久化适用于以下场景:


高数据安全性要求:


场景:需要最大限度地保证数据持久性,尽量避免数据丢失。

例子:金融系统、电子商务平台等数据极其重要的应用。

高实时性要求:


场景:数据变更频繁,需要实时记录每一次操作。

例子:实时日志记录、消息队列等需要保证每条记录都持久化的应用。

增量备份:


场景:希望通过增量方式备份数据,而不是定期全量快照。

例子:交易系统、用户行为记录等。

易于故障恢复:


场景:需要逐条重放命令来恢复数据,确保数据完整性。

例子:数据分析系统、数据同步等需要逐条命令执行恢复的场景。


相关实践学习
基于MaxCompute的热门话题分析
Apsara Clouder大数据专项技能认证配套课程:基于MaxCompute的热门话题分析
目录
相关文章
|
3月前
|
NoSQL 安全 关系型数据库
Redis:持久化的两种方式
Redis持久化机制主要包括RDB和AOF两种方式。RDB通过生成数据快照进行持久化,支持手动或自动触发,具有加载速度快、文件紧凑等特点,但无法实时保存数据。AOF则记录每个操作命令,保障数据更安全,支持多种写入策略,并可通过重写机制优化文件大小。两者各有优劣,常结合使用以兼顾性能与数据安全。
|
3月前
|
存储 缓存 NoSQL
Redis持久化深度解析:数据安全与性能的平衡艺术
Redis持久化解决内存数据易失问题,提供RDB快照与AOF日志两种机制。RDB恢复快、性能高,但可能丢数据;AOF安全性高,最多丢1秒数据,支持多种写回策略,适合不同场景。Redis 4.0+支持混合持久化,兼顾速度与安全。根据业务需求选择合适方案,实现数据可靠与性能平衡。(238字)
|
6月前
|
存储 监控 NoSQL
流量洪峰应对术:Redis持久化策略与内存压测避坑指南
本文深入解析Redis持久化策略与内存优化技巧,涵盖RDB快照机制、AOF重写原理及混合持久化实践。通过实测数据揭示bgsave内存翻倍风险、Hash结构内存节省方案,并提供高并发场景下的主从复制冲突解决策略。结合压测工具链构建与故障恢复演练,总结出生产环境最佳实践清单。
186 9
|
10月前
|
存储 NoSQL 安全
Redis的两种持久化方式---RDB、AOF
通过本文的介绍,我们详细讲解了Redis的两种主要持久化方式:RDB和AOF。每种方式都有其独特的优缺点和适用场景。在实际应用中,可以根据具体需求选择合适的持久化方式,或者同时启用RDB和AOF,以达到最佳效果。希望本文能帮助您更好地理解和应用Redis的持久化机制,构建高效、可靠的数据存储解决方案。
932 79
|
存储 分布式计算 大数据
大数据-169 Elasticsearch 索引使用 与 架构概念 增删改查
大数据-169 Elasticsearch 索引使用 与 架构概念 增删改查
206 3
|
9月前
|
NoSQL Redis
Redis的数据持久化策略有哪些 ?
Redis 提供了两种方式,实现数据的持久化到硬盘。 1. RDB 持久化(全量),是指在指定的时间间隔内将内存中的数据集快照写入磁盘。 2. AOF持久化(增量),以日志的形式记录服务器所处理的每一个写、删除操作 RDB和AOF一起使用, 在Redis4.0版本支持混合持久化方式 ( 设置 aof-use-rdb-preamble yes )
|
12月前
|
存储 NoSQL Redis
Redis 持久化揭秘:选择 RDB、AOF 还是混合持久化?
Redis 是一个内存数据库,意味着它主要将数据存储在内存中,从而能够提供极高的性能。然而,作为内存数据库,Redis 默认情况下的数据不会永久保存。为了确保数据在重启或故障后能够恢复,Redis 提供了几种 **持久化机制**。这些机制允许 Redis 将内存中的数据保存到硬盘上,从而实现数据持久化。
660 22
Redis 持久化揭秘:选择 RDB、AOF 还是混合持久化?
|
12月前
|
NoSQL 安全 Redis
redis持久化策略
Redis 提供了两种主要的持久化策略:RDB(Redis DataBase)和AOF(Append Only File)。RDB通过定期快照将内存数据保存为二进制文件,适用于快速备份与恢复,但可能因定期保存导致数据丢失。AOF则通过记录所有写操作来确保数据安全性,适合频繁写入场景,但文件较大且恢复速度较慢。两者结合使用可增强数据持久性和恢复能力,同时Redis还支持复制功能提升数据可用性和容错性。
221 5
|
数据采集 数据可视化 大数据
大数据体系知识学习(三):数据清洗_箱线图的概念以及代码实现
这篇文章介绍了如何使用Python中的matplotlib和numpy库来创建箱线图,以检测和处理数据集中的异常值。
348 1
大数据体系知识学习(三):数据清洗_箱线图的概念以及代码实现
|
缓存 NoSQL PHP
Redis作为PHP缓存解决方案的优势、实现方式及注意事项。Redis凭借其高性能、丰富的数据结构、数据持久化和分布式支持等特点,在提升应用响应速度和处理能力方面表现突出
本文深入探讨了Redis作为PHP缓存解决方案的优势、实现方式及注意事项。Redis凭借其高性能、丰富的数据结构、数据持久化和分布式支持等特点,在提升应用响应速度和处理能力方面表现突出。文章还介绍了Redis在页面缓存、数据缓存和会话缓存等应用场景中的使用,并强调了缓存数据一致性、过期时间设置、容量控制和安全问题的重要性。
250 5

热门文章

最新文章