大数据-45 Redis 持久化概念 RDB AOF机制 持久化原因和对比

本文涉及的产品
云原生大数据计算服务MaxCompute,500CU*H 100GB 3个月
云原生大数据计算服务 MaxCompute,5000CU*H 100GB 3个月
日志服务 SLS,月写入数据量 50GB 1个月
简介: 大数据-45 Redis 持久化概念 RDB AOF机制 持久化原因和对比

点一下关注吧!!!非常感谢!!持续更新!!!

目前已经更新到了:

Hadoop(已更完)

HDFS(已更完)

MapReduce(已更完)

Hive(已更完)

Flume(已更完)

Sqoop(已更完)

Zookeeper(已更完)

HBase(已更完)

Redis (正在更新…)

章节内容

上节完成了的内容如下:


Redis慢查询日志

Redis监视器

Redis慢查询定位和处理

持久化原因

  • Redis 是内存数据库,宕机后数据消失
  • Redis 重启后快速恢复数据 需要提供持久化机制
  • Redis 持久化是为了快速恢复

持久化方式

Redis 的持久化不保证数据的完整性!

  • RDB
  • AOF

我们可以通过 INFO 指令查看Redis当前持久化的信息:

./redis-cli
info

RDB(Redis Database)

RDB 持久化是通过生成内存快照的方式,将 Redis 数据写入到磁盘上的二进制文件中。

RDB 文件可以在指定的时间间隔内进行创建(快照方式),例如每隔一段时间或者每达到一定数量的写操作时。


具体特性如下:


自动备份:RDB 文件可以设置在特定时间间隔自动生成,用于数据备份和恢复。

高效恢复:由于 RDB 文件是紧凑的二进制格式,恢复数据时速度非常快。

性能开销低:在持久化的过程中,Redis 仍然可以处理客户端请求,只是在生成 RDB 文件时会稍微影响性能。

数据丢失风险:如果 Redis 意外崩溃,最后一次 RDB 快照之后的数据会丢失,因为快照是周期性的而不是实时的。

AOF(Append Only File)

AOF 持久化是将每一个写操作记录到日志文件中。

AOF 文件以文本形式记录了每一条修改命令,通过不断追加的方式来保证数据持久化。


具体特性如下:


实时性更高:AOF 可以设置为每次写操作都进行持久化(always),或者每秒持久化一次(every second),因此数据丢失的可能性较低。

可重写:随着时间推移,AOF 文件会越来越大,但可以通过 AOF 重写机制将文件压缩,保持较小的文件大小。

日志冗长:由于每个写操作都被记录,AOF 文件比 RDB 文件要大,而且恢复速度相对较慢,因为需要逐条执行日志命令。

安全性高:AOF 更适合需要最大化数据持久性的场景,例如金融数据处理。

如何选择 RDB 和 AOF

选择 RDB 还是 AOF 取决于你的具体需求:


如果需要快速恢复数据,并且对少量数据丢失不敏感,可以选择 RDB。

如果需要更高的持久化保证,并且能够接受较大的磁盘和恢复开销,可以选择 AOF。

许多场景下,可以结合两者使用,即开启 RDB 作为定期备份,开启 AOF 作为实时持久化,以获得更好的数据安全性和恢复性能。

模式对比

RDB存在某个时刻的快照,采用二进制的方式压缩存储,AOF存操作命令,采用文本存储

RDB性能高,AOF性能低

RDB在配置触发状态会丢失最后一次快照以后更改的所有数据,AOF每1秒都保存一次,最多丢2秒。

Redis以主服务模式运行,RDB不会保存过期键值数据

Redis以从服务模式运行,RDB会保存过期数据,但是同步时会清空

应用场景

RDB(Redis Database)

RDB 持久化适用于以下场景:


快速恢复数据:


场景:需要在服务器重启或故障后快速恢复数据。

例子:游戏状态数据、会话管理等需要在短时间内恢复大量数据的应用。

较少的数据变更:


场景:数据变更不频繁,允许在一段时间内进行定期快照。

例子:只读数据集或数据变更较少的应用,如配置管理、静态内容缓存等。

定期备份:


场景:需要定期对数据进行备份以防止数据丢失。

例子:日终备份、每小时备份等场景,适用于数据分析和报表生成。

较低的持久化需求:


场景:可以容忍一定的数据丢失,追求更高的性能。

例子:缓存应用、临时数据存储等。

AOF(Append Only File)

AOF 持久化适用于以下场景:


高数据安全性要求:


场景:需要最大限度地保证数据持久性,尽量避免数据丢失。

例子:金融系统、电子商务平台等数据极其重要的应用。

高实时性要求:


场景:数据变更频繁,需要实时记录每一次操作。

例子:实时日志记录、消息队列等需要保证每条记录都持久化的应用。

增量备份:


场景:希望通过增量方式备份数据,而不是定期全量快照。

例子:交易系统、用户行为记录等。

易于故障恢复:


场景:需要逐条重放命令来恢复数据,确保数据完整性。

例子:数据分析系统、数据同步等需要逐条命令执行恢复的场景。


相关实践学习
基于MaxCompute的热门话题分析
本实验围绕社交用户发布的文章做了详尽的分析,通过分析能得到用户群体年龄分布,性别分布,地理位置分布,以及热门话题的热度。
SaaS 模式云数据仓库必修课
本课程由阿里云开发者社区和阿里云大数据团队共同出品,是SaaS模式云原生数据仓库领导者MaxCompute核心课程。本课程由阿里云资深产品和技术专家们从概念到方法,从场景到实践,体系化的将阿里巴巴飞天大数据平台10多年的经过验证的方法与实践深入浅出的讲给开发者们。帮助大数据开发者快速了解并掌握SaaS模式的云原生的数据仓库,助力开发者学习了解先进的技术栈,并能在实际业务中敏捷的进行大数据分析,赋能企业业务。 通过本课程可以了解SaaS模式云原生数据仓库领导者MaxCompute核心功能及典型适用场景,可应用MaxCompute实现数仓搭建,快速进行大数据分析。适合大数据工程师、大数据分析师 大量数据需要处理、存储和管理,需要搭建数据仓库?学它! 没有足够人员和经验来运维大数据平台,不想自建IDC买机器,需要免运维的大数据平台?会SQL就等于会大数据?学它! 想知道大数据用得对不对,想用更少的钱得到持续演进的数仓能力?获得极致弹性的计算资源和更好的性能,以及持续保护数据安全的生产环境?学它! 想要获得灵活的分析能力,快速洞察数据规律特征?想要兼得数据湖的灵活性与数据仓库的成长性?学它! 出品人:阿里云大数据产品及研发团队专家 产品 MaxCompute 官网 https://www.aliyun.com/product/odps 
目录
相关文章
|
17天前
|
存储 NoSQL Redis
Redis 持久化揭秘:选择 RDB、AOF 还是混合持久化?
Redis 是一个内存数据库,意味着它主要将数据存储在内存中,从而能够提供极高的性能。然而,作为内存数据库,Redis 默认情况下的数据不会永久保存。为了确保数据在重启或故障后能够恢复,Redis 提供了几种 **持久化机制**。这些机制允许 Redis 将内存中的数据保存到硬盘上,从而实现数据持久化。
85 22
Redis 持久化揭秘:选择 RDB、AOF 还是混合持久化?
|
1月前
|
NoSQL 安全 Redis
redis持久化策略
Redis 提供了两种主要的持久化策略:RDB(Redis DataBase)和AOF(Append Only File)。RDB通过定期快照将内存数据保存为二进制文件,适用于快速备份与恢复,但可能因定期保存导致数据丢失。AOF则通过记录所有写操作来确保数据安全性,适合频繁写入场景,但文件较大且恢复速度较慢。两者结合使用可增强数据持久性和恢复能力,同时Redis还支持复制功能提升数据可用性和容错性。
52 5
|
2月前
|
缓存 NoSQL PHP
Redis作为PHP缓存解决方案的优势、实现方式及注意事项。Redis凭借其高性能、丰富的数据结构、数据持久化和分布式支持等特点,在提升应用响应速度和处理能力方面表现突出
本文深入探讨了Redis作为PHP缓存解决方案的优势、实现方式及注意事项。Redis凭借其高性能、丰富的数据结构、数据持久化和分布式支持等特点,在提升应用响应速度和处理能力方面表现突出。文章还介绍了Redis在页面缓存、数据缓存和会话缓存等应用场景中的使用,并强调了缓存数据一致性、过期时间设置、容量控制和安全问题的重要性。
46 5
|
2月前
|
监控 NoSQL 测试技术
【赵渝强老师】Redis的AOF数据持久化
Redis 是内存数据库,提供数据持久化功能,支持 RDB 和 AOF 两种方式。AOF 以日志形式记录每个写操作,支持定期重写以压缩文件。默认情况下,AOF 功能关闭,需在 `redis.conf` 中启用。通过 `info` 命令可监控 AOF 状态。AOF 重写功能可有效控制文件大小,避免性能下降。
|
8月前
|
NoSQL 关系型数据库 MySQL
Redis持久化机制 RDB 和 AOF 的选择
Redis持久化机制 RDB 和 AOF 的选择
108 0
|
8月前
|
存储 缓存 NoSQL
Redis之持久化(RDB和AOF)
Redis之持久化(RDB和AOF)
160 0
|
存储 缓存 NoSQL
【Redis 系列】redis 学习八,redis 持久化 RDB 和 AOF
【Redis 系列】redis 学习八,redis 持久化 RDB 和 AOF
|
3月前
|
存储 缓存 NoSQL
大数据-46 Redis 持久化 RDB AOF 配置参数 混合模式 具体原理 触发方式 优点与缺点
大数据-46 Redis 持久化 RDB AOF 配置参数 混合模式 具体原理 触发方式 优点与缺点
79 1
|
5月前
|
缓存 NoSQL Redis
redis数据持久化之RDB和AOF
redis数据持久化之RDB和AOF
|
7月前
|
存储 NoSQL Redis
《面试官之你说我听》:简明的图解Redis RDB持久化、AOF持久化
《面试官之你说我听》:简明的图解Redis RDB持久化、AOF持久化