Redis AOF重写问题之同一数据产生两次磁盘IO如何解决

本文涉及的产品
云数据库 Tair(兼容Redis),内存型 2GB
Redis 开源版,标准版 2GB
推荐场景:
搭建游戏排行榜
简介: Redis AOF重写问题之同一数据产生两次磁盘IO如何解决

问题一:在AOFRW(AOF重写)过程中,为什么同一份数据会产生两次磁盘IO?


在AOFRW(AOF重写)过程中,为什么同一份数据会产生两次磁盘IO?


参考回答:

在AOFRW过程中,同一份数据会产生两次磁盘IO,是因为主进程会将执行过的写命令同时写入到两个缓冲区中:aof_buf和aof_rewrite_buf。aof_buf中的数据最终会被写入到当前正在使用的旧AOF文件中,这是第一次磁盘IO。同时,aof_rewrite_buf中的数据会被用于构建新的AOF文件,并在重写过程中或重写完成后写入到这个新AOF文件中,这是第二次磁盘IO。因此,同一份数据因为需要同时维护旧AOF文件和新AOF文件的完整性,而产生了两次磁盘IO。


关于本问题的更多回答可点击原文查看:https://developer.aliyun.com/ask/665924



问题二:Redis在AOFRW过程中使用了哪些pipe来进行主进程和子进程之间的数据传输和控制交互?


Redis在AOFRW过程中使用了哪些pipe来进行主进程和子进程之间的数据传输和控制交互?


参考回答:

Redis在AOFRW过程中使用了六个pipe来进行主进程和子进程之间的数据传输和控制交互。这些pipe包括:

aof_pipe_write_data_to_child:用于主进程向子进程写入数据。

aof_pipe_read_data_from_parent:用于子进程从主进程读取数据。

aof_pipe_write_ack_to_parent:用于子进程向主进程发送确认信息。

aof_pipe_read_ack_from_child:用于主进程从子进程读取确认信息。

aof_pipe_write_ack_to_child:在某些情况下,主进程也可能需要向子进程发送确认信息。

aof_pipe_read_ack_from_parent:理论上这个pipe的命名可能存在误导,因为通常子进程不会从主进程读取“来自父进程的确认”,但这里可能是为了保持命名的一致性或预留的接口。实际用途可能根据具体实现有所不同。


关于本问题的更多回答可点击原文查看:https://developer.aliyun.com/ask/665925



问题三:MP-AOF方案中将AOF分为哪几种类型,并简要说明每种类型的作用?


MP-AOF方案中将AOF分为哪几种类型,并简要说明每种类型的作用?


参考回答:

MP-AOF方案中将AOF分为三种类型:

BASE:表示基础AOF,一般由子进程通过重写产生,包含了某个时间点的Redis数据库的快照或完整状态。BASE文件在每次成功的AOFRW后都会更新,以反映最新的数据库状态。BASE文件最多只有一个。

INCR:表示增量AOF,记录了BASE文件生成后发生的所有写操作。INCR文件在AOFRW开始时被创建,并在AOFRW过程中持续追加新的写命令。INCR文件可能存在多个,因为随着时间的推移,新的INCR文件会被创建以记录新的写操作。

HISTORY:表示历史AOF,由之前的BASE和INCR AOF变化而来。每次AOFRW成功完成时,本次AOFRW之前对应的BASE和INCR AOF都会转变为HISTORY类型,并被Redis自动删除或归档,以释放磁盘空间。HISTORY文件不再用于Redis的持久化或恢复过程。


关于本问题的更多回答可点击原文查看:https://developer.aliyun.com/ask/665926



问题四:在MP-AOF实现中,manifest文件的作用是什么?


在MP-AOF实现中,manifest文件的作用是什么?


参考回答:

在MP-AOF实现中,manifest文件用于跟踪和管理所有的AOF文件(包括BASE、INCR和HISTORY类型)。manifest文件记录了当前有效的BASE和INCR AOF文件的名称、大小、创建时间等元数据,以及它们之间的依赖关系。通过读取manifest文件,Redis可以快速地了解当前哪些AOF文件是有效的,以及如何根据这些文件来恢复数据库的状态。这使得MP-AOF的管理更加高效和有序。


关于本问题的更多回答可点击原文查看:https://developer.aliyun.com/ask/665928



问题五:在MP-AOF的AOFRW流程中,主进程在何时会打开一个新的INCR类型的AOF文件?


在MP-AOF的AOFRW流程中,主进程在何时会打开一个新的INCR类型的AOF文件?


参考回答:

在MP-AOF的AOFRW流程开始时,主进程会立即打开一个新的INCR类型的AOF文件。这个新文件用于在子进程进行重写操作期间,记录所有发生的数据变化。


关于本问题的更多回答可点击原文查看:https://developer.aliyun.com/ask/665930

相关实践学习
基于Redis实现在线游戏积分排行榜
本场景将介绍如何基于Redis数据库实现在线游戏中的游戏玩家积分排行榜功能。
云数据库 Redis 版使用教程
云数据库Redis版是兼容Redis协议标准的、提供持久化的内存数据库服务,基于高可靠双机热备架构及可无缝扩展的集群架构,满足高读写性能场景及容量需弹性变配的业务需求。 产品详情:https://www.aliyun.com/product/kvstore     ------------------------------------------------------------------------- 阿里云数据库体验:数据库上云实战 开发者云会免费提供一台带自建MySQL的源数据库 ECS 实例和一台目标数据库 RDS实例。跟着指引,您可以一步步实现将ECS自建数据库迁移到目标数据库RDS。 点击下方链接,领取免费ECS&RDS资源,30分钟完成数据库上云实战!https://developer.aliyun.com/adc/scenario/51eefbd1894e42f6bb9acacadd3f9121?spm=a2c6h.13788135.J_3257954370.9.4ba85f24utseFl
相关文章
|
1月前
|
NoSQL Redis
Redis的数据淘汰策略有哪些 ?
Redis 提供了 8 种数据淘汰策略,分为淘汰易失数据和淘汰全库数据两大类。易失数据淘汰策略包括:volatile-lru、volatile-lfu、volatile-ttl 和 volatile-random;全库数据淘汰策略包括:allkeys-lru、allkeys-lfu 和 allkeys-random。此外,还有 no-eviction 策略,禁止驱逐数据,当内存不足时新写入操作会报错。
69 16
|
9天前
|
SQL
南大通用GBase 8a配置gcware日志等级,减少日志输出,节省磁盘IO
南大通用GBase 8a配置gcware日志等级,减少日志输出,节省磁盘IO
|
1月前
|
缓存 NoSQL 关系型数据库
Redis和Mysql如何保证数据⼀致?
在项目中,为了解决Redis与Mysql的数据一致性问题,我们采用了多种策略:对于低一致性要求的数据,不做特别处理;时效性数据通过设置缓存过期时间来减少不一致风险;高一致性但时效性要求不高的数据,利用MQ异步同步确保最终一致性;而对一致性和时效性都有高要求的数据,则采用分布式事务(如Seata TCC模式)来保障。
61 14
|
28天前
|
缓存 NoSQL PHP
Redis作为PHP缓存解决方案的优势、实现方式及注意事项。Redis凭借其高性能、丰富的数据结构、数据持久化和分布式支持等特点,在提升应用响应速度和处理能力方面表现突出
本文深入探讨了Redis作为PHP缓存解决方案的优势、实现方式及注意事项。Redis凭借其高性能、丰富的数据结构、数据持久化和分布式支持等特点,在提升应用响应速度和处理能力方面表现突出。文章还介绍了Redis在页面缓存、数据缓存和会话缓存等应用场景中的使用,并强调了缓存数据一致性、过期时间设置、容量控制和安全问题的重要性。
39 5
|
1月前
|
存储 NoSQL 算法
Redis分片集群中数据是怎么存储和读取的 ?
Redis集群采用哈希槽分区算法,共有16384个哈希槽,每个槽分配到不同的Redis节点上。数据操作时,通过CRC16算法对key计算并取模,确定其所属的槽和对应的节点,从而实现高效的数据存取。
49 13
|
1月前
|
存储 NoSQL Redis
Redis的数据过期策略有哪些 ?
Redis 采用两种过期键删除策略:惰性删除和定期删除。惰性删除在读取键时检查是否过期并删除,对 CPU 友好但可能积压大量过期键。定期删除则定时抽样检查并删除过期键,对内存更友好。默认每秒扫描 10 次,每次检查 20 个键,若超过 25% 过期则继续检查,单次最大执行时间 25ms。两者结合使用以平衡性能和资源占用。
45 11
|
1月前
|
监控 NoSQL 测试技术
【赵渝强老师】Redis的AOF数据持久化
Redis 是内存数据库,提供数据持久化功能,支持 RDB 和 AOF 两种方式。AOF 以日志形式记录每个写操作,支持定期重写以压缩文件。默认情况下,AOF 功能关闭,需在 `redis.conf` 中启用。通过 `info` 命令可监控 AOF 状态。AOF 重写功能可有效控制文件大小,避免性能下降。
|
1月前
|
存储 监控 NoSQL
【赵渝强老师】Redis的RDB数据持久化
Redis 是内存数据库,提供数据持久化功能以防止服务器进程退出导致数据丢失。Redis 支持 RDB 和 AOF 两种持久化方式,其中 RDB 是默认的持久化方式。RDB 通过在指定时间间隔内将内存中的数据快照写入磁盘,确保数据的安全性和恢复能力。RDB 持久化机制包括创建子进程、将数据写入临时文件并替换旧文件等步骤。优点包括适合大规模数据恢复和低数据完整性要求的场景,但也有数据完整性和一致性较低及备份时占用内存的缺点。
|
1月前
|
存储 关系型数据库 MySQL
查询服务器CPU、内存、磁盘、网络IO、队列、数据库占用空间等等信息
查询服务器CPU、内存、磁盘、网络IO、队列、数据库占用空间等等信息
529 2
|
4月前
|
存储 Java
【IO面试题 四】、介绍一下Java的序列化与反序列化
Java的序列化与反序列化允许对象通过实现Serializable接口转换成字节序列并存储或传输,之后可以通过ObjectInputStream和ObjectOutputStream的方法将这些字节序列恢复成对象。