Redis AOF重写问题之同一数据产生两次磁盘IO如何解决

本文涉及的产品
云数据库 Tair(兼容Redis),内存型 2GB
Redis 开源版,标准版 2GB
推荐场景:
搭建游戏排行榜
简介: Redis AOF重写问题之同一数据产生两次磁盘IO如何解决

问题一:在AOFRW(AOF重写)过程中,为什么同一份数据会产生两次磁盘IO?


在AOFRW(AOF重写)过程中,为什么同一份数据会产生两次磁盘IO?


参考回答:

在AOFRW过程中,同一份数据会产生两次磁盘IO,是因为主进程会将执行过的写命令同时写入到两个缓冲区中:aof_buf和aof_rewrite_buf。aof_buf中的数据最终会被写入到当前正在使用的旧AOF文件中,这是第一次磁盘IO。同时,aof_rewrite_buf中的数据会被用于构建新的AOF文件,并在重写过程中或重写完成后写入到这个新AOF文件中,这是第二次磁盘IO。因此,同一份数据因为需要同时维护旧AOF文件和新AOF文件的完整性,而产生了两次磁盘IO。


关于本问题的更多回答可点击原文查看:https://developer.aliyun.com/ask/665924



问题二:Redis在AOFRW过程中使用了哪些pipe来进行主进程和子进程之间的数据传输和控制交互?


Redis在AOFRW过程中使用了哪些pipe来进行主进程和子进程之间的数据传输和控制交互?


参考回答:

Redis在AOFRW过程中使用了六个pipe来进行主进程和子进程之间的数据传输和控制交互。这些pipe包括:

aof_pipe_write_data_to_child:用于主进程向子进程写入数据。

aof_pipe_read_data_from_parent:用于子进程从主进程读取数据。

aof_pipe_write_ack_to_parent:用于子进程向主进程发送确认信息。

aof_pipe_read_ack_from_child:用于主进程从子进程读取确认信息。

aof_pipe_write_ack_to_child:在某些情况下,主进程也可能需要向子进程发送确认信息。

aof_pipe_read_ack_from_parent:理论上这个pipe的命名可能存在误导,因为通常子进程不会从主进程读取“来自父进程的确认”,但这里可能是为了保持命名的一致性或预留的接口。实际用途可能根据具体实现有所不同。


关于本问题的更多回答可点击原文查看:https://developer.aliyun.com/ask/665925



问题三:MP-AOF方案中将AOF分为哪几种类型,并简要说明每种类型的作用?


MP-AOF方案中将AOF分为哪几种类型,并简要说明每种类型的作用?


参考回答:

MP-AOF方案中将AOF分为三种类型:

BASE:表示基础AOF,一般由子进程通过重写产生,包含了某个时间点的Redis数据库的快照或完整状态。BASE文件在每次成功的AOFRW后都会更新,以反映最新的数据库状态。BASE文件最多只有一个。

INCR:表示增量AOF,记录了BASE文件生成后发生的所有写操作。INCR文件在AOFRW开始时被创建,并在AOFRW过程中持续追加新的写命令。INCR文件可能存在多个,因为随着时间的推移,新的INCR文件会被创建以记录新的写操作。

HISTORY:表示历史AOF,由之前的BASE和INCR AOF变化而来。每次AOFRW成功完成时,本次AOFRW之前对应的BASE和INCR AOF都会转变为HISTORY类型,并被Redis自动删除或归档,以释放磁盘空间。HISTORY文件不再用于Redis的持久化或恢复过程。


关于本问题的更多回答可点击原文查看:https://developer.aliyun.com/ask/665926



问题四:在MP-AOF实现中,manifest文件的作用是什么?


在MP-AOF实现中,manifest文件的作用是什么?


参考回答:

在MP-AOF实现中,manifest文件用于跟踪和管理所有的AOF文件(包括BASE、INCR和HISTORY类型)。manifest文件记录了当前有效的BASE和INCR AOF文件的名称、大小、创建时间等元数据,以及它们之间的依赖关系。通过读取manifest文件,Redis可以快速地了解当前哪些AOF文件是有效的,以及如何根据这些文件来恢复数据库的状态。这使得MP-AOF的管理更加高效和有序。


关于本问题的更多回答可点击原文查看:https://developer.aliyun.com/ask/665928



问题五:在MP-AOF的AOFRW流程中,主进程在何时会打开一个新的INCR类型的AOF文件?


在MP-AOF的AOFRW流程中,主进程在何时会打开一个新的INCR类型的AOF文件?


参考回答:

在MP-AOF的AOFRW流程开始时,主进程会立即打开一个新的INCR类型的AOF文件。这个新文件用于在子进程进行重写操作期间,记录所有发生的数据变化。


关于本问题的更多回答可点击原文查看:https://developer.aliyun.com/ask/665930

相关实践学习
基于Redis实现在线游戏积分排行榜
本场景将介绍如何基于Redis数据库实现在线游戏中的游戏玩家积分排行榜功能。
云数据库 Redis 版使用教程
云数据库Redis版是兼容Redis协议标准的、提供持久化的内存数据库服务,基于高可靠双机热备架构及可无缝扩展的集群架构,满足高读写性能场景及容量需弹性变配的业务需求。 产品详情:https://www.aliyun.com/product/kvstore     ------------------------------------------------------------------------- 阿里云数据库体验:数据库上云实战 开发者云会免费提供一台带自建MySQL的源数据库 ECS 实例和一台目标数据库 RDS实例。跟着指引,您可以一步步实现将ECS自建数据库迁移到目标数据库RDS。 点击下方链接,领取免费ECS&RDS资源,30分钟完成数据库上云实战!https://developer.aliyun.com/adc/scenario/51eefbd1894e42f6bb9acacadd3f9121?spm=a2c6h.13788135.J_3257954370.9.4ba85f24utseFl
目录
打赏
0
0
0
0
21
分享
相关文章
Redis的两种持久化方式---RDB、AOF
通过本文的介绍,我们详细讲解了Redis的两种主要持久化方式:RDB和AOF。每种方式都有其独特的优缺点和适用场景。在实际应用中,可以根据具体需求选择合适的持久化方式,或者同时启用RDB和AOF,以达到最佳效果。希望本文能帮助您更好地理解和应用Redis的持久化机制,构建高效、可靠的数据存储解决方案。
150 79
Redis应用—2.在列表数据里的应用
本文介绍了基于数据库和缓存双写的分享贴功能设计,包括:基于数据库 + 缓存双写的分享贴功能、查询分享贴列表缓存时的延迟构建、分页列表惰性缓存方案、用户分享贴列表数据按页缓存实现精准过期控制、用户分享贴列表的分页缓存异步更新、数据库与缓存的分页数据一致性方案、热门用户分享贴列表的分页缓存失效时消除并发线程串行等待锁的影响。总结:该设计通过合理的缓存策略和异步处理机制,有效提升了系统性能,降低了内存占用,并确保了数据的一致性和高可用性。
Redis应用—2.在列表数据里的应用
Redis分片集群中数据是怎么存储和读取的 ?
Redis集群采用的算法是哈希槽分区算法。Redis集群中有16384个哈希槽(槽的范围是 0 -16383,哈希槽),将不同的哈希槽分布在不同的Redis节点上面进行管理,也就是说每个Redis节点只负责一部分的哈希槽。在对数据进行操作的时候,集群会对使用CRC16算法对key进行计算并对16384取模(slot = CRC16(key)%16383),得到的结果就是 Key-Value 所放入的槽,通过这个值,去找到对应的槽所对应的Redis节点,然后直接到这个对应的节点上进行存取操作
Redis和Mysql如何保证数据⼀致?
1. 先更新Mysql,再更新Redis,如果更新Redis失败,可能仍然不⼀致 2. 先删除Redis缓存数据,再更新Mysql,再次查询的时候在将数据添加到缓存中 这种⽅案能解决1 ⽅案的问题,但是在⾼并发下性能较低,⽽且仍然会出现数据不⼀致的问题,⽐如线程1删除了 Redis缓存数据,正在更新Mysql,此时另外⼀个查询再查询,那么就会把Mysql中⽼数据⼜查到 Redis中 1. 使用MQ异步同步, 保证数据的最终一致性 我们项目中会根据业务情况 , 使用不同的方案来解决Redis和Mysql的一致性问题 : 1. 对于一些一致性要求不高的场景 , 不做处理例如 : 用户行为数据 ,
Redis的数据淘汰策略有哪些 ?
Redis 提供 8 种数据淘汰策略: 淘汰易失数据(具有过期时间的数据) 1. volatile-lru(least recently used):从已设置过期时间的数据集(server.db[i].expires)中挑选最近最少使用的数据淘汰 2. volatile-lfu(least frequently used):从已设置过期时间的数据集(server.db[i].expires)中挑选最不经常使用的数据淘汰 3. volatile-ttl:从已设置过期时间的数据集(server.db[i].expires)中挑选将要过期的数据淘汰 4. volatile-random:从已设置过期
Redis的数据持久化策略有哪些 ?
Redis 提供了两种方式,实现数据的持久化到硬盘。 1. RDB 持久化(全量),是指在指定的时间间隔内将内存中的数据集快照写入磁盘。 2. AOF持久化(增量),以日志的形式记录服务器所处理的每一个写、删除操作 RDB和AOF一起使用, 在Redis4.0版本支持混合持久化方式 ( 设置 aof-use-rdb-preamble yes )
Redis的数据过期策略有哪些 ?
1. 惰性删除 :只会在取出 key 的时候才对数据进行过期检查。这样对 CPU 最友好,但是可能会造成太多过期 key 没有被删除。数据到达过期时间,不做处理。等下次访问该数据时,我们需要判断 a. 如果未过期,返回数据 b. 发现已过期,删除,返回nil 2. 定期删除 : 每隔一段时间抽取一批 key 执行删除过期 key 操作。并且,Redis 底层会通过限制删除操作执行的时长和频率来减少删除操作对 CPU 时间的影响。默认情况下 Redis 定期检查的频率是每秒扫描 10 次,用于定期清除过期键。当然此值还可以通过配置文件进行设置,在 redis.conf 中修改配置“hz”
Redis应用—1.在用户数据里的应用
本文主要介绍了社区电商的业务闭环及Redis缓存架构中遇到的典型生产问题及其解决方案。通过介绍的设计和优化,社区电商平台能够在高并发读取和少量写入的情况下,保持高性能和数据一致性。
Redis应用—1.在用户数据里的应用
Redis经典问题:数据并发竞争
数据并发竞争是大流量系统(如火车票系统、微博平台)中常见的问题,可能导致用户体验下降甚至系统崩溃。本文介绍了两种解决方案:1) 加写回操作加互斥锁,查询失败快速返回默认值;2) 保持多个缓存备份,减少并发竞争概率。通过实践案例展示,成功提高了系统的稳定性和性能。
Redis经典问题:数据不一致
在使用Redis时,缓存与数据库数据不一致会导致应用异常。主要原因包括缓存更新失败、Rehash异常等。解决方案有:重试机制、缩短缓存时间、优化写入策略、建立监控报警、定期验证一致性、采用缓存分层及数据回滚恢复机制。这些措施可确保数据最终一致性,提升应用稳定性和性能。

热门文章

最新文章