【Redis】Redis 删除策略

本文涉及的产品
云数据库 Redis 版,社区版 2GB
推荐场景:
搭建游戏排行榜
简介: 【Redis】Redis 删除策略

一、过期数据

Redis中的数据特征:  Redis是一种内存级数据库,所有数据均存放在内存中,内存中的数据可以通过TTL指令获取其状态

  • XX : 具有时效性的数据
  • -1 : 永久有效的数据
  • -2 : 已经过期的数据 或 被删除的数据 或 未定义的数据

过期的数据真的被删了吗?

image.png

redis服务器有很多操作需要执行时,CPU的压力会很大,于是redis中的策略是,在内存还够的前提下,先不急着释放已删除的数据的内存空间,先执行客户端的指令

二、数据删除策略

redis中的数据删除策略包括定时删除、惰性删除、定期删除

image.png

redis中用一个hash结构数据存放地址和过期时间,而删除策略就是基于这块hash数据结构

我们需要在内存占用与CPU占用之间寻找一种平衡,顾此失彼都会造成整体redis性能的下降,甚至引发服务器宕机或内存泄漏。CPU忙时暂且不维护内存,闲时再来进行内存释放

1. 定时删除(时间换空间)

image.png

创建一个定时器,当key设置有过期时间,且过期时间到达时,立即执行key的删除操作

  • 优点:节约内存,到时就删除,立即释放不必要的内存占用
  • 缺点:CPU压力较大,无论CPU此时负载量多高,均占用CPU,会影响redis服务器响应时间和指令吞吐量
  • 总结:用处理器性能换取存储空间(时间换空间),适用于小内存,强CPU场景

2. 惰性删除 (空间换时间)

image.png

数据到达过期时间,先不做处理。等下次访问该数据时,发现数据已过期,删除,给客户端返回不存在。只要是调用操作数据的指令,都会先执行expireIfNeeded()

  • 优点:节约CPU性能,发现不得不删除的时候才删除
  • 缺点:内存空间压力很大,出现长期占用内存的数据
  • 总结:用存储空间换取处理器性能 (空间换时间),适用于大内存,弱CPU场景

3. 定期删除(中和以上两种方案)

每个库都有独自维护的过期库expires

image.png

定期删除算法过程如下:

image.png

每秒钟执行server.hz次serverCron,serverCron会轮询所有的库,使用databasesCron方法对每个库进行检测,databasesCron会调用activeExpireCycle会对每个expire[]检测,一个expire[]检测250ms/server.hz

周期性轮询redis库中的时效性数据,采用随机抽取的策略,利用过期数据占比的方式控制删除频度

  • 特点1:CPU性能占用设置有峰值,检测频度可自定义设置
  • 特点2:内存压力不是很大,长期占用内存的冷数据会被持续清理

总结:周期性抽查存储空间(查询某个库的expires时,如果这轮删除过多,则再抽取删除一轮,如果这轮删除的很少,则去检查下一个库的expires)

4. 三种删除方案对比

内存占用 CPU占用 特征
定时删除 节约内存,无占用 不分时段占用CPU资源,频度高 时间换空间
惰性删除 内存占用严重 延时执行,CPU利用率高 空间换时间
定期删除 内存定期随机清理 每秒花费固定的CPU资源维护内存 随机抽查,重点抽查

在redis里,会使用惰性删除和定期删除两种方式

三、逐出算法

当内存被永久数据占满(删除策略只能清除过期数据),新数据进入redis时,如果内存不足怎么办?

Redis使用内存存储数据,在执行每一个命令前,会调用freeMemoryIfNeeded()检测内存是否充足。如果内存不满足新加入数据的最低存储要求,redis要临时删除一些数据为当前指令清理存储空间。清理数据的策略称为逐出算法

注意:逐出数据的过程不是100%能够清理出足够的可使用的内存空间,如果不成功则反复执行。当对所有数据尝试完毕后,如果不能达到内存清理的要求,将会出现错误信息

影响数据逐出的相关配置

  • maxmemory:redis可使用内存占物理内存的最大比例,默认为0,表示不限制redis使用内存。生产环境中根据需求设定,通常设置在50%以上
  • maxmemory-samples:每次选取待删除数据的个数,选取数据时并不会全库扫描,导致严重的性能消耗,降低读写性能。因此采用随机获取数据的方式作为待检测删除数据
  • maxmemory-policy:达到最大内存后的,对被挑选出来的数据进行删除的算法

删除算法有如下几种:

检查可能会过期的数据集server.db[i].expires内的数据

  • volatile-lru:挑选最近最少使用(最长时间不使用的)的数据淘汰,使用较多
  • volatile-lfu:挑选最近使用次数最少的数据淘汰
  • volatile-ttl :挑选将要过期的数据淘汰
  • volatile-random:任意选择数据淘汰,一般用的少

image.png

检测全库数据(所有数据集server.db[i].dict)

  • allkeys-lru:挑选最近最少使用的数据淘汰
  • allkeys-lfu:挑选最近使用次数最少的数据淘汰
  • allkeys-random:任意选择数据淘汰

放弃数据驱逐

  • no-enviction(驱逐):禁止驱逐数据(redis4.0中默认策略),会引发错误OOM(Out Of Memory)

以上的逐出算法都可在配置文件中配置

arduino

复制代码

maxmemory-policy volatile-lru

我们可以使用INFO命令输出监控信息,查询缓存int和miss的次数,根据业务需求调优Redis配置

image.png



相关实践学习
基于Redis实现在线游戏积分排行榜
本场景将介绍如何基于Redis数据库实现在线游戏中的游戏玩家积分排行榜功能。
云数据库 Redis 版使用教程
云数据库Redis版是兼容Redis协议标准的、提供持久化的内存数据库服务,基于高可靠双机热备架构及可无缝扩展的集群架构,满足高读写性能场景及容量需弹性变配的业务需求。 产品详情:https://www.aliyun.com/product/kvstore     ------------------------------------------------------------------------- 阿里云数据库体验:数据库上云实战 开发者云会免费提供一台带自建MySQL的源数据库 ECS 实例和一台目标数据库 RDS实例。跟着指引,您可以一步步实现将ECS自建数据库迁移到目标数据库RDS。 点击下方链接,领取免费ECS&RDS资源,30分钟完成数据库上云实战!https://developer.aliyun.com/adc/scenario/51eefbd1894e42f6bb9acacadd3f9121?spm=a2c6h.13788135.J_3257954370.9.4ba85f24utseFl
相关文章
|
1月前
|
NoSQL Redis
05- Redis的数据淘汰策略有哪些 ?
Redis 提供了 8 种数据淘汰策略:挥发性 LRU、LFU 和 TTL(针对有过期时间的数据),挥发性随机淘汰,以及全库的 LRU、LFU 随机淘汰,用于在内存不足时选择删除。另外,还有不淘汰策略(no-eviction),允许新写入操作报错而非删除数据。
307 1
|
1月前
|
存储 NoSQL Redis
04- Redis的数据过期策略有哪些 ?
Redis的数据过期策略包括**惰性删除**和**定期删除**。惰性删除在取出key时检查是否过期,节省CPU但可能延迟清理。定期删除则每隔一定时间删除一批过期key,通过限制操作频率减少CPU影响。默认每秒扫描10次,随机抽取20个键,若25%已过期则继续检查,最大执行时间25ms。Redis使用这两种策略的结合以平衡内存和CPU使用。
17 1
|
1月前
|
NoSQL Redis
03- Redis的数据持久化策略有哪些 ?
Redis的数据持久化包括两种策略:RDB(全量快照)和AOF(增量日志)。RDB在指定时间间隔将内存数据集保存到磁盘,而AOF记录所有写操作形成日志。从Redis 4.0开始,支持RDB和AOF的混合持久化,通过设置`aof-use-rdb-preamble yes`。
18 1
|
2月前
|
缓存 监控 NoSQL
【Redis性能瓶颈揭秘】「调优系列」深入分析热Key的排查策略和解决方案
【Redis性能瓶颈揭秘】「调优系列」深入分析热Key的排查策略和解决方案
215351 12
|
2月前
|
缓存 监控 NoSQL
解析Redis缓存雪崩及应对策略
解析Redis缓存雪崩及应对策略
|
17天前
|
缓存 NoSQL 数据库
探秘Redis读写策略:CacheAside、读写穿透、异步写入
本文介绍了 Redis 的三种高可用性读写模式:CacheAside、Read/Write Through 和 Write Behind Caching。CacheAside 简单易用,但可能引发数据不一致;Read/Write Through 保证数据一致性,但性能可能受限于数据库;Write Behind Caching 提高写入性能,但有数据丢失风险。开发者应根据业务需求选择合适模式。
64 2
探秘Redis读写策略:CacheAside、读写穿透、异步写入
|
3天前
|
存储 NoSQL Java
熟悉Redis吗,那Redis的过期键删除策略是什么
对于Redis,我们业务开发一般都只关心Redis键值对的查询、修改操作,可能因为懒或者只想能用就行,呵呵。很少关心键值对存储在什么地方、键值对过期了会怎么样、Redis有没什么策略处理过期的键、Redis处理过期键又有什么作用?但这些问题却是Java程序员在Redis上进阶的必备知识,不要埋怨Java要学习的系统知识为什么这么多,因为这些确确实实是进阶的程序员所必须掌握的。我们往下看看~
25 2
熟悉Redis吗,那Redis的过期键删除策略是什么
|
6天前
|
缓存 监控 NoSQL
Redis缓存雪崩及应对策略
缓存雪崩是分布式系统中一个常见但危险的问题,可以通过合理的缓存策略和系统设计来降低发生的概率。采用多层次的缓存架构、缓存预热、合理的缓存失效时间等措施,都可以有效应对缓存雪崩,提高系统的稳定性和性能。在实际应用中,及时发现并解决潜在的缓存雪崩问题,是保障系统可用性的关键一环。
38 14
|
16天前
|
缓存 NoSQL Redis
揭秘Redis的高效失效策略,提升可用性
Redis是广泛使用的开源内存数据库,其高性能和多样性使其在现代应用中不可或缺。然而,内存限制和数据管理是关键挑战。本文探讨了Redis的失效策略,包括内存淘汰(如LRU和LFU)和缓存失效策略(定时清除、惰性清除和定时扫描清除),以应对内存耗尽、数据过期等问题,确保系统性能和稳定性。通过合理配置这些策略,可以优化内存使用,防止数据不一致,提升系统效率。
52 0
揭秘Redis的高效失效策略,提升可用性
|
16天前
|
存储 缓存 NoSQL
Redis入门到通关之Redis内存淘汰(内存过期)策略
Redis入门到通关之Redis内存淘汰(内存过期)策略
31 3