深入浅出Redis(三):Redis数据的存储、删除以及淘汰

本文涉及的产品
Redis 开源版,标准版 2GB
推荐场景:
搭建游戏排行榜
云数据库 Tair(兼容Redis),内存型 2GB
简介: 深入浅出Redis(三):Redis数据的存储、删除以及淘汰

引言

Redis是一款基于键值对的数据结构存储系统,它的特点是基于内存操作、单线程处理命令、IO多路复用模型处理网络请求、键值对存储与简单丰富的数据结构等等

本篇文章不像以往文章围绕Redis某个特点来讲解,而是作为过渡介绍,来说一说Redis是如何存储数据、如何删除数据和如何淘汰数据

存储数据

使用dict字典对Key、Value进行存储,Key总是字符串对象,Value可以是其他对象

键对象可以被设置过期时间,需要注意的是只能对键对象设置过期时间,不能对值对象设置过期时间,如果键对应的值对象为集合类型过期时间到达,集合内的所有元素都过期

image.png

使用expires字典存储 键以及键对应的过期时间戳,Key为键对象地址(复用),Value为到期时间的毫秒时间戳

删除数据

当Redis中的数据发生过期时,不一定立马去删除,而是根据不同的删除策略有不同的删除时机

删除策略有三种分别是:定时删除、惰性删除、定期删除

定时删除使用计时器,到达过期时间就立马去删除数据;如果当前CPU比较忙,还要去删除比较大的数据时就可能发生阻塞,影响用户,但是带来的好处是过期数据立马被删除,不会占用空间,是一种时间换空间的删除策略

惰性删除当数据过期时不会立马删除,而是读写命令操作数据前检查这个键Key是否过期,如果过期就顺便删除;当数据过期并不立即删除,等到后续操作数据时先检查再删除,期间数据占用空间但无作用,如果不再操作数据可能导致数据永久不删除,是一种空间换时间的删除策略

定期删除是每秒使用可指定的固定的CPU资源遍历库并随机挑选库中过期字典上的多个Key检查是否过期,过期则删除;如果过期比例较大则还会再该库中进行随机挑选,否则去下一个库中随机挑选检查删除可指定使用CPU资源不影响用户,也不会存在内存泄漏,是一种折中方案

Redis中默认使用惰性删除和定期删除的策略,使用空间换时间的方式不引起阻塞,惰性删除中不操作过期数据的场景还是较小的,即使不操作过期数据还有定期删除兜底随机删除数据,最终不会引发内存泄漏

淘汰数据

当数据快占满空间时,会使用淘汰策略来将数据淘汰,否则空间占满会影响Redis的可用性

每次加入数据会先判断内存是否足够,当内存不足时,使用淘汰算法临时删除数据;如果删除一个数据空间还不够会多次使用淘汰算法,直到满足此次操作需要的空间,如果选择的淘汰算法是不临时删除数据,就直接抛出OOM错误(默认)

可以在配置文件中配置淘汰策略算法

# 最大配置内存容量
 maxmemory 2g
 # 使用逐出算法时要删除数据个数(过小会多次执行逐出算法,过大会阻塞很久)
 maxmemory-samples 
 maxmemory-policy noeviction #逐出算法的策略
 #noeviction 永不过期,返回错误
 
 #volatile-lfu 挑选expires区数据用lfu算法淘汰
 #volatile-lru 挑选expires区的数据使用LRU淘汰
 #volatile-random 挑选expires区的数据随机淘汰
 #volatile-ttl 挑选expires区要过期的数据淘汰
 
 #allkeys-random:挑选全局数据随机删除
 #allkeys-lfu 挑选全局数据用lfu算法淘汰
 #allkeys-lru 挑选全局数据用lru算法淘汰

淘汰策略前缀使用volatile表示在expires字典中选择数据删除,前缀使用allkeys表示在全局下选择数据删除

大部分场景下,使用淘汰策略时应该优先保留命中率高的数据,而临时删除命中率较低的数据

LFU算法是淘汰最近最少使用次数的数据,期间需要记录数据被使用的次数

LRU算法是淘汰最近最久未使用的数据,常用队列维护,使用到数据就将数据放到队头,队尾数据就是最近最久未使用的数据(要淘汰的数据)

总结

本篇文章讲解了Redis如何存储数据、删除数据、淘汰数据

使用dict字典存储键值对象,键对象一定为字符串对象,而值对象可以是其他任意类型对象

使用expires字典存储键对象过期时间,Key为键对象地址(复用),Value为到期时间的毫秒时间戳

定时删除使用计时器删除数据,时间换空间的策略,可能导致用户线程阻塞

惰性删除每次操作Key前检查是否过期,过期则删除,空间换时间的策略,可能导致内存泄漏

定期删除使用固定CPU资源遍历随机挑选删除,是一种折中策略,默认情况下惰性删除与定期删除搭配使用

如果添加数据内存不足,会使用淘汰策略来临时删除数据,默认情况下直接报错OOM,在大部分场景下可以选择LRU算法,避免将命中率高的数据临时删除

最后

  • 参考资料
  • 《Redis深度历险》
  • 《Redis设计与实现》


相关实践学习
基于Redis实现在线游戏积分排行榜
本场景将介绍如何基于Redis数据库实现在线游戏中的游戏玩家积分排行榜功能。
相关文章
|
4月前
|
缓存 NoSQL 关系型数据库
美团面试:MySQL有1000w数据,redis只存20w的数据,如何做 缓存 设计?
美团面试:MySQL有1000w数据,redis只存20w的数据,如何做 缓存 设计?
美团面试:MySQL有1000w数据,redis只存20w的数据,如何做 缓存 设计?
|
4月前
|
数据采集 存储 NoSQL
基于Scrapy-Redis的分布式景点数据爬取与热力图生成
基于Scrapy-Redis的分布式景点数据爬取与热力图生成
272 67
|
10月前
|
NoSQL Redis
Redis的数据淘汰策略有哪些 ?
Redis 提供了 8 种数据淘汰策略,分为淘汰易失数据和淘汰全库数据两大类。易失数据淘汰策略包括:volatile-lru、volatile-lfu、volatile-ttl 和 volatile-random;全库数据淘汰策略包括:allkeys-lru、allkeys-lfu 和 allkeys-random。此外,还有 no-eviction 策略,禁止驱逐数据,当内存不足时新写入操作会报错。
1000 16
|
3月前
|
存储 缓存 NoSQL
告别数据僵尸!Redis实现自动清理过期键值对
在数据激增的时代,Redis如同内存管理的智能管家,支持键值对的自动过期功能,实现“数据保鲜”。通过`EXPIRE`设定生命倒计时、`TTL`查询剩余时间,结合惰性删除与定期清理策略,Redis高效维护内存秩序。本文以Python实战演示其过期机制,并提供最佳实践指南,助你掌握数据生命周期管理的艺术,让数据优雅退场。
241 0
|
6月前
|
存储 NoSQL 算法
Redis分片集群中数据是怎么存储和读取的 ?
Redis集群采用的算法是哈希槽分区算法。Redis集群中有16384个哈希槽(槽的范围是 0 -16383,哈希槽),将不同的哈希槽分布在不同的Redis节点上面进行管理,也就是说每个Redis节点只负责一部分的哈希槽。在对数据进行操作的时候,集群会对使用CRC16算法对key进行计算并对16384取模(slot = CRC16(key)%16383),得到的结果就是 Key-Value 所放入的槽,通过这个值,去找到对应的槽所对应的Redis节点,然后直接到这个对应的节点上进行存取操作
|
6月前
|
缓存 NoSQL 关系型数据库
Redis和Mysql如何保证数据⼀致?
1. 先更新Mysql,再更新Redis,如果更新Redis失败,可能仍然不⼀致 2. 先删除Redis缓存数据,再更新Mysql,再次查询的时候在将数据添加到缓存中 这种⽅案能解决1 ⽅案的问题,但是在⾼并发下性能较低,⽽且仍然会出现数据不⼀致的问题,⽐如线程1删除了 Redis缓存数据,正在更新Mysql,此时另外⼀个查询再查询,那么就会把Mysql中⽼数据⼜查到 Redis中 1. 使用MQ异步同步, 保证数据的最终一致性 我们项目中会根据业务情况 , 使用不同的方案来解决Redis和Mysql的一致性问题 : 1. 对于一些一致性要求不高的场景 , 不做处理例如 : 用户行为数据 ,
|
6月前
|
NoSQL Redis
Redis的数据淘汰策略有哪些 ?
Redis 提供 8 种数据淘汰策略: 淘汰易失数据(具有过期时间的数据) 1. volatile-lru(least recently used):从已设置过期时间的数据集(server.db[i].expires)中挑选最近最少使用的数据淘汰 2. volatile-lfu(least frequently used):从已设置过期时间的数据集(server.db[i].expires)中挑选最不经常使用的数据淘汰 3. volatile-ttl:从已设置过期时间的数据集(server.db[i].expires)中挑选将要过期的数据淘汰 4. volatile-random:从已设置过期
|
6月前
|
NoSQL Redis
Redis的数据持久化策略有哪些 ?
Redis 提供了两种方式,实现数据的持久化到硬盘。 1. RDB 持久化(全量),是指在指定的时间间隔内将内存中的数据集快照写入磁盘。 2. AOF持久化(增量),以日志的形式记录服务器所处理的每一个写、删除操作 RDB和AOF一起使用, 在Redis4.0版本支持混合持久化方式 ( 设置 aof-use-rdb-preamble yes )
|
6月前
|
存储 NoSQL Redis
Redis的数据过期策略有哪些 ?
1. 惰性删除 :只会在取出 key 的时候才对数据进行过期检查。这样对 CPU 最友好,但是可能会造成太多过期 key 没有被删除。数据到达过期时间,不做处理。等下次访问该数据时,我们需要判断 a. 如果未过期,返回数据 b. 发现已过期,删除,返回nil 2. 定期删除 : 每隔一段时间抽取一批 key 执行删除过期 key 操作。并且,Redis 底层会通过限制删除操作执行的时长和频率来减少删除操作对 CPU 时间的影响。默认情况下 Redis 定期检查的频率是每秒扫描 10 次,用于定期清除过期键。当然此值还可以通过配置文件进行设置,在 redis.conf 中修改配置“hz”
|
9月前
|
存储 消息中间件 监控
Redis Stream:实时数据流的处理与存储
通过上述分析和具体操作示例,您可以更好地理解和应用 Redis Stream,满足各种实时数据处理需求。
629 14