3分钟整明白啥是 缓存雪崩

简介: 当数据库成为瓶颈时,比如高并发、读多写少等场景,我们首先会想到的就是利用缓存来提高整个系统的性能。缓存虽然能够大大提升整个系统的性能,但同时也引入了更多复杂性。如果没有针对缓存进行比较好的处理,某些场景下甚至会导致整个系统崩溃。这次我们要聊的就是:缓存雪崩。

当数据库成为瓶颈时,比如高并发、读多写少等场景,我们首先会想到的就是利用缓存来提高整个系统的性能。

缓存虽然能够大大提升整个系统的性能,但同时也引入了更多复杂性。

如果没有针对缓存进行比较好的处理,某些场景下甚至会导致整个系统崩溃。

这次我们要聊的就是:缓存雪崩。

缓存雪崩

缓存雪崩是指当大量缓存同时失效或过期后引起系统性能急剧下降的情况。

当缓存失效或过期被清除后,系统需要再次访问数据库,再次进行运算重新生成缓存,这个处理步骤耗时比较长,上百毫秒甚至更长时间。而对于一个高并发的系统来说,几百毫秒内可能会接到几百个请求。

由于旧的缓存已经被清除,新的缓存还未生成,并且处理这些请求的线程都不知道另外有一个线程正在生成缓存,所以所有的请求都会去重新生成缓存,都会去访问数据库,对数据库造成巨大的压力和不必要的性能损耗。

这些对数据库的访问压力又会拖慢整个系统,严重的会造成数据库宕机,形成一系列连锁反应,造成整个系统崩溃。

解决办法

缓存雪崩的常用解决方法有两种:更新锁机制后台更新机制。接下来我们详细了解一下这两种方法:

更新锁机制

对缓存更新操作加入锁的保护,保证只有一个线程能够进行缓存更新的操作,没有获取更新锁的线程要么等待锁释放后重新读取缓存,要么直接返回空值或者默认值。

对于采用分布式集群的系统,一个系统中可能存在几十上百台服务器,即使单台服务器只有一个线程更新缓存,但几十上百台服务器一起算下来也会有几十上百个线程同时进行缓存更新的操作,同样存在缓存雪崩的问题。

所以分布式集群的系统要实现更新锁机制,需要用到分布式锁,比如:Redis、ZooKeeper等。

后台更新机制

在系统中,由后台线程来进行缓存更新的操作,而不是由业务线程来进行缓存更新的操作,缓存本身的有效期可以设置为永久或者足够长的时间,后台线程定时进行缓存更新的操作。

后台更新机制不仅适用于单机多线程的场景,也适用于分布式集群的场景,相比更新锁机制要简单一些。

后台更新机制还适用于业务刚上线的时候进行缓存预热。

缓存预热指系统上线后,将相关的缓存数据直接加载到缓存系统,而不是等待用户访问才来触发缓存加载。

还用一种比较特殊的场景:当缓存系统内存不够时,会清除一些缓存数据,从缓存被清除到下一次定时更新缓存的这段时间内,业务线程读取缓存返回空值,而业务线程本身又不会去更新缓存,因此从用户角度看到就是数据没有了。

对应上面这种特殊场景,我们可以使用后台更新机制和更新锁机制结合使用进行避免。

总结

缓存雪崩是指当大量缓存同时失效或过期后引起系统性能急剧下降的情况。

常用的解决方法有两种:更新锁机制后台更新机制

相关文章
程序员真的有必要把GC算法好好过一遍,因为它是进大厂必备的
最早的GC算法可以追溯到20世纪60年代,但到目前为止,GC的基本算法没有太多的创新,可以分为复制算法(Copying GC)、标记清除(MarkSweep GC)和标记压缩(Mark-Compact GC)。近些年推出的GC算法也都是在基础算法上针对一些场景进行优化,所以非常有必要理解基础的GC算法。
|
2月前
|
消息中间件 缓存 中间件
缓存一致性问题,这么回答肯定没毛病!
缓存一致性问题,这么回答肯定没毛病!
|
4月前
|
缓存 NoSQL Go
缓存设计的好,服务基本不会倒
缓存设计的好,服务基本不会倒
L1-058 6翻了 (15 分)(while的巧妙使用)
L1-058 6翻了 (15 分)(while的巧妙使用)
72 0
|
存储 小程序 编译器
【C/C++】庖丁解牛 深究数据在内存中如何存储
【C/C++】庖丁解牛 深究数据在内存中如何存储
173 0
|
存储 SQL 关系型数据库
覆盖索引这回事算是整明白了
覆盖索引这回事算是整明白了
274 0
覆盖索引这回事算是整明白了
|
机器学习/深度学习 算法 C++
没什么了。
没什么了。
|
算法 C++
没什么。。。。
没什么。。。。
|
存储 Java
手把手教你认识下 JVM 的内存划分,再记不住就真的没办法了
Java 在运行时会将内存划分为若干个区域,粗略的可以将内存划分为堆区和栈区,堆区主要存储 Java 对象。栈区主要记录对象的引用地址。
手把手教你认识下 JVM 的内存划分,再记不住就真的没办法了
|
算法
换个数据结构,一不小心节约了 591 台机器! (下)
换个数据结构,一不小心节约了 591 台机器! (下)
109 0
换个数据结构,一不小心节约了 591 台机器! (下)