3分钟整明白 缓存热点 是咋回事

简介: 当数据库成为瓶颈时,比如高并发、读多写少等场景,我们首先会想到的就是利用缓存来提高整个系统的性能。缓存虽然能够大大提升整个系统的性能,但同时也引入了更多复杂性。如果没有针对缓存进行比较好的处理,某些场景下甚至会导致整个系统崩溃。这次我们要聊的就是:缓存热点

当数据库成为瓶颈时,比如高并发、读多写少等场景,我们首先会想到的就是利用缓存来提高整个系统的性能。

缓存虽然能够大大提升整个系统的性能,但同时也引入了更多复杂性。

如果没有针对缓存进行比较好的处理,某些场景下甚至会导致整个系统崩溃。

这次我们要聊的就是:缓存热点

缓存热点

缓存热点是指大部分甚至所有的业务请求都命中同一份缓存数据。

虽然缓存本身的性能比较高,但对于一些特别热点的数据,如果大部分甚至所有的请求都命中同一份缓存数据,则这份数据所在的缓存服务器的压力也会很大。

比如,电商的爆品秒杀活动,短时间内被上千万的用户访问。

解决办法

缓存热点的常用解决方法有两种:复制多份缓存副本本地内存缓存。接下来我们详细了解一下这两种方法:

复制多份缓存副本

复制多份缓存副本,就是将请求分散到多个缓存服务器上,减轻缓存热点导致的单台缓存服务器压力。

以爆品秒杀活动为例,爆品数据都可以生成 100 个缓存数据,缓存的数据是一样的,在缓存的 key 里面加上编号进行区分,每次读缓存时都随机读取其中某个缓存。

在设计缓存副本的时候,有一个细节需要注意:不同的缓存副本不要设置统一的过期时间,否则就会出现所有缓存副本同时生成同时失效的情况,从而引发缓存的雪崩效应。

正确的做法是设定一个过期时间范围,不同的缓存副本的过期时间是指定范围内的随机值。

本地内存缓存

把热点数据缓存在客户端的本地内存中,并且设置一个失效时间。对于每次读请求,将首先检查该数据是否存在于本地缓存中,如果存在则直接返回,如果不存在再去访问分布式缓存的服务器。

复制多份缓存副本比较,本地内存缓存彻底“解放”了缓存服务器,不会对缓存服务器有任何压力。

不过,本地内存缓存也有自己的缺点,假如缓存服务器中数据被被更新了,本地内存缓存没有及时更新,就导致数据不一致的情况。

因此,本地内存缓存的失效时间需要设置尽量短一些。

热点缓存的发现

在前面的讨论中,我们预设了知道热点缓存有哪些,但是在大多数情况下,我们是无法知道哪些是热点缓存。

不过,我们可以使用以下方法及时发现热点缓存:

  • 在客户端进行统计。在读取缓存时,加入数据统计的逻辑。当读取次数达到某个阈值时,判断其为热点缓存。
  • 在Proxy层进行统计。当读取缓存时有Proxy层时,可以在Proxy层加入数据统计的逻辑。
  • 使用缓存系统的自带工具。比如Redis性能分析工具redis-faina、redis-cli的hotkeys参数。

总结

缓存热点是指大部分甚至所有的业务请求都命中同一份缓存数据。

常用的解决方法有两种:复制多份缓存副本,每个副本过期时间设置为指定范围内的随机值;本地内存缓存,缓存失效时间尽量设置短一些。

相关文章
|
5月前
|
缓存 NoSQL Java
【九】springboot整合redis实现启动服务时热点数据保存在全局和缓存
【九】springboot整合redis实现启动服务时热点数据保存在全局和缓存
141 0
|
11月前
|
存储 缓存 NoSQL
分布式系列教程(07) -分布式Redis缓存 (缓存雪崩&穿透&热点key)
分布式系列教程(07) -分布式Redis缓存 (缓存雪崩&穿透&热点key)
175 0
|
缓存 NoSQL Redis
数据库有1000万数据 ,Redis只能缓存20w数据, 如何保证Redis中的数据都是热点数据
通过合理的缓存淘汰策略、数据预加载和缓存保护机制等手段,可以确保Redis中的数据都是热点数据,提高缓存的效率和命中率。
522 0
|
XML 存储 缓存
设计一个缓存策略,动态缓存热点数据
写在前面,因为我们最近的大作业项目需要用到热点排行这个功能,因为我们是要使用Elasticsearch来存储数据,然后最初设想是在ES中实现这个热点排行的功能,但是经过仔细思考,在我们这个项目中使用ES来做热点排行是一个很蠢的方式,因为我们这只是一个很小的排行,所以最终我们还是使用Redis来实现热点排行
442 1
设计一个缓存策略,动态缓存热点数据
|
缓存 Java 数据库
老徐和阿珍的故事:缓存穿透、缓存击穿、缓存雪崩、缓存热点,傻傻分不清楚
阿珍:“在高并发下遇到瓶颈的时候,经常会用到缓存来提高整个系统的性能。” 老徐:“嗯,不过缓存能够大大提升整个系统的性能,但同时也引入了更多复杂性。” 阿珍点了点头,说:“是啊,缓存穿透、缓存击穿、缓存雪崩、缓存热点这些东西,这些东西我一直分不清楚,经常混淆。” 老徐立刻自信满满地说:“这个我懂啊,你听我给你娓娓道来。”
1602 0
|
缓存 NoSQL Java
缓存系列文章--8.热点key问题(mutex key)
   转载请注明出处哈:http://carlosfu.iteye.com/blog/2269678  一、引出热点key问题          我们通常使用 缓存 + 过期时间的策略来帮助我们加速接口的访问速度,减少了后端负载,同时保证功能的更新,一般情况下这种模式已经基本满足要求了。
1267 0
|
缓存 数据库 安全
缓存穿透、缓存并发、热点缓存之最佳招式
一、前言 在之前的一篇缓存穿透、缓存并发、缓存失效之思路变迁文章中介绍了关于缓存穿透、并发的一些常用思路,但是个人感觉文章中没有明确一些思路的使用场景,本文继续将继续深化与大家共同探讨,同时也非常感谢这段时间给我提宝贵建议的朋友们。
899 0
|
缓存 Memcache 数据库
缓存系列文章--热点key问题
一、引出热点key问题 我们通常使用 缓存 + 过期时间的策略来帮助我们加速接口的访问速度,减少了后端负载,同时保证功能的更新,一般情况下这种模式已经基本满足要求了。
1057 0
|
17天前
|
存储 缓存 NoSQL
数据的存储--Redis缓存存储(一)
数据的存储--Redis缓存存储(一)
53 1