如何实现本地缓存?

简介: 本地缓存是将数据存储在应用服务器内存中以提升访问速度的技术。设计时需关注数据结构(Key-Value)、线程安全、对象上限、清除策略(如LRU、LFU)和过期时间。推荐使用高性能的Caffeine框架,其采用Window TinyLFU算法,支持异步操作与精确失效机制,优于Guava Cache,是Spring 5默认缓存方案。

所谓本地缓存,就是和应用服务器在一起的缓存工具,将需要缓存的数据放到本地缓存中,可以大大的提升访问速度。

在设计本地缓存时,一般需要考虑以下几个方面的问题:


数据结构

一般来讲,为了提升缓存的效率,通常采用 Key-Value 结构进行数据存储,也就是说,缓存中的数据保存和读取都需要有一个 Key,通过 Key 来读取固定的缓存的 Value。


线程安全

本地缓存一定要考虑线程安全的问题,因为大多数情况下本地缓存都是一个全局可访问的变量,那么就会有多个线程同时访问,所以线程安全问题不容忽视。


对象上限

因为是本地缓存,而本地内存中的数据是要占用 JVM 的堆内存的,所以内存是有上限要求的,如果无限存储,最终一定会导致 OOM 的问题。


清除策略

为了避免 OOM 的问题,一般会考虑在缓存中增加清除策略,通过一定的手段定期的清理掉一些数据,来保证内存占用不会过大,常见清除策略主要有 LRU (最近最少使用)、FIFO (先进先出)、LFU (最近最不常用)、SOFT (软引用)、WEAK (弱引用) 等;


过期时间

有了清除策略并不能保证百分百的可以删除数据,极端情况会使得某些数据一直无法删除。这时候就需要有一种机制,能够保证某些 K-V 一定可以删除。通常采用的方案是给每一个缓存的 key 设置过期时间,当达到过期时间之后直接删除,采用清除策略 + 过期时间双重保证;


考虑到以上这些问题之后,就可以考虑如何具体实现一个本地缓存了。


最简单的方式是通过 HashMap 来实现一个本地缓存,因为他本身就是一种 Key-Value 结构的,并且如果使用 ConcurrentHashMap 的话,也能保证线程安全,不过需要自己实现对象上限、过期策略以及清除策略。


除此之外,也有一些比较成熟的开源的本地缓存框架可以直接使用,比较常用的有:

  • Guava Cache
  • Caffeine(推荐)
  • Encache


推荐优先使用 Caffeine 作为本地缓存,在功能上,GuavaCache 支持的功能,Caffeine 都支持,另外 Caffeine 支持异步 Cache 和写入外部资源,这两个 Guava Cache 是不支持的。Caffeine 也是 Spring 5 中默认支持的 Cache。而 Caffeine 在性能上要比 GuavaCache 好很多,主要有以下几个原因:


  1. 剔除算法,GuavaCache 采用的是「LRU」算法,而 Caffeine 采用的是「Window TinyLFU」算法,这是两者之间最大,也是根本的区别。
  2. 立即失效,Guava 会把立即失效(例如:expireAfterAccess (0) and expireAfterWrite (0))转成设置最大 Size 为 0。这就会导致剔除提醒的原因是 SIZE 而不是 EXPIRED。Caffeine 能正确识别这种剔除原因。
  3. 取代提醒,Guava 只要数据被替换,不管什么原因,都会触发剔除监听器。而 Caffeine 在取代值和先前值的引用完全一样时不会触发监听器。
  4. 异步化,Caffeine 的很多工作都是交给线程池去做的(默认:ForkJoinPool.commonPool ()),例如:剔除监听器,刷新机制,维护工作等。
目录
相关文章
|
人工智能 运维 前端开发
从极速复制“死了么”APP,看AI编程时代的技术选型
本文以爆款 App“死了么”为例,讲述在AI时代如何通过 Supabase 等 BaaS 服务实现极简全栈开发。借助AI编程工具与无服务器架构,开发者可快速完成从创意到上线的全流程,降低后端复杂度,聚焦核心业务逻辑,实现低成本、高效率的 MVP 落地。
操作系统:死锁资源的计算
操作系统:死锁资源的计算
3181 0
|
10月前
|
NoSQL Redis 数据库
为什么 Lua 脚本可以保证原子性?
Redis中的原子性包含两层含义:并发编程中的“操作不可中断”与数据库ACID中的“全执行或全回滚”。Lua脚本在Redis中以单线程整体执行,保证了前者,但出错不回滚,故不满足后者。需明确讨论的是哪种原子性。
518 0
|
缓存 网络协议 Linux
计算机网络——Wireshark软件使用与协议分析(ARP协议、IP与ICMP分析)
Wireshark软件使用与协议分析 ARP协议分析 使用 Wireshark 抓取局域网的数据包并进行分析: 1. 学习 Wireshark 基本操作:重点掌握捕获过滤器和显示过滤器。 2. 观察 MAC 地址:了解 MAC 地址的组成,辨识 MAC 地址类型。 3. 分析以太网帧结构:观察以太网帧的首部和尾部,了解数据封装成帧的原理。 4. 分析 ARP 协议:抓取 ARP 请求和应答报文,分析其工作过程。 IP与ICMP分析 启动 Wireshark,捕捉网络命令执行过程中本机接受和发送的数据报。
3299 0
计算机网络——Wireshark软件使用与协议分析(ARP协议、IP与ICMP分析)
|
10月前
|
人工智能 运维 前端开发
Claude Code 30k+ star官方插件,小白也能写专业级代码
Superpowers是Claude Code官方插件,由核心开发者Jesse打造,上线3个月获3万star。它集成brainstorming、TDD、系统化调试等专业开发流程,让AI写代码更规范高效。开源免费,安装简单,实测显著提升开发质量与效率,值得开发者尝试。
13734 5
|
11月前
|
Arthas 监控 Java
arthas 安装
本教程介绍Arthas的安装与基础使用。需提前安装JDK并确保服务器有Java应用运行。下载arthas-boot.jar,上传Java应用(如Arthas-demo.jar),启动后通过`java -jar arthas-boot.jar`接入,选择对应进程即可监控。支持多Java进程管理,为后续深入使用奠定基础。(239字)
|
10月前
|
存储 人工智能 数据库
到底什么是AI Agent?
Agent是具备感知、决策与行动能力的智能体,通过大模型(LLM)结合记忆(Memory)和工具(Tools)调用,实现自主规划与执行任务,如小爱同学自动点餐。其核心为:LLM + Memory + Tools + Planning。
3943 7
|
10月前
|
SQL 人工智能 BI
2026年免费BI产品推荐,零基础也能上手的高效数据决策工具
在数据驱动时代,中小企业亟需低门槛、低成本的BI工具。瓴羊Quick BI凭借智能分析、零代码操作、免费试用及连续六年入选Gartner魔力象限的优势,成为2026年人人可用的数据决策利器,助力企业轻松实现数据价值变现。
2026年免费BI产品推荐,零基础也能上手的高效数据决策工具
|
10月前
|
人工智能 自然语言处理 运维
2026年企业建设智能客服系统多少钱?选型与成本控制全攻略
本文解析2026年智能客服系统建设成本,围绕功能复杂度、渠道覆盖、系统集成等五大影响因素,结合主流产品如瓴羊Quick Service的能力特点,提供选型逻辑与成本控制四大策略,并强调ROI评估与科学选型原则,助力企业以务实路径实现智能服务升级。
2026年企业建设智能客服系统多少钱?选型与成本控制全攻略
|
11月前
|
人工智能 自然语言处理 运维
免费智能客服系统盘点与企业建设成本全解析
本文盘点主流免费智能客服系统,解析企业建设成本构成,对比瓴羊Quick Service、亿捷云客服、Zendesk电商版等产品在不同场景下的适配性与服务能力,为中小微、中大型及跨境企业提供科学选型建议,助力低成本实现服务智能化升级。