【数据结构】——LRU Cache

简介: LRU缓存的原理及实现

什么是LRU Cache

LRU是Least Recently Used的缩写,意思是最近最少使用,它是一种Cache替换算法。 什么是Cache?狭义的Cache指的是位于CPU和主存间的快速RAM, 通常它不像系统主存那样使用DRAM技术,而使用昂贵但较快速的SRAM技术。 广义上的Cache指的是位于速度相差较大的两种硬件之间, 用于协调两者数据传输速度差异的结构。除了CPU与主存之间有Cache, 内存与硬盘之间也有Cache,乃至在硬盘与网络之间也有某种意义上的Cache── 称为Internet临时文件夹或网络内容缓存等。

image.png

Cache的容量有限,因此当Cache的容量用完后,而又有新的内容需要添加进来时, 就需要挑选并舍弃原有的部分内容,从而腾出空间来放新内容。LRU Cache 的替换原则就是将最近最少使用的内容替换掉。 其实,LRU译成最久未使用会更形象, 因为该算法每次替换掉的就是一段时间内
最久没有使用过的内容。


LRU Cache的实现

实现LRU Cache的方法和思路很多,但是要保持高效实现O(1)的put和get,那么使用 双向链表和 哈希表 的搭配是最高效和经典的。==使用双向链表是因为双向链表可以实现任意位置O(1)的插入和删除,使用哈希表是因为哈希表的增删查改也是O(1)。==

image.png


LRU Cache的OJ

image.png

list的splice接口 ——转移链表中的节点

image.png

哈希表 和 双向链表

保证查找和更新 key值对应的value的时间复杂度为O(1), 也就是保证了get,但是不能保证LRU,因为无法从哈希表中知道知道key值在双向链表中的位置,因此无法用O(1)的时间复杂度来将key值放到链表的头部。

我们可以让哈希表中存储key值和key值在双向链表中的位置,因此可以让哈希表中存储key值和key值在双向链表中的位置——迭代器,双向链表存储的是键值对pair,这样就可以保证 LRU Cache了。

代码实现:

class LRUCache {
   
   
public:
    LRUCache(int capacity)
        :_capacity(capacity)
    {
   
   }

    int get(int key) {
   
   
        auto ret = _hashMap.find(key);
        if(ret != _hashMap.end())
        {
   
   
            //更新key的位置
            // 1. erase + push_front 更新迭代器, 原迭代器失效
            // 2. splice 将节点转移到头部
            ListIterator it = ret->second;
            _LRUList.splice(_LRUList.begin(), _LRUList, it);
            return it->second;
        }
        else return -1;
    }

    void put(int key, int value) {
   
   
        // 判断是 1.新增 还是 2. 更新
        auto ret = _hashMap.find(key);
        if(ret == _hashMap.end()) // 新增数据
        {
   
   
            // 容量已满
            if(_capacity == _hashMap.size())
            {
   
   
                pair<int, int> LRUData = _LRUList.back();
                _hashMap.erase(LRUData.first);
                _LRUList.pop_back();
            }
            _LRUList.push_front(make_pair(key, value));
            _hashMap[key] = _LRUList.begin();
        }
        else // 更新
        {
   
   
            // 更新key对应的值
            ListIterator it = ret->second;
            it->second = value;

            //更新key对应值的位置——splice 将节点转移到头部
            _LRUList.splice(_LRUList.begin(), _LRUList, it);
        }
    }
private:
    typedef list<pair<int, int>>::iterator ListIterator;
    //哈希表——查找和更新的时间复杂度为O(1),哈希表中存储的是
    //key和key在_LRUList中的位置(迭代器)
    unordered_map<int, ListIterator> _hashMap;

    list<pair<int,int>> _LRUList;
    size_t _capacity; //容量
};
相关文章
|
2月前
|
存储 缓存 算法
从0开始回顾数据结构---LRU,LFU算法
题意解释 请为LFU缓存设计一个数据结构。支持两种操作:get和set。 ● get(key) : 如果key在缓存中,则返回key对应的值;否则返回-1; ● put(key, value): 如果key在缓存中,则更新key对应的值;否则插入(key, value),如果缓存已满,则先删除使用频率最小的key,如果有多个key具有相同的使用频率,则应该删除最久未使用的key。 C++代码 class LFUCache { public: struct Node { Node *left, *right; int key, val;
|
4月前
|
存储 缓存 算法
【算法与数据结构】LRU 算法
LRU(Least Recently Used),这种算法认为最近使用的数据是热点数据,下一次有很大概率会再次使用这个数据。而最近很少被使用的数据,很大概率下一次不会使用。所以当缓存容量满时,优先淘汰掉最近最少使用的数据。
|
5月前
|
存储 缓存 Java
java如何实现一个LRU(最近最少使用)缓存? 要求:设计一个LRU缓存,支持get和put操作。当缓存满时,需要淘汰最近最少使用的元素。要求使用双向链表+哈希表的数据结构来实现,并保证get和put操作的时间复杂度为O(1)。
java如何实现一个LRU(最近最少使用)缓存? 要求:设计一个LRU缓存,支持get和put操作。当缓存满时,需要淘汰最近最少使用的元素。要求使用双向链表+哈希表的数据结构来实现,并保证get和put操作的时间复杂度为O(1)。
29 1
|
10月前
|
存储 缓存 算法
【算法】不使用LinkedHashMap实现一个LRU缓存
【算法】不使用LinkedHashMap实现一个LRU缓存
69 0
|
存储 缓存 算法
【数据结构与算法】LRU Cache
【数据结构与算法】LRU Cache
【数据结构与算法】LRU Cache
|
缓存 算法
LeetCode 146. LRU Cache
运用你所掌握的数据结构,设计和实现一个 LRU (最近最少使用) 缓存机制。它应该支持以下操作: 获取数据 get 和 写入数据 put 。
71 0
LeetCode 146. LRU Cache
|
缓存 安全 文件存储
LRU实现基于map和双向链表实现
如果我们遇到的缓存比较大时,此时又需要考虑怎样的缓存设计呢? 此时由于缓存的消息或者信息比较大时,同时呈现成批量时,可以基于消息,考虑使用文件存储的方式进行,此时可以考虑NIO的处理方式,使用FileChannel和MappedByteBuffer或者堆外内存的方式,此时基于块状消息处理,使用缓冲区或者使用通道。此时的处理不经过用户态,因此性能上也是比较高的。 当然基于LinkedHashMap也可以实现LRU缓存设计。LinkedHashMap本身就是基于HashMap+双向链表实现的。
124 0
LRU实现基于map和双向链表实现
|
存储 缓存 NoSQL
漫谈 LevelDB 数据结构(三):LRU 缓存( LRUCache)
漫谈 LevelDB 数据结构(三):LRU 缓存( LRUCache)
338 0
漫谈 LevelDB 数据结构(三):LRU 缓存( LRUCache)
|
存储 缓存 算法
|
机器学习/深度学习 安全 算法
使用线程安全型双向链表实现简单 LRU Cache 模拟
使用线程安全型双向链表实现简单 LRU Cache 模拟
491 0
使用线程安全型双向链表实现简单 LRU Cache 模拟