Java Cache-EHCache系列之使用Pool和PoolAccessor抽象实现内存和磁盘中数据字节数的控制和Evict

在上一篇《 Java Cache-EHCache系列之计算实例占用的内存大小（SizeOf引擎）》中有说到：在EHCache中，可以设置maxBytesLocalHeap、maxBytesLocalOffHeap、maxBytesLocalDisk值，以控制Cache占用的内存、磁盘的大小（注：这里Off Heap是指Element中的值已被序列化，但是还没写入磁盘的状态，貌似只有企业版的EHCache支持这种配置；而这里maxBytesLocalDisk是指在最大在磁盘中的数据大小，而不是磁盘文件大小，因为磁盘文中有一些数据是空闲区）。那么如何实现这个需求呢？

常规设计思路
对这个需求，我们已经有SizeOfEngine用于计算内存中以及磁盘中的实例大小了，按我的常规思路，实现起来会比较简单，直接在Store中添加maxBytes以及currentBytes字段，用于表达当前Store可以存放的最大实例大小以及当前Store已存放的实例总大小。对MemoryStore，在添加新Element之前使用DefaultSizeOfEngine计算要添加实例占用内存的大小，然后判断要添加的数据大小和currentBytes相加的值是否会超过maxBytes，如果是，先找出已经expired的Element，将这些Element移除，如果此时还没能在maxBytes大小的限制中添加新的Element，则对当前Store做evict操作，evict出至少超过maxBytes大小的的数据大小；如果是更新原来已存在的Element，一种方法先查找出已存在的Element，然后计算新添加的Element和原来Element占用内存大小的Delta值，如果该值大于0并且和currentBytes相加会大于maxBytes值，则如上做expire和evict操作，另一种方法是先移除已存在的Element，然后对当前Element做新添加Element操作。对DiskStore，使用DiskSizeOfEngine计算要添加的实例大小，其他和MemoryStore类似。

在EHCache中，MemoryStore和DiskStore都是使用了Segment的设计思想（不知道是否因为ConcurrentHashMap的影响，甚至Guava Cache也采用了这种Segment的设计思想），因而我们可以将maxBytes、currentBytes抽象出一个MaxBytesGuarder类，并且将该实例赋值给每个Segment实例，作为面向对象设计的基本思路，将数据和操作放在一起它已经有了maxBytes和currentBytes数据了，我们就可以尝试这将和它相关的操作添加到这个类中，比如实例占用内存、磁盘大小的计算，因而可以将SizeOfEngine引人该类中，另外它还可以包含一个ElementEvictor实例，它可用于evict操作，同时因为MaxBytesGuarder在每个Segment共享，因而它必须是线程安全的。对更新已存在的Element可以采用添加之前先移除的方法，这样MaxBytesGuarder就可以设计成包含如下方法：

     protected  long add( long sizeOf,  boolean force) {
         long newSize = getPool().getSize() + sizeOf;

         if (newSize <= getPool().getMaxSize()) {
             //  there is enough room => add & approve
            size.addAndGet(sizeOf);
             return sizeOf;
        }  else {
             //  check that the element isn't too big
             if (!force && sizeOf > getPool().getMaxSize()) {
                 //  this is too big to fit in the pool
                 return -1;
            }

             //  if there is not enough room => evict
             long missingSize = newSize - getPool().getMaxSize();

             if (getPool().getEvictor().freeSpace(getPool().getPoolableStores(), missingSize) || force) {
                size.addAndGet(sizeOf);
                 return sizeOf;
            }  else {
                 //  cannot free enough bytes
                 return -1;
            }
        }
    }

/*
 * The code below is a simplified version of this:
 *
 * float meanEntrySize = byteSize / countSize;
 * float accessRate = hitRate + missRate;
 * float fillLevel = hitRate / accessRate;
 * float deltaFillLevel = fillLevel / byteSize;
 *
 * return meanEntrySize * accessRate * deltaFillLevel * hitDistributionFunction(fillLevel);
*/

public  interface PoolableStore  extends Store {
     boolean evictFromOnHeap( int count,  long size);
     boolean evictFromOnDisk( int count,  long size);
     float getApproximateDiskHitRate();
     float getApproximateDiskMissRate();
     long getApproximateDiskCountSize();
     long getApproximateDiskByteSize();
     float getApproximateHeapHitRate();
     float getApproximateHeapMissRate();
     long getApproximateHeapCountSize();
     long getApproximateHeapByteSize();
}