LRU缓存介绍和JAVA实现

左手的ㄟ右手 2022-08-03 14:58 164阅读 0赞

引子：

我们平时总会有一个电话本记录所有朋友的电话，但是，如果有朋友经常联系，那些朋友的电话号码不用翻电话本我们也能记住，但是，如果长时间没有联系了，要再次联系那位朋友的时候，我们又不得不求助电话本，但是，通过电话本查找还是很费时间的。但是，我们大脑能够记住的东西是一定的，我们只能记住自己最熟悉的，而长时间不熟悉的自然就忘记了。

其实，计算机也用到了同样的一个概念，我们用缓存来存放以前读取的数据，而不是直接丢掉，这样，再次读取的时候，可以直接在缓存里面取，而不用再重新查找一遍，这样系统的反应能力会有很大提高。但是，当我们读取的个数特别大的时候，我们不可能把所有已经读取的数据都放在缓存里，毕竟内存大小是一定的，我们一般把最近常读取的放在缓存里（相当于我们把最近联系的朋友的姓名和电话放在大脑里一样）。现在，我们就来研究这样一种缓存机制。

LRU缓存：

LRU缓存利用了这样的一种思想。LRU是Least Recently Used 的缩写，翻译过来就是“最近最少使用”，也就是说，LRU缓存把最近最少使用的数据移除，让给最新读取的数据。而往往最常读取的，也是读取次数最多的，所以，利用LRU缓存，我们能够提高系统的performance.

实现：

要实现LRU缓存，我们首先要用到一个类 LinkedHashMap。 用这个类有两大好处：一是它本身已经实现了按照访问顺序的存储，也就是说，最近读取的会放在最前面，最最不常读取的会放在最后（当然，它也可以实现按照插入顺序存储）。第二，LinkedHashMap本身有一个方法用于判断是否需要移除最不常读取的数，但是，原始方法默认不需要移除（这是，LinkedHashMap相当于一个linkedlist），所以，我们需要override这样一个方法，使得当缓存里存放的数据个数超过规定个数后，就把最不常用的移除掉。LinkedHashMap的API写得很清楚，推荐大家可以先读一下。

**实现方案一(单链表):**

package com.wonson.test;
    
    import java.util.ArrayList;
    import java.util.Collection;
    import java.util.LinkedHashMap;
    import java.util.Map;
    import java.util.Map.Entry;
    /**
     * 单向的LRU实现
     * @ClassName: LRUCache 
     * @author wangqinghua
     * @date 2015-8-10 下午3:14:14 
     * @param <K>
     * @param <V>
     */
    public class LRUCache<K,V> {
    	private static final float hashTableLoadFactor=0.75F;
    	private LinkedHashMap<K,V> map;
    	private int cacheSize;
    	public LRUCache(int cacheSize){
    		this.cacheSize=cacheSize;
    		//LinkedHashMap的初始化大小
    		int hashTableCapacity = (int)Math.ceil(cacheSize / hashTableLoadFactor) + 1; 
    		this.map=new LinkedHashMap<K,V>(hashTableCapacity, hashTableLoadFactor, true){
    
    			/**
    			 * @Fields serialVersionUID 
    			 */ 
    			private static final long serialVersionUID = 1L;
    
    			@Override
    			protected boolean removeEldestEntry(Entry<K, V> eldest) {
    				// TODO Auto-generated method stub
    				return size() > LRUCache.this.cacheSize;
    			}
    		};
    	}
    
    	public V get(K K){
    		return map.get(K);
    	}
    	
    	public void put(K k,V v){
    		map.put(k,v);
    	}
    	
    	public int size(){
    		return map.size();
    	}
    	public void clear(){
    		map.clear();
    	}
    	public synchronized Collection<Map.Entry<K,V>> getAll() {  
    		return new ArrayList<Map.Entry<K,V>>(map.entrySet()); 
    	}
    	/**
    	 * @Title: main
    	 * @param args
    	 * void
    	 * @author wangqinghua 
    	 * @date 2015-8-7 上午11:46:30
    	 */
    	public static void main(String[] args) {
    		// TODO Auto-generated method stub
    		LRUCache<String,String> cache = new LRUCache<String, String>(3);  
    		   cache.put ("1", "one");                           // 1  
    		   cache.put ("2", "two");                           // 2 1  
    		   cache.put ("3", "three");                         // 3 2 1  
    		   cache.put ("4", "four");                          // 4 3 2  
    		   if (cache.get("2") == null) throw new Error();    // 2 4 3  
    		   cache.put ("5", "five");                          // 5 2 4  
    		   cache.put ("4", "second four");                   // 4 5 2  
    		   // Verify cache content.  
    		   if (cache.size() != 3)              throw new Error();  
    		   if (!cache.get("4").equals("second four")) throw new Error();  
    		   if (!cache.get("5").equals("five"))        throw new Error();  
    		   if (!cache.get("2").equals("two"))         throw new Error();  
    		   // List cache content.  
    		   for (Map.Entry<String, String> e : cache.getAll())  
    		      System.out.println (e.getKey() + " : " + e.getValue());
    	}
    
    }

**第二种方案(双链表 + hashtable实现原理)：**

将Cache的所有位置都用双连表连接起来，当一个位置被命中之后，就将通过调整链表的指向，将该位置调整到链表头的位置，新加入的Cache直接加到链表头中。这样，在多次进行Cache操作后，最近被命中的，就会被向链表头方向移动，而没有命中的，而想链表后面移动，链表尾则表示最近最少使用的Cache。当需要替换内容时候，链表的最后位置就是最少被命中的位置，我们只需要淘汰链表最后的部分即可。

package com.wonson.test;
    
    import java.util.HashMap;
    
    /**
     * 双向链表的LRU缓存实现
     * @ClassName: LRUCache2 
     * @author wangqinghua
     * @date 2015-8-10 下午5:56:04
     */
    public class LRUCache2 {
    	protected final int cacheSize;
    	protected int currentSize;
    	protected Entry first;
    	protected Entry last;
    	protected HashMap<Object,Entry> map;
    	public LRUCache2(int i){
    		cacheSize=i;
    		map=new HashMap<Object,Entry>(i);
    		currentSize=0;
    	}
    	/**
    	 * 使用缓存
    	 * @Title: get
    	 * @param key
    	 * @return
    	 * Entry
    	 * @author wangqinghua 
    	 * @date 2015-8-10 下午5:56:39
    	 */
    	protected Entry get(Object key){
    		Entry node=map.get(key);
    		if(node!=null){
    			moveToHead(node);
    		}
    		return node;
    	}
    	/**
    	 * 添加缓存数据
    	 * @Title: put
    	 * @param key
    	 * @param value
    	 * void
    	 * @author wangqinghua 
    	 * @date 2015-8-10 下午5:57:36
    	 */
    	protected void put(Object key,Object value){
    		Entry node=map.get(key);
    		if(node!=null){
    			node.value=value;
    		}else{
    			if(currentSize>=cacheSize){
    				map.remove(last.key);
    				last.prev.next=null;
    				last=last.prev;
    			}else{
    				currentSize++;
    			}
    			node = new Entry();
    			node.key = key; 
    			node.value=value;
    		}
    		moveToHead(node);
    		map.put(key, node);
    	}
    	/**
    	 * 删除指定的缓存
    	 * @Title: remove
    	 * @param key
    	 * @return
    	 * Entry
    	 * @author wangqinghua 
    	 * @date 2015-8-10 下午5:57:45
    	 */
    	protected Entry remove(Object key){
    		Entry node=map.get(key);
    		if(node!=null){
    			if(node.prev!=null) node.prev.next=null; 
    			if(node.next!=null) node.prev.next=node.next.prev; 
    			if(first==node)	first=node.next;
    			if(last==node) last=node.prev;
    			currentSize--;
    		}
    		map.remove(key);
    		return node;
    	}
    	
    	private void moveToHead(Entry node){
    		if(node!=null){
    			if(first==node) return;
    			if(node.prev!=null) node.prev.next=node.next; 
    			if(node.next!=null) node.next.prev=node.prev;
    			if(last==node) last=node.prev;
    			if(first!=null){ first.prev=node;node.next=first;}
    			first=node;
    			node.prev=null;
    			if(last==null)	last=first;
    		}
    	}
    	/**
    	 * 清除缓存
    	 * @Title: clear
    	 * void
    	 * @author wangqinghua 
    	 * @date 2015-8-10 下午5:59:08
    	 */
    	protected void clear(){
    		map.clear();
    		currentSize=0;
    	}
    	/**
    	 * @Title: main
    	 * @param args
    	 * void
    	 * @author wangqinghua 
    	 * @date 2015-8-10 下午3:48:57
    	 */
    	public static void main(String[] args) {
    		// TODO Auto-generated method stub
    		LRUCache2 lru=new LRUCache2(3);
    		lru.put("1", "a");
    		lru.put("2", "b");
    		lru.put("3", "c");
    		lru.put("4", "d");
    		System.out.println(lru.map.size());
    		Entry node=lru.get("3");
    		System.out.println(lru.map.size());
    		lru.remove("2");
    		System.out.println(lru.map.size());
    	}
    	class Entry{
    		Entry prev;			//上一个元算
    		Entry next;			//下一个元素
    		Object key;			//元素对应的key
    		Object value;		//元素key对应的value
    	}
    }