开源的高性能本地缓存-Caffeine

布满荆棘的人生 2023-01-12 01:49 176阅读 0赞

## 高性能本地缓存 ##

在将本地缓存前你肯定在想，本地缓存有么好讲的，不就是一个map么。把要缓存的数据存入map中，自己就能实现。但是这里有几个点我们要考虑：

> “
> 
>  *  并发-使用普通的Map还是线程安全的ConcurrentMap?
>  *  容量-Map的容量需要有多大？
>  *  过期策略-Map里的数据如果很久不用是不是需要定时清除？
>  *  驱逐策略-如果数据还没有过期，但是容量满了该怎么处理？
> 
> ”

如果你也有这些问题那么请看下面的文章。

之前我介绍了Google的本地缓存Guava Cache，有兴趣的可以看看我的这篇文章：

> “
> 
> [Google的这个本地缓存真好用][Google]
> 
> ”

但是我觉得这个本地缓存用起来不是很方便，性能也并不高。因此我推荐一个高性能本地缓存框架-Caffeine，Guava Cache的升级版，使用起来很方便。下面我们来看看它的使用示例。

## 性能 ##

性能展示：

Read(100%)

![图片][9ebdc674b5e8c4dfca989ce6226c057c.png]

Write(100%)

![图片][fddbd0a32df16f6d397b3aa5542b63e8.png]

由上图我们看到：无论是读还是写，Caffeine的性能有多强。

## 使用示例 ##

首先导入Maven依赖：

<dependency>
        <groupId>com.github.ben-manes.caffeine</groupId>
        <artifactId>caffeine</artifactId>
        <version>2.8.4</version>
    </dependency>

测试代码：

![图片][6f2c8a7fdb4df3484c24f50972bcfb2c.png]

我们先来创建一个缓存`cache`，这里我们定义了一些属性：

> “
> 
> `maximumSize()：`这里可以设置缓存数量上限。
> 
> `expireAfterWriter()：`表示从最后一次写入后多久会过期。
> 
> `weakKeys()：`key使用了弱引用。
> 
> `weakValues()：`value值使用了弱引用，防止内存泄漏。
> 
> `removeListener()：`缓存失效时的监听。
> 
> ”

关于弱引用和内存泄漏，有兴趣的可以看看我写的这篇文章：

> “
> 
> [Java中的强软弱虚，你了解么？][Java]
> 
> ”

> “
> 
> [使用ThreadLocal怕内存泄漏？那你应该来看看这篇文章][ThreadLocal]
> 
> ”

Caffeine使用了线程安全，并发下性能优良的ConcurrentMap

![图片][3ba52f00cba8a224d0a38903412e8eb2.png]

我们开始从缓存中获取：

String valueFromCache = cache.get("lvshen", key -> getValue(key));

如上代码，我们从`cache`中获取key为`lvshen`的值，如果从`cache`中获取不到，我们就从方法`getValue(key)`中获取。一般来说查缓存有3步：

> “
> 
>  *  从缓存中查询，如果缓存中有值，返回
>  *  如果缓存中没有值，则从数据库中获取，并返回
>  *  将数据库中的值存入缓存中
> 
> ”

Caffeine本地缓存也是这个逻辑，为了模拟这个逻辑，我们两次从缓存中获取key为`lvhsen`的值。第一次是从数据库中获取，会调用`getValue()`方法，第二次会直接从缓存中获取。

运行结果如下：

调用了getValue方法....
    测试结果：lvshen
    测试结果2：lvshen

运行结果印证了上述逻辑。

除了自动清理缓存，我们也可以手动清理缓存：

cache.invalidate("lvshen");

Guava Cache和Caffeine很大的区别在于使用的淘汰算法，Guava Cache采用的LRU算法，而Caffeine使用的LFU算法的升级版TinyLFU算法，至于这LRU和LFU算法的区别，可以看看我写的这篇文章：

> “
> 
> [【技术干货】淘汰算法LRU与LFU][LRU_LFU]
> 
> ”

TinyLFU作为LFU算法的升级版，在性能上更加强大（高命中率、低内存占用），具体实现这里就不做详述。

当然我们也可以结合SpringBoot使用：

首先配置config

![图片][730b21dbe5b32eb71625c4beabaf9eaa.png]

使用的时候直接注入：

@Autowired
    Cache<String, Object> caffeineCache;
    
    ...
    public void fun(String key) {
        caffeineCache.put(key,"I am Lvshen");
    }

我们也可以定义成注解的形式使用：

引入maven依赖

<dependency>
        <groupId>org.springframework.boot</groupId>
        <artifactId>spring-boot-starter-cache</artifactId>
    </dependency>
    <dependency>
        <groupId>com.github.ben-manes.caffeine</groupId>
        <artifactId>caffeine</artifactId>
    </dependency>

配置config

![图片][aa0ed5aa1f57556d1969e493688b6004.png]

使用如下：

@CachePut(key = "#userInfo.id")
    public void addUser(User userInfo) {
        //这里模拟存入数据库中
        userMap.put(userInfo.getId(), userInfo);
    }
    
    @Cacheable(key = "#id")
    public User getByName(Integer id) {
        //先从缓存中获取，缓存中没有，再从数据库中获取
        return userMap.get(id);
    }

这样我们也能实现SpringBoot和Caffeine的融合使用。

## 官方文档 ##

本篇文章只是对Caffeine做一个入门的介绍，想要深入了解的童鞋可以看看官方文档。

![图片][ad34ecd73332468f806a92c2f1064c20.png]

官方文档

Caffeine的官方使用文档如下：

> “
> 
> (https://github.com/ben-manes/caffeine/wiki/Policy-zh-CN)
> 
> ”

[Google]: https://mp.weixin.qq.com/s?__biz=Mzg4NDMyNTIwMw==&mid=2247489710&idx=1&sn=bd2306d8f14edf5e9c4e0e8b256af6b7&scene=21#wechat_redirect
[9ebdc674b5e8c4dfca989ce6226c057c.png]: /images/20221119/b5ffee635292442aad6951c7111f0720.png
[fddbd0a32df16f6d397b3aa5542b63e8.png]: /images/20221119/d5b7700752d744cf82321e3eb06cea6a.png
[6f2c8a7fdb4df3484c24f50972bcfb2c.png]: /images/20221119/a414738e59474b859d7f5a7039ee2faf.png
[Java]: https://mp.weixin.qq.com/s?__biz=Mzg4NDMyNTIwMw==&mid=2247488900&idx=1&sn=969649def63974cccb9803250fd05e42&chksm=cfb8bbb8f8cf32ae3a2b4c60b19a28d0bd80ad44f642fdf8eb1d5a5629c7ca8a66cacea2a240&token=1470310724&lang=zh_CN&scene=21#wechat_redirect
[ThreadLocal]: https://mp.weixin.qq.com/s?__biz=Mzg4NDMyNTIwMw==&mid=2247486830&idx=1&sn=3aa8095371b2e04dc0c954443a890ef4&chksm=cfb8a352f8cf2a444a4c54d19a5e74b03879c03e79209a1f7688fd9edd81edb35b43fea9578d&token=1470310724&lang=zh_CN&scene=21#wechat_redirect
[3ba52f00cba8a224d0a38903412e8eb2.png]: /images/20221119/1a3788e0e17b44a59fce98da551e3e61.png
[LRU_LFU]: https://mp.weixin.qq.com/s?__biz=Mzg4NDMyNTIwMw==&mid=2247486838&idx=1&sn=51e883cf8372a9598ded9815fa4afdcf&chksm=cfb8a34af8cf2a5c5be04f3b8a1f7c793fd7abe0c13501a1dd5c7728c72e6b81ef1e6c1bb6c7&token=1470310724&lang=zh_CN&scene=21#wechat_redirect
[730b21dbe5b32eb71625c4beabaf9eaa.png]: /images/20221119/921c4eae116b4b7e928c9962279f13ca.png
[aa0ed5aa1f57556d1969e493688b6004.png]: /images/20221119/0560c481f0d64f3c83ec84f5f9adba2a.png
[ad34ecd73332468f806a92c2f1064c20.png]: /images/20221119/e92dda7dc2e34d349333ea33c6efa26d.png