缓存穿透，缓存击穿，缓存雪崩解决方案分析

- 日理万妓 2021-11-23 08:06 322阅读 0赞

# 前言 #

设计一个缓存系统，不得不要考虑的问题就是：缓存穿透、缓存击穿与失效时的雪崩效应。

# 缓存穿透 #

缓存穿透是指查询一个一定不存在的数据，由于缓存是不命中时被动写的，并且出于容错考虑，如果从存储层查不到数据则不写入缓存，这将导致这个不存在的数据每次请求都要到存储层去查询，失去了缓存的意义。在流量大时，可能DB就挂掉了，要是有人利用不存在的key频繁攻击我们的应用，这就是漏洞。

**解决方案**

有很多种方法可以有效地解决缓存穿透问题，最常见的则是采用布隆过滤器，将所有可能存在的数据哈希到一个足够大的bitmap中，一个一定不存在的数据会被 这个bitmap拦截掉，从而避免了对底层存储系统的查询压力。另外也有一个更为简单粗暴的方法（我们采用的就是这种），如果一个查询返回的数据为空（不管是数 据不存在，还是系统故障），我们仍然把这个空结果进行缓存，但它的过期时间会很短，最长不超过五分钟。

# 缓存雪崩 #

缓存雪崩是指在我们设置缓存时采用了相同的过期时间，导致缓存在某一时刻同时失效，请求全部转发到DB，DB瞬时压力过重雪崩。

**解决方案**

缓存失效时的雪崩效应对底层系统的冲击非常可怕。大多数系统设计者考虑用加锁或者队列的方式保证缓存的单线 程（进程）写，从而避免失效时大量的并发请求落到底层存储系统上。这里分享一个简单方案就时讲缓存失效时间分散开，比如我们可以在原有的失效时间基础上增加一个随机值，比如1-5分钟随机，这样每一个缓存的过期时间的重复率就会降低，就很难引发集体失效的事件。

# 缓存击穿 #

对于一些设置了过期时间的key，如果这些key可能会在某些时间点被超高并发地访问，是一种非常“热点”的数据。这个时候，需要考虑一个问题：缓存被“击穿”的问题，这个和缓存雪崩的区别在于这里针对某一key缓存，前者则是很多key。

缓存在某个时间点过期的时候，恰好在这个时间点对这个Key有大量的并发请求过来，这些请求发现缓存过期一般都会从后端DB加载数据并回设到缓存，这个时候大并发的请求可能会瞬间把后端DB压垮。

## 解决方案 ##

### 1.使用互斥锁(mutex key) ###

这种解决方案思路比较简单，就是只让一个线程构建缓存，其他线程等待构建缓存的线程执行完，重新从缓存获取数据就可以了（如下图）

![aHR0cDovL2RsMi5pdGV5ZS5jb20vdXBsb2FkL2F0dGFjaG1lbnQvMDExNC81NzcwLzM3NTY3MTBlLTVkZmYtMzllOC05NWFmLTkzYzdjZDliYzE3YS5qcGc][]

如果是单机，可以用synchronized或者lock来处理，如果是分布式环境可以用分布式锁就可以了（分布式锁，可以用memcache的add, redis的setnx, zookeeper的添加节点操作）。

下面是Tim yang博客的代码，是memcache的伪代码实现

if (memcache.get(key) == null) {  
        // 3 min timeout to avoid mutex holder crash  
        if (memcache.add(key_mutex, 3 * 60 * 1000) == true) {  
            value = db.get(key);  
            memcache.set(key, value);  
            memcache.delete(key_mutex);  
        } else {  
            sleep(50);  
            retry();  
        }  
    }

如果换成redis，就是：

String get(String key) {  
       String value = redis.get(key);  
       if (value  == null) {  
        if (redis.setnx(key_mutex, "1")) {  
            // 3 min timeout to avoid mutex holder crash  
            redis.expire(key_mutex, 3 * 60)  
            value = db.get(key);  
            redis.set(key, value);  
            redis.delete(key_mutex);  
        } else {  
            //其他线程休息50毫秒后重试  
            Thread.sleep(50);  
            get(key);  
        }  
      }  
    }

业界比较常用的做法，是使用mutex。简单地来说，就是在缓存失效的时候（判断拿出来的值为空），不是立即去load db，而是先使用缓存工具的某些带成功操作返回值的操作（比如Redis的SETNX或者Memcache的ADD）去set一个mutex key，当操作返回成功时，再进行load db的操作并回设缓存；否则，就重试整个get缓存的方法。

SETNX，是「SET if Not eXists」的缩写，也就是只有不存在的时候才设置，可以利用它来实现锁的效果。在redis2.6.1之前版本未实现setnx的过期时间，所以这里给出两种版本代码参考：

//2.6.1前单机版本锁
    String get(String key) {  
       String value = redis.get(key);  
       if (value  == null) {  
        if (redis.setnx(key_mutex, "1")) {  
            // 3 min timeout to avoid mutex holder crash  
            redis.expire(key_mutex, 3 * 60)  
            value = db.get(key);  
            redis.set(key, value);  
            redis.delete(key_mutex);  
        } else {  
            //其他线程休息50毫秒后重试  
            Thread.sleep(50);  
            get(key);  
        }  
      }  
    }

最新版本代码：

public String get(key) {
          String value = redis.get(key);
          if (value == null) { //代表缓存值过期
              //设置3min的超时，防止del操作失败的时候，下次缓存过期一直不能load db
              if (redis.setnx(key_mutex, 1, 3 * 60) == 1) {  //代表设置成功
                   value = db.get(key);
                          redis.set(key, value, expire_secs);
                          redis.del(key_mutex);
                  } else {  //这个时候代表同时候的其他线程已经load db并回设到缓存了，这时候重试获取缓存值即可
                          sleep(50);
                          get(key);  //重试
                  }
              } else {
                  return value;      
              }
     }

memcache代码：

if (memcache.get(key) == null) {  
        // 3 min timeout to avoid mutex holder crash  
        if (memcache.add(key_mutex, 3 * 60 * 1000) == true) {  
            value = db.get(key);  
            memcache.set(key, value);  
            memcache.delete(key_mutex);  
        } else {  
            sleep(50);  
            retry();  
        }  
    }

### 2. "提前"使用互斥锁(mutex key)： ###

在value内部设置1个超时值(timeout1), timeout1比实际的memcache timeout(timeout2)小。当从cache读取到timeout1发现它已经过期时候，马上延长timeout1并重新设置到cache。然后再从数据库加载数据并设置到cache中。伪代码如下：

v = memcache.get(key);  
 if (v == null) {  
     if (memcache.add(key_mutex, 3 * 60 * 1000) == true) {  
         value = db.get(key);  
         memcache.set(key, value);  
         memcache.delete(key_mutex);  
     } else {  
         sleep(50);  
         retry();  
     }  
 } else {  
     if (v.timeout <= now()) {  
         if (memcache.add(key_mutex, 3 * 60 * 1000) == true) {  
             // extend the timeout for other threads  
             v.timeout += 3 * 60 * 1000;  
             memcache.set(key, v, KEY_TIMEOUT * 2);  
   
             // load the latest value from db  
             v = db.get(key);  
             v.timeout = KEY_TIMEOUT;  
             memcache.set(key, value, KEY_TIMEOUT * 2);  
             memcache.delete(key_mutex);  
         } else {  
             sleep(50);  
             retry();  
         }  
     }  
 }

### 3. "永远不过期"：   ###

这里的“永远不过期”包含两层意思：

1.  (1) 从redis上看，确实没有设置过期时间，这就保证了，不会出现热点key过期问题，也就是“物理”不过期。
2.  (2) 从功能上看，如果不过期，那不就成静态的了吗？所以我们把过期时间存在key对应的value里，如果发现要过期了，通过一个后台的异步线程进行缓存的构建，也就是“逻辑”过期

![aHR0cDovL2RsMi5pdGV5ZS5jb20vdXBsb2FkL2F0dGFjaG1lbnQvMDExNC81ODI1LzE2NDdhMGYwLTBkZjUtMzg0Mi1iMTVhLWQ2MGJlZDUzNzlhZS5wbmc][]

从实战看，这种方法对于性能非常友好，唯一不足的就是构建缓存时候，其余线程(非构建缓存的线程)可能访问的是老数据，但是对于一般的互联网功能来说这个还是可以忍受。

String get(final String key) {  
         V v = redis.get(key);  
         String value = v.getValue();  
         long timeout = v.getTimeout();  
         if (v.timeout <= System.currentTimeMillis()) {  
             // 异步更新后台异常执行  
             threadPool.execute(new Runnable() {  
                 public void run() {  
                     String keyMutex = "mutex:" + key;  
                     if (redis.setnx(keyMutex, "1")) {  
                         // 3 min timeout to avoid mutex holder crash  
                         redis.expire(keyMutex, 3 * 60);  
                         String dbValue = db.get(key);  
                         redis.set(key, dbValue);  
                         redis.delete(keyMutex);  
                     }  
                 }  
             });  
         }  
         return value;  
 }

### 4. 资源保护： ###

采用netflix的hystrix，可以做资源的隔离保护主线程池，如果把这个应用到缓存的构建也未尝不可。

之前在[缓存雪崩][Link 1]那篇文章提到了netflix的hystrix，可以做资源的隔离保护主线程池，如果把这个应用到缓存的构建也未尝不可。

![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3lhbmd5YW5neWU_size_16_color_FFFFFF_t_70][]

# 四种方案对比： #

四种解决方案：没有最佳只有最合适

作为一个并发量较大的互联网应用，我们的目标有3个:

1. 加快用户访问速度，提高用户体验。

2. 降低后端负载，保证系统平稳。

3. 保证数据“尽可能”及时更新(要不要完全一致，取决于业务，而不是技术。)

所以第二节中提到的四种方法，可以做如下比较，还是那就话：没有最好，只有最合适。

<table> 
 <tbody> 
 <tr> 
 <td>解决方案</td> 
 <td>优点</td> 
 <td>缺点</td> 
 </tr> 
 <tr> 
 <td>简单分布式锁(Tim yang)</td> 
 <td> &nbsp;1. 思路简单 2. 保证一致性 </td> 
 <td> 1. 代码复杂度增大 2. 存在死锁的风险 3. 存在线程池阻塞的风险 </td> 
 </tr> 
 <tr> 
 <td>加另外一个过期时间(Tim yang)</td> 
 <td>&nbsp;1. 保证一致性</td> 
 <td>同上&nbsp;</td> 
 </tr> 
 <tr> 
 <td>不过期(本文)</td> 
 <td> 1. 异步构建缓存，不会阻塞线程池 </td> 
 <td> 1. 不保证一致性。 2. 代码复杂度增大(每个value都要维护一个timekey)。 3. 占用一定的内存空间(每个value都要维护一个timekey)。 </td> 
 </tr> 
 <tr> 
 <td>资源隔离组件hystrix(本文)</td> 
 <td> 1. hystrix技术成熟，有效保证后端。 2. hystrix监控强大。 &nbsp; &nbsp; </td> 
 <td> 1. 部分访问存在降级策略。 </td> 
 </tr> 
 </tbody> 
</table>

1. 部分访问存在降级策略。

四种方案来源网络，详文请链接：[https://carlosfu.iteye.com/blog/2269687?hmsr=toutiao.io&utm\_medium=toutiao.io&utm\_source=toutiao.io][https_carlosfu.iteye.com_blog_2269687_hmsr_toutiao.io_utm_medium_toutiao.io_utm_source_toutiao.io]

#    总结 #

1.  热点key + 过期时间 + 复杂的构建缓存过程 => mutex key问题

2. 构建缓存一个线程做就可以了。

3. 四种解决方案：没有最佳只有最合适。

针对业务系统，永远都是具体情况具体分析，没有最好，只有最合适。

最后，对于缓存系统常见的缓存满了和数据丢失问题，需要根据具体业务分析，通常我们采用LRU策略处理溢出，Redis的RDB和AOF持久化策略来保证一定情况下的数据安全。  
\-------------------------------------------------------------------------------------------------

# Redis缓存穿透、缓存雪崩、redis并发问题分析 #

把redis作为缓存使用已经是司空见惯，但是使用redis后也可能会碰到一系列的问题，尤其是数据量很大的时候，经典的几个问题如下：

**(一)缓存和数据库间数据一致性问题**

分布式环境下（单机就不用说了）非常容易出现缓存和数据库间的数据一致性问题，针对这一点的话，只能说，如果你的项目对缓存的要求是强一致性的，那么请不要使用缓存。我们只能采取合适的策略来降低缓存和数据库间数据不一致的概率，而无法保证两者间的强一致性。合适的策略包括 合适的缓存更新策略，更新数据库后要及时更新缓存、缓存失败时增加重试机制，例如MQ模式的消息队列。

**(二)缓存击穿问题**

缓存击穿表示恶意用户模拟请求很多缓存中不存在的数据，由于缓存中都没有，导致这些请求短时间内直接落在了数据库上，导致数据库异常。这个我们在实际项目就遇到了，有些抢购活动、秒杀活动的接口API被大量的恶意用户刷，导致短时间内数据库宕机了，好在数据库是多主多从的，hold住了。

解决方案的话：

**1、使用互斥锁排队**

业界比价普遍的一种做法，即根据key获取value值为空时，锁上，从数据库中load数据后再释放锁。若其它线程获取锁失败，则等待一段时间后重试。这里要注意，分布式环境中要使用分布式锁，单机的话用普通的锁（synchronized、Lock）就够了。

public String getWithLock(String key, Jedis jedis, String lockKey, 
      String uniqueId, long expireTime) 
    {
         // 通过key获取value
         String value = redisService.get(key);
         if (StringUtil.isEmpty(value)) 
         {
             // 分布式锁，详细可以参考https://blog.csdn.net/fanrenxiang/article/details/79803037
             //封装的tryDistributedLock包括setnx和expire两个功能，在低版本的redis中不支持
             try {
                     boolean locked = redisService.tryDistributedLock(jedis, lockKey, uniqueId, expireTime);
                     if (locked) {
                         value = userService.getById(key);
                         redisService.set(key, value);
                         redisService.del(lockKey);
                         return value;
                     } else {
                         // 其它线程进来了没获取到锁便等待50ms后重试
                         Thread.sleep(50);
                         getWithLock(key, jedis, lockKey, uniqueId, expireTime);
                     }
                 } catch (Exception e) {
                     log.error("getWithLock exception=" + e);
                     return value;
                 } finally {
                     redisService.releaseDistributedLock(jedis, lockKey, uniqueId);
                 }
             }
             return value;
        }
    }

这样做思路比较清晰，也从一定程度上减轻数据库压力，但是锁机制使得逻辑的复杂度增加，吞吐量也降低了，有点治标不治本。

**2、布隆过滤器（推荐）**

bloomfilter就类似于一个hash set，用于快速判某个元素是否存在于集合中，其典型的应用场景就是快速判断一个key是否存在于某容器，不存在就直接返回。布隆过滤器的关键就在于hash算法和容器大小，下面先来简单的实现下看看效果，我这里用guava实现的布隆过滤器：

<dependencies> 
 <dependency> 
 <groupId>com.google.guava</groupId> 
 <artifactId>guava</artifactId> 
 <version>23.0</version> 
 </dependency> 
 </dependencies> 
 
 public class BloomFilterTest {
 
 private static final int capacity = 1000000;
 private static final int key = 999998;
 
 private static BloomFilter<Integer> bloomFilter = 
 BloomFilter.create(Funnels.integerFunnel(), capacity);
 
 static {
 for (int i = 0; i < capacity; i++) {
 bloomFilter.put(i);
 }
 }
 
 public static void main(String[] args) {
 /*返回计算机最精确的时间，单位微妙*/
 long start = System.nanoTime();
 
 if (bloomFilter.mightContain(key)) {
 System.out.println("成功过滤到" + key);
 }
 long end = System.nanoTime();
 System.out.println("布隆过滤器消耗时间:" + (end - start));
 int sum = 0;
 for (int i = capacity + 20000; i < capacity + 30000; i++) {
 if (bloomFilter.mightContain(i)) {
 sum = sum + 1;
 }
 }
 System.out.println("错判率为:" + sum);
 }
 }
 
 成功过滤到999998
 布隆过滤器消耗时间:215518
 错判率为:318
 复制代码

可以看到，100w个数据中只消耗了约0.2毫秒就匹配到了key，速度足够快。然后模拟了1w个不存在于布隆过滤器中的key，匹配错误率为318/10000，也就是说，出错率大概为3%，跟踪下BloomFilter的源码发现默认的容错率就是0.03：

public static <T> BloomFilter<T> create(Funnel<T> funnel, int expectedInsertions /* n */) 
 {
 // FYI, for 3%, we always get 5 hash functions
 return create(funnel, expectedInsertions, 0.03); 
 }

我们可调用BloomFilter的这个方法显式的指定误判率：

![Redis缓存穿透、缓存雪崩、redis并发问题分析][Redis_redis]

private static BloomFilter<Integer> bloomFilter = 
 BloomFilter.create(Funnels.integerFunnel(), capacity,0.01);

我们断点跟踪下，误判率为0.02和默认的0.03时候的区别:

![Redis缓存穿透、缓存雪崩、redis并发问题分析][Redis_redis 1]

![Redis缓存穿透、缓存雪崩、redis并发问题分析][Redis_redis 2]

对比两个出错率可以发现，误判率为0.02时数组大小为8142363，0.03时为7298440，误判率降低了0.01，BloomFilter维护的数组大小也减少了843923，可见BloomFilter默认的误判率0.03是设计者权衡系统性能后得出的值。要注意的是，布隆过滤器不支持删除操作。用在这边解决缓存穿透问题就是：

public String getByKey(String key) {
     // 通过key获取value
     String value = redisService.get(key);
     if (StringUtil.isEmpty(value)) {
     if (bloomFilter.mightContain(key)) {
     value = userService.getById(key);
     redisService.set(key, value);
     return value;
     } else {
     return null;
     }
     }
     return value;
    }
    复制代码

## (三)缓存雪崩问题 ##

缓存在同一时间内大量键过期（失效），接着来的一大波请求瞬间都落在了数据库中导致连接异常。

解决方案：

1、也是像解决缓存穿透一样加锁排队，实现同上;

2、建立备份缓存，缓存A和缓存B，A设置超时时间，B不设值超时时间，先从A读缓存，A没有读B，并且更新A缓存和B缓存;

public String getByKey(String keyA,String keyB) {
     String value = redisService.get(keyA);
     if (StringUtil.isEmpty(value)) {
     value = redisService.get(keyB);
     String newValue = getFromDbById();
     redisService.set(keyA,newValue,31, TimeUnit.DAYS);
     redisService.set(keyB,newValue);
     }
     return value;
    }
    复制代码

**(四)缓存并发问题**

这里的并发指的是多个redis的client同时set key引起的并发问题。比较有效的解决方案就是把redis.set操作放在队列中使其串行化，必须的一个一个执行，具体的代码就不上了，当然加锁也是可以的，至于为什么不用redis中的事务，留给各位看官自己思考探究。

转自：

[https://carlosfu.iteye.com/blog/2269687?hmsr=toutiao.io&utm\_medium=toutiao.io&utm\_source=toutiao.io][https_carlosfu.iteye.com_blog_2269687_hmsr_toutiao.io_utm_medium_toutiao.io_utm_source_toutiao.io]

[https://juejin.im/post/5b961172f265da0ab7198f4d][https_juejin.im_post_5b961172f265da0ab7198f4d]

[aHR0cDovL2RsMi5pdGV5ZS5jb20vdXBsb2FkL2F0dGFjaG1lbnQvMDExNC81NzcwLzM3NTY3MTBlLTVkZmYtMzllOC05NWFmLTkzYzdjZDliYzE3YS5qcGc]: /images/20211122/491ddd62828e415fbdaed674fa29c382.png
[aHR0cDovL2RsMi5pdGV5ZS5jb20vdXBsb2FkL2F0dGFjaG1lbnQvMDExNC81ODI1LzE2NDdhMGYwLTBkZjUtMzg0Mi1iMTVhLWQ2MGJlZDUzNzlhZS5wbmc]: /images/20211122/e0cb58555232445fa3801e90033f0213.png
[Link 1]: https://carlosfu.iteye.com/blog/2249316
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3lhbmd5YW5neWU_size_16_color_FFFFFF_t_70]: /images/20211122/613457b19d7a480fb323917ecfbe35d9.png
[https_carlosfu.iteye.com_blog_2269687_hmsr_toutiao.io_utm_medium_toutiao.io_utm_source_toutiao.io]: https://carlosfu.iteye.com/blog/2269687?hmsr=toutiao.io&utm_medium=toutiao.io&utm_source=toutiao.io
[Redis_redis]: https://imgconvert.csdnimg.cn/aHR0cHM6Ly91c2VyLWdvbGQtY2RuLnhpdHUuaW8vMjAxOC85LzEwLzE2NWMyMzQwYWM2YzNkYTI_aW1hZ2VWaWV3Mi8wL3cvMTI4MC9oLzk2MC9mb3JtYXQvd2VicC9pZ25vcmUtZXJyb3IvMQ
[Redis_redis 1]: https://imgconvert.csdnimg.cn/aHR0cHM6Ly91c2VyLWdvbGQtY2RuLnhpdHUuaW8vMjAxOC85LzEwLzE2NWMyMzNlYzcwYzMyYzA_aW1hZ2VWaWV3Mi8wL3cvMTI4MC9oLzk2MC9mb3JtYXQvd2VicC9pZ25vcmUtZXJyb3IvMQ
[Redis_redis 2]: https://imgconvert.csdnimg.cn/aHR0cHM6Ly91c2VyLWdvbGQtY2RuLnhpdHUuaW8vMjAxOC85LzEwLzE2NWMyMzNlYzc3ZGE5MGI_aW1hZ2VWaWV3Mi8wL3cvMTI4MC9oLzk2MC9mb3JtYXQvd2VicC9pZ25vcmUtZXJyb3IvMQ
[https_juejin.im_post_5b961172f265da0ab7198f4d]: https://juejin.im/post/5b961172f265da0ab7198f4d