Redis相关问题和解决方法记录

客官°小女子只卖身不卖艺 2022-05-19 03:34 268阅读 0赞

1.缓存穿透

缓存穿透是指查询一个根本不存在的数据，缓存层和存储层都不会命中。所以每次查询这条数据的时候，都先查一遍缓存，然后再查一遍数据库。解决的办法是，在缓存中保存一个空值，来标记该数据在数据库中不存在，同时给该值设置一个较短的过期时间，防止被恶意攻击时产生太多的key。

2.缓存无底洞

键值数据库由于通常采用哈希函数将key映射到各个节点上，造成key的分布与业务无关，但是由于数据量和访问量的持续增长，造成需要添加大量节点做水平扩容，导致键值分布到更多的节点上，所以无论是Memcache还是Redis的分布式，批量操作通常需要从不同节点上获取，相比于单机批量操作只涉及一次网络操作，分布式批量操作会涉及多次网络时间。用一句通俗的话总结就是，更多的节点不代表更高的性能，所谓“无底洞”就是说投入越多不一定产出越多。但是分布式又是不可以避免的，因为访问量和数据量越来越大，一个节点根本抗不住，所以如何高效地在分布式缓存中批量操作是一个难点。具体有以下几个措施：

1)串行命令

由于n个key是比较均匀地分布在Redis Cluster的各个节点上，因此无法使用mget命令一次性获取，所以通常来讲要获取n个key的值，最简单的方法就是逐次执行n个get命令，这种操作时间复杂度较高，它的操作时间=n次网络时间+n次命令时间，网络次数是n。很显然这种方案不是最优的，但是实现起来比较简单

2)串行IO

Redis Cluster使用CRC16算法计算出散列值，再取对16383的余数就可以算出slot值，同时Smart客户端会保存slot和节点的对应关系，有了这两个数据就可以将属于同一个节点的key进行归档，得到每个节点的key子列表，之后对每个节点执行mget或者Pipeline操作，它的操作时间=node次网络时间+n次命令时间，网络次数是node的个数，很明显这种方案比第一种要好很多，但是如果节点数太多，还是有一定的性能问题。

3)并行IO

此方案是将方案2中的最后一步改为多线程执行，网络次数虽然还是节点个数，但由于使用多线程网络时间变为O（1），这种方案会增加编程的复杂度

4)hash\_tag实现

hash\_tag可以将多个key强制分配到一个节点上，它的操作时间=1次网络时间+n次命令时间。具体方法为：选定某一个tag，比如test，然后将它用大括号\{\}括起来，粘贴到key里面。比如key1和key2，这两个key有可能分配到不同的node。但是，如果是\{test\}key1和\{test\}key2，redis集群在判断时，就会取出大括号里面的字符串作为hashtag来计算节点。因此，\{test\}key1和\{test\}key2会被分配到一个节点中

几种方法的比较

![70][]

3.缓存雪崩

由于缓存层承载着大量请求，有效地保护了存储层，但是如果缓存层由于某些原因不能提供服务，于是所有的请  
求都会达到存储层，存储层的调用量会暴增，造成存储层也会级联宕机的情况。缓存雪崩的英文原意是stampeding herd（奔逃的野牛），指的是缓存层宕掉后，流量会像奔逃的野牛一样，打向后端存储。

![70 1][]

解决方法：

1)）保证缓存层服务高可用性。和飞机都有多个引擎一样，如果缓存层设计成高可用的，即使个别节点、个别机器、甚至是机房宕掉，依然可以提供服务，Redis Sentinel（哨兵）和Redis Cluster（集群）都实现了高可用

2）依赖隔离组件为后端限流并降级。无论是缓存层还是存储层都会有出错的概率，可以将它们视同为资源。作为并发量较大的系统，假如有一个资源不可用，可能会造成线程全部阻塞（hang）在这个资源上，造成整个系统不可用。降级机制在高并发系统中是非常普遍的：比如推荐服务中，如果个性化推荐服务不可用，可以降级补充热点数据，不至于造成前端页面是开天窗。在实际项目中，我们需要对重要的资源（例如Redis、MySQL、HBase、外部接口）都进行隔离，让每种资源都单独运行在自己的线程池中，即使个别资源出现了问题，对其他服务没有影响。Hystrix是解决依赖隔离的利器

3）提前演练。在项目上线前，演练缓存层宕掉后，应用以及后端的负载情况以及可能出现的问题，在此基础上做一些预案设定。

4.热点key重建优化

开发人员使用“缓存+过期时间”的策略既可以加速数据读写，又保证数据的定期更新，这种模式基本能够满足绝大部分需求。但是有两个问题如果同时出现，可能就会对应用造成致命的危害：  
·当前key是一个热点key（例如一个热门的娱乐新闻），并发量非常大。  
·重建缓存不能在短时间完成，可能是一个复杂计算，例如复杂的SQL、多次IO、多个依赖等。在缓存失效的瞬间，有大量线程来重建缓存（如图11-16所示），造成后端负载加大，甚至可能会让应用崩溃

解决方案：

1）互斥锁

此方法只允许一个线程重建缓存，其他线程等待重建缓存的线程执行完，重新从缓存获取数据即可

1.1    从Redis获取数据，如果值不为空，则直接返回值；否则执行下面的2.1和2.2步骤。  
2.1    如果set（nx和ex）结果为true，说明此时没有其他线程重建缓存，那么当前线程执行缓存构建逻辑。  
2.2    如果set（nx和ex）结果为false，说明此时已经有其他线程正在执行构建缓存的工作，那么当前线程将休息指定时间（例如这里是50毫秒，取决于构建缓存的速度）后，重新执行函数，直到获取到数据。

2）永远不过期

“永远不过期”包含两层意思：  
·从缓存层面来看，确实没有设置过期时间，所以不会出现热点key过期后产生的问题，也就是“物理”不过期。  
·从功能层面来看，只有在需要更新某个key值时，才从数据库查询数据更新缓存。也可以为每个value设置一个逻辑过期时间，当发现超过逻辑过期时间后，会使用单独的线程去构建缓存

从实战看，此方法有效杜绝了热点key产生的问题，但唯一不足的就是重构缓存期间，会出现数据不一致的情况，这取决于应用方是否容忍这种不一致。

![70 2][]

[70]: /images/20220519/5e251375b1e54f18a18b7d3b9f5f9530.png
[70 1]: /images/20220519/6841cd21a4d142c1a71fca973b935358.png
[70 2]: /images/20220519/7441a890da1f444186f8f591a273d6ee.png