阿里一面考点分析总结 朴灿烈づ我的快乐病毒、 2022-02-14 04:53 205阅读 0赞 ## 1 前言 ## 昨天晚上接到阿里的电面电话,过程中就问到了关于缓存相关的问题。虽然以前接触过,多多少少了解了一些。但是之前自己并没有好好记录这些内容,在真正面试的时候,并没有回答得出来。今天记录一下,长长记性。 在我们的平常的项目中多多少少都会使用到缓存,因为一些数据我们没有必要每次查询的时候都去查询到数据库。特别是高 QPS 的系统,每次都去查询数据库,对于你的数据库来说将是灾难。 今天我们不牵涉多级缓存的知识,就把系统使用到的缓存方案,不管是一级还是多级的都统称为缓存,主要是为了讲述使用缓存的时候可能会遇到的一些问题以及一些解决办法。 我们使用缓存时,我们的业务系统大概的调用流程如下图: ![1240][] 当我们查询一条数据时,先去查询缓存,如果缓存有就直接返回,如果没有就去查询数据库,然后返回。这种情况下就可能会出现一些现象。 ## 2 缓存穿透 ## ### 2.1 什么是缓存穿透 ### 正常情况下,我们去查询数据都是存在。那么请求去查询一条压根数据库中根本就不存在的数据,也就是缓存和数据库都查询不到这条数据,但是请求每次都会打到数据库上面去。 这种查询不存在数据的现象我们称为缓存穿透。 ### 2.2 穿透带来的问题 ### 试想一下,如果有黑客会对你的系统进行攻击,拿一个不存在的id 去查询数据,会产生大量的请求到数据库去查询。可能会导致你的数据库由于压力过大而宕掉。 ### 2.3 解决办法 ### #### 2.3.1 缓存空值 #### 之所以会发生穿透,就是因为缓存中没有存储这些空数据的key。从而导致每次查询都到数据库去了。 那么我们就可以为这些key 设置的值设置为null 丢到缓存里面去。后面再出现查询这个key 的请求的时候,直接返回null ,就不用在到 数据库中去走一圈了。但是别忘了设置过期时间。 #### 2.3.2 BloomFilter #### BloomFilter 类似于一个hase set 用来判断某个元素(key)是否存在于某个集合中。具体概念 这种方式在大数据场景应用比较多,比如 Hbase 中使用它去判断数据是否在磁盘上。还有在爬虫场景判断url 是否已经被爬取过。 这种方案可以加在第一种方案中,在缓存之前在加一层 BloomFilter ,在查询的时候先去 BloomFilter 去查询 key 是否存在,如果不存在就直接返回,存在再走查 缓存 -> 查 DB。 流程图如下: ![1240 1][] ### 2.4 如何选择 ### 针对于一些恶意攻击,攻击带过来的大量key 是不存在的,那么我们采用第一种方案就会缓存大量不存在 key 的数据。此时我们采用第一种方案就不合适了,我们完全可以先对使用第二种方案进行过滤掉这些key。 针对这种key 异常多,请求重复率比较低的数据,我们就没有必要进行缓存,使用第二种方案直接过滤掉。 对于空数据的key 有限的,重复率比较高的,我们则可以采用第一种方式进行缓存。 ## 3 缓存击穿 ## ### 3.1 什么是击穿 ### 缓存击穿是我们可能遇到的第二个使用缓存方案可能遇到的问题。 在平常高并发的系统中,大量的请求同时查询一个 key 时,此时 这个key 正好失效了,就会导致大量的请求都打到数据库上面去。这种现象我们成为击穿。 ### 3.2 会带来什么问题 ### 会造成某一时刻数据库请求量过大,压力剧增。 ### 3.3 如何解决 ### 上面的现象是多个线程同时去查询数据库的这条数据,那么我们可以在第一个查询数据的请求上使用一个 互斥锁来锁住它。其他的线程走到这一步拿不到锁就等着,等第一个线程查询到了数据,然后做缓存。后面的线程进来发现已经有缓存了,就直接走缓存。 ## 4、缓存雪崩 ## ### 4.1 什么是缓存雪崩 ### 缓存的情况是说,当某一时刻发生大规模的缓存失效的情况。比如你的缓存服务宕机了,会有大量的请求进来直接打到DB上面。结果就是DB 称不住,挂掉。 ### 4.2 解决办法 ### #### 4.2.1 事前:使用集群缓存,保证缓存服务的高可用 #### 这种方案就是在发生雪崩前对缓存集群实现高可用,如果是使用 Redis,可以使用 主从+哨兵 ,Redis Cluster 来避免 Redis 全盘崩溃的情况。 #### 4.2.2 事中:使用 ehcache 本地缓存 + Hystrix 限流&降级 ,避免 MySQL 被打死的情况发生。 #### 使用 ehcache 本地缓存的目的也是考虑在 Redis Cluster 完全不可用的时候,ehcache 本地缓存还能够支撑一阵。 使用 Hystrix 进行 限流 & 降级 ,比如一秒来了5000个请求,我们可以设置假设只能有一秒 2000 个请求能通过这个组件,那么其他剩余的 3000 请求就会走限流逻辑,然后去调用我们自己开发的降级组件(降级)。比如设置的一些默认值呀之类的。以此来保护最后的 MySQL 不会被大量的请求给打死。 #### 4.2.3 事后:开启 Redis 持久化机制,尽快恢复缓存集群 #### 一旦重启,就能从磁盘上自动加载数据恢复内存中的数据。 防止雪崩方案如下图所示: ![1240 2][] ## 5 热点数据集中失效问题怎么解决 ## 我们在设置缓存的时候,一般会给缓存设置一个失效时间,过了这个时间,缓存就失效了。对于一些热点的数据来说,当缓存失效以后会存在大量的请求过来,然后打到数据库去,从而可能导致数据库崩溃的情况。 ### 5.1 解决办法 ### #### 5.1.1 设置不同的失效时间 #### 为了避免这些热点的数据集中失效,那么我们在设置缓存过期时间的时候,我们让他们失效的时间错开。比如在一个基础的时间上加上或者减去一个范围内的随机值。 #### 5.1.2 互斥锁 #### 结合上面的击穿的情况,在第一个请求去查询数据库的时候对他加一个互斥锁,其余的查询请求都会被阻塞住,直到锁被释放,从而保护数据库。但是也是由于它会阻塞其他的线程,此时系统吞吐量会下降。需要结合实际的业务去考虑是否要这么做。 -------------------- 扫描下方二维码,**及时**获取更多**互联网求职面经**、**java**、**python**、**爬虫**、**大数据**等技术,和**海量资料分享**: 公众号\*\*`菜鸟名企梦`**后台发送“csdn”即可免费领取【csdn】和【百度文库】下载服务; 公众号**`菜鸟名企梦`**后台发送“资料”:即可领取**5T精品学习资料\*\*、**java面试考点**和**java面经总结**,以及**几十个java、大数据项目**,**资料很全,你想找的几乎都有** ![扫码关注,及时获取更多精彩内容。(博主今日头条大数据工程师)][1240 3] [1240]: /images/20220214/398fe6c391e342e088178bbb093fa417.png [1240 1]: /images/20220214/2a5071f4fd5443af968bb219c5826f9a.png [1240 2]: /images/20220214/109bd42fe08f47d1bb8830e88a806fe7.png [1240 3]: /images/20220214/c2a68fe32e5a41708da06b8195f87777.png
相关 Java阿里+美团一面问题总结-8.30 阿里一面 **1、首先讲自己的项目,项目的主要功能;流程设计;** 打分的原理,怎么保证这个分值较为准确;1)首先进行阈值测量,看我的阈值设置多少范围;2)根据阈值... 野性酷女/ 2024年04月17日 18:52/ 0 赞/ 58 阅读
相关 阿里菜鸟一面 1.自我介绍 2.分库分表。分表:垂直分表,水平分表 3.mysql高可用,读写分离如何实现,主从复制如何实现,主从复制有时间间隔,会产生脏读问题,该怎么办? 4. 我不是女神ヾ/ 2022年11月01日 04:28/ 0 赞/ 167 阅读
相关 各种一面总结 3月以来开始春招找实习,中断了一些学习内容,开始复习,电面笔试等等,记录一下。面试公司包括:BAT、新浪微博,笔试公司,完美世界,360。被问到的问题大概就是这些吧,其实老生长 我不是女神ヾ/ 2022年09月30日 06:48/ 0 赞/ 137 阅读
相关 阿里巴巴一面 阿里巴巴一面总结 1. 基本数据类型有几种?分别是什么?在内存中是怎么分布的? 答:8种。byte、short,int、long、char、float、double、 电玩女神/ 2022年05月18日 10:46/ 0 赞/ 530 阅读
相关 阿里一面考点分析总结 1 前言 昨天晚上接到阿里的电面电话,过程中就问到了关于缓存相关的问题。虽然以前接触过,多多少少了解了一些。但是之前自己并没有好好记录这些内容,在真正面试的时候,并没有回 朴灿烈づ我的快乐病毒、/ 2022年02月14日 04:53/ 0 赞/ 206 阅读
相关 阿里一面 1.看你用过ZMQ和netty,能说一下ZMQ的优势和作用吗 2.netty怎么知道数据发送完了?怎么知道从哪里开始发?包头里面都有什么? 3.亿万级流量如何优化,说了 叁歲伎倆/ 2021年11月26日 08:50/ 0 赞/ 364 阅读
还没有评论,来说两句吧...