聊聊高并发系统之限流特技

叁歲伎倆 2022-09-21 05:46 180阅读 0赞

**概述：**  
在开发高并发系统时有三把利器用来保护系统：缓存、降级和限流。缓存的目的是提升系统访问速度和增大系统能处理的容量，可谓是抗高并发流量的银弹；而降级是当服务出问题或者影响到核心流程的性能则需要暂时屏蔽掉，待高峰或者问题解决后再打开；而有些场景并不能用缓存和降级来解决，比如稀缺资源（秒杀、抢购）、写服务（如评论、下单）、频繁的复杂查询（评论的最后几页），因此需有一种手段来限制这些场景的并发/请求量，即限流。  
  
限流的目的是通过对并发访问/请求进行限速或者一个时间窗口内的的请求进行限速来保护系统，一旦达到限制速率则可以拒绝服务（定向到错误页或告知资源没有了）、排队或等待（比如秒杀、评论、下单）、降级（返回兜底数据或默认数据，如商品详情页库存默认有货）。  
  
一般开发高并发系统常见的限流有：限制总并发数（比如数据库连接池、线程池）、限制瞬时并发数（如nginx的limit\_conn模块，用来限制瞬时并发连接数）、限制时间窗口内的平均速率（如Guava的RateLimiter、nginx的limit\_req模块，限制每秒的平均速率）；其他还有如限制远程接口调用速率、限制MQ的消费速率。另外还可以根据网络连接数、网络流量、CPU或内存负载等来限流。  
  
先有缓存这个银弹，后有限流来应对618、双十一高并发流量，在处理高并发问题上可以说是如虎添翼，不用担心瞬间流量导致系统挂掉或雪崩，最终做到有损服务而不是不服务；限流需要评估好，不可乱用，否则会正常流量出现一些奇怪的问题而导致用户抱怨。  
  
在实际应用时也不要太纠结算法问题，因为一些限流算法实现是一样的只是描述不一样；具体使用哪种限流技术还是要根据实际场景来选择，不要一味去找最佳模式，白猫黑猫能解决问题的就是好猫。  
  
因在实际工作中遇到过许多人来问如何进行限流，因此本文会详细介绍各种限流手段。那么接下来我们从限流算法、应用级限流、分布式限流、接入层限流来详细学习下限流技术手段。  
  
  
**限流算法：**  
常见的限流算法有：令牌桶、漏桶。计数器也可以进行粗暴限流实现。  
  
**令牌桶算法：**  
令牌桶算法是一个存放固定容量令牌的桶，按照固定速率往桶里添加令牌。令牌桶算法的描述如下：  
1.假设限制2r/s，则按照500毫秒的固定速率往桶中添加令牌；  
2.桶中最多存放b个令牌，当桶满时，新添加的令牌被丢弃或拒绝；  
3.当一个n个字节大小的数据包到达，将从桶中删除n个令牌，接着数据包被发送到网络上；  
4.如果桶中的令牌不足n个，则不会删除令牌，且该数据包将被限流（要么丢弃，要么缓冲区等待）。  
![20160616220936872][]  
  
**漏桶算法：**  
漏桶作为计量工具（The Leaky Bucket Algorithm as a Meter）时，可以用于流量整形（Traffic Shaping）和流量控制（TrafficPolicing），漏桶算法的描述如下：  
1.一个固定容量的漏桶，按照常量固定速率流出水滴；  
2.如果桶是空的，则不需流出水滴；  
3.可以以任意速率流入水滴到漏桶；  
4.如果流入水滴超出了桶的容量，则流入的水滴溢出了（被丢弃），而漏桶容量是不变的。  
![20160616221105060][]  
  
令牌桶和漏桶对比：  
1.令牌桶是按照固定速率往桶中添加令牌，请求是否被处理需要看桶中令牌是否足够，当令牌数减为零时则拒绝新的请求；  
2.漏桶则是按照常量固定速率流出请求，流入请求速率任意，当流入的请求数累积到漏桶容量时，则新流入的请求被拒绝；  
3.令牌桶限制的是平均流入速率（允许突发请求，只要有令牌就可以处理，支持一次拿3个令牌，4个令牌），并允许一定程度突发流量；  
4.漏桶限制的是常量流出速率（即流出速率是一个固定常量值，比如都是1的速率流出，而不能一次是1，下次又是2），从而平滑突发流入速率；  
5.令牌桶允许一定程度的突发，而漏桶主要目的是平滑流入速率；  
6.两个算法实现可以一样，但是方向是相反的，对于相同的参数得到的限流效果是一样的。  
  
  
另外有时候我们还使用计数器来进行限流，主要用来限制总并发数，比如数据库连接池、线程池、秒杀的并发数；只要全局总请求数或者一定时间段的总请求数设定的阀值则进行限流，是简单粗暴的总数量限流，而不是平均速率限流。  
  
到此基本的算法就介绍完了，接下来我们首先看看应用级限流。  
  
  
**应用级限流：**  
限流总并发/连接/请求数  
  
对于一个应用系统来说一定会有极限并发/请求数，即总有一个TPS/QPS阀值，如果超了阀值则系统就会不响应用户请求或响应的非常慢，因此我们最好进行过载保护，防止大量请求涌入击垮系统。  
  
**限流总资源数：**  
如果有的资源是稀缺资源（如数据库连接、线程），而且可能有多个系统都会去使用它，那么需要限制应用；可以使用池化技术来限制总资源数：连接池、线程池。比如分配给每个应用的数据库连接是100，那么本应用最多可以使用100个资源，超出了可以等待或者抛异常。  
  
**限流某个接口的总并发/请求数：**  
如果接口可能会有突发访问情况，但又担心访问量太大造成崩溃，如抢购业务；这个时候就需要限制这个接口的总并发/请求数总请求数了；因为粒度比较细，可以为每个接口都设置相应的阀值。  
  
适合对业务无损的服务或者需要过载保护的服务进行限流，如抢购业务，超出了大小要么让用户排队，要么告诉用户没货了，对用户来说是可以接受的。而一些开放平台也会限制用户调用某个接口的试用请求量，也可以用这种计数器方式实现。这种方式也是简单粗暴的限流，没有平滑处理，需要根据实际情况选择使用；  
  
**限流某个接口的时间窗请求数：**  
即一个时间窗口内的请求数，如想限制某个接口/服务每秒/每分钟/每天的请求数/调用量。如一些基础服务会被很多其他系统调用，比如商品详情页服务会调用基础商品服务调用，但是怕因为更新量比较大将基础服务打挂，这时我们要对每秒/每分钟的调用量进行限速；  
  
  
摘自： [http://mp.weixin.qq.com/s?\_\_biz=MjM5NTg2NTU0Ng==&mid=2656593684&idx=4&sn=dac95358a5b94bf2f9ce601cae45021a&scene=23&srcid=0613CYKaOoNRFXl6IBr0XzpK\#rd][http_mp.weixin.qq.com_s_biz_MjM5NTg2NTU0Ng_mid_2656593684_idx_4_sn_dac95358a5b94bf2f9ce601cae45021a_scene_23_srcid_0613CYKaOoNRFXl6IBr0XzpK_rd]

[20160616220936872]: /images/20220721/50e9b9cde56148eea6bfbfa00eb8b389.png
[20160616221105060]: /images/20220721/366117f927c7498db6cc46ca1c2f62e9.png
[http_mp.weixin.qq.com_s_biz_MjM5NTg2NTU0Ng_mid_2656593684_idx_4_sn_dac95358a5b94bf2f9ce601cae45021a_scene_23_srcid_0613CYKaOoNRFXl6IBr0XzpK_rd]: http://mp.weixin.qq.com/s?__biz=MjM5NTg2NTU0Ng==&mid=2656593684&idx=4&sn=dac95358a5b94bf2f9ce601cae45021a&scene=23&srcid=0613CYKaOoNRFXl6IBr0XzpK#rd