微服务容错与隔离：限流保护，计数器+漏桶+令牌桶算法限流实现

小灰灰 2023-09-28 12:59 12阅读 0赞

**限流保护**

限流的目的是保护系统不被大量请求冲垮，通过限制请求的速度来保护系统。在电商的秒杀活动中，限流是必不可少的一个环节。

**计数器**

比较简单的限流做法是维护一个单位时间内的计数器，每次允许请求计数器都加1，当单位时间内计数器累加到设定的阈值后，之后的请求都被拒绝，直到超过单位时间，再将计数器重置为零。此方式有一个弊端：如果在单位时间1s内允许100个请求，10ms已经通过了100个请求，那后面的990ms只能拒绝请求，我们把这种现象称为“突刺现象”。常用的更平滑的限流算法有两种：漏桶算法和令牌桶算法。

**漏桶算法**

漏桶算法的思路很简单，水（请求）先进入漏桶里，漏桶以一定的速度出水（接口有响应速度），当水流入的速度过大时（访问频率超过接口响应速度）会直接溢出，然后就拒绝请求。如下图所示，可以看出漏桶算法能强行限制数据的传输速度。因为漏桶的漏出速度是固定的，所以，即使网络中不存在资源冲突（没有发生拥塞），漏桶算法也不能增大流量。因此，漏桶算法对于存在突发特性的流量来说缺乏效率。

![7c1115f7004a3b4aea23e4dd5929bcfd.png][]

**令牌桶算法**

令牌桶算法和漏桶算法效果相似，令牌桶算法更加容易理解。随着时间的流逝，系统会按恒定的1/QPS时间间隔（如果QPS=100，则间隔是10ms）往桶里加入令牌（就像有个水龙头在不断地加水），如果桶已经满了就不再加了。新请求来临时，会拿走一个令牌，如果没有令牌可拿了，就阻塞或者拒绝请求，如下图所示。

![46cbc959de793996c05d3f4d80174dbc.png][]

令牌桶算法的另外一个好处是可以方便地改变速度。一旦需要提高速度，则按需提高放入桶中的令牌的速度即可。一般会定时（比如100ms）往桶中增加一定数量的令牌，有些变种算法则实时地计算应该增加的令牌的数量。

**限流实现**

Guava限流器RateLimiter是基于令牌桶算法实现的一个多线程限流器，它可以均匀地处理请求，当然它并不是一个分布式限流器，只是对单机进行限流。它可以定时拉取接口数据，下面是一个简单的限流功能的实例。

首选引入Maven依赖：

![f12fabd1b1adeed2143555dac53a27d6.png][]

然后使用Guava限流，Java代码实现如下：

![6d8bbc9bb92a15f152a5952171bbcc6b.png][]

![ec1cccba9e7ebeac6b19c76ef953ea7c.png][]

## 本文给大家讲解的内容是微服务容错与隔离：限流保护，计数器+漏桶+令牌桶算法限流实现 ##

1.  **下篇文章给大家讲解的内容是微服务容错与隔离：**熔**断保护、超时与重试**
2.  **觉得文章不错的朋友可以转发此文关注小编；**
3.  **感谢大家的支持！**

![84842dc27382485b9af3d2c4d2e5f8e8.jpeg][]

[7c1115f7004a3b4aea23e4dd5929bcfd.png]: https://img-blog.csdnimg.cn/img_convert/7c1115f7004a3b4aea23e4dd5929bcfd.png
[46cbc959de793996c05d3f4d80174dbc.png]: https://img-blog.csdnimg.cn/img_convert/46cbc959de793996c05d3f4d80174dbc.png
[f12fabd1b1adeed2143555dac53a27d6.png]: https://img-blog.csdnimg.cn/img_convert/f12fabd1b1adeed2143555dac53a27d6.png
[6d8bbc9bb92a15f152a5952171bbcc6b.png]: https://img-blog.csdnimg.cn/img_convert/6d8bbc9bb92a15f152a5952171bbcc6b.png
[ec1cccba9e7ebeac6b19c76ef953ea7c.png]: https://img-blog.csdnimg.cn/img_convert/ec1cccba9e7ebeac6b19c76ef953ea7c.png
[84842dc27382485b9af3d2c4d2e5f8e8.jpeg]: https://img-blog.csdnimg.cn/84842dc27382485b9af3d2c4d2e5f8e8.jpeg