分布式限流方案

谁借莪１个温暖的怀抱￠ 2022-09-12 11:45 240阅读 0赞

> # 一、限流算法 #

主要的限流算法包含：`漏桶算法`、`令牌桶算法`、`计数器` 。

[每种限流算法详细可以参考这里][Link 1]

> # 二、分布式限流方案 #

一般也就分为三种：`Gateway限流`，`redis+lua实现限流`，`nginx限流` 。

## 2.1 Gateway限流 ##

`Spring Cloud Gateway` 中提供了 `RequestRateLimiterGatewayFilterFactory` 类，这个是基于`令牌桶`实现的。

它内置`RedisReteLimiter`，依赖于`Redis`存储限流配置和统计数据，也可以通过继承  
`org.springframework.cloud.gateway.filter.ratelimit.AbstractRateLimiter` 或者是实现  
`org.springframework.cloud.gateway.filter.ratelimit.RateLimiter` 接口来实现自己的`RateLimiter`。

具体实现如下：  
**1. 首先在网关服务引入依赖**  
![在这里插入图片描述!\[][f12ee4b9982d4333b461301113298617.png]  
**2. 具体配置如下**  
![在这里插入图片描述][watermark_type_ZHJvaWRzYW5zZmFsbGJhY2s_shadow_50_text_Q1NETiBA5rKZ5rupZGXmtYHmspk_size_15_color_FFFFFF_t_70_g_se_x_16]  
**3. 可以实现基于三个维度的限流：**  
![在这里插入图片描述][watermark_type_ZHJvaWRzYW5zZmFsbGJhY2s_shadow_50_text_Q1NETiBA5rKZ5rupZGXmtYHmspk_size_20_color_FFFFFF_t_70_g_se_x_16]  
上面所示的配置是每秒产生的令牌数量是1，当我们的请求速度大于这个数值时，就会返回429的状态码。  
![在这里插入图片描述][4af214c7a8544e9da606911180e5de0d.png]

## 2.2 redis+lua ##

**1.在服务中引入lua脚本**  
![在这里插入图片描述][watermark_type_ZHJvaWRzYW5zZmFsbGJhY2s_shadow_50_text_Q1NETiBA5rKZ5rupZGXmtYHmspk_size_19_color_FFFFFF_t_70_g_se_x_16]  
**2.读取lua**  
![在这里插入图片描述][watermark_type_ZHJvaWRzYW5zZmFsbGJhY2s_shadow_50_text_Q1NETiBA5rKZ5rupZGXmtYHmspk_size_20_color_FFFFFF_t_70_g_se_x_16 1]  
**3.判断是否需要限流的代码**  
![在这里插入图片描述][watermark_type_ZHJvaWRzYW5zZmFsbGJhY2s_shadow_50_text_Q1NETiBA5rKZ5rupZGXmtYHmspk_size_20_color_FFFFFF_t_70_g_se_x_16 2]  
![在这里插入图片描述][1897ccae3ea1432d85790a13063caa76.png]  
**4. 上面我们可以看到正常情况下10s内只产生3个令牌，我们来看下效果**  
![在这里插入图片描述][watermark_type_ZHJvaWRzYW5zZmFsbGJhY2s_shadow_50_text_Q1NETiBA5rKZ5rupZGXmtYHmspk_size_12_color_FFFFFF_t_70_g_se_x_16]  
可以看到10秒内只有前三个请求通过，其他的都是被拒绝的，过了10s后又会有三个请求可以通过,这完全符合我们预期的效果。

## 2.3 Nginx限流 ##

**限制访问频率(用来限制单位时间内的请求数)：**  
Nginx可以通过参数`ngx_http_limit_req_module`模块来限制访问频率，使用的`漏桶算法`实现的；可以通过`limit_req_zone`命令以及`limit_req`命令限制单个`ip`的请求处理频率。

**限制连接数(用来限制同一时间连接数，即并发限制)：**  
`ngx_http_limit_conn_module`模块提供了并发连接数的功能，可以使用`limit_conn_zone`命令和`limit_conn`进行配置，也是基于`漏桶算法`实现的。

具体配置：

限制访问速率

limit_req_zone $binary_remote_addr zone=mylimit:10m rate=2r/s;
    server {  
        location / {  
            limit_req zone=mylimit;
        }
    }

上述规则限制了每个IP访问的速度为2r/s，并将该规则作用于根目录。如果单个IP在非常短的时间内并发发送多个请求，结果会怎样呢？  
![在这里插入图片描述][watermark_type_ZHJvaWRzYW5zZmFsbGJhY2s_shadow_50_text_Q1NETiBA5rKZ5rupZGXmtYHmspk_size_20_color_FFFFFF_t_70_g_se_x_16 3]  
使用单个IP在10ms内发并发送了6个请求，只有1个成功，剩下的5个都被拒绝。我们设置的速度是2r/s，为什么只有1个成功呢，是不是Nginx限制错了？当然不是，是因为Nginx的限流统计是基于毫秒的，我们设置的速度是2r/s，转换一下就是500ms内单个IP只允许通过1个请求，从501ms开始才允许通过第二个请求。

# 补充一、怎么让系统承受更大的访问量？ #

一方面是从请求上来说，将多个请求合并成一个请求发送，减少请求次数。  
另一方面是把请求都改成异步的，让请求过来之后就直接返回成功，后面后台继续处理剩下的逻辑。

[Link 1]: https://blog.csdn.net/weixin_41231928/article/details/107706018?ops_request_misc=%257B%2522request%255Fid%2522%253A%2522163247638816780265420843%2522%252C%2522scm%2522%253A%252220140713.130102334.pc%255Fblog.%2522%257D&request_id=163247638816780265420843&biz_id=0&utm_medium=distribute.pc_search_result.none-task-blog-2~blog~first_rank_v2~rank_v29-1-107706018.pc_v2_rank_blog_default&utm_term=%E4%BB%A4%E7%89%8C%E6%A1%B6&spm=1018.2226.3001.4450
[f12ee4b9982d4333b461301113298617.png]: https://img-blog.csdnimg.cn/f12ee4b9982d4333b461301113298617.png
[watermark_type_ZHJvaWRzYW5zZmFsbGJhY2s_shadow_50_text_Q1NETiBA5rKZ5rupZGXmtYHmspk_size_15_color_FFFFFF_t_70_g_se_x_16]: /images/20220828/f7a2af2aeda949038be0f5dca062cb61.png
[watermark_type_ZHJvaWRzYW5zZmFsbGJhY2s_shadow_50_text_Q1NETiBA5rKZ5rupZGXmtYHmspk_size_20_color_FFFFFF_t_70_g_se_x_16]: /images/20220828/420975d63dc74b66afa98a7ab0443cad.png
[4af214c7a8544e9da606911180e5de0d.png]: /images/20220828/28a155a2582941b088aaa029808170c5.png
[watermark_type_ZHJvaWRzYW5zZmFsbGJhY2s_shadow_50_text_Q1NETiBA5rKZ5rupZGXmtYHmspk_size_19_color_FFFFFF_t_70_g_se_x_16]: /images/20220828/57855439c3d44875b8898815c54d0df6.png
[watermark_type_ZHJvaWRzYW5zZmFsbGJhY2s_shadow_50_text_Q1NETiBA5rKZ5rupZGXmtYHmspk_size_20_color_FFFFFF_t_70_g_se_x_16 1]: /images/20220828/cc977a8856124039bc127cfc95d5d3aa.png
[watermark_type_ZHJvaWRzYW5zZmFsbGJhY2s_shadow_50_text_Q1NETiBA5rKZ5rupZGXmtYHmspk_size_20_color_FFFFFF_t_70_g_se_x_16 2]: /images/20220828/820555d42d8842b593ebf7cb429baa7e.png
[1897ccae3ea1432d85790a13063caa76.png]: /images/20220828/feeac5399b2346babe50d06864ec9c0a.png
[watermark_type_ZHJvaWRzYW5zZmFsbGJhY2s_shadow_50_text_Q1NETiBA5rKZ5rupZGXmtYHmspk_size_12_color_FFFFFF_t_70_g_se_x_16]: /images/20220828/7afa6268de554049b03f41baac6c806c.png
[watermark_type_ZHJvaWRzYW5zZmFsbGJhY2s_shadow_50_text_Q1NETiBA5rKZ5rupZGXmtYHmspk_size_20_color_FFFFFF_t_70_g_se_x_16 3]: /images/20220828/9758d93b335b4521b1e3834470f0714a.png