限流算法就是这么简单

怼烎@ 2023-01-15 13:29 137阅读 0赞

![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L20yOTAzNDU3OTI_size_16_color_FFFFFF_t_70_pic_center][]

在开发高并发系统时，有很多手段来保护系统，如缓存、降级和限流等。缓存目的是提升系统访问速度和增大系统处理能力，可谓是抗高并发流量的银弹。而降级是当服务出问题或者影响到核心流程的性能，需要暂时屏蔽掉，待高峰过去或者问题解决后再打开的场景。而有些场景并不能用缓存和降级来解决，比如秒杀、抢）、评论、下等。因此，需有一种手段来限制这些场景下的并发/请求量，这种手段就是限流。

限流的目的是通过对并发访问/请求进行限速或者一个时间窗口内的请求进行限速来保护系统，一旦达到限制速率则可以拒绝服务、排队或等待、降级等

常见的限流算法有：令牌桶、漏桶。

# **令牌桶算法** #

令牌桶算法，是一个存放固定容量令牌的桶，按照固定速率往桶里添加令牌。

令牌桶算法如下：

1.   假设限制每秒转2圈，则按照500毫秒的固定速率往桶中添加令牌。
2.  桶中最多存放*b* 个令牌，当桶满时，新添加的令牌被丢弃或拒绝。
3.  当一个*n* 个字节大小的数据包到达，将从桶中删除*n* 个令牌，接着数据包被发送到网络上。
4.  如果桶中的令牌不足*n* 个，则不会删除令牌，且该数据包将被限流（要么丢弃，要么在缓冲区等待）。

# **漏桶算法** #

漏桶作为计量工具时，可以用于流量整形和流量控制。

漏桶算法的描述如下：

1.   一个固定容量的漏桶，按照常量固定速率流出水滴。
2.  如果桶是空的，则不需流出水滴。
3.  可以以任意速率流入水滴到漏桶。
4.  如果流入水滴超出了桶的容量，则流入的水滴溢出了（被丢弃），而漏桶容量是不变的。

# **令牌桶和漏桶算法对比** #

*  令牌桶是按照固定速率添加令牌，当令牌数减为零时，则拒绝新的请求。
 *  漏桶则是按照固定速率流出，流入请求速率任意，当流入的请求数累积到漏桶容量时，则新流入的请求被拒绝。
 *  令牌桶限制的是平均流入速率（允许突发请求，只要有令牌就可以处理，支持一次拿3个令牌，或4个令牌），并允许一定程度的突发流量。
 *  漏桶限制的是常量流出速率（即流出速率是一个固定常量值，比如都是1的速率流出，而不能一次是1，下次又是2），从而平滑突发流入速率。
 *  令牌桶允许一定程度的突发，而漏桶主要目的是平滑流入速率。
 *  两个算法实现可以一样，但是方向是相反的，对于相同的参数得到的限流效果是一样的。

另外，有时我们还使用计数器来进行限流，主要用来限制总并发数，比如数据库连接池大小、线程池大小、秒杀并发数都是计数器的用法。只要全局总请求数或者一定时间段的总请求数达到设定阈值，则进行限流。这是一种简单粗暴的总数量限流，而不是平均速率限流。

欢迎您在评论区留言

[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L20yOTAzNDU3OTI_size_16_color_FFFFFF_t_70_pic_center]: /images/20221022/310a2fa194dd4a1cb3acdef154be5a22.png