SpringCloud Alibaba - Sentinel 限流规则（案例 + JMeter 测试分析）

客官°小女子只卖身不卖艺 2024-02-27 05:53 43阅读 0赞

**目录**

一、Sentinel 限流规则

1.1、簇点链路

1.2、流控模式

1.2.1、直接流控模式

1.2.2、关联流控模式

a）在 OrderController 中新建两个端点.

b）在 Sentinel 控制台中对订单查询端点进行流控

c）使用 JMeter 进行测试

d）分析结果

1.2.3、链路流控模式

a）在 OrderService 中添加 queryGoods 方法（不用实现业务）.

b）在 OrderController 中创建两个端点，分别是 /order/query 和 /order/save

c）给 queryGoods 设置限流规则

d）使用 JMeter 进行测试

1.3、流控效果

1.3.1、快速失败

1.3.2、warm up

a）设置限流规则

b）使用 JMeter 进行测试

c）分析结果

1.3.3、排队等待

a）配置流控规则

b）使用 JMeter 进行测试

c）分析结果

1.3.4、热点参数限流

a）给热点参数限流对象加上 @SentinelResource 注解

c）使用 JMeter 进行测试

d）分析测试结果

--------------------

## 一、Sentinel 限流规则 ##

--------------------

### 1.1、簇点链路 ###

在 Sentinel 控制台中有这样一个选项.

![6275e475679b4bd89ea5252605f759b6.png][]

簇点链路，就是项目内的调用链路.

*在 SpringMVC 中，请求先在 Controller 中路由到对应的方法，然后在方法中调用 Sevice 中的方法，最后调用对应的 Mapper 接口，这个过程就是一个调用链路.*

链路中被监控的每一个接口就是一个资源（RequestMapping 就是资源路由），默认情况下，会监控 SpringMVC 的每一个端点（也就是 Controller 中的每一个资源），因此 SpringMVC 中每一个端点就是调用链中的一个资源.

**流量、熔断等都是针对簇点链路中的资源来设置的.**

### 1.2、流控模式 ###

#### 1.2.1、直接流控模式 ####

在访问 /order/\{orderId\} 后，打开 Sentinle 控制台，选择 “簇点链路” 就可以看到下图.

![8d4c1f78389f44518ef36fea21942960.png][]

点击资源 /order/\{orderId\} 后面的流控按钮，就会弹出表单，之后就可以添加限流规则.

这里我们先来看一下，直接流控模式（打开高级选项后，即可看到默认选中）

![c75d44148ba946fda59fa9332d2b21ae.png][]

*  针对来源：默认为 default，也就是对所有的请求有效，这里一般不做修改.
 *  阈值类型：这里就是用 qps 即可，也就是每秒处理请求的最大个数.
 *  单机阈值：设置每秒处理请求的最大个数.
 *  流量模式：这里有三种，当前我们先看第一种，**就是统计当前资源的请求，如果超过单机阈值，就进行限流.**
 *  流控效果：快速失败是默认，是指到达阈值后，新请求会立刻被拒绝并抛出 FlowException 异常.

这里设置单机阈值为 5.

![33c4d0a5a1f04c0c829a8ab0e3bf4c57.png][]

然后通过 JMeter 测试工具实现每秒中发送 10 个请求，总共持续 2s.

![2948247e8c414399aadb1def239e66b4.png][]

设置 Http 请求

![856d5db56457400db6ab72eead615684.png][]

启动脚本，观察运行结果，可以看到差不多是每 5 条成功，5条失败.

![b9907d41ec9e42e5bd71c7c43aa94cc4.png][]

在 Sentinel 中就可以观察到QPS 的通过和拒绝情况.

![8324bf05f20d4310a533866f6348e482.png][]

#### 1.2.2、关联流控模式 ####

关联模式：**用来统计与当前资源相关的另一个资源，触发阈值时，对当前资源进行限流.**

*举个例子，你在淘宝上买东西，完成支付以后会进行修改订单状态的业务，与此同时，你还要查看订单，但是 查询 和 修改 都会争抢数据库的锁，产生竞争. 根据业务需求是，优先进行更新订单业务，之后进行用户查询业务，因此当修改订单业务触发阈值时，就需要对查询订单业务进行限流.*

可以看出，关联流控模式的适用场景满足以下条件：

*  两个资源有竞争关系.
 *  一个优先级高，一个优先级低.

这里用一个案例来演示：在 OrderController 中创建两个端点，/order/query 和 /order/update ，不用实现业务，接着配置流控规则，当 /order/update 资源被访问的 QPS 超过 5 时，对 /order/query 请求限流.

具体实现步骤如下：

##### a）在 OrderController 中新建两个端点. #####

创建 /order/query 和 /order/update 端点.

@RequestMapping("/query")
        public String queryOrder() {
            return "订单查询成功！";
        }
    
        @RequestMapping("update")
        public String updateOrder() {
            return "订单修改成功！";
        }

##### b）在 Sentinel 控制台中对订单查询端点进行流控 #####

单机阈值设置为 5，流控模式选择 “关联”，关联资源就是 /order/update.

也就是说**，当 /order/update 达到阈值以后，再发送 /order/query 请求就会抛出异常.**

![484b529407e746fd93a8538cb5aed65b.png][]

##### c）使用 JMeter 进行测试 #####

设置每秒发送 10 个请求，总共发 1000 个请求.

![4b4844eec398456290c9e535996e4591.png][]

这里对 /order/update 发送请求即可.

![a34491b5ea1c4ba6a49326285fb413d5.png][]

##### d）分析结果 #####

JMeter 运行期间，手动发送一个 /order/query 请求，会发现请求失败.

![4e1d22ab21994a408e4ba8fd0312addf.png][]

这是因为此时 /order/update 已经超出阈值，此时再发送 /order/query 请求，那么两个请求的总数加起来肯定也是超过阈值的，因此由于设定了 “流控效果” 为快速失败，所以这里抛出异常.

![5065c59f8f6d49f7a89cf7f58e4b7354.png][]

#### 1.2.3、链路流控模式 ####

链路模式：只针对从指定链路访问到当前指定资源的请求做统计，如果超过阈值，则对当前链路进行限流.

例如现在有两条请求链路：

*  /test1 -> /tools
 *  /test2 -> /tools

如果只希望统计从 /test2 进入 /tools 请求，那么一旦超过阈值（假设阈值为 5），只对此线路进行限流，则可以进行如下配置：

![a42ac0b4ad304d46b731b838ec1ccedc.png][]

这里用一个案例来演示： 现有 查询订单 和 创建订单 业务，两者都需要进行查询商品业务. 需求是指针对 查询订单 -> 查询商品 的请求进行统计并设置流控（阈值为 2）.

具体实现步骤如下：

##### a）在 OrderService 中添加 queryGoods 方法（不用实现业务）. #####

用来表示两个 查询订单 和 创建订单 两个业务都要访问的 查询商品业务.

@SentinelResource("goods") //设置资源名称
        public void queryGoods() {
            //使用 err 是为了高亮显示，方便观察日志信息
            System.err.println("查询订单成功！");
        }

> 注意！！！

**1. Sentinel 默认值只标记 Controller 中方法为资源，如果想要标记其他方法，需要使用 @SentinelResource 注解来标识资源名.**

**2. 另外！Sentinel 默认只对 Controller 中的方法做 context 整合，导致链路模式的流控失效，需要 application.yml 中添加如下配置：**

spring:
      cloud:
        sentinel:
          web-context-unify: false # 关闭context整合

触发两个端点，就可以看到在 “簇点链路” 中 goods 为两个端点资源的子资源，如下

![00309bc500574473947311e46a62ae88.png][]

##### b）在 OrderController 中创建两个端点，分别是 /order/query 和 /order/save #####

两个端点中都需要调用 Order Service 中的 queryGoods 方法.

@RequestMapping("/query")
        public String queryOrder() {
            orderService.queryGoods();
            return "订单查询成功！";
        }
    
        @RequestMapping("/save")
        public String saveOrder() {
            orderService.queryGoods();
            return "保存订单成功！";
        }

##### c）给 queryGoods 设置限流规则 #####

针对从 /order/query -> queryGoods 此链路进行限流，阈值为 2.

![79f5d3e8af564899b864195766568db7.png][]

##### d）使用 JMeter 进行测试 #####

使用 JMeter 对两个端点都进行 每秒发送 4 个请求.

![b90bbf9b2de04808b6f707ef6d0b9c22.png][]

![b2dbd0d1489f42b7aa4128e97b6adad2.png][]

![e647113c659b476196f5d8a7930ca448.png][]

可以看到在 /order/save -> goods 这个链路中请求都成功了.

![d90e92856bd1451eb0194fc5c98e9211.png][]

而 /order/query -> goods 这条链路中，被流控模式限制.

![86cb8400f5c1429595e570f0b60d8c16.png][]

在控制台上也可以看到 goods 的 qps 拒绝情况（每 8 个 qps 中有 2 个被拒绝，拒绝的就是 /order/query 这条链路超过阈值的请求）.

![6ac6d11b17e34bcb9ec57967f875c442.png][]

### 1.3、流控效果 ###

#### 1.3.1、快速失败 ####

快速失败：达到阈值以后，新的请求会立即拒绝并抛出 FlowException 异常，是默认的处理方式

这种方式在演示 流控模式 中都用是这个效果，这里就不再赘述了.

#### 1.3.2、warm up ####

warm up：预热模式，对超出阈值的请求同样是拒绝并抛出异常. 但是这种模式的阈值会动态变化，从一个比较小的值逐渐增加到设置的最大阈值（这里的预热时间是需要进行设置的）.

请求阈值的初始值是 设置的最大阈值 / coldFactor ，而 coldFactor 默认值是 3.

*例如我设置 qps 的最大阈值为 10，预热时间是 5秒，那么初始的阈值就是 10 / 3，取整后就是 3，之后再 5秒 以后逐渐增长到 10.*

这里我通过一个案例来演示：给 /order/\{orderId\} 这个资源设置限流，最大 qps 为 10，使用 warm up 效果，预热时常为 5 秒.

具体步骤如下：

##### a）设置限流规则 #####

![589085a61ed1490989d9e262b1f97cff.png][]

##### b）使用 JMeter 进行测试 #####

![6847adfe983a41d481dcbd76aa88a667.png][]

##### c）分析结果 #####

在控制台中可以看到，刚开始的 qps 只通过 3（初始阈值计算后得到的）符合预期，之后 5 秒中内，qps 通过数目逐渐上升，直到 qps 通过数目 = 10 以后稳定下来.

![bd5128c01e9f4fec9ca229de0f681723.png][]

#### 1.3.3、排队等待 ####

排队等待这种方式，当请求超过 qps 阈值之后，不会直接抛出异常，而是让多出来的请求先进入到一个队列中进行排队，然后按照阈值允许的时间间隔依次执行，如果队列中所有的请求处理时间加起来刚好等于等待时间，那么，此时新来的请求就会被拒绝.

例如，设置 qps = 5，意味着每 200ms 处理一个队列中的请求. 如果设置 超时时间 为 2000ms，那么意味着队列中如果有 10 个请求，就会把时间占满，此时如果再来新的请求，就会被拒绝.

![568bee12fc2248ccae215aa61a064010.png][]

这里用一个案例来演示：给 /order/\{orderId\} 这个资源设置限流，最大 qps 为 10，利用排队的流控效果，超时时间设置为 5s.

##### a）配置流控规则 #####

![8d2030d63d014b24832e6287605d3f78.png][]

##### b）使用 JMeter 进行测试 #####

![7fc9e68335834131bbf7a304f4fcc120.png][]

![35a5bbed826f4839a006515fdfeec221.png][]

##### c）分析结果 #####

该开始的时候，都处理成功了是因为新加入的请求都会先进入队列，并且队头的请求也被处理掉了。

而后来的由于请求来的速度大于队列处理的速度，因此队列终有一日会占满超时时间，因此出现了拒绝 qps 的情况.

最后请求请求发完了，队列不停的再处理请求，就不会超过超时时间，因此最后的 qps 全部为通过.

![29081fab63044af78619bd4158feef10.png][]

#### 1.3.4、热点参数限流 ####

之前的限流是统计访问某个资源的所有请求，判断是否超过 qps 阈值，**而热点参数限流是统计 参数值 相同的请求，是否超过 qps 阈值.**

例如，对 hot 这个资源的 0 号参数（第一个参数）做统计，每 1 秒相同参数的请求数不能超过 5，如下图.

![8b9293b78a9c4e549930410bd984b69b.png][]

另外，在热点参数限流的高级选项中，还可以对部分参数进行外额限制

![b970c25834e94b4f80e1f2b9141d1afe.png][]

参数类型：参数索引指向的参数是什么数据类型（只支持 Java 数据类型）.

参数值：传入的参数值.

限流阈值：窗口时长内，qps 的最大阈值.

例如，如果参数值是 100，则每秒允许的 qps 为 10，如下图.

![9474de35547147be8d343eed3e2d0329.png][]

这里我用一个案例来演示：给 /order/\{orderId\} 这个资源添加热点参数限流，规则如下：

*  默认的热点参数规则是每 1 秒请求量不超过 2.
 *  给 102 这个参数设置例外：每 1 秒请求量不超过 4.
 *  给 103 这个参数设置例外：每 1 秒请求量不超过 10.

具体实现步骤如下：

##### a）给热点参数限流对象加上 @SentinelResource 注解 #####

> 注意：热点参数限流对默认的 SpringMVC资源无效，因此需要加上 @SentinelResource 指定资源并命名.

@SentinelResource("hot")
        @GetMapping("{orderId}")
        public Order queryOrderByUserId(@PathVariable("orderId") Long orderId) {
            // 根据id查询订单并返回
            return orderService.queryOrderById(orderId);
        }

b）配置限流规则

![34e5a7cc67864cb2837e3242b42c81d0.png][]

##### c）使用 JMeter 进行测试 #####

![542dbe6b51ca4441a9f72cdf565ab10d.png][]

发送路径有三个，如下：

![bf2eead1911946ff8ee9ebcaae36f669.png][]

![de8848e3f95a4a2c8c2defee18c41147.png][]

![77938598333b4ac4ad48698d8a739c3a.png][]

##### d）分析测试结果 #####

可以看到 101 这个请求，按照默认的限流规则， qps = 2 ，如下.

![4d9d717a2cda4fec8b296fbfbfede8f9.png][]

102 这个请求，按照高级设置，例外配置 qps = 4，如下.

![dd8bec3363fa41079a4ef13788e8cdcd.png][]

103 这个请求，按照高级设置，例外配置 qps = 10. 因为每秒请求数为 5 个，因此请求全部通过.

![f433ee6f15d84cd18d154b6b40ce202a.png][]

在 hot 资源监控中也可以看到，每次 11 ，拒绝 4.

是因为通过的只有 101 请求默认规则的 2 个，加上 102 请求例外设置的 4 个，再加上 103 请求例外设置的 5 个，总共加起来成功就是 11 个.

![8394f879604b4d0f8e37c145d072c383.png][]

![60b0e5aaf22543a8a2185fefe27e28eb.gif][]

[6275e475679b4bd89ea5252605f759b6.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/02/27/b870867cda72400f9b5b4c89ca2c188d.png
[8d4c1f78389f44518ef36fea21942960.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/02/27/b9e38f8105d04687bae35525cbb3a95f.png
[c75d44148ba946fda59fa9332d2b21ae.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/02/27/fe2070c97afc4100b87ee9eca86f28d8.png
[33c4d0a5a1f04c0c829a8ab0e3bf4c57.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/02/27/2eb88d6a432c4690a6e894a78a6f1762.png
[2948247e8c414399aadb1def239e66b4.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/02/27/4e103897d18f47c3a31989f3bea861e5.png
[856d5db56457400db6ab72eead615684.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/02/27/21ea73d88f8047bbac6b7bbf545b0bc3.png
[b9907d41ec9e42e5bd71c7c43aa94cc4.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/02/27/0d7257979e664e16bcc407d6b982357b.png
[8324bf05f20d4310a533866f6348e482.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/02/27/e45f406688c345b38d608b28033a9c31.png
[484b529407e746fd93a8538cb5aed65b.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/02/27/9cb4ce07ae3343da89b2f98168a7c240.png
[4b4844eec398456290c9e535996e4591.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/02/27/e6c838d2ce4c481a8245c9bd4e3f6c05.png
[a34491b5ea1c4ba6a49326285fb413d5.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/02/27/4dd57394810f48a88beb9a529a2c475d.png
[4e1d22ab21994a408e4ba8fd0312addf.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/02/27/54a3640b87784288a0e784038da4871a.png
[5065c59f8f6d49f7a89cf7f58e4b7354.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/02/27/e781f94c1a8d4df5a71301ef874edace.png
[a42ac0b4ad304d46b731b838ec1ccedc.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/02/27/d276985e39554daa8ab651e66deaba60.png
[00309bc500574473947311e46a62ae88.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/02/27/67c8fa11952744da95d2e25934d7c260.png
[79f5d3e8af564899b864195766568db7.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/02/27/5198d2587f93466e99755431c098dd45.png
[b90bbf9b2de04808b6f707ef6d0b9c22.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/02/27/6f6d56e238e2476480922f1cd3604d8c.png
[b2dbd0d1489f42b7aa4128e97b6adad2.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/02/27/bd4c7016c3f54019842d9bc965143de6.png
[e647113c659b476196f5d8a7930ca448.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/02/27/c0ba53c5916a43dd894bc7c5ee081f46.png
[d90e92856bd1451eb0194fc5c98e9211.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/02/27/f6bcf5c83c0a41739994e5671ff25b61.png
[86cb8400f5c1429595e570f0b60d8c16.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/02/27/59f095ebe75a4f20a3f79d7fd15a95e3.png
[6ac6d11b17e34bcb9ec57967f875c442.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/02/27/7298f99b850b4a71b83befd4d3f6cef4.png
[589085a61ed1490989d9e262b1f97cff.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/02/27/fc8f9e4a142a49b4aff9ada9e05500bd.png
[6847adfe983a41d481dcbd76aa88a667.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/02/27/ca477f55eda44f70a79e3da3897f7b5f.png
[bd5128c01e9f4fec9ca229de0f681723.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/02/27/c0f5a11cd22e447e9bda42dfb3552312.png
[568bee12fc2248ccae215aa61a064010.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/02/27/0082acc5992445deb07f37691d7c7f49.png
[8d2030d63d014b24832e6287605d3f78.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/02/27/869808cffbac422f8b2b7dfa7af711fe.png
[7fc9e68335834131bbf7a304f4fcc120.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/02/27/d9d610e9c0c843c19df50bf7df08e55e.png
[35a5bbed826f4839a006515fdfeec221.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/02/27/05ae0cc623d941939ae5570a1699d4ad.png
[29081fab63044af78619bd4158feef10.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/02/27/ccaebc687f974993aff2e8b875076211.png
[8b9293b78a9c4e549930410bd984b69b.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/02/27/3037ff16803a4ac99496b8836ae5e419.png
[b970c25834e94b4f80e1f2b9141d1afe.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/02/27/625b28c4d8e44a08a1ed91ff6c3927a4.png
[9474de35547147be8d343eed3e2d0329.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/02/27/0de48ec9f81242cd864eaeffbd78386e.png
[34e5a7cc67864cb2837e3242b42c81d0.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/02/27/06fc7d9908ee4b5b8e24463ff8a9843c.png
[542dbe6b51ca4441a9f72cdf565ab10d.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/02/27/e55a75d774764fc9b9ffff30f22197a8.png
[bf2eead1911946ff8ee9ebcaae36f669.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/02/27/18e68f84caf54fa2b9577366c2005af0.png
[de8848e3f95a4a2c8c2defee18c41147.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/02/27/8cb199006b954295a1fd3413bfad6fd0.png
[77938598333b4ac4ad48698d8a739c3a.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/02/27/2815cb713fc347de9c00be7a7e7f28e0.png
[4d9d717a2cda4fec8b296fbfbfede8f9.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/02/27/d34e27ab9e384e598aac05f4044595ad.png
[dd8bec3363fa41079a4ef13788e8cdcd.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/02/27/1b1c2b8f80ea43f8a0c2f62b014d456d.png
[f433ee6f15d84cd18d154b6b40ce202a.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/02/27/e21e76c448db43e8919d0f1bb6972bc7.png
[8394f879604b4d0f8e37c145d072c383.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/02/27/6f7bf68a84c14ae98a6435930f04958d.png
[60b0e5aaf22543a8a2185fefe27e28eb.gif]: https://image.dandelioncloud.cn/pgy_files/images/2024/02/27/b0df8014e6814a9da68ad5df6b673c22.png