Sentinel原理及实践

Dear 丶 2024-04-28 13:25 6阅读 0赞

## Sentinel 是什么 ##

Sentinel 是面向分布式、多语言异构化服务架构的流量治理组件，主要以流量为切入点，从流量路由、流量控制、流量整形、熔断降级、系统自适应过载保护、热点流量防护等多个维度来帮助开发者保障微服务的稳定性。

## 为什么使用sentinel？ ##

sentinel主要提供了**流量控制、熔断降级、系统防护**等功能，在sentinel之前一般采用 Hystrix做熔断降级的事情，我们都知道出现新的事物肯定是原来的东西有不足的地方。

### Hystrix不足之处有： ###

● 在熔断降级处理时Hystrix常用的线程池隔离会造成线程上下切换的overhead比较大。 ● Hystrix没有监控平台，需要自己搭建。 ● Hystrix支持的熔断降级维度较少，不够细粒，而且缺少管理控制台。

而sentinel为用户提供了控制台（Dashboard），控制台基于 Spring Boot 开发，打包后可以直接运行，不需要额外的 Tomcat 等应用容器。同时sentinel提供了系统防护、多种控制效果、流控模式等，功能十分强大。了解sentinel，主要关注sentinel的流量限流、熔断降级和动态规则配置方式等3个方面。

## Sentinel 的主要特征 ##

*  **丰富的应用场景：** Sentinel 承接了阿里巴巴近 10 年的双十一大促流量的核心场景，例如秒杀（即突发流量控制在系统容量可以承受的范围）、消息削峰填谷、集群流量控制、实时熔断下游不可用应用等。
 *  **完备的实时监控：** Sentinel 同时提供实时的监控功能。您可以在控制台中看到接入应用的单台机器秒级数据，甚至 500 台以下规模的集群的汇总运行情况。
 *  **广泛的开源生态**: Sentinel 提供开箱即用的与其它开源框架/库的整合模块，例如与 Spring Cloud、Apache Dubbo、gRPC、Quarkus 的整合。您只需要引入相应的依赖并进行简单的配置即可快速地接入 Sentinel。同时 Sentinel 提供 Java/Go/C++ 等多语言的原生实现。
 *  **完善的 SPI 扩展机制**： Sentinel 提供简单易用、完善的 SPI 扩展接口。您可以通过实现扩展接口来快速地定制逻辑。例如定制规则管理、适配动态数据源等。
    
    ![在这里插入图片描述][format_png]
    
    Sentinel 分为两个部分:
 *  核心库（Java 客户端）不依赖任何框架/库，能够运行于所有 Java 运行时环境，同时对 Dubbo / Spring Cloud 等框架也有较好的支持。
 *  控制台（Dashboard）基于 Spring Boot 开发，打包后可以直接运行，不需要额外的 Tomcat 等应用容器。

## Sentinel 基本概念 ##

### 资源 ###

资源是 Sentinel 的关键概念。它可以是 Java 应用程序中的任何内容，例如，由应用程序提供的服务，或由应用程序调用的其它应用提供的服务，甚至可以是一段代码。在接下来的文档中，我们都会用资源来描述代码块。

只要通过 Sentinel API 定义的代码，就是资源，能够被 Sentinel 保护起来。大部分情况下，可以使用方法签名，URL，甚至服务名称作为资源名来标示资源。

### 规则 ###

围绕资源的实时状态设定的规则，可以包括流量控制规则、熔断降级规则以及系统保护规则。所有规则可以动态实时调整。

## Sentinel 功能和设计理念 ##

### 流量控制 ###

![在这里插入图片描述][format_png 1]

流量控制设计理念 流量控制有以下几个角度:

*  资源的调用关系，例如资源的调用链路，资源和资源之间的关系；
 *  运行指标，例如 QPS、线程池、系统负载等；
 *  控制的效果，例如直接限流、冷启动、排队等。 Sentinel 的设计理念是让您自由选择控制的角度，并进行灵活组合，从而达到想要的效果。

### 熔断降级 ###

#### 什么是熔断降级 ####

除了流量控制以外，及时对调用链路中的不稳定因素进行熔断也是 Sentinel 的使命之一。由于调用关系的复杂性，如果调用链路中的某个资源出现了不稳定，可能会导致请求发生堆积，进而导致级联错误。

![在这里插入图片描述][format_png 2]

Sentinel 和 Hystrix 的原则是一致的: 当检测到调用链路中某个资源出现不稳定的表现，例如请求响应时间长或异常比例升高的时候，则对这个资源的调用进行限制，让请求快速失败，避免影响到其它的资源而导致级联故障。

#### 熔断降级设计理念 ####

Hystrix 通过 线程池隔离 的方式，来对依赖（在 Sentinel 的概念中对应 资源）进行了隔离。这样做的好处是资源和资源之间做到了最彻底的隔离。缺点是除了增加了线程切换的成本（过多的线程池导致线程数目过多），还需要预先给各个资源做线程池大小的分配。

Sentinel 对这个问题采取了两种手段:

*  通过并发线程数进行限制 和资源池隔离的方法不同，Sentinel 通过限制资源并发线程的数量，来减少不稳定资源对其它资源的影响。这样不但没有线程切换的损耗，也不需要您预先分配线程池的大小。当某个资源出现不稳定的情况下，例如响应时间变长，对资源的直接影响就是会造成线程数的逐步堆积。当线程数在特定资源上堆积到一定的数量之后，对该资源的新请求就会被拒绝。堆积的线程完成任务后才开始继续接收请求。
 *  通过响应时间对资源进行降级 除了对并发线程数进行控制以外，Sentinel 还可以通过响应时间来快速降级不稳定的资源。当依赖的资源出现响应时间过长后，所有对该资源的访问都会被直接拒绝，直到过了指定的时间窗口之后才重新恢复。

## 工作原理 ##

在 Sentinel 里面，所有的资源都对应一个资源名称（resourceName），每次资源调用都会创建一个 Entry 对象。Entry 可以通过对主流框架的适配自动创建，也可以通过注解的方式或调用 SphU API 显式创建。Entry 创建的时候，同时也会创建一系列功能插槽（slot chain），这些插槽有不同的职责，例如:

*  NodeSelectorSlot 负责收集资源的路径，并将这些资源的调用路径，以树状结构存储起来，用于根据调用路径来限流降级；
 *  ClusterBuilderSlot 则用于存储资源的统计信息以及调用者信息，例如该资源的 RT, QPS, thread count 等等，这些信息将用作为多维度限流，降级的依据；
 *  StatisticSlot 则用于记录、统计不同纬度的 runtime 指标监控信息；
 *  FlowSlot 则用于根据预设的限流规则以及前面 slot 统计的状态，来进行流量控制；
 *  AuthoritySlot 则根据配置的黑白名单和调用来源信息，来做黑白名单控制；
 *  DegradeSlot 则通过统计信息以及预设的规则，来做熔断降级；
 *  SystemSlot 则通过系统的状态，例如 load1 等，来控制总的入口流量； 总体的框架如下:
    
    ![在这里插入图片描述][format_png 3]
    
    Sentinel 将 ProcessorSlot 作为 SPI 接口进行扩展（1.7.2 版本以前 SlotChainBuilder 作为 SPI），使得 Slot Chain 具备了扩展的能力。您可以自行加入自定义的 slot 并编排 slot 间的顺序，从而可以给 Sentinel 添加自定义的功能。

![在这里插入图片描述][format_png 4]

## 使用方式 ##

虽然Sentinel提供了很多种使用的方式，但是大部分时候基本的用法就已经满足我们的要求了。这里只说下常见的用法。

### 1. 引入依赖 ###

java

复制代码

`<dependency> <groupId>com.alibaba.csp</groupId> <artifactId>sentinel-core</artifactId> <version>1.8.6</version> </dependency>`

如果您未使用依赖管理工具，请到 Maven Center Repository 直接下载 JAR 包。

### 2. 写Sentinel代码 ###

java

复制代码

`Entry sentinel = null; try { sentinel = SphU.entry(request.getName()); // 业务代码 } catch (BlockException blockException) { log.error("BlockException! request={}", request, blockException); } finally { if (sentinel != null){ sentinel.exit(); } }`

### 3. 控制台设置 ###

以上只是代表我们有了限流的工具，但是没有定义具体的规则。通常在dashboard配置规则，不过再代码中预定义一些默认规则也可以。

![在这里插入图片描述][format_png 5]

## 和Hystrix对比 ##

<table> 
 <thead> 
  <tr> 
   <th>特性</th> 
   <th>Sentinel</th> 
   <th>Hystrix</th> 
  </tr> 
 </thead> 
 <tbody> 
  <tr> 
   <td>隔离策略</td> 
   <td>信号量隔离</td> 
   <td>线程池隔离/信号量隔离</td> 
  </tr> 
  <tr> 
   <td>熔断降级策略</td> 
   <td>基于响应时间或失败比率</td> 
   <td>基于失败比率</td> 
  </tr> 
  <tr> 
   <td>实时指标实现</td> 
   <td>滑动窗口</td> 
   <td>滑动窗口（基于 RxJava）</td> 
  </tr> 
  <tr> 
   <td>规则配置</td> 
   <td>支持多种数据源</td> 
   <td>支持多种数据源</td> 
  </tr> 
  <tr> 
   <td>扩展性</td> 
   <td>多个扩展点</td> 
   <td>通过插件形式</td> 
  </tr> 
  <tr> 
   <td>基于注解的支持</td> 
   <td>支持</td> 
   <td>支持</td> 
  </tr> 
  <tr> 
   <td>限流</td> 
   <td>基于 QPS，支持基于调用关系的限流</td> 
   <td>有限支持</td> 
  </tr> 
  <tr> 
   <td>流量整形</td> 
   <td>支持慢启动、匀速器模式</td> 
   <td>不支持</td> 
  </tr> 
  <tr> 
   <td>系统负载保护</td> 
   <td>支持</td> 
   <td>不支持</td> 
  </tr> 
  <tr> 
   <td>控制台</td> 
   <td>开箱即用，可配置规则、查看秒级监控、机器发现等</td> 
   <td>不完善</td> 
  </tr> 
  <tr> 
   <td>常见框架的适配</td> 
   <td>Servlet、Spring Cloud、Dubbo、gRPC 等</td> 
   <td>Servlet、Spring Cloud Netflix</td> 
  </tr> 
 </tbody> 
</table>

## 总结 ##

总的来说，Sentinel 是一个轻量级、高度可扩展的流量管理工具，旨在为分布式系统在高并发场景下提供可靠的流量防护能力，保障服务的稳定性和可靠性。

[format_png]: https://img-blog.csdnimg.cn/img_convert/152529eefccb7ae26e3a346d1ad3f5c0.webp?x-oss-process=image/format,png
[format_png 1]: https://img-blog.csdnimg.cn/img_convert/c6dfd4d97cf0ddfad2b3ea52de18aaca.webp?x-oss-process=image/format,png
[format_png 2]: https://img-blog.csdnimg.cn/img_convert/b7130a30ead6184b4f5e29125e8bb5e3.webp?x-oss-process=image/format,png
[format_png 3]: https://img-blog.csdnimg.cn/img_convert/f924967a72f5eec7b8fa5a033a604e82.webp?x-oss-process=image/format,png
[format_png 4]: https://img-blog.csdnimg.cn/img_convert/76b572b00e19c60484682e2d8c34bdcb.webp?x-oss-process=image/format,png
[format_png 5]: https://img-blog.csdnimg.cn/img_convert/2db637fee82823f77dcb9de0ff6e165d.webp?x-oss-process=image/format,png