spring cloud Resilience4j - 熔断器 CircuitBreaker

心已赠人 2022-12-08 06:04 238阅读 0赞

在微服务架构中，一般我们的独立服务是比较多的，每个独立服务之间划分责任边界，并通过约定协议接口来进行通信。当我们的调用链路复杂依赖多时，很可能会发生雪崩效应。

假设有这么一个场景，有A, B, C, D四个独立服务，A会依赖B，C，D；当D发生负载过高或网络异常等导致响应过慢或超时时，很可能A会因此堆积过多的等待链接，从而导致A的状态也转为异常，后面依赖到A的其他服务跟着发生链式反应，这将会导致大面积的服务不可用，即使本来是一些没有依赖到B，C，D的服务。

# 状态说明 #

熔断器有如下状态：

*  CLOSED： 熔断器关闭，表示接口状态正常。
 *  OPEN：熔断器打开，表示接口状态异常，直接抛出`CallNotPermittedException`。如果有failback则调用failback函数。
 *  HALF\_OPEN：半开状态，允许指定数量的请求通过，以查看后端服务是否正常。超过指定数量的请求，抛出`CallNotPermittedException`。
 *  DISABLED：停用熔断器，所有请求允许通过。
 *  FORCED\_OPEN：强制开启熔断器，所有请求不允许通过。

状态机：

![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3hndzEwMTA_size_16_color_FFFFFF_t_70]

# 滑动窗口 #

Resilience4j 支持两种滑动窗口算法：

*  基于数量的滑动窗口：  
    统计指定数量的请求数，请求先进先出，计算失败比例。查询失败比例的时间复杂度为O(1)，与窗口大小无关；空间复杂度为O(n)
 *  基于时间的滑动窗口：  
    窗口包含N个桶，N为时间秒数。分别计算每个桶的失败比例，然后计算一个总数。桶也是先进先出。查询失败比例的时间复杂度为O(1)，与窗口大小无关；空间复杂度为O(n)

# 参数说明 #

<table> 
 <thead> 
  <tr> 
   <th>参数</th> 
   <th>默认值</th> 
   <th>说明</th> 
  </tr> 
 </thead> 
 <tbody> 
  <tr> 
   <td>failureRateThreshold</td> 
   <td>50</td> 
   <td>失败比例，如果超过该值，熔断器打开</td> 
  </tr> 
  <tr> 
   <td>slowCallDurationThreshold</td> 
   <td>60000[ms]</td> 
   <td>超过设置的时间，则是慢请求</td> 
  </tr> 
  <tr> 
   <td>slowCallRateThreshold</td> 
   <td>100</td> 
   <td>慢请求比例，超过该比例，熔断器打开</td> 
  </tr> 
  <tr> 
   <td>permittedNumberOfCallsInHalfOpenState</td> 
   <td>10</td> 
   <td>半开状态下，允许通过的调用数量</td> 
  </tr> 
  <tr> 
   <td>maxWaitDurationInHalfOpenState</td> 
   <td>0</td> 
   <td>熔断器处理半开状态的最大时长，超过该时间，转为打开状态。0 表示不限</td> 
  </tr> 
  <tr> 
   <td>slidingWindowType</td> 
   <td>COUNT_BASED</td> 
   <td>滑动窗口类型，COUNT_BASED、TIME_BASED</td> 
  </tr> 
  <tr> 
   <td>slidingWindowSize</td> 
   <td>100</td> 
   <td>滑动窗口大小</td> 
  </tr> 
  <tr> 
   <td>minimumNumberOfCalls</td> 
   <td>100</td> 
   <td>在计算失败率或慢调用率时，窗口中至少要有多少个调用。当窗口中只有99个调用，即使都失败了，熔断器也不会打开</td> 
  </tr> 
  <tr> 
   <td>waitDurationInOpenState</td> 
   <td>60000 [ms]</td> 
   <td>熔断器从打开状态变为半开状态等待的时间</td> 
  </tr> 
  <tr> 
   <td>automaticTransitionFromOpenToHalfOpenEnabled</td> 
   <td>false</td> 
   <td>等待了waitDurationInOpenState时间后，是否自动变为半开状态。true:需要另起一个线程监控状态；false：只有有调用到来时，才会触发状态的转变</td> 
  </tr> 
  <tr> 
   <td>recordExceptions</td> 
   <td>空</td> 
   <td>异常列表，只有指定的异常和其子类，才会认为调用失败；其它异常会被认为是调用成功，除非指定了<code>ignoreExceptions</code></td> 
  </tr> 
  <tr> 
   <td>ignoreExceptions</td> 
   <td>空</td> 
   <td>异常列表，忽略指定的异常，不计入成功和失败数</td> 
  </tr> 
  <tr> 
   <td>recordException</td> 
   <td>throwable -&gt; true, 所有异常都认为是失败</td> 
   <td>表达式返回true表示计入调用失败，false计入调用成功。除非指定了<code>ignoreExceptions</code></td> 
  </tr> 
  <tr> 
   <td>ignoreException</td> 
   <td>throwable -&gt; false，没有异常被忽略</td> 
   <td>表达式返回true表示忽略该异常，false算入调用失败。</td> 
  </tr> 
 </tbody> 
</table>

# 实例 #

## 配置文件 ##

application.properties

resilience4j.circuitbreaker:
        instances:
            backendA:
                registerHealthIndicator: true
                slidingWindowSize: 100
            backendB:
                registerHealthIndicator: true
                slidingWindowSize: 10
                permittedNumberOfCallsInHalfOpenState: 3
                slidingWindowType: TIME_BASED
                minimumNumberOfCalls: 20
                waitDurationInOpenState: 50s
                failureRateThreshold: 50
                eventConsumerBufferSize: 10
                recordFailurePredicate: io.github.robwin.exception.RecordFailurePredicate

规则取名为-order

## 使用注解方式实现熔断 ##

@GetMapping("/getCoffee1")
        @io.github.resilience4j.circuitbreaker.annotation.CircuitBreaker(name = "order"，fallbackMethod = "fallback")
        public Coffee getCoffee1() { 
            Coffee list = coffeeService.getById(1l);
            log.info("Read coffee: {} coffee", list);
            return list;
        }
        private Coffee fallback(IllegalArgumentException e){ 
            return new Coffee();
        }
        private Coffee fallback(RuntimeException e){ 
            return new Coffee();
        }

## 使用代码注册的方式实现 ##

private CircuitBreaker circuitBreaker;
        public CustomerController(CircuitBreakerRegistry registry) { 
            circuitBreaker = registry.circuitBreaker("order");
        }
        @GetMapping("/getCoffee2")
        public List<Coffee> getCoffee2() { 
            return Try.ofSupplier(
                    CircuitBreaker.decorateSupplier(circuitBreaker,
                            () -> coffeeService.getAll()))
                    .recover(CircuitBreakerOpenException.class, Collections.emptyList())
                    .get();
        }

响应式：

@CircuitBreaker(name = BACKEND, fallbackMethod = "fallback")
    @RateLimiter(name = BACKEND)
    @Bulkhead(name = BACKEND)
    @Retry(name = BACKEND, fallbackMethod = "fallback")
    @TimeLimiter(name = BACKEND)
    public Mono<String> method(String param1) { 
        return Mono.error(new NumberFormatException());
    }
    
    private Mono<String> fallback(String param1, IllegalArgumentException e) { 
        return Mono.just("test");
    }
    
    private Mono<String> fallback(String param1, RuntimeException e) { 
        return Mono.just("test");
    }

# 更多 #

[spring cloud resilience4j-retry 重试][spring cloud resilience4j-retry]  
[spring cloud resilience4j - Bulkhead 线程隔离 并发控制][spring cloud resilience4j - Bulkhead _]  
[spring cloud Resilience4j - 熔断器 CircuitBreaker][spring cloud Resilience4j - _ CircuitBreaker]  
[spring cloud resilience4j - RateLimiter 流控][spring cloud resilience4j - RateLimiter]  
参考：  
https://resilience4j.readme.io/docs/getting-started-3

[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3hndzEwMTA_size_16_color_FFFFFF_t_70]: /images/20221123/42a6d1cbc0184bd98bd1ef27b3f52e02.png
[spring cloud resilience4j-retry]: https://blog.csdn.net/xgw1010/article/details/111464801
[spring cloud resilience4j - Bulkhead _]: https://blog.csdn.net/xgw1010/article/details/111300196
[spring cloud Resilience4j - _ CircuitBreaker]: https://blog.csdn.net/xgw1010/article/details/108675113
[spring cloud resilience4j - RateLimiter]: https://blog.csdn.net/xgw1010/article/details/111590574