Hystrix的线程池隔离和信号量隔离

素颜马尾好姑娘i 2022-03-16 06:04 327阅读 0赞

信号量的隔离：  
it executes on the calling thread and concurrent requests are limited by the semaphore count.

每次调用线程，当前请求通过计数信号量进行限制，当信号大于了最大请求数（maxConcurrentRequests）时，进行限制，调用fallback接口快速返回。

![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2phdmFlcl9sZWU_size_16_color_FFFFFF_t_70][]

最重要的是，信号量的调用是同步的，也就是说，每次调用都得阻塞调用方的线程，直到结果返回。这样就导致了无法对访问做超时（只能依靠调用协议超时，无法主动释放）

官网对信号量隔离的描述建议

Generally the only time you should use semaphore isolation for HystrixCommands is when the call is so high volume (hundreds per second, per instance) that the overhead of separate threads is too high; this typically only applies to non-network calls.

隔离的细粒度太高，数百个实例需要隔离，此时用线程池做隔离开销过大通常这种都是非网络调用的情况下线程池隔离:  
it executes on a separate thread and concurrent requests are limited by the number of threads in the thread-pool  
通过每次都开启一个单独线程运行。它的隔离是通过线程池，即每个隔离粒度都是个线程池，互相不干扰

Commands executed in threads have an extra layer of protection against latencies beyond what network timeouts can offer.  
线程池隔离方式，等于多了一层的保护措施，可以通过hytrix直接设置超时，超时后直接返回。

![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2phdmFlcl9sZWU_size_16_color_FFFFFF_t_70 1][]

最后总结对比下：

<table> 
 <thead> 
  <tr> 
   <th>隔离方式</th> 
   <th>是否支持超时</th> 
   <th>是否支持熔断</th> 
   <th>隔离原理</th> 
   <th>是否是异步调用</th> 
   <th>资源消耗</th> 
  </tr> 
 </thead> 
 <tbody> 
  <tr> 
   <td>线程池隔离</td> 
   <td>支持,可直接返回</td> 
   <td>支持,当线程池到达maxSize后,再请求会触发fallback接口进行熔断</td> 
   <td>每个服务单独用线程池</td> 
   <td>可以是异步,也可以是同步。看调用的方法</td> 
   <td>大,大量线程的上下文切换，容易造成机器负载高</td> 
  </tr> 
  <tr> 
   <td>信号量隔离</td> 
   <td>不支持,如果阻塞，只能通过调用协议（如:socket超时才能返回）</td> 
   <td>支持，当信号量达到maxConcurrentRequests后。再请求会触发fallback</td> 
   <td>通过信号量的计数器</td> 
   <td>同步调用,不支持异步</td> 
   <td>小,只是个计数器</td> 
  </tr> 
 </tbody> 
</table>

[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2phdmFlcl9sZWU_size_16_color_FFFFFF_t_70]: /images/20220316/4a88660a75d8486cb618c65036a7506c.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2phdmFlcl9sZWU_size_16_color_FFFFFF_t_70 1]: /images/20220316/0dcf9814a3a0486596876f9e81076bd8.png