SpringCloud：Ribbon负载均衡

浅浅的花香味﹌ 2024-03-27 04:30 83阅读 0赞

介绍`Eureka`注册中心时，我们添加了`@LoadBalanced`注解，即可实现负载均衡功能，这是什么原理呢？

### 1.负载均衡原理 ###

`SpringCloud`底层其实是利用了一个名为`Ribbon`的组件，来实现负载均衡功能的。

![在这里插入图片描述][f3ad3af0f04b454ea8819588ca431bb4.png_pic_center]

那么我们发出的请求明明是`http://userService/user/1`，怎么变成了`http://localhost:8081`的呢？

### 2.源码跟踪 ###

为什么我们只输入了`service`名称就可以访问了呢？之前还要获取`ip`和端口。

显然有人帮我们根据`service`名称，获取到了服务实例的`ip`和端口。它就是`LoadBalancerInterceptor`，这个类会在对`RestTemplate`的请求进行拦截，然后从`Eureka`根据服务`id`获取服务列表，随后利用负载均衡算法得到真实的服务地址信息，替换服务`id`。

我们进行源码跟踪：

#### 2.1.`LoadBalancerInterceptor` ####

![在这里插入图片描述][5d9bb67eeeb643fdae7c8d89a7945b75.png_pic_center]

可以看到这里的`intercept`方法，拦截了用户的`HttpRequest`请求，然后做了几件事：

*  `request.getURI()`：获取请求uri，本例中就是`http://userService/user/1`
 *  `originalUri.getHost()`：获取`uri`路径的主机名，其实就是服务`id`，`userService`
 *  `this.loadBalancer.execute()`：处理服务`id`，和用户请求。

这里的`this.loadBalancer`是`LoadBalancerClient`类型，我们继续跟入。

#### 2.2.`RibbonLoadBalancerClient` ####

继续跟入`execute`方法：

![在这里插入图片描述][f18c292c9c5647b29fcb4416a2e95f76.png_pic_center]

代码是这样的：

*  `getLoadBalancer(serviceId)`：根据服务`id`获取`ILoadBalancer`，而`ILoadBalancer`会拿着服务id去eureka中获取服务列表并保存起来。
 *  `getServer(loadBalancer)`：利用内置的负载均衡算法，从服务列表中选择一个。本例中，可以看到获取了8082端口的服务

放行后，再次访问并跟踪，发现获取的是8081：

![在这里插入图片描述][38dbc43734034218961ac7a9be01c41f.png_pic_center]

果然实现了负载均衡。

#### 2.3.负载均衡策略`IRule` ####

在刚才的代码中，可以看到获取服务使通过一个`getServer`方法来做负载均衡:

![在这里插入图片描述][b122ab9a5b4a413dbed9b78c129fa97f.png_pic_center]

我们继续跟入：

![在这里插入图片描述][023d64f8a739415182704bfefcc18d5a.png_pic_center]

继续跟踪源码`chooseServer`方法，发现这么一段代码：

![在这里插入图片描述][e86cf528bf0941b4906604ee21b1c694.png_pic_center]

我们看看这个`rule`是谁：

![在这里插入图片描述][37cef7d3de774fb18b60ffe82149e33c.png_pic_center]

这里的`rule`默认值是一个`RoundRobinRule`：

![在这里插入图片描述][81ad70db02c04a7e8c32d7e660349089.png_pic_center]

到这里，整个负载均衡的流程我们就清楚了。

#### 2.4.总结 ####

`SpringCloudRibbon`的底层采用了一个拦截器，拦截了`RestTemplate`发出的请求，对地址做了修改。用一幅图来总结一下：

![在这里插入图片描述][7708507968e948b787bd0ce8a8679b96.png_pic_center]

基本流程如下：

*  拦截我们的`RestTemplate`请求`http://userservice/user/1`
 *  `RibbonLoadBalancerClient`会从请求`url`中获取服务名称，也就是`user-service`
 *  `DynamicServerListLoadBalancer`根据`user-service`到`eureka`拉取服务列表
 *  `eureka`返回列表，`localhost:8081`、`localhost:8082`
 *  `IRule`利用内置负载均衡规则，从列表中选择一个，例如`localhost:8081`
 *  `RibbonLoadBalancerClient`修改请求地址，用`localhost:8081`替代`userservice`，得到`http://localhost:8081/user/1`，发起真实请求

### 3.负载均衡策略 ###

#### 3.1.负载均衡策略 ####

负载均衡的规则都定义在`IRule`接口中，而`IRule`有很多不同的实现类：

![在这里插入图片描述][c19004edbe36486281feb21730e2a0fe.png_pic_center]

不同规则的含义如下：

<table> 
 <thead> 
  <tr> 
   <th><strong>内置负载均衡规则类</strong></th> 
   <th><strong>规则描述</strong></th> 
  </tr> 
 </thead> 
 <tbody> 
  <tr> 
   <td><code>RoundRobinRule</code></td> 
   <td>简单轮询服务列表来选择服务器。它是<code>Ribbon</code>默认的负载均衡规则。</td> 
  </tr> 
  <tr> 
   <td><code>AvailabilityFilteringRule</code></td> 
   <td>对以下两种服务器进行忽略：（1）在默认情况下，这台服务器如果3次连接失败，这台服务器就会被设置为“短路”状态。短路状态将持续30秒，如果再次连接失败，短路的持续时间就会几何级地增加。（2）并发数过高的服务器。如果一个服务器的并发连接数过高，配置了<code>AvailabilityFilteringRule</code>规则的客户端也会将其忽略。并发连接数的上限，可以由客户端的<code>&lt;clientName&gt;.&lt;clientConfigNameSpace&gt;.ActiveConnectionsLimit</code>属性进行配置。</td> 
  </tr> 
  <tr> 
   <td><code>WeightedResponseTimeRule</code></td> 
   <td>为每一个服务器赋予一个权重值。服务器响应时间越长，这个服务器的权重就越小。这个规则会随机选择服务器，这个权重值会影响服务器的选择。</td> 
  </tr> 
  <tr> 
   <td><strong><code>ZoneAvoidanceRule</code></strong></td> 
   <td>以区域可用的服务器为基础进行服务器的选择。使用<code>Zone</code>对服务器进行分类，这个<code>Zone</code>可以理解为一个机房、一个机架等。而后再对<code>Zone</code>内的多个服务做轮询。</td> 
  </tr> 
  <tr> 
   <td><code>BestAvailableRule</code></td> 
   <td>忽略那些短路的服务器，并选择并发数较低的服务器。</td> 
  </tr> 
  <tr> 
   <td><code>RandomRule</code></td> 
   <td>随机选择一个可用的服务器。</td> 
  </tr> 
  <tr> 
   <td><code>RetryRule</code></td> 
   <td>重试机制的选择逻辑</td> 
  </tr> 
 </tbody> 
</table>

默认的实现就是`ZoneAvoidanceRule`，是一种轮询方案。

#### 3.2.自定义负载均衡策略 ####

通过定义`IRule`实现可以修改负载均衡规则，有两种方式：

1.  代码方式：在`order-service`中的`OrderApplication`类中，定义一个新的`IRule`：

@Bean
    public IRule randomRule(){
        
        return new RandomRule();
    }

1.  配置文件方式：在`order-service`的`application.yml`文件中，添加新的配置也可以修改规则：

userservice: # 给某个微服务配置负载均衡规则，这里是userservice服务
      ribbon:
        NFLoadBalancerRuleClassName: com.netflix.loadbalancer.RandomRule # 负载均衡规则

> **注意**：一般用默认的负载均衡规则，不做修改。

### 4.饥饿加载 ###

`Ribbon`默认是采用懒加载，即第一次访问时才会去创建`LoadBalanceClient`，请求时间会很长。

而饥饿加载则会在项目启动时创建，降低第一次访问的耗时，通过下面配置开启饥饿加载：

ribbon:
      eager-load:
        enabled: true #开启饥饿加载
        clients: userservice #指定饥饿加载的服务名称

[f3ad3af0f04b454ea8819588ca431bb4.png_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/27/f035f21aebb14180978bd95bf90dda03.png
[5d9bb67eeeb643fdae7c8d89a7945b75.png_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/27/449bc4056d414cbfbf640727fe8d6ca6.png
[f18c292c9c5647b29fcb4416a2e95f76.png_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/27/f238c6397dc442439c77fdc78e37cb33.png
[38dbc43734034218961ac7a9be01c41f.png_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/27/eb6a3f977e7c4c1386ea6d892df196eb.png
[b122ab9a5b4a413dbed9b78c129fa97f.png_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/27/c6e7d393a0624134ba2991376e88a165.png
[023d64f8a739415182704bfefcc18d5a.png_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/27/d333a222cd9d4d0aa5b1bb875ae50224.png
[e86cf528bf0941b4906604ee21b1c694.png_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/27/47779395bbb64e9ca891465f745e4d7c.png
[37cef7d3de774fb18b60ffe82149e33c.png_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/27/d1a818abe43644a0a28a3585a72be37b.png
[81ad70db02c04a7e8c32d7e660349089.png_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/27/3b80ee66ba594b59b8c2c6d73eda67d2.png
[7708507968e948b787bd0ce8a8679b96.png_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/27/54bf0f418a424c8c85533b01b6474deb.png
[c19004edbe36486281feb21730e2a0fe.png_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/27/04eb2373ccb44965ba213512c7ae9bf8.png