Ribbon 客户端负载均衡
SpringCloud 2018
- 微服务概述
- SpringCloud 概述
- 微服务工程搭建
- Eureka 服务注册与发现
- Ribbon 客户端负载均衡
- Feign 服务接口调用
- Hystrix 断路器
- Zuul 路由网关
- SpringCloud Config 分布式配置中心
- SpringCloud 技术梳理
GitHub
- https://github.com/hjyang19/microservicecloud.git
- https://github.com/hjyang19/microservicecloud-config.git
Ribbon 客户端负载均衡
- 1-Ribbon 概述
- 1.1-是什么
- 1.1-能干嘛
- 2-Ribbon 集成 Eureka
- 2.1-配置示例
- 2.2-配置总结
- 3-Ribbon 负载均衡
- 3.1-架构说明
- 3.2-配置示例
- 3.3-配置总结
- 4-Ribbon 核心组件 IRule
- 4.1-负载均衡算法
- 4.2-自定义算法示例
- 4.3-自定义算法定制
1-Ribbon 概述
官网:https://github.com/Netflix/ribbon/wiki/Getting-Started
1.1-是什么
SpringCloud Ribbon 是基于 Netflix Ribbon 实现的一套客户端负载均衡的工具。
简单的说 Ribbon 是 Netflix 发布的开源项目,主要功能是提供客户端的软件负载均衡算法,将 Netflix 的中间层服务连接在一起。Ribbon 客户端组件提供一系列完善的配置项如连接超时,重试等。
简单的说就是在配置文件中列出 Load Balancer(简称 LB)后面所有的机器,Ribbon 会自动的帮助你基于某种规则(如简单轮询,随机连接等)去连接这些机器。我们也很容易使用 Ribbon 实现自定义的负载均衡算法。
1.1-能干嘛
LB 即负载均衡(Load Balance),在微服务或分布式集群中经常用的一种应用。负载均衡简单的说就是将用户的请求平摊的分配到多个服务上,从而达到系统的 HA。
常见的负载均衡有软件 Nginx、LVS、硬件 F5 等。
相应的在中间件,例如:Dubbo 和 SpringCloud 中均给我们提供了负载均衡,SpringCloud 的负载均衡算法可以自定义。
集中式 LB:
即在服务的消费方和提供方之间使用独立的 LB 设施(可以是硬件,如 F5;也可以是软件,如 Nginx),由该设施负责把访问请求通过某种策略转发至服务的提供方。
进程内 LB:
将 LB 逻辑集成到消费方,消费方从服务注册中心获知有哪些地址可用,然后自己再从这些地址中选择出一个合适的服务器。Ribbon 就属于进程内 LB,它只是一个类库,集成于消费方进程,消费方通过它来获取到服务提供方的地址。
2-Ribbon 集成 Eureka
2.1-配置示例
a、修改子模块 microservicecloud-consumer-dept-80 中 pom.xml
<project xmlns="http://maven.apache.org/POM/4.0.0" xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance"
xsi:schemaLocation="http://maven.apache.org/POM/4.0.0 http://maven.apache.org/xsd/maven-4.0.0.xsd">
<modelVersion>4.0.0</modelVersion>
<parent>
<groupId>com.atguigu.springcloud</groupId>
<artifactId>microservicecloud</artifactId>
<version>1.0-SNAPSHOT</version>
</parent>
<artifactId>microservicecloud-consumer-dept-80</artifactId>
<dependencies>
<dependency><!-- 自己定义的api -->
<groupId>com.atguigu.springcloud</groupId>
<artifactId>microservicecloud-api</artifactId>
<version>${project.version}</version>
</dependency>
<dependency>
<groupId>org.springframework.boot</groupId>
<artifactId>spring-boot-starter-web</artifactId>
</dependency>
<!-- 修改后立即生效,热部署 -->
<dependency>
<groupId>org.springframework</groupId>
<artifactId>springloaded</artifactId>
</dependency>
<dependency>
<groupId>org.springframework.boot</groupId>
<artifactId>spring-boot-devtools</artifactId>
</dependency>
<!-- Ribbon相关 -->
<dependency>
<groupId>org.springframework.cloud</groupId>
<artifactId>spring-cloud-starter-eureka</artifactId>
</dependency>
<dependency>
<groupId>org.springframework.cloud</groupId>
<artifactId>spring-cloud-starter-ribbon</artifactId>
</dependency>
<dependency>
<groupId>org.springframework.cloud</groupId>
<artifactId>spring-cloud-starter-config</artifactId>
</dependency>
</dependencies>
</project>
b、修改子模块 microservicecloud-consumer-dept-80,目录 /src/main/resources 中 application.yml
server:
port: 80
eureka:
client:
register-with-eureka: false
service-url:
defaultZone: http://eureka7001.com:7001/eureka/,http://eureka7002.com:7002/eureka/,http://eureka7003.com:7003/eureka/
c、修改子模块 microservicecloud-consumer-dept-80,包 com.atguigu.springcloud.cfgbeans 中 ConfigBean.java
package com.atguigu.springcloud.cfgbeans;
import org.springframework.cloud.client.loadbalancer.LoadBalanced;
import org.springframework.context.annotation.Bean;
import org.springframework.context.annotation.Configuration;
import org.springframework.web.client.RestTemplate;
@Configuration
public class ConfigBean {
@Bean
@LoadBalanced // 将 RestTemplate 标记为使用 RibbonLoadBalancerClient 作为负载均衡模版。
public RestTemplate getRestTemplate() {
return new RestTemplate();
}
}
d、修改子模块 microservicecloud-consumer-dept-80,包 com.atguigu.springcloud 中启动类 DeptConsumer80_App.java
package com.atguigu.springcloud;
import org.springframework.boot.SpringApplication;
import org.springframework.boot.autoconfigure.SpringBootApplication;
import org.springframework.cloud.netflix.eureka.EnableEurekaClient;
@SpringBootApplication
@EnableEurekaClient
public class DeptConsumer80_App {
public static void main(String[] args) {
SpringApplication.run(DeptConsumer80_App.class, args);
}
}
e、修改子模块 microservicecloud-consumer-dept-80,包 com.atguigu.springcloud.controller 中 DeptController_Consumer.java
package com.atguigu.springcloud.controller;
import com.atguigu.springcloud.entities.Dept;
import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.web.bind.annotation.PathVariable;
import org.springframework.web.bind.annotation.RequestMapping;
import org.springframework.web.bind.annotation.RestController;
import org.springframework.web.client.RestTemplate;
import java.util.List;
@RestController
public class DeptController_Consumer {
//private static final String REST_URL_PREFIX = "http://localhost:8001";
private static final String REST_URL_PREFIX = "http://MICROSERVICECLOUD-DEPT";
@Autowired
private RestTemplate restTemplate;
@RequestMapping(value = "/consumer/dept/add")
public boolean add(Dept dept) {
return restTemplate.postForObject(REST_URL_PREFIX + "/dept/add", dept, Boolean.class);
}
@RequestMapping(value = "/consumer/dept/get/{id}")
public Dept get(@PathVariable("id") Long id) {
return restTemplate.getForObject(REST_URL_PREFIX + "/dept/get/" + id, Dept.class);
}
@SuppressWarnings("unchecked")
@RequestMapping(value = "/consumer/dept/list")
public List<Dept> list() {
return restTemplate.getForObject(REST_URL_PREFIX + "/dept/list", List.class);
}
// 测试 @EnableDiscoveryClient 消费端可以调用服务发现
@RequestMapping(value = "/consumer/dept/discovery")
public Object discovery() {
return restTemplate.getForObject(REST_URL_PREFIX + "/dept/discovery", Object.class);
}
}
f、测试 Ribbon 集成 Eureka
- 启动 Eureka 集群(子模块 microservicecloud-eureka-7001、microservicecloud-eureka-7001、microservicecloud-eureka-7001)
- 启动子模块 microservicecloud-provider-dept-8001
- http://eureka7001.com:7001/
- 启动子模块 microservicecloud-consumer-dept-80
- http://localhost/consumer/dept/get/1
- http://localhost/consumer/dept/list
2.2-配置总结
Ribbon 和 Eureka 整合后 Consumer 可以直接调用服务名称而不用再关心具体地址和端口号。
3-Ribbon 负载均衡
3.1-架构说明
Ribbon 工作时分成两步:
- 先选择 Eureka Server,它优先选择在同一个区域内负载较少的 Server。
- 再根据用户指定的策略,再从 Server 取到的服务注册列表中选择一个地址。
其中 Ribbon 提供了多种策略:比如轮询、随机和根据响应时间加权。
3.2-配置示例
a、右击父工程 microservicecloud,新建子模块 microservicecloud-provider-dept-8002、microservicecloud-provider-dept-8003
b、新建 jdbc//localhost:3306/cloudDB02 数据库
子模块 microservicecloud-provider-dept-8002 连接 jdbc//localhost:3306/cloudDB02 数据库。
DROP DATABASE IF EXISTS cloudDB02;
CREATE DATABASE cloudDB02 CHARACTER SET UTF8;
USE cloudDB02;
CREATE TABLE dept (
deptno BIGINT NOT NULL PRIMARY KEY AUTO_INCREMENT,
dname VARCHAR(60),
db_source VARCHAR(60)
);
INSERT INTO dept(dname,db_source) VALUES('开发部',DATABASE());
INSERT INTO dept(dname,db_source) VALUES('人事部',DATABASE());
INSERT INTO dept(dname,db_source) VALUES('财务部',DATABASE());
INSERT INTO dept(dname,db_source) VALUES('市场部',DATABASE());
INSERT INTO dept(dname,db_source) VALUES('运维部',DATABASE());
SELECT * FROM dept;
c、新建 jdbc//localhost:3306/cloudDB03 数据库
子模块 microservicecloud-provider-dept-8003 连接 jdbc//localhost:3306/cloudDB03 数据库。
DROP DATABASE IF EXISTS cloudDB03;
CREATE DATABASE cloudDB03 CHARACTER SET UTF8;
USE cloudDB03;
CREATE TABLE dept (
deptno BIGINT NOT NULL PRIMARY KEY AUTO_INCREMENT,
dname VARCHAR(60),
db_source VARCHAR(60)
);
INSERT INTO dept(dname,db_source) VALUES('开发部',DATABASE());
INSERT INTO dept(dname,db_source) VALUES('人事部',DATABASE());
INSERT INTO dept(dname,db_source) VALUES('财务部',DATABASE());
INSERT INTO dept(dname,db_source) VALUES('市场部',DATABASE());
INSERT INTO dept(dname,db_source) VALUES('运维部',DATABASE());
SELECT * FROM dept;
d、复制子模块 microservicecloud-provider-dept-8001 中 pom.xml 到子模块 microservicecloud-provider-dept-8002、microservicecloud-provider-dept-8003
e、修改子模块 microservicecloud-provider-dept-8002、microservicecloud-provider-dept-8003 中 pom.xml
f、修改子模块 microservicecloud-provider-dept-8002、microservicecloud-provider-dept-8003,目录 /src/main/java 中新建包 com.atguigu.springcloud
g、复制子模块 microservicecloud-provider-dept-8001 中包 com.atguigu.springcloud 内容到子模块 microservicecloud-provider-dept-8002、microservicecloud-provider-dept-8003 包 com.atguigu.springcloud
h、修改子模块 microservicecloud-provider-dept-8002、microservicecloud-provider-dept-8003,包 com.atguigu.springcloud 启动类重命名为 DeptProvider8002_App.java、DeptProvider8003_App.java
i、复制子模块 microservicecloud-provider-dept-8001 中目录 /main/resources 内容到子模块 microservicecloud-provider-dept-8002、microservicecloud-provider-dept-8003 目录 /main/resources
j、修改子模块 microservicecloud-provider-dept-8002,目录 /src/main/resources 中 application.yml
server:
port: 8002
eureka:
# 客户端注册进 Eureka 服务列表内
client:
service-url:
defaultZone: http://eureka7001.com:7001/eureka/,http://eureka7002.com:7002/eureka/,http://eureka7003.com:7003/eureka/
instance:
# 自定义服务名称信息
instance-id: microservicecloud-dept8002
# 访问路径可以显示IP地址
prefer-ip-address: true
info:
app.name: atguigu-microservicecloud
company.name: www.atguigu.com
build.artifactId: "@project.artifactId@"
build.version: "@project.version@"
spring:
application:
name: microservicecloud-dept
datasource:
# 数据源操作类型
type: com.alibaba.druid.pool.DruidDataSource
# MySQL 驱动包
driver-class-name: org.gjt.mm.mysql.Driver
# 数据库名称
url: jdbc:mysql://localhost:3306/cloudDB02
username: root
password: 123456
dbcp2:
# 数据库连接池的最小维持连接数
min-idle: 5
# 初始化连接数
initial-size: 5
# 最大连接数
max-total: 5
# 等待连接获取的最大超时时间
max-wait-millis: 200
mybatis:
# Mybatis 配置文件路径
config-location: classpath:mybatis/mybatis.cfg.xml
# 所有 Entity 别名类所在包
type-aliases-package: com.atguigu.springcloud.entities
mapper-locations:
# Mapper 映射文件
- classpath:mybatis/mapper/**/*.xml
k、修改子模块 microservicecloud-provider-dept-8003,目录 /src/main/resources 中 application.yml
server:
port: 8003
eureka:
# 客户端注册进 Eureka 服务列表内
client:
service-url:
defaultZone: http://eureka7001.com:7001/eureka/,http://eureka7002.com:7002/eureka/,http://eureka7003.com:7003/eureka/
instance:
# 自定义服务名称信息
instance-id: microservicecloud-dept8003
# 访问路径可以显示IP地址
prefer-ip-address: true
info:
app.name: atguigu-microservicecloud
company.name: www.atguigu.com
build.artifactId: "@project.artifactId@"
build.version: "@project.version@"
spring:
application:
name: microservicecloud-dept
datasource:
# 数据源操作类型
type: com.alibaba.druid.pool.DruidDataSource
# MySQL 驱动包
driver-class-name: org.gjt.mm.mysql.Driver
# 数据库名称
url: jdbc:mysql://localhost:3306/cloudDB03
username: root
password: 123456
dbcp2:
# 数据库连接池的最小维持连接数
min-idle: 5
# 初始化连接数
initial-size: 5
# 最大连接数
max-total: 5
# 等待连接获取的最大超时时间
max-wait-millis: 200
mybatis:
# Mybatis 配置文件路径
config-location: classpath:mybatis/mybatis.cfg.xml
# 所有 Entity 别名类所在包
type-aliases-package: com.atguigu.springcloud.entities
mapper-locations:
# Mapper 映射文件
- classpath:mybatis/mapper/**/*.xml
注意:
- 修改服务端口号、数据库连接。
- 对外暴露的统一的服务实例名。
l、测试 Ribbon 负载均衡
- 启动 Eureka 集群(子模块 microservicecloud-eureka-7001、microservicecloud-eureka-7002、microservicecloud-eureka-7003)
- 启动微服务集群(子模块 microservicecloud-provider-dept-8001、microservicecloud-provider-dept-8002、microservicecloud-provider-dept-8003)
- http://eureka7001.com:7001/
- http://localhost:8001/dept/get/1
- http://localhost:8002/dept/get/1
- http://localhost:8003/dept/get/1
- 启动子模块 microservicecloud-consumer-dept-80
http://localhost/consumer/dept/get/1
客户端通过 Ribbon 负载均衡,访问微服务集群(子模块 microservicecloud-provider-dept-8001、microservicecloud-provider-dept-8002、microservicecloud-provider-dept-8003)。注意观察返回的数据库名字,各不相同,负载均衡实现。
3.3-配置总结
Ribbon 其实就是一个软负载均衡的客户端组件,他可以和其他所需请求的客户端结合使用,和 Eureka 结合只是其中的一个实例。
4-Ribbon 核心组件 IRule
IRule:根据特定算法从服务列表中选取一个要访问的服务。
4.1-负载均衡算法
- RoundRobinRule:轮询
- RandomRule:随机
AvailabilityFilteringRule
会先过滤掉由于多次访问故障而处于断路器跳闸状态的服务,还有并发的连接数量超过阈值的服务,然后对剩余的服务列表按照轮询策略进行访问。
WeightedResponseTimeRule
根据平均响应时间计算所有服务的权重,响应时间越快服务权重越大被选中的概率越高。刚启动时如果统计信息不足,则使用RoundRobinRule 策略,等统计信息足够,会切换到 WeightedResponseTimeRule。
RetryRule
先按照 RoundRobinRule 的策略获取服务,如果获取服务失败则在指定时间内会进行重试,获取可用的服务。
BestAvailableRule
会先过滤掉由于多次访问故障而处于断路器跳闸状态的服务,然后选择一个并发量最小的服务。
ZoneAvoidanceRule
默认规则:复合判断 Server 所在区域的性能和 Server 的可用性选择服务器。
4.2-自定义算法示例
a、修改子模块 microservicecloud-consumer-dept-80,目录 /src/main/java 中新建包 com.atguigu.myrule
官方文档明确给出了警告:这个自定义配置类不能放在 @ComponentScan 所扫描的当前包下以及子包下,否则自定义的配置类就会被所有的 Ribbon 客户端所共享,也就是说达不到特殊化定制的目的了。
b、修改子模块 microservicecloud-consumer-dept-80,包 com.atguigu.myrule 中新建类 MySelfRule.java
Robbin 自定义规则类
package com.atguigu.myrule;
import com.netflix.loadbalancer.IRule;
import com.netflix.loadbalancer.RandomRule;
import org.springframework.context.annotation.Bean;
import org.springframework.context.annotation.Configuration;
@Configuration
public class MySelfRule {
@Bean
public IRule myRule() {
return new RandomRule();// Ribbon 默认是轮询,我自定义为随机
}
}
c、修改子模块 microservicecloud-consumer-dept-80,包 com.atguigu.springcloud 中启动类 DeptConsumer80_App.java
子模块 microservicecloud-consumer-dept-80 启动类 DeptConsumer80_App.java 添加 @RibbonClient。在启动该微服务的时候就能去加载自定义 Ribbon 配置类,从而使配置生效。
package com.atguigu.springcloud;
import com.atguigu.myrule.MySelfRule;
import org.springframework.boot.SpringApplication;
import org.springframework.boot.autoconfigure.SpringBootApplication;
import org.springframework.cloud.netflix.eureka.EnableEurekaClient;
import org.springframework.cloud.netflix.ribbon.RibbonClient;
@SpringBootApplication
@EnableEurekaClient
@RibbonClient(name = "MICROSERVICECLOUD-DEPT", configuration = MySelfRule.class)
public class DeptConsumer80_App {
public static void main(String[] args) {
SpringApplication.run(DeptConsumer80_App.class, args);
}
}
d、测试 Ribbon 自定义算法示例
- 启动 Eureka 集群(子模块 microservicecloud-eureka-7001、microservicecloud-eureka-7002、microservicecloud-eureka-7003)
- 启动微服务集群(子模块 microservicecloud-provider-dept-8001、microservicecloud-provider-dept-8002、microservicecloud-provider-dept-8003)
- 启动子模块 microservicecloud-consumer-dept-80
- http://localhost/consumer/dept/get/1
4.3-自定义算法定制
算法:依旧轮询策略,但是加上新需求,每个服务器要求被调用 5 次,也即以前是每台机器一次,现在是每台机器 5 次。
a、RandomRule.java 源码解析
https://github.com/Netflix/ribbon/blob/master/ribbon-loadbalancer/src/main/java/com/netflix/loadbalancer/RandomRule.java
b、修改子模块 microservicecloud-consumer-dept-80,包 com.atguigu.myrule 中新建类 RandomRule_ZY.java
参考源码修改定制 RandomRule_ZY.java
package com.atguigu.myrule;
import com.netflix.client.config.IClientConfig;
import com.netflix.loadbalancer.AbstractLoadBalancerRule;
import com.netflix.loadbalancer.ILoadBalancer;
import com.netflix.loadbalancer.Server;
import java.util.List;
public class RandomRule_ZY extends AbstractLoadBalancerRule {
private int total = 0;// 总共被调用的次数,目前要求每台被调用 5 次
private int currentIndex = 0;// 当前提供服务的机器号
public Server choose(ILoadBalancer lb, Object key) {
if (lb == null) {
return null;
}
Server server = null;
while (server == null) {
if (Thread.interrupted()) {
return null;
}
List<Server> upList = lb.getReachableServers();
List<Server> allList = lb.getAllServers();
int serverCount = allList.size();
if (serverCount == 0) {
return null;
}
//int index = rand.nextInt(serverCount);
//server = upList.get(index);
if (total < 5) {
server = upList.get(currentIndex);
total++;
} else {
total = 0;
currentIndex++;
if (currentIndex >= upList.size()) {
currentIndex = 0;
}
}
if (server == null) {
Thread.yield();
continue;
}
if (server.isAlive()) {
return (server);
}
server = null;
Thread.yield();
}
return server;
}
@Override
public Server choose(Object key) {
return choose(getLoadBalancer(), key);
}
@Override
public void initWithNiwsConfig(IClientConfig clientConfig) {
}
}
c、修改子模块 microservicecloud-consumer-dept-80,包 com.atguigu.myrule 中 MySelfRule.java
package com.atguigu.myrule;
import com.netflix.loadbalancer.IRule;
import org.springframework.context.annotation.Bean;
import org.springframework.context.annotation.Configuration;
@Configuration
public class MySelfRule {
@Bean
public IRule myRule() {
//return new RandomRule();// Ribbon 默认是轮询,我自定义为随机
return new RandomRule_ZY();// 我自定义为每个机器被访问 5 次
}
}
d、测试 Ribbon 自定义算法定制
- 启动 Eureka 集群(子模块 microservicecloud-eureka-7001、microservicecloud-eureka-7002、microservicecloud-eureka-7003)
- 启动微服务集群(子模块 microservicecloud-provider-dept-8001、microservicecloud-provider-dept-8002、microservicecloud-provider-dept-8003)
- 启动子模块 microservicecloud-consumer-dept-80
- http://localhost/consumer/dept/get/1
还没有评论,来说两句吧...