基于Spring cloud ribbon实现灰度发布

妖狐艹你老母 2022-06-01 06:45 266阅读 0赞

在上一篇文章《[基于Spring cloud ribbon实现多版本控制][Spring cloud ribbon]》中介绍了如何扩展spring cloud ribbon实现接口多版本控制的项目 – fm-cloud-bambbo， 开发这个项目的过程，给我提供了很多想法和思路，发现只要再做一些扩展，就可以实现灰度管理，于是又有了 fm-cloud-graybunny。

### 灰度发布 ###

灰度发布是在多版本控制的基础上进一步扩展实现出来的项目 -> fm-cloud-graybunny，抽象出灰度服务、灰度服务实例、灰度策略、灰度决策等。支持A/B test, 金丝雀 test。 灰度策略可以从request ip, request patameter, request header等方面进行去创建，也可以根据bamboo的LoadBalanceRequestTrigger结合graybuanny的接口去扩展灰度策略和灰度决策。

#### 场景 ####

有两个服务，共四个服务实例，分别是ServiceA-1, ServiceA-2, ServiceB-1。其中ServiceA-2是灰度实例。

*  场景1  
    所有请求头usertype:old，ip:10.217.***.***的请求或者请求头usertype:test, url 参数action:create的请求，都会被转发到的灰度服务ServiceA-2 。
 *  场景2  
    ServiceA-2通过一段时间的观察，判定运行稳定，开始ServiceA-2删除灰度标记，开始和ServiceA-1一样会加入正常的负载均衡规则当中。
 *  场景3  
    服务ServiceB发布新版本，ServiceB-2需要灰度注册，注册成功后所有的请求不能转发到ServiceB-2, 在为ServiceB-2设置灰度策略后，符合策略的请求才会被转发到ServiceB-2上。

#### 思路 ####

从上面的场景分析，可以归纳出两个对象：服务实例和调用请求；服务实例的灰度管理是基础，调用请求时如何决策路由，都是根据服务实例的灰度策略去判断的。既然有灰度管理这个概念，那么从功能上分，就会有client-server之分，所以又可以从graybunny-client和graybunny-server去分析。接下来将一步一步去分析这四个方面。

###### 灰度实例 ######

![这里写图片描述][SouthEast]

*  实例注册  
    服务实例添加到灰度管理中。
 *  实例下线  
    服务实例下线，从灰度管理中删除。
 *  灰度开关  
    调整服务实例的灰度状态，有启用、禁用两个状态，禁用的实例不纳入灰度列表中。
 *  灰度策略  
    请求是否可以被转发到该服务实例的条件，只有通过，请求才有可能会被转发到该实例上。

###### 调用请求 ######

![这里写图片描述][SouthEast 1]

*  灰度决策  
    根据请求的信息去匹配灰度服务实例的灰度策略，如果匹配上，会将服务实例加入到通过列表中。如果都没有匹配上，就按bamboo的路由规则去筛选非灰度的服务实例进行转发。

###### 灰度客户端 ######

调用请求的服务消费者，和提供服务的服务提供者都可以是灰度客户端，因为微服务中，大多服务实例既是服务提供者，同时也是服务消费者。  
![这里写图片描述][SouthEast 2]

*  灰度服务注册  
    服务实例在启动时，就会向灰度服务端发起请求，将实例自身的灰度开关打开。
 *  灰度服务下线  
    在服务实例下线前，会触发钩子，向灰度服务端发起请求将实例自身从灰度列表中删除。
 *  接收灰度实例调整消息  
    接收由灰度服务端推送过来的灰度列表更新消息比如新增灰度实例，删除灰度实例等，维护缓存在实例上的灰度列表。
 *  定时拉取灰度列表  
    定时从灰度服务端拉取最新的灰度列表，维护实例自身缓存的灰度列表。

###### 灰度服务端 ######

灰度服务端负表维护灰度列表，可以新增、删除、编辑灰度信息。  
![这里写图片描述][SouthEast 3]

*  编辑灰度实例  
    新增灰度实例，删除灰度实例，修改实例灰度状态。
 *  编辑灰度策略  
    新增实例灰度策略，删除实例灰度策略，修改灰度策略状态。
 *  推送灰度服务调整消息  
    向灰度客户端推送灰度列表变动消息，比如新增灰度实例，删除灰度实例，修改实例灰度状态等。
 *  定时检查服务实例是否下线  
    定时检查灰度服务实例是否下线，下线的的实例将从灰度列表中删除。

###### 代码设计 ######

根据上面的思路，设计以下对象和接口。共6个接口，4个模型对象。  
![这里写图片描述][SouthEast 4]

对象：

*  GrayService  
    灰度服务
 *  GrayInstance  
    灰度实例，有状态属性
 *  GrayPolicyGroup  
    灰度策略组，有状态属性
 *  GrayPolicy  
    灰度策略

接口:

*  GrayManager  
    灰度客户端管理器，维护灰度列表，维护自身灰度状态，创建灰度决策对象。抽象实现类AbstractGrayManager实现了基础的获取灰度列表， 创建灰度决策对象的能力。BaseGrayManger在期基础上进行了扩展，将灰度列表缓存起来，定时从灰度服务端更新灰度列表。
 *  InformationClient  
    该接口主要是负责和灰度服务端进行通信，获取灰度列表，编辑灰度实例等能力。其实现类HttpInformationClient默认使用http方式访问灰度服务端。  
    子类InformationClientDecorator是一个适配器类，RetryableInformationClient继承了InformationClientDecorator类，实现了重试的功能。
 *  GrayDecision  
    该接口是灰度决策，用来判断请求是否匹配灰度策略。实现了ip匹配、request parameter匹配、request header匹配、BambooRequestContext中的参数匹配器以及合并匹配等多个匹配能力。
 *  GrayDecisionFactory  
    灰度决策的工厂类，其默认实现类支持上述几种灰度决策的创建。
 *  GrayServiceManager  
    灰度服务管理类，属于服务端的类。主要是编辑服务实例，编辑灰度策略，以及维护最新的灰度列表。
 *  GrayBunnyServerEvictor  
    如果灰度服务实例下线后， 由于意外情况，没有向灰度服务端发送删除请求， 服务端会每隔一段时间调用该接口的方法，检查灰度列表中的实例是否下线，如果实例已下线，就将其从灰度列表中删除。

###### 代码实现 ######

将模型抽象成接口和对象设计出来之后，实现思路就清晰了。

*  灰度路由  
    灰度路由是客户端必须要实现的能力，graybunny是在bamboo的基础上扩展的，所以graybunny的路由规则对象GrayLoadBalanceRule继承了BambooZoneAvoidanceRule，  
    逻辑是这样的：  
    1、 判断目标服务是否有灰度实例。  
    2．1、 如果没有， 执行父类逻辑。结束。  
    2.2、 有灰度实例，先将灰度实例和非灰度实例筛选出来。  
    3、 挑选灰度实例， 筛选调用请求匹配上灰度实例的策略。  
    4.1、 如果没有匹配的灰度实例， 将非灰度实例列表传递过去执行父类的筛选逻辑。结束。  
    4．2、 如果有匹配的灰度实例， 从其中按轮询的方式挑选出一个实例。结束。  
    ![这里写图片描述][SouthEast 5]  
    灰度决策的执行代码在GrayDecisionPredicate中  
    ![这里写图片描述][SouthEast 6]
 *  灰度管理  
    灰度管理是灰度服务端的功能，主要是维护灰度列表。其实现类DefaultGrayServiceManger有一个Map, 用来维护GrayService，key是service id。并且每隔一段时间就调用EurekaGrayBunnyServerEvictor，检查列表中的实例是否下线，将下线的服务从灰度列表中删除。  
    ![这里写图片描述][SouthEast 7]  
    EurekaGrayBunnyServerEvictor是依赖EurekaClient来检查服务实例是否下线。  
    ![这里写图片描述][SouthEast 8]

###### 使用指导 ######

灰度管理的配置和bamboo的配置是一样的， 配置方式差别不大。下面先说gray-server的配置。

**Gray-Server:**  
在项目的pom.xml加入spring-boot相关的依赖，再加入bamboo-start、graybunny-server-starter，然后启动就可以了。  
![这里写图片描述][SouthEast 9]

在启动类中，需要雇用服务发现。  
![这里写图片描述][SouthEast 10]

启动后，可以访问[http://localhost:10202/swagger-ui.html\#/service-gray-resouce][http_localhost_10202_swagger-ui.html_service-gray-resouce]查看接口列表，也可以调用其中的接口。

![这里写图片描述][SouthEast 11]

以上介绍完了gray-server的配置，下面再看gray-client的配置。

**Gray-Client**

1.  在pom.xml中加入gm-cloud-graybunny。  
    ![这里写图片描述][SouthEast 12]
2.  在application.yaml中加入灰度配置。  
    ![这里写图片描述][SouthEast 13]
3.  在启动类中加入灰度客户端的注解@EnableGrayBunny  
    ![这里写图片描述][SouthEast 14]

这样灰略度的服务端和客户端都配置好了， 只要在灰度服务端开启灰度实例和灰度策，在灰度客户端就会自动进行灰度路由。

###### 项目地址 ######

[https://github.com/saleson/fm-cloud/tree/master/fm-cloud/fm-cloud-plugins/fm-cloud-graybunny][https_github.com_saleson_fm-cloud_tree_master_fm-cloud_fm-cloud-plugins_fm-cloud-graybunny]

###### 不足 ######

graybunny目前只有灰度管理的基本功能， 像数据持久化，高可用，推送灰度调整消息等， 都没有实现。 也没有界面化， 仅仅只有接口列表。

###### 扩展思考 ######

graybunny目前仅仅只支持spring cloud eureka， 但是在spring cloud中，eureka只是做为其中一个注册中心， 如果要做spring cloud的灰度管理， 就还需要兼容其中的注册中心， 比如zookeeper, consul等。

[Spring cloud ribbon]: http://blog.csdn.net/mr_rain/article/details/79133190
[SouthEast]: /images/20220601/e8d1671095f54791a5ba2c7b8b6bf46c.png
[SouthEast 1]: /images/20220601/80a42beb90d7470a920c5739367f2e53.png
[SouthEast 2]: /images/20220601/c26ee577c91042fb969d46bf98d5c471.png
[SouthEast 3]: /images/20220601/bd9c4c4636bc4eeaa6658f315f26f774.png
[SouthEast 4]: /images/20220601/f49cc0bafbc6499593dcbe0fbbfc59ab.png
[SouthEast 5]: /images/20220601/df0a4cdc92924aac82725b727b8dba9d.png
[SouthEast 6]: /images/20220601/b875cba9af3a4046a3f191ca8d3a902d.png
[SouthEast 7]: /images/20220601/f9cb8fc302c941bb8f909cc4488a0ac1.png
[SouthEast 8]: /images/20220601/a5f59b49f2244626bdfbd6908d2b0bbe.png
[SouthEast 9]: /images/20220601/9c64b7166d584c5bb358f07563a9ff24.png
[SouthEast 10]: /images/20220601/9fd0963a90954be5b06850b18dfa3f90.png
[http_localhost_10202_swagger-ui.html_service-gray-resouce]: http://localhost:10202/swagger-ui.html#/service-gray-resouce
[SouthEast 11]: /images/20220601/84d5b340d45d4eeeaec0ac506dc6ba9a.png
[SouthEast 12]: /images/20220601/320a82453e954a7c8d40615f15f9b8c1.png
[SouthEast 13]: /images/20220601/4a9d8dfdcad448059e6b2f69d13a2f66.png
[SouthEast 14]: /images/20220601/2dea099eabe3416089e84e2b64cb5e02.png
[https_github.com_saleson_fm-cloud_tree_master_fm-cloud_fm-cloud-plugins_fm-cloud-graybunny]: https://github.com/saleson/fm-cloud/tree/master/fm-cloud/fm-cloud-plugins/fm-cloud-graybunny