看到这个应用上下线方式，不禁感叹：优雅，太优雅了！

灰太狼 2023-10-07 19:27 63阅读 0赞

![9572ba9967c1b030437588dde863ab97.png][]

点击上方蓝字关注我们

什么是优雅上下线

![72d85b1003d0c3cbd4920be9554e3e81.png][]

![a71151853b3dd7169a849f95dc35216a.png][]

试想一个A场景，系统中运行着一个消费者（客户端）和两个服务提供者（服务端），消费者可负载均衡调用服务提供者。假设某个服务提供者因业务更新或其他场景需要滚动升级，若此时存在大量并发流量，便会出现以下问题：

1、大量TCP连接因服务提供者升级下线操作，导致大量请求错误。

2、由于消费者（客户端）存在注册表延迟刷新的问题，后续流量依旧会分配到已经下线的提供者，导致大量请求错误。

以上便是一个典型的“不优雅”场景。

于是，为了规避诸如此类的问题，服务优雅上下线应运而生，主要针对服务的重启、上线、下线等操作提供保护。

![c9d59d118b2e203ee4042c31c5433f38.png][]

![89ce6692cbed5cc786c276feef90319b.png][]

服务运维常见问题

![116400678e993ec1b1d6d6b55f52ea29.png][]

![522597875c5fe67df79b977496831236.png][]

（1） 服务自身存在大量懒加载机制（例如负载均衡初始化），在服务刚上线时，因并发流量请求涌入，导致大量请求同时进行懒加载，以至于请求响应慢，线程阻塞，甚至最终导致服务崩溃。

（2） 服务无法做到优雅下线，就如前面提到的A场景，服务端下线而客户端服务无法及时感知，导致流量流入已下线的实例，从而丢失大量流量。

优雅上下线提供了什么样的能力

![352c3971ca22b6c8fd323256ce0bd765.png][]

（1） 服务端预热能力：服务端预热是基于客户端实现的，当流量进入时，Sermant Agent会动态调整流量，根据服务的预热配置，对流量进行动态分配。对于开启服务预热的实例，在刚启动时，相对于其他已启动的实例，分配的流量会更少，流量将以曲线方式随时间推移增加直至与其他实例近乎持平。目的是采用少流量对服务实例进行初始化，防止服务崩溃。

![1d5525530a1f823572b16416749cc572.png][]

![60e6266d96c370cb0124940d96475de7.png][]

![b788153603a0fd4594326022c57530b6.png][]

![6e654e6ac5e49be6897b6560981dbd29.png][]

（2） 优雅下线能力：优雅下线结合服务端与客户端实现，主要实现点如下：

1、反注册：当服务端被要求下线时，Sermant Agent会动态根据当前注册中心进行反注册操作，及时刷新注册表，然而即使注册表已刷新，但是上游消费端因缓存问题却无法及时感知，从而引入下线通知。

![92de91b24fd4d312ae54ef423f5a2aa6.png][]

2、下线通知：进行反注册后，Sermant Agent会采用接口通知与响应通知的方式告知所有上游，并主动同步刷新provider实例缓存。

![fae739b0234291d3aed8ec4aa7400754.png][]

3、黑名单：为保证流量不再调用已下线实例，引入黑名单机制。在客户端接收到下线通知后，自动将下线实例拉入黑名单，在执行流量分配时，自动过滤黑名单（已下线）实例，不再调用已下线实例。说明：黑名单采用定时刷新机制，默认为2分钟，即针对同一个IP实例，标记下线后，等待2分钟即可重新发现。

![0efab5081fa0e66c9d35d9c48467cb70.png][]

4、流量统计：为确保当前请求已全部处理完成，在服务下线时，Sermant Agent会尝试等待30s（可配置），定时统计和判断当前实例请求是否均处理完成，处理完成后最终下线。

![f88e733cec02b5312669052e04465aaf.png][]

![9df60c7a335c46981dae8b1f7e701324.png][]

如何使用优雅上下线能力

![a7490b7919a66b6060a021f76f151b99.png][]

![2c20d4c672c90753d439914b97b90e3a.png][]

虚机场景：

> 参考虚拟机场景使用优雅上下线能力
> 
> https://support.huaweicloud.com/bestpractice-cse/cse\_bestpractice\_220701004.html

容器场景：

> 参考CCE场景使用优雅上下线能力
> 
> https://support.huaweicloud.com/bestpractice-cse/cse\_bestpractice\_220701005.html

基于Demo验证优雅上下线能力：

> 以Nacos demo应用为例，通过Sermant Agent接入CSE，并在CCE集群上验证优雅上下线功能，参考自定义优雅上下线 。
> 
> https://support.huaweicloud.com/bestpractice-cse/cse\_bestpractice\_220701007.html

![e8b40331bde884d4fa856be306aad8a9.png][]

![8e1f6a829c69a7ef73c7334b112e3886.png][]

> 原文链接
> 
> https://bbs.huaweicloud.com/blogs/368257

![7b54d387dbaea2425585bcc8de689404.png][]

点个在看你最好看

![2068959db739bfd8d7a0e86d802c8da0.png][]

[9572ba9967c1b030437588dde863ab97.png]: https://img-blog.csdnimg.cn/img_convert/9572ba9967c1b030437588dde863ab97.png
[72d85b1003d0c3cbd4920be9554e3e81.png]: https://img-blog.csdnimg.cn/img_convert/72d85b1003d0c3cbd4920be9554e3e81.png
[a71151853b3dd7169a849f95dc35216a.png]: https://img-blog.csdnimg.cn/img_convert/a71151853b3dd7169a849f95dc35216a.png
[c9d59d118b2e203ee4042c31c5433f38.png]: https://img-blog.csdnimg.cn/img_convert/c9d59d118b2e203ee4042c31c5433f38.png
[89ce6692cbed5cc786c276feef90319b.png]: https://img-blog.csdnimg.cn/img_convert/89ce6692cbed5cc786c276feef90319b.png
[116400678e993ec1b1d6d6b55f52ea29.png]: https://img-blog.csdnimg.cn/img_convert/116400678e993ec1b1d6d6b55f52ea29.png
[522597875c5fe67df79b977496831236.png]: https://img-blog.csdnimg.cn/img_convert/522597875c5fe67df79b977496831236.png
[352c3971ca22b6c8fd323256ce0bd765.png]: https://img-blog.csdnimg.cn/img_convert/352c3971ca22b6c8fd323256ce0bd765.png
[1d5525530a1f823572b16416749cc572.png]: https://img-blog.csdnimg.cn/img_convert/1d5525530a1f823572b16416749cc572.png
[60e6266d96c370cb0124940d96475de7.png]: https://img-blog.csdnimg.cn/img_convert/60e6266d96c370cb0124940d96475de7.png
[b788153603a0fd4594326022c57530b6.png]: https://img-blog.csdnimg.cn/img_convert/b788153603a0fd4594326022c57530b6.png
[6e654e6ac5e49be6897b6560981dbd29.png]: https://img-blog.csdnimg.cn/img_convert/6e654e6ac5e49be6897b6560981dbd29.png
[92de91b24fd4d312ae54ef423f5a2aa6.png]: https://img-blog.csdnimg.cn/img_convert/92de91b24fd4d312ae54ef423f5a2aa6.png
[fae739b0234291d3aed8ec4aa7400754.png]: https://img-blog.csdnimg.cn/img_convert/fae739b0234291d3aed8ec4aa7400754.png
[0efab5081fa0e66c9d35d9c48467cb70.png]: https://img-blog.csdnimg.cn/img_convert/0efab5081fa0e66c9d35d9c48467cb70.png
[f88e733cec02b5312669052e04465aaf.png]: https://img-blog.csdnimg.cn/img_convert/f88e733cec02b5312669052e04465aaf.png
[9df60c7a335c46981dae8b1f7e701324.png]: https://img-blog.csdnimg.cn/img_convert/9df60c7a335c46981dae8b1f7e701324.png
[a7490b7919a66b6060a021f76f151b99.png]: https://img-blog.csdnimg.cn/img_convert/a7490b7919a66b6060a021f76f151b99.png
[2c20d4c672c90753d439914b97b90e3a.png]: https://img-blog.csdnimg.cn/img_convert/2c20d4c672c90753d439914b97b90e3a.png
[e8b40331bde884d4fa856be306aad8a9.png]: https://img-blog.csdnimg.cn/img_convert/e8b40331bde884d4fa856be306aad8a9.png
[8e1f6a829c69a7ef73c7334b112e3886.png]: https://img-blog.csdnimg.cn/img_convert/8e1f6a829c69a7ef73c7334b112e3886.png
[7b54d387dbaea2425585bcc8de689404.png]: https://img-blog.csdnimg.cn/img_convert/7b54d387dbaea2425585bcc8de689404.png
[2068959db739bfd8d7a0e86d802c8da0.png]: https://img-blog.csdnimg.cn/img_convert/2068959db739bfd8d7a0e86d802c8da0.png