微服务预热那些事

忘是亡心i 2022-10-16 13:22 191阅读 0赞

# 背景 #

随着流量增长，服务的节点越来越多，对服务性能要求也越来越大，在服务启动时经常会发现存在抖动，针对这些服务抖动，就需要采取一些预热措施，下面就简单介绍下系统相关的服务预热、中间件预热、数据库预热等

# 预热场景 #

## 服务预热 ##

在《springcloud线上发布超时》系列文章中已经描述了一些微服务需要预热的服务资源，

*  连接池
 *  线程池
 *  限流池
 *  grpc连接
 *  jit

池资源相关预热我这里就不描述了，参考我的发布预热系列文章：[springcloud线上发布超时][springcloud]

这里说一下jit，网上有两种方案，

### 方案一 定制化jdk ###

将jit过程信息保存到文件中，下次发布时自动加载，成熟方案是阿里的jwarmup，已经集成到阿里的jdk中，有兴趣的可以了解下

### 方案二 跑测试用例预热 ###

一般都是采用测试用例预热，如果仅仅是jdk预热，可以直接跑几个测试用例循环n次就行，但是如果涉及到中间件预热，这里就可能不满足需求了。  
我现在就是采用流量录制以及回放预热，如下图：  
![在这里插入图片描述][20210606214349329.png]

### 方案三 定制路由策略，通过tag配置来路由 ###

这里的方案就是需要定制化路由策略，刚启动的服务注册时带上一些配置信息，网关或者服务调用段获取到配置后来根据配置来路由，先路由少量流量，慢慢增加直到路由100%，这样可以达到针对jit的预热效果

## 中间件预热 ##

### redis预热 ###

先在很多服务为了提高吞吐量而使用redis，这就会导致服务启动后或者redis数据丢失后，会导致请求都打到db中去，从而导致db压力倍增，这就是常见的redis雪崩。

### CDN预热 ###

CDN经常是也承担了入口缓存，那么这里也会需要预热，可以录制生产流量回放来达到预热效果。

### mysql预热 ###

mysql重启后十几分钟的性能是非常差的,原因是因为InnoDB有innodb buffer pool，详细可以参考该链接：https://blog.csdn.net/u014236541/article/details/79870670

[springcloud]: https://blog.csdn.net/lp19861126/article/details/105623001
[20210606214349329.png]: /images/20221014/737cf53cefce4fe9ad4242748d326c13.png

发表评论取消回复

表情：

评论列表（有 0 条评论，191人围观）

还没有评论，来说两句吧...

相关阅读

相关缓存那些事

本文已发表于《程序员》杂志2017年第3期，下面的版本又经过进一步的修订。前言一般而言，现在互联网应用（网站或App）的整体流程，可以概括如图1所示，用户请求从界面

深藏阁楼爱情的钟/ 2023年10月17日 19:36/ 0 赞/ 38 阅读

相关工作那些事

如何成为职场老司机新的出发控制好自己的情绪沟通很重要自律很重要如果陷入困境新的出发当你步

「爱情、让人受尽委屈。」/ 2022年12月18日 02:57/ 0 赞/ 170 阅读

相关 gitee那些事

1、fatal: remote origin already exists. 错误是因为本地库已经关联了一个名叫 origin的远程库，此时，查看远程库信息： git

末蓝、/ 2022年11月16日 01:36/ 0 赞/ 265 阅读

相关微服务预热那些事

背景随着流量增长，服务的节点越来越多，对服务性能要求也越来越大，在服务启动时经常会发现存在抖动，针对这些服务抖动，就需要采取一些预热措施，下面就简单介绍下系统相关的服务

忘是亡心i/ 2022年10月16日 13:22/ 0 赞/ 192 阅读

相关手机那些事

米老师教导我们要隔一段时间就换一个密码这样的话可以保证自己隐私的安全。于是我就谨遵师命，把手机的屏保密码换了一个解锁密码。悲剧的事情来了，我的脑子太笨了，早上还能解锁下午就给忘

亦凉/ 2022年08月27日 06:54/ 0 赞/ 253 阅读

相关 HTTPS那些事

HTTPS那些事（一）HTTPS原理谣言粉碎机前些日子发布的《[用公共WiFi上网会危害银行账户安全吗？][WiFi]》，文中介绍了在使用HTTPS进行网络加密传输的一

绝地灬酷狼/ 2022年08月05日 07:27/ 0 赞/ 277 阅读

相关二进制那些事

[理清字符集和字符编码关系][Link 1]中介绍到计算机内部由集成电路决定了计算机的信息只能用二进制数处理。本期将介绍二进制那些事。移位运算移位运算指的是将二进制

不念不忘少年蓝@/ 2022年05月26日 05:24/ 0 赞/ 195 阅读

相关 nginx动态配置及服务发现那些事

标题, 《闲聊nginx动态配置及服务发现的那些事》 … 这次的准备闲聊关于nginx服务发现的话题, 按照我以往写文章的性子，估计会迁移一些主题. 毕竟单纯聊nginx和动

迈不过友情╰/ 2022年03月29日 11:17/ 0 赞/ 257 阅读

相关缓存那些事

一般而言，现在互联网应用（网站或App）的整体流程，可以概括如图1所示，用户请求从界面（浏览器或App界面）到网络转发、应用服务再到存储（数据库或文件系统），然后返回到界

以你之姓@/ 2022年03月25日 02:48/ 0 赞/ 356 阅读

相关监听那些事

开发工具与关键技术：Visual Studio 作者：肖广斌撰写时间：2019年5月31日在我现在写的这个项目里面，基本上都是有很多表需要用到监听才能获取到另外一

刺骨的言语ヽ痛彻心扉/ 2022年01月22日 13:41/ 0 赞/ 344 阅读