高并发场景下JVM调优实践之路（实战案例）

待我称王封你为后i 2023-09-30 09:04 5阅读 0赞

![watermark_type_d3F5LXplbmhlaQ_shadow_50_text_Q1NETiBAdXVxYXo_size_17_color_FFFFFF_t_70_g_se_x_16][]

一、背景

2022年2月，收到反馈，视频APP某核心接口高峰期响应慢，影响用户体验。

通过监控发现，接口响应慢主要是P99耗时高引起的，怀疑与该服务的GC有关，该服务典型的一个实例GC表现如下图：

![7a3cbdcb318e04cfa873e83d587c0492.png][]

图片

![b1cd424808eef7130650fbcea76af231.png][]

图片

可以看出，在观察周期里：

平均每10分钟Young GC次数66次，峰值为470次；

平均每10分钟Full GC次数0.25次，峰值5次；

可见Full GC非常频繁，Young GC在特定的时段也比较频繁，存在较大的优化空间。由于对GC停顿的优化是降低接口的P99时延一个有效的手段，所以决定对该核心服务进行JVM调优。

二、优化目标

接口P99时延降低30%

减少Young GC和Full GC次数、停顿时长、单次停顿时长

由于GC的行为与并发有关，例如当并发比较高时，不管如何调优，Young GC总会很频繁，总会有不该晋升的对象晋升触发Full GC，因此优化的目标根据负载分别制定：

目标1：高负载（单机1000 QPS以上）

Young GC次数减少20%-30% ，Young GC累积耗时不恶化；

Full GC次数减少50%以上，单次、累积Full GC耗时减少50%以上，服务发布不触发Full GC。

目标2：中负载（单机500-600）

Young GC次数减少20%-30% ，Young GC累积耗时减少20%；

Full GC次数不高于4次/天，服务发布不触发Full GC。

目标3：低负载（单机200 QPS以下）

Young GC次数减少20%-30% ，Young GC累积耗时减少20%；

Full GC次数不高于1次/天，服务发布不触发Full GC。

三、当前存在的问题

当前服务的JVM配置参数如下：

单纯从参数上分析，存在以下问题：

未显示指定收集器

JDK 8默认搜集器为ParrallelGC，即Young区采用Parallel Scavenge，老年代采用Parallel Old进行收集，这套配置的特点是吞吐量优先，一般适用于后台任务型服务器。

比如批量订单处理、科学计算等对吞吐量敏感，对时延不敏感的场景，当前服务是视频与用户交互的门户，对时延非常敏感，因此不适合使用默认收集器ParrallelGC，应选择更合适的收集器。

![c549d7eeca88a1a074624b4a8bfb3430.png][]

图片

Young区配比不合理

当前服务主要提供API，这类服务的特点是常驻对象会比较少，绝大多数对象的生命周期都比较短，经过一次或两次Young GC就会消亡。

再看下当前JVM配置：

整个堆为4G，Young区总共1G，默认-XX:SurvivorRatio=8，即有效大小为0.9G，老年代常驻对象大小约400M。

这就意味着，当服务负载较高，请求并发较大时，Young区中Eden + S0区域会迅速填满，进而Young GC会比较频繁。

另外会引起本应被Young GC回收的对象过早晋升，增加Full GC的频率，同时单次收集的区域也会增大，由于Old区使用的是ParralellOld，无法与用户线程并发执行

[watermark_type_d3F5LXplbmhlaQ_shadow_50_text_Q1NETiBAdXVxYXo_size_17_color_FFFFFF_t_70_g_se_x_16]: https://img-blog.csdnimg.cn/f9cf22ebc7374e04938f7bf915649638.png?x-oss-process=image/watermark,type_d3F5LXplbmhlaQ,shadow_50,text_Q1NETiBAdXVxYXo=,size_17,color_FFFFFF,t_70,g_se,x_16
[7a3cbdcb318e04cfa873e83d587c0492.png]: https://img-blog.csdnimg.cn/img_convert/7a3cbdcb318e04cfa873e83d587c0492.png
[b1cd424808eef7130650fbcea76af231.png]: https://img-blog.csdnimg.cn/img_convert/b1cd424808eef7130650fbcea76af231.png
[c549d7eeca88a1a074624b4a8bfb3430.png]: https://img-blog.csdnimg.cn/img_convert/c549d7eeca88a1a074624b4a8bfb3430.png