JVM调优工具详解及调优实战

骑猪看日落 2022-09-10 07:25 217阅读 0赞

**前置启动程序**  
事先启动一个web应用程序，用jps查看其进程id，接着用各种jdk自带命令优化应用

## Jmap ##

此命令可以用来查看内存信息，实例个数以及占用内存大小  
![在这里插入图片描述][ff1fa34a4b094429a4466e187ec6feea.png]  
打开log.txt，文件内容如下：  
![在这里插入图片描述][watermark_type_ZHJvaWRzYW5zZmFsbGJhY2s_shadow_50_text_Q1NETiBAY29yZTgxNQ_size_20_color_FFFFFF_t_70_g_se_x_16]

*  num：序号
 *  instances：实例数量
 *  bytes：占用空间大小
 *  class name：类名称，\[C is a char\[\], \[S is a short\[\], \[I is a int\[\], \[B is a byte\[\],\[\[I is a int\[\]\[\]

**堆信息**  
![在这里插入图片描述][watermark_type_ZHJvaWRzYW5zZmFsbGJhY2s_shadow_50_text_Q1NETiBAY29yZTgxNQ_size_20_color_FFFFFF_t_70_g_se_x_16 1]  
**堆内存**

jmap -dump:format=b,file=nacos.hprof pid

![在这里插入图片描述][0e929e578c714b7dbc7809ef812464f8.png]

也可以设置内存溢出自动导出dump文件（内存很大的时候，可能导不出来）

*  \-XX:+HeapDumpOnOutOfMemoryError
 *  \-XX:HeapDumpPath=./

示例代码：

import java.util.ArrayList;
    import java.util.List;
    import java.util.UUID;
    
    public class OOMTest { 
        public static List<Object> list = new ArrayList<>();
    
        // JVM设置
        // -Xms10M -Xmx10M -XX:+PrintGCDetails -XX:+HeapDumpOnOutOfMemoryError
        // -XX:HeapDumpPath=D:\1\jvm.dump
        public static void main(String[] args) { 
            List<Object> list = new ArrayList<>();
            int i = 0;
            int j = 0;
            while (true){ 
                User user = new User(UUID.randomUUID().toString(), i++);
                new User(UUID.randomUUID().toString(), j--);
            }// while
        }
    }

内存溢出错误：  
![在这里插入图片描述][watermark_type_ZHJvaWRzYW5zZmFsbGJhY2s_shadow_50_text_Q1NETiBAY29yZTgxNQ_size_20_color_FFFFFF_t_70_g_se_x_16 2]  
可以用jvisualvm命令工具导入该dump文件分析：  
![在这里插入图片描述][watermark_type_ZHJvaWRzYW5zZmFsbGJhY2s_shadow_50_text_Q1NETiBAY29yZTgxNQ_size_20_color_FFFFFF_t_70_g_se_x_16 3]  
分析结果：  
![在这里插入图片描述][watermark_type_ZHJvaWRzYW5zZmFsbGJhY2s_shadow_50_text_Q1NETiBAY29yZTgxNQ_size_20_color_FFFFFF_t_70_g_se_x_16 4]

## Jstack ##

用jstack加进程id查找死锁，见如下示例：

public class DeadLockTest { 
        private static Object lock1 = new Object();
        private static Object lock2 = new Object();
    
        public static void main(String[] args) { 
            new Thread(()->{ 
                synchronized (lock1){ 
                    try{ 
                        System.out.println("thread1 begin");
                        Thread.sleep(5000);
                    }catch (Exception e){ 
                    }
                    synchronized (lock2){ 
                        System.out.println("thread1 end");
                    }
                }// lock1
    
            }).start();
    
            new Thread(()->{ 
                synchronized (lock2){ 
                    try{ 
                        System.out.println("thread2 begin");
                        Thread.sleep(5000);
                    }catch(Exception e){ 
                    }
                    synchronized (lock1){ 
                        System.out.println("thread2 end");
                    }
                }// lock2
            }).start();
    
            System.out.println("main thread end");
        }
    }

![在这里插入图片描述][watermark_type_ZHJvaWRzYW5zZmFsbGJhY2s_shadow_50_text_Q1NETiBAY29yZTgxNQ_size_20_color_FFFFFF_t_70_g_se_x_16 5]  
还可以用jvisualvm自动检测死锁  
![在这里插入图片描述][watermark_type_ZHJvaWRzYW5zZmFsbGJhY2s_shadow_50_text_Q1NETiBAY29yZTgxNQ_size_20_color_FFFFFF_t_70_g_se_x_16 6]

## 远程连接jvisualvm ##

启动普通的jar程序JMX端口配置

java -Dcom.sun.management.jmxremote.port=8888 -Djava.rmi.server.hostname=127.0.0.1 -Dcom.sun.management.jmxremote.ssl=false -Dcom.sun.management.jmxremote.authenticate=false -jar microservice-eureka-server.jar

\-Dcom.sun.management.jmxremote.port 为远程机器的JMX端口  
\-Djava.rmi.server.hostname 为远程机器IP

> 测试jar，可用：https://download.csdn.net/download/taotao\_guiwang/22002847

**tomcat的JMX配置：在catalina.sh文件里的最后一个JAVA\_OPTS的赋值语句下一行增加如下配置行**

1 JAVA_OPTS="$JAVA_OPTS ‐Dcom.sun.management.jmxremote.port=8888 ‐Djava.rmi.server.hostname=127.0.0.1 ‐Dcom.sun.ma nagement.jmxremote.ssl=false ‐Dcom.sun.management.jmxremote.authenticate=false"

## jstack找出占用cpu最高的线程堆栈信息 ##

/** * 运行此代码，cpu会飙高 */
    public class Math { 
        public static final int initData = 666;
        public static User user= new User();
    
        public int compute(){ // 一个方法对应一个栈帧内存区域
            int a = 1;
            int b = 2;
            int c = (a + b) * 10;
            return c;
        }
    
        public static void main(String[] args) { 
            Math math = new Math();
            while(true){ 
                math.compute();
            }
        }
    }

1.使用命令top -p ，显示你的java进程的内存情况，pid是你的java进程号，比如20056  
![在这里插入图片描述][watermark_type_ZHJvaWRzYW5zZmFsbGJhY2s_shadow_50_text_Q1NETiBAY29yZTgxNQ_size_20_color_FFFFFF_t_70_g_se_x_16 7]  
2.按H，获取每个线程的内存情况  
![在这里插入图片描述][watermark_type_ZHJvaWRzYW5zZmFsbGJhY2s_shadow_50_text_Q1NETiBAY29yZTgxNQ_size_20_color_FFFFFF_t_70_g_se_x_16 8]  
3.找到内存和cpu占用最高的线程tid，比如19664  
4.转为十六进制得到0x4cd0，此为线程id的十六进制表示  
5.执行jstack 19663|grep -A 10 4cd0，得到线程堆栈信息中4cd0这个线程所在行的后面10行，从堆栈中可以发现导致CPU飙高的调用方法  
6.查看对应的堆栈信息找出可能存在问题的代码

## Jinfo ##

查看正在运行的Java应用程序的扩展参数  
查看jvm的参数  
![在这里插入图片描述][watermark_type_ZHJvaWRzYW5zZmFsbGJhY2s_shadow_50_text_Q1NETiBAY29yZTgxNQ_size_20_color_FFFFFF_t_70_g_se_x_16 9]  
查看java系统参数  
![在这里插入图片描述][watermark_type_ZHJvaWRzYW5zZmFsbGJhY2s_shadow_50_text_Q1NETiBAY29yZTgxNQ_size_20_color_FFFFFF_t_70_g_se_x_16 10]

## Jstat ##

jstat命令可以查看堆内存各部分的使用量，以及加载类的数量。命令格式如下：  
jstat \[-命令选项\] \[vmid\]\[间隔时间（毫秒）\]\[查询次数\]  
注意：使用的jdk版本是jdk8

**垃圾回收统计**  
jstat -gc pid 最常用，可以评估程序内存使用及GC压力整体情况  
![在这里插入图片描述][8fadd3a6f0074fea9dd4459d1f327842.png]

*  S0C：第一个幸存区的大小，单位KB
 *  S1C：第二个幸存区的大小
 *  S0U：第一个幸存区的使用大小
 *  S1U：第二个幸存区的使用大小
 *  EC：伊甸园区的大小
 *  EU：伊甸园区的使用大小
 *  OC：老年代大小
 *  OU：老年代使用大小
 *  MC：方法区大小（元空间）
 *  MU：方法区使用大小
 *  CCSC：压缩类空间大小
 *  CCSU：压缩类空间使用大小
 *  YGC：年轻代垃圾回收次数
 *  YGCT：年轻代垃圾回收消耗时间，单位s
 *  FGC：老年代垃圾回收次数
 *  FGCT：老年代垃圾回收消耗书剑，单位s
 *  GCT：垃圾回收消耗总时间，单位s

**堆内存统计**  
![在这里插入图片描述][f9db7aa33fc148e6a0ff29a63d99a6c7.png]

*  NGCMN：新生代最小容量
 *  NGCMX：新生代最大容量
 *  NGC：当前新生代容量
 *  S0C：第一个幸存区大小
 *  S1C：第二个幸存区的大小
 *  EC：伊甸园区的大小
 *  OGCMN：老年代最小容量
 *  OGCMX：老年代最大容量
 *  OGC：当前老年代大小
 *  OC:当前老年代大小
 *  MCMN:最小元数据容量
 *  MCMX：最大元数据容量
 *  MC：当前元数据空间大小
 *  CCSMN：最小压缩类空间大小
 *  CCSMX：最大压缩类空间大小
 *  CCSC：当前压缩类空间大小
 *  YGC：年轻代gc次数
 *  FGC：老年代GC次数

**新生代垃圾回收统计**  
![在这里插入图片描述][34495d58dee2403d96b292d2768c6985.png]

*  S0C：第一个幸存区的大小
 *  S1C：第二个幸存区的大小
 *  S0U：第一个幸存区的使用大小
 *  S1U：第二个幸存区的使用大小
 *  TT:对象在新生代存活的次数
 *  MTT:对象在新生代存活的最大次数
 *  DSS:期望的幸存区大小
 *  EC：伊甸园区的大小
 *  EU：伊甸园区的使用大小
 *  YGC：年轻代垃圾回收次数
 *  YGCT：年轻代垃圾回收消耗时间

**新生代内存统计**  
![在这里插入图片描述][ba8a68a80eaa4ab5b18b3ae80ee7a835.png]

*  NGCMN：新生代最小容量
 *  NGCMX：新生代最大容量
 *  NGC：当前新生代容量
 *  S0CMX：最大幸存1区大小
 *  S0C：当前幸存1区大小
 *  S1CMX：最大幸存2区大小
 *  S1C：当前幸存2区大小
 *  ECMX：最大伊甸园区大小
 *  EC：当前伊甸园区大小
 *  YGC：年轻代垃圾回收次数
 *  FGC：老年代回收次数

**老年代垃圾回收统计**  
![在这里插入图片描述][23d5e020c22b4103afd374f005d3cbe4.png]

*  MC：方法区大小
 *  MU：方法区使用大小
 *  CCSC:压缩类空间大小
 *  CCSU:压缩类空间使用大小
 *  OC：老年代大小
 *  OU：老年代使用大小
 *  YGC：年轻代垃圾回收次数
 *  FGC：老年代垃圾回收次数
 *  FGCT：老年代垃圾回收消耗时间
 *  GCT：垃圾回收消耗总时间

**老年代内存统计**  
![在这里插入图片描述][e88c43bfd607416495c8819052c2d14b.png]

*  OGCMN：老年代最小容量
 *  OGCMX：老年代最大容量
 *  OGC：当前老年代大小
 *  OC：老年代大小
 *  YGC：年轻代垃圾回收次数
 *  FGC：老年代垃圾回收次数
 *  FGCT：老年代垃圾回收消耗时间
 *  GCT：垃圾回收消耗总时间

**元数据空间统计**  
![在这里插入图片描述][fcd53b3ed8cd442fadee41a9feb3f75e.png]

*  MCMN:最小元数据容量
 *  MCMX：最大元数据容量
 *  MC：当前元数据空间大小
 *  CCSMN：最小压缩类空间大小
 *  CCSMX：最大压缩类空间大小
 *  CCSC：当前压缩类空间大小
 *  YGC：年轻代垃圾回收次数
 *  FGC：老年代垃圾回收次数
 *  FGCT：老年代垃圾回收消耗时间
 *  GCT：垃圾回收消耗总时间

![在这里插入图片描述][27b47fd5e6b5466c989bab178fd8c7ea.png]

*  S0：幸存1区当前使用比例
 *  S1：幸存2区当前使用比例
 *  E：伊甸园区使用比例
 *  O：老年代使用比例
 *  M：元数据区使用比例
 *  CCS：压缩使用比例
 *  YGC：年轻代垃圾回收次数
 *  FGC：老年代垃圾回收次数
 *  FGCT：老年代垃圾回收消耗时间
 *  GCT：垃圾回收消耗总时间

## JVM运行情况预估 ##

用 jstat gc -pid 命令可以计算出如下一些关键数据，有了这些数据就可以采用之前介绍过的优化思路，先给自己的系统设置一些初始性的 JVM参数，比如堆内存大小，年轻代大小，Eden和Survivor的比例，老年代的大小，大对象的阈值，大龄对象进入老年代的阈值等。

**年轻代对象增长的速率**  
可以执行命令 jstat -gc pid 1000 10 (每隔1秒执行1次命令，共执行10次)，通过观察EU(eden区的使用)来估算每秒eden大概新增多少对 象，如果系统负载不高，可以把频率1秒换成1分钟，甚至10分钟来观察整体情况。注意，一般系统可能有高峰期和日常期，所以需要在不 同的时间分别估算不同情况下对象增长速率。

**Young GC的触发频率和每次耗时**  
知道年轻代对象增长速率我们就能推根据eden区的大小推算出Young GC大概多久触发一次，Young GC的平均耗时可以通过 YGCT/YGC 公式算出，根据结果我们大概就能知道**系统大概多久会因为Young GC的执行而卡顿多久。**

**每次Young GC后有多少对象存活和进入老年代**  
这个因为之前已经大概知道Young GC的频率，假设是每5分钟一次，那么可以执行命令 jstat -gc pid 300000 10 ，观察每次结果eden， survivor和老年代使用的变化情况，在每次gc后eden区使用一般会大幅减少，survivor和老年代都有可能增长，这些增长的对象就是每次 Young GC后存活的对象，同时还可以看出每次Young GC后进去老年代大概多少对象，从而可以推算出**老年代对象增长速率。**

**Full GC的触发频率和每次耗时**  
知道了老年代对象的增长速率就可以推算出Full GC的触发频率了，Full GC的每次耗时可以用公式 FGCT/FGC 计算得出。

\*\*优化思路：\*\*其实简单来说就是尽量让每次Young GC后的存活对象小于Survivor区域的50%，都留存在年轻代里。尽量别让对象进入老年 代。尽量减少Full GC的频率，避免频繁Full GC对JVM性能的影响。

**系统频繁Full GC导致系统卡顿是怎么回事**  
机器配置：2核4G  
JVM内存大小：2G  
系统运行时间：7天  
期间发生的Full GC次数和耗时：500多次，200多秒  
期间发生的Young GC次数和耗时：1万多次，500多秒

大致算下来每天会发生70多次Full GC，平均每小时3次，每次Full GC在400毫秒左右； 每天会发生1000多次Young GC，每分钟会发生1次，每次Young GC在50毫秒左右。

JVM参数设置如下：

‐Xms1536M ‐Xmx1536M ‐Xmn512M ‐Xss256K ‐XX:SurvivorRatio=6 ‐XX:MetaspaceSize=256M ‐XX:MaxMetaspaceSize=256M ‐XX:+UseParNewGC ‐XX:+UseConcMarkSweepGC ‐XX:CMSInitiatingOccupancyFraction=75 ‐XX:+UseCMSInitiatingOccupancyOnly

![在这里插入图片描述][watermark_type_ZHJvaWRzYW5zZmFsbGJhY2s_shadow_50_text_Q1NETiBAY29yZTgxNQ_size_20_color_FFFFFF_t_70_g_se_x_16 11]  
大家可以结合对象挪动到老年代那些规则推理下我们这个程序可能存在的一些问题 经过分析感觉可能会由于对象动态年龄判断机制导致full gc较为频繁 为了给大家看效果，我模拟了一个示例程序，打印了jstat的结果如下：

jstat ‐gc 13456 2000 10000

![在这里插入图片描述][watermark_type_ZHJvaWRzYW5zZmFsbGJhY2s_shadow_50_text_Q1NETiBAY29yZTgxNQ_size_20_color_FFFFFF_t_70_g_se_x_16 12]  
对于对象动态年龄判断机制导致的full gc较为频繁可以先试着优化下JVM参数，把年轻代适当调大点：

‐Xms1536M ‐Xmx1536M ‐Xmn1024M ‐Xss256K ‐XX:SurvivorRatio=6 ‐XX:MetaspaceSize=256M ‐XX:MaxMetaspaceSize=256M ‐XX:+UseParNewGC ‐XX:+UseConcMarkSweepGC ‐XX:CMSInitiatingOccupancyFraction=92 ‐XX:+UseCMSInitiatingOccupancyOnly

![在这里插入图片描述][watermark_type_ZHJvaWRzYW5zZmFsbGJhY2s_shadow_50_text_Q1NETiBAY29yZTgxNQ_size_20_color_FFFFFF_t_70_g_se_x_16 13]  
优化完发现没什么变化，full gc的次数比minor gc的次数还多了  
![在这里插入图片描述][watermark_type_ZHJvaWRzYW5zZmFsbGJhY2s_shadow_50_text_Q1NETiBAY29yZTgxNQ_size_20_color_FFFFFF_t_70_g_se_x_16 14]  
我们可以推测下full gc比minor gc还多的原因有哪些？  
1、元空间不够导致的多余full gc  
2、显示调用System.gc()造成多余的full gc，这种一般线上尽量通过XX:+DisableExplicitGC参数禁用，如果加上了这个JVM启动参数，那 么代码中调用System.gc()没有任何效果  
3、老年代空间分配担保机制  
最快速度分析完这些我们推测的原因以及优化后，我们发现young gc和full gc依然很频繁了，而且看到有大量的对象频繁的被挪动到老年 代，这种情况我们可以借助jmap命令大概看下是什么对象  
jmap -histo 18424  
![在这里插入图片描述][watermark_type_ZHJvaWRzYW5zZmFsbGJhY2s_shadow_50_text_Q1NETiBAY29yZTgxNQ_size_20_color_FFFFFF_t_70_g_se_x_16 15]  
查到了有大量User对象产生，这个可能是问题所在，但不确定，还必须找到对应的代码确认，如何去找对应的代码了？  
1、代码里全文搜索生成User对象的地方(适合只有少数几处地方的情况)  
2、如果生成User对象的地方太多，无法定位具体代码，我们可以同时分析下占用cpu较高的线程，一般有大量对象不断产生，对应的方法 代码肯定会被频繁调用，占用的cpu必然较高  
可以用上面讲过的jstack或jvisualvm来定位cpu使用较高的代码，最终定位到的代码如下：  
![在这里插入图片描述][watermark_type_ZHJvaWRzYW5zZmFsbGJhY2s_shadow_50_text_Q1NETiBAY29yZTgxNQ_size_20_color_FFFFFF_t_70_g_se_x_16 16]  
同时，java的代码也是需要优化的，一次查询出500M的对象出来，明显不合适，要根据之前说的各种原则尽量优化到合适的值，尽量消 除这种朝生夕死的对象导致的full gc

**内存泄露到底是怎么回事**  
一般电商架构可能会使用多级缓存架构，就是redis加上JVM级缓存，大多数同学可能为了图方便对于JVM级缓存就 简单使用一个hashmap，于是不断往里面放缓存数据，但是很少考虑这个map的容量问题，结果这个缓存map越来越大，一直占用着老 年代的很多空间，时间长了就会导致full gc非常频繁，这就是一种内存泄漏，对于一些老旧数据没有及时清理导致一直占用着宝贵的内存 资源，时间长了除了导致full gc，还有可能导致OOM。 这种情况完全可以考虑采用一些成熟的JVM级缓存框架来解决，比如ehcache等自带一些LRU数据淘汰算法的框架来作为JVM级的缓存。

[ff1fa34a4b094429a4466e187ec6feea.png]: /images/20220829/de70e6b7ffb54627a0d2e6db8d5f9bf2.png
[watermark_type_ZHJvaWRzYW5zZmFsbGJhY2s_shadow_50_text_Q1NETiBAY29yZTgxNQ_size_20_color_FFFFFF_t_70_g_se_x_16]: /images/20220829/fcc8bc7d50504bd384be6a1a3b0961bf.png
[watermark_type_ZHJvaWRzYW5zZmFsbGJhY2s_shadow_50_text_Q1NETiBAY29yZTgxNQ_size_20_color_FFFFFF_t_70_g_se_x_16 1]: /images/20220829/f3eb952828be4f42bd798af77ffff1e9.png
[0e929e578c714b7dbc7809ef812464f8.png]: /images/20220829/a14484a34675423d8ccf3e0731c012d0.png
[watermark_type_ZHJvaWRzYW5zZmFsbGJhY2s_shadow_50_text_Q1NETiBAY29yZTgxNQ_size_20_color_FFFFFF_t_70_g_se_x_16 2]: /images/20220829/37a9f8bd5ab14c8cb6605ae635887257.png
[watermark_type_ZHJvaWRzYW5zZmFsbGJhY2s_shadow_50_text_Q1NETiBAY29yZTgxNQ_size_20_color_FFFFFF_t_70_g_se_x_16 3]: /images/20220829/613d39b4acdd4382a539263792cc9383.png
[watermark_type_ZHJvaWRzYW5zZmFsbGJhY2s_shadow_50_text_Q1NETiBAY29yZTgxNQ_size_20_color_FFFFFF_t_70_g_se_x_16 4]: /images/20220829/c21805dcd87b4afe8a51f2c5971d79bd.png
[watermark_type_ZHJvaWRzYW5zZmFsbGJhY2s_shadow_50_text_Q1NETiBAY29yZTgxNQ_size_20_color_FFFFFF_t_70_g_se_x_16 5]: /images/20220829/f8933b46a70544bc9e1a99664425789f.png
[watermark_type_ZHJvaWRzYW5zZmFsbGJhY2s_shadow_50_text_Q1NETiBAY29yZTgxNQ_size_20_color_FFFFFF_t_70_g_se_x_16 6]: /images/20220829/05b67b8e4399408582aae7035b3bd319.png
[watermark_type_ZHJvaWRzYW5zZmFsbGJhY2s_shadow_50_text_Q1NETiBAY29yZTgxNQ_size_20_color_FFFFFF_t_70_g_se_x_16 7]: /images/20220829/3b0570071d454b789136674419930473.png
[watermark_type_ZHJvaWRzYW5zZmFsbGJhY2s_shadow_50_text_Q1NETiBAY29yZTgxNQ_size_20_color_FFFFFF_t_70_g_se_x_16 8]: /images/20220829/6aa86de0fda5410298eb73fc06865a5c.png
[watermark_type_ZHJvaWRzYW5zZmFsbGJhY2s_shadow_50_text_Q1NETiBAY29yZTgxNQ_size_20_color_FFFFFF_t_70_g_se_x_16 9]: /images/20220829/1b9314e9e5244d6c81d0147ee320f516.png
[watermark_type_ZHJvaWRzYW5zZmFsbGJhY2s_shadow_50_text_Q1NETiBAY29yZTgxNQ_size_20_color_FFFFFF_t_70_g_se_x_16 10]: /images/20220829/6c0d9a4a6bc34dc0a8005e4d803fe52c.png
[8fadd3a6f0074fea9dd4459d1f327842.png]: /images/20220829/77fe41e496fd48c0903c645c101daace.png
[f9db7aa33fc148e6a0ff29a63d99a6c7.png]: /images/20220829/4e926dc31635451db90bac4b21a97038.png
[34495d58dee2403d96b292d2768c6985.png]: /images/20220829/08694ea7ff2e44a4832220282c2ad944.png
[ba8a68a80eaa4ab5b18b3ae80ee7a835.png]: /images/20220829/a2936e7fbe5c485aaf1299b2c2ee2ffd.png
[23d5e020c22b4103afd374f005d3cbe4.png]: /images/20220829/a5d87c724c4849a2b85b3a112287b338.png
[e88c43bfd607416495c8819052c2d14b.png]: /images/20220829/c9c303ffa8654a71b92de69d72376ab7.png
[fcd53b3ed8cd442fadee41a9feb3f75e.png]: /images/20220829/0eab20d70921402dac49c6c878a1983a.png
[27b47fd5e6b5466c989bab178fd8c7ea.png]: /images/20220829/5e093d73a6354232b982a88b0c41a383.png
[watermark_type_ZHJvaWRzYW5zZmFsbGJhY2s_shadow_50_text_Q1NETiBAY29yZTgxNQ_size_20_color_FFFFFF_t_70_g_se_x_16 11]: /images/20220829/835b086e53804fa5a9fd65535c1bade7.png
[watermark_type_ZHJvaWRzYW5zZmFsbGJhY2s_shadow_50_text_Q1NETiBAY29yZTgxNQ_size_20_color_FFFFFF_t_70_g_se_x_16 12]: /images/20220829/131cc09d04b147898d47f06c206b09c4.png
[watermark_type_ZHJvaWRzYW5zZmFsbGJhY2s_shadow_50_text_Q1NETiBAY29yZTgxNQ_size_20_color_FFFFFF_t_70_g_se_x_16 13]: /images/20220829/ef2d129437744ff6936126f009390991.png
[watermark_type_ZHJvaWRzYW5zZmFsbGJhY2s_shadow_50_text_Q1NETiBAY29yZTgxNQ_size_20_color_FFFFFF_t_70_g_se_x_16 14]: /images/20220829/62acccb170394b81a4ff7625f5b76bc6.png
[watermark_type_ZHJvaWRzYW5zZmFsbGJhY2s_shadow_50_text_Q1NETiBAY29yZTgxNQ_size_20_color_FFFFFF_t_70_g_se_x_16 15]: /images/20220829/68242d54fa4444148f36bfcd7a05e38d.png
[watermark_type_ZHJvaWRzYW5zZmFsbGJhY2s_shadow_50_text_Q1NETiBAY29yZTgxNQ_size_20_color_FFFFFF_t_70_g_se_x_16 16]: /images/20220829/e18ce6d80c1b4c1c8402218f47292a7f.png