CPU飙升排查思路

叁歲伎倆 2022-10-19 05:31 158阅读 0赞

最近公司有个需求是对接E签宝的，也就是CA认证，大致的情况就是我们拿着文件去E签宝做CA认定，简单的理解就是拿着合同去E签宝盖章。  
因为是对接三方的吗，所以在调E签宝服务的时候我就用`log.info()`把请求参数给打印了出来，方便看组装的参加，排查问题，参数中就包含我们的合同文件流，所以整个参数是一个大对象。在做压测的时候发现CPU很快就飙升到100%，并且耗时很久。但是我把打印日志的`log.info()`去掉之后，CPU和耗时马上就降下来了。下面开始排查这个问题：

**首先使用top命令查看进程运行情况：**

# top
      PID USER      PR  NI    VIRT    RES    SHR S %CPU %MEM     TIME+ COMMAND
     7020 root      20   0 2538892 164144  11856 S  90.3  8.7  61:23.54 java
    11022 root      20   0 2560528 241340  11920 S  0.3 12.8 311:23.23 java
    26805 root      20   0   32612   4036   2472 S  0.3  0.2  24:50.95 AliYunDunUpdate
    26838 root      10 -10  134120  14524   5924 S  0.3  0.8 343:05.22 AliYunDun
        1 root      20   0   43280   3300   2108 S  0.0  0.2   2:16.82 systemd
        2 root      20   0       0      0      0 S  0.0  0.0   0:01.78 kthreadd
        3 root      20   0       0      0      0 S  0.0  0.0   1:30.68 ksoftirqd/0
        5 root       0 -20       0      0      0 S  0.0  0.0   0:00.00 kworker/0:0H
        7 root      rt   0       0      0      0 S  0.0  0.0   0:00.00 migration/0
        8 root      20   0       0      0      0 S  0.0  0.0   0:00.00 rcu_bh                 
        9 root      20   0       0      0      0 S  0.0  0.0  65:15.85 rcu_sched             
       10 root      rt   0       0      0      0 S  0.0  0.0   2:14.65 watchdog/0             
       12 root      20   0       0      0      0 S  0.0  0.0   0:00.00 kdevtmpfs             
       13 root       0 -20       0      0      0 S  0.0  0.0   0:00.00 netns                 
       14 root      20   0       0      0      0 S  0.0  0.0   0:00.00 khungtaskd             
       15 root       0 -20       0      0      0 S  0.0  0.0   0:00.00 writeback             
       16 root       0 -20       0      0      0 S  0.0  0.0   0:00.00 kintegrityd

查询到7020这个进程有异常，在继续查看具体异常线程。

# top -Hp 7020
     PID USER      PR  NI    VIRT    RES    SHR S %CPU %MEM     TIME+ COMMAND
     23328 root      20   0 2538892 164144  11856 S  90.0  8.7   0:00.00 java

找到了当前异常进程下的异常线程后使用jstack查看详细情况

# jstack -l 6377 > error.log
    
    将线程ID打印成16进制形式
    # printf "%x\n" 23328
    5b20

然后从jstack里查询该线程信息

# grep '18e9' error.log --color
    "http-bio-6379-exec-200" #8869954 daemon prio=5 os_prio=0 tid=0x00007f74a81f6800 nid=0x5b20 waiting for monitor entry [0x00007f742457f000]

最后从jstack文件定位到堆栈信息

"http-bio-7020-exec-200" #8869954 daemon prio=5 os_prio=0 tid=0x00007f74a81f6800 nid=0x5b20 waiting for monitor entry [0x00007f742457f000]
       java.lang.Thread.State: BLOCKED (on object monitor)
    	at org.apache.log4j.Category.callAppenders(Category.java:204)
    	- waiting to lock <0x00000000800371d0> (a org.apache.log4j.spi.RootLogger)
    	at org.apache.log4j.Category.forcedLog(Category.java:391)
    	at org.apache.log4j.Category.log(Category.java:856)
    	at org.slf4j.impl.Log4jLoggerAdapter.info(Log4jLoggerAdapter.java:368)

## 结论 ##

在log4j 中，logger.info等日志记录方法是同步的（使用了synchronized），大量的日志导致线程阻塞在callAppenders()这个方法，也就是这个地方导致压测阻塞，响应耗时比较久的问题。

public void callAppenders(LoggingEvent event) {
            int writes = 0;
    
            for(Category c = this; c != null; c = c.parent) {
                synchronized(c) {
                    if (c.aai != null) {
                        writes += c.aai.appendLoopOnAppenders(event);
                    }
    
                    if (!c.additive) {
                        break;
                    }
                }
            }
    
            if (writes == 0) {
                this.repository.emitNoAppenderWarning(this);
            }
    
        }