Executors创建线程池会造成OOM问题

叁歲伎倆 2021-05-18 20:36 710阅读 0赞

> 看阿里巴巴开发手册并发编程这块有一条：线程池不允许使用Executors去创建，而是通过ThreadPoolExecutor的方式，通过源码分析禁用的原因

### 写在前面 ###

首先感谢大家阅读本篇文章，通过阅读本篇文章你将了解到：

>  *  线程池的定义
>  *  Executors创建线程池的几种方式
>  *  ThreadPoolExecutor对象
>  *  线程池执行任务逻辑和线程池参数的关系
>  *  Executors创建返回ThreadPoolExecutor对象
>  *  OOM异常测试
>  *  如何定义线程池参数

如果只想知道原因可以直接拉到总结那

### 线程池的定义 ###

管理一组工作线程。通过线程池复用线程有以下几点优点：

>  *  减少资源创建 => 减少内存开销，创建线程占用内存
>  *  降低系统开销 => 创建线程需要时间，会延迟处理的请求
>  *  提高稳定稳定性 => 避免无限创建线程引起的OutOfMemoryError【简称OOM】

### Executors创建线程池的方式 ###

根据返回的对象类型创建线程池可以分为三类：

>  *  创建返回ThreadPoolExecutor对象
>  *  创建返回ScheduleThreadPoolExecutor对象
>  *  创建返回ForkJoinPool对象

本文只讨论创建返回ThreadPoolExecutor对象

### ThreadPoolExecutor对象 ###

在介绍Executors创建线程池方法前先介绍一下ThreadPoolExecutor，因为这些创建线程池的静态方法都是返回ThreadPoolExecutor对象，和我们手动创建ThreadPoolExecutor对象的区别就是我们不需要自己传构造函数的参数。

ThreadPoolExecutor的构造函数共有四个，但最终调用的都是同一个：

public ThreadPoolExecutor(int corePoolSize,
                              int maximumPoolSize,
                              long keepAliveTime,
                              TimeUnit unit,
                              BlockingQueue<Runnable> workQueue,
                              ThreadFactory threadFactory,
                              RejectedExecutionHandler handler)

构造函数参数说明：

>  *  corePoolSize => 线程池核心线程数量
>  *  maximumPoolSize => 线程池最大数量
>  *  keepAliveTime => 空闲线程存活时间
>  *  unit => 时间单位
>  *  workQueue => 线程池所使用的缓冲队列
>  *  threadFactory => 线程池创建线程使用的工厂
>  *  handler => 线程池对拒绝任务的处理策略

### 线程池执行任务逻辑和线程池参数的关系 ###

![format_png][]

执行逻辑说明：

>  *  判断核心线程数是否已满，核心线程数大小和corePoolSize参数有关，未满则创建线程执行任务
>  *  若核心线程池已满，判断队列是否满，队列是否满和workQueue参数有关，若未满则加入队列中
>  *  若队列已满，判断线程池是否已满，线程池是否已满和maximumPoolSize参数有关，若未满创建线程执行任务
>  *  若线程池已满，则采用拒绝策略处理无法执执行的任务，拒绝策略和handler参数有关

### Executors创建返回ThreadPoolExecutor对象 ###

Executors创建返回ThreadPoolExecutor对象的方法共有三种：

>  *  Executors\#newCachedThreadPool => 创建可缓存的线程池
>  *  Executors\#newSingleThreadExecutor => 创建单线程的线程池
>  *  Executors\#newFixedThreadPool => 创建固定长度的线程池

**Executors\#newCachedThreadPool方法**

public static ExecutorService newCachedThreadPool() {
        return new ThreadPoolExecutor(0, Integer.MAX_VALUE,
                                      60L, TimeUnit.SECONDS,
                                      new SynchronousQueue<Runnable>());
    }

CachedThreadPool是一个根据需要创建新线程的线程池

>  *  corePoolSize => 0，核心线程池的数量为0
>  *  maximumPoolSize => Integer.MAX\_VALUE，可以认为最大线程数是无限的
>  *  keepAliveTime => 60L
>  *  unit => 秒
>  *  workQueue => SynchronousQueue

当一个任务提交时，corePoolSize为0不创建核心线程，SynchronousQueue是一个不存储元素的队列，可以理解为队里永远是满的，因此最终会创建非核心线程来执行任务。

对于非核心线程空闲60s时将被回收。因为Integer.MAX\_VALUE非常大，可以认为是可以无限创建线程的，在资源有限的情况下容易引起OOM异常

**Executors\#newSingleThreadExecutor方法**

public static ExecutorService newSingleThreadExecutor() {
        return new FinalizableDelegatedExecutorService
            (new ThreadPoolExecutor(1, 1,
                                    0L, TimeUnit.MILLISECONDS,
                                    new LinkedBlockingQueue<Runnable>()));
    }

SingleThreadExecutor是单线程线程池，只有一个核心线程

>  *  corePoolSize => 1，核心线程池的数量为1
>  *  maximumPoolSize => 1，只可以创建一个非核心线程
>  *  keepAliveTime => 0L
>  *  unit => 秒
>  *  workQueue => LinkedBlockingQueue

当一个任务提交时，首先会创建一个核心线程来执行任务，如果超过核心线程的数量，将会放入队列中，因为LinkedBlockingQueue是长度为Integer.MAX\_VALUE的队列，可以认为是无界队列，因此往队列中可以插入无限多的任务，在资源有限的时候容易引起OOM异常，同时因为无界队列，maximumPoolSize和keepAliveTime参数将无效，压根就不会创建非核心线程

**Executors\#newFixedThreadPool方法**

public static ExecutorService newFixedThreadPool(int nThreads) {
        return new ThreadPoolExecutor(nThreads, nThreads,
                                      0L, TimeUnit.MILLISECONDS,
                                      new LinkedBlockingQueue<Runnable>());
    }

FixedThreadPool是固定核心线程的线程池，固定核心线程数由用户传入

>  *  corePoolSize => 1，核心线程池的数量为1
>  *  maximumPoolSize => 1，只可以创建一个非核心线程
>  *  keepAliveTime => 0L
>  *  unit => 秒
>  *  workQueue => LinkedBlockingQueue
>  *  它和SingleThreadExecutor类似，唯一的区别就是核心线程数不同，并且由于使用的是LinkedBlockingQueue，在资源有限的时候容易引起OOM异常

### 总结： ###

>  *  FixedThreadPool和SingleThreadExecutor => 允许的请求队列长度为Integer.MAX\_VALUE，可能会堆积大量的请求，从而引起OOM异常
>  *  CachedThreadPool => 允许创建的线程数为Integer.MAX\_VALUE，可能会创建大量的线程，从而引起OOM异常

这就是为什么禁止使用Executors去创建线程池，而是推荐自己去创建ThreadPoolExecutor的原因

### OOM异常测试 ###

理论上会出现OOM异常，必须测试一波验证之前的说法：

测试类：TaskTest.java

public class TaskTest {
        public static void main(String[] args) {
            ExecutorService es = Executors.newCachedThreadPool();
            int i = 0;
            while (true) {
                es.submit(new Task(i++));
            }
        }
    }

使用Executors创建的CachedThreadPool，往线程池中无限添加线程

在启动测试类之前先将JVM内存调整小一点，不然很容易将电脑跑出问题【别问我为什么知道，是铁憨憨甜没错了！！！】，在idea里：Run -> Edit Configurations

![format_png 1][]

JVM参数说明：

>  *  \-Xms10M => Java Heap内存初始化值
>  *  \-Xmx10M => Java Heap内存最大值

运行结果：

Exception: java.lang.OutOfMemoryError thrown from the UncaughtExceptionHandler in thread "main"
    Disconnected from the target VM, address: '127.0.0.1:60416', transport: 'socket'

创建到3w多个线程的时候开始报OOM错误

另外两个线程池就不做测试了，测试方法一致，只是创建的线程池不一样

### 如何定义线程池参数 ###

**CPU密集型 => **线程池的大小推荐为CPU数量 + 1，CPU数量可以根据Runtime.availableProcessors方法获取

**IO密集型 => **CPU数量 \* CPU利用率 \* (1 + 线程等待时间/线程CPU时间)

**混合型 => **将任务分为CPU密集型和IO密集型，然后分别使用不同的线程池去处理，从而使每个线程池可以根据各自的工作负载来调整

**阻塞队列 => **推荐使用有界队列，有界队列有助于避免资源耗尽的情况发生

**拒绝策略 => **默认采用的是AbortPolicy拒绝策略，直接在程序中抛出RejectedExecutionException异常【因为是运行时异常，不强制catch】，这种处理方式不够优雅。处理拒绝策略有以下几种比较推荐：

*  在程序中捕获RejectedExecutionException异常，在捕获异常中对任务进行处理。针对默认拒绝策略
 *  使用CallerRunsPolicy拒绝策略，该策略会将任务交给调用execute的线程执行【一般为主线程】，此时主线程将在一段时间内不能提交任何任务，从而使工作线程处理正在执行的任务。此时提交的线程将被保存在TCP队列中，TCP队列满将会影响客户端，这是一种平缓的性能降低
 *  自定义拒绝策略，只需要实现RejectedExecutionHandler接口即可
 *  如果任务不是特别重要，使用DiscardPolicy和DiscardOldestPolicy拒绝策略将任务丢弃也是可以的

如果使用Executors的静态方法创建ThreadPoolExecutor对象，可以通过使用Semaphore对任务的执行进行限流也可以避免出现OOM异常

### 拓展： ###

针对线程池加入任务时的判断顺序，

![format_png][]

我们看一下ThreadPoolExecutor\#excute(Runnable command)方法：

首先看注释：

/*
             * Proceed in 3 steps:
             *
             * 1. If fewer than corePoolSize threads are running, try to
             * start a new thread with the given command as its first
             * task.  The call to addWorker atomically checks runState and
             * workerCount, and so prevents false alarms that would add
             * threads when it shouldn't, by returning false.
             *
             * 2. If a task can be successfully queued, then we still need
             * to double-check whether we should have added a thread
             * (because existing ones died since last checking) or that
             * the pool shut down since entry into this method. So we
             * recheck state and if necessary roll back the enqueuing if
             * stopped, or start a new thread if there are none.
             *
             * 3. If we cannot queue task, then we try to add a new
             * thread.  If it fails, we know we are shut down or saturated
             * and so reject the task.
             */

再看代码：

public void execute(Runnable command) {
            if (command == null)
                throw new NullPointerException();
            // ctl维护了线程池的状态
            int c = ctl.get();
            // 活动线程数小于核心线程数，创建核心线程执行，否则往下走
            if (workerCountOf(c) < corePoolSize) {
                if (addWorker(command, true))
                    return;
                c = ctl.get();
            }
            // 如果线程池正常运行，则加入线程缓冲队列，如果offer返回false，往下走
            if (isRunning(c) && workQueue.offer(command)) {
                int recheck = ctl.get();
                if (! isRunning(recheck) && remove(command))
                    reject(command);
                else if (workerCountOf(recheck) == 0)
                    addWorker(null, false);
            }
            // 创建非核心线程，如果失败，则拒绝
            else if (!addWorker(command, false))
                reject(command);
        }

[format_png]: /images/20210518/ca1795aaf0064031a52c2db6fef1f1a8.png
[format_png 1]: /images/20210518/885e0a525ab046e4a029a9b4ce372864.png