并发编程之线程池

ゞ浴缸里的玫瑰 2022-05-15 12:51 314阅读 0赞

# 为什么使用线程池 #

有时候，系统需要处理非常多的执行时间很短的请求，如果每一个请求都开启一个新线程的话，系统就要不断的进行线程的创建和销毁，有时花在创建和销毁线程上的时间会比线程真正执行的时间还长。而且当线程数量太多时，系统不一定能受得了。

使用线程池主要为了解决以下几个问题：

*  通过重用线程池中的线程，来减少每个线程创建和销毁的性能开销。
 *  对线程进行一些维护和管理，比如定时开始，周期执行，并发数控制等等。

# Executor #

Executor是一个接口，跟线程池有关的基本都要跟他打交道。下面是常用的ThreadPoolExecutor的关系。  
![这里写图片描述][70]  
Executor接口很简单，只有一个execute方法。

ExecutorService是Executor的子接口，增加了一些常用的对线程的控制方法，之后使用线程池主要也是使用这些方法。

AbstractExecutorService是一个抽象类。ThreadPoolExecutor就是实现了这个类。

# ThreadPoolExecutor #

## 构造方法 ##

ThreadPoolExecutor是线程池的真正实现，他通过构造方法的一系列参数，来构成不同配置的线程池。常用的构造方法有四个，我这里列举所有参数：

ThreadPoolExecutor(int corePoolSize,
                            int maximumPoolSize,
                            long keepAliveTime,
                            TimeUnit unit,
                            BlockingQueue<Runnable> workQueue,
                            ThreadFactory threadFactory,
                            RejectedExecutionHandler handler)

## 构造方法参数说明 ##

*  corePoolSize

核心线程数，默认情况下核心线程会一直存活，即使处于闲置状态也不会受存keepAliveTime限制。除非将allowCoreThreadTimeOut设置为true。

*  maximumPoolSize

线程池所能容纳的最大线程数。超过这个数的线程将被阻塞。当任务队列为没有设置大小的LinkedBlockingDeque时，这个值无效。

*  keepAliveTime

非核心线程的闲置超时时间，超过这个时间就会被回收。

*  unit

指定keepAliveTime的单位，如TimeUnit.SECONDS。当将allowCoreThreadTimeOut设置为true时对corePoolSize生效。

*  workQueue

线程池中的任务队列。

常用的有三种队列，SynchronousQueue,LinkedBlockingDeque,ArrayBlockingQueue。

*  threadFactory

线程工厂，提供创建新线程的功能。ThreadFactory是一个接口，只有一个方法。通过线程工厂可以对线程的一些属性进行定制。

public interface ThreadFactory {
        Thread newThread(Runnable r);
    }

*  RejectedExecutionHandler

当线程池中的资源已经全部使用，添加新线程被拒绝时，会调用RejectedExecutionHandler的rejectedExecution方法。可以通过实现该接口来自定义处理类。

public interface RejectedExecutionHandler {
        void rejectedExecution(Runnable var1, ThreadPoolExecutor var2);
    }

# 线程池规则 #

所有 BlockingQueue 都可用于传输和保持提交的任务。可以使用此队列与池大小进行交互：

*  如果运行的线程少于 corePoolSize，则 Executor 始终首选添加新的线程，而不进行排队。
 *  如果运行的线程等于或多于 corePoolSize，则 Executor 始终首选将请求加入队列，而不添加新的线程。
 *  如果无法将请求加入队列，则创建新的线程，除非创建此线程超出 maximumPoolSize，在这种情况下，任务将被拒绝。

线程池的线程执行规则跟任务队列有很大的关系。

## 排队有三种通用策略： ##

1.  直接提交。工作队列的默认选项是 SynchronousQueue，它将任务直接提交给线程而不保存它们。在此，如果不存在可用于立即运行任务的线程，则试图把任务加入队列将会失败，因此会构造一个新的线程。此策略可以避免在处理可能具有内部依赖性的请求集时，出现锁。直接提交通常要求无界 maximumPoolSizes 以避免拒绝新提交的任务。当命令以超过队列所能处理的平均数连续到达时，此策略允许无界线程具有增长的可能性。
2.  有界队列。当使用有限的 maximumPoolSizes 时，有界队列（如ArrayBlockingQueue）有助于防止资源耗尽，但是可能较难调整和控制。队列大小和最大池大小可能需要相互折衷：使用大型队列和小型池可以最大限度地降低CPU 使用率、操作系统资源和上下文切换开销，但是可能导致人工降低吞吐量。如果任务频繁阻塞（例如，如果它们是 I/O边界），则系统可能为超过您许可的更多线程安排时间。使用小型队列通常要求较大的池大小，CPU使用率较高，但是可能遇到不可接受的调度开销，这样也会降低吞吐量。
3.  无界队列。使用无界队列（例如，不具有预定义容量的 LinkedBlockingQueue）将导致在所有 corePoolSize 线程都忙时，新任务在队列中等待。这样，创建的线程就不会超过 corePoolSize。（因此，maximumPoolSize的值也就无效了）当每个任务完全独立于其他任务，即任务执行互不影响时，适合于使用无界队列；例如，在 Web页服务器中。这种排队可用于处理瞬态突发请求，当命令以超过队列所能处理的平均数连续到达时，此策略允许无界线程具有增长的可能性。

# 被拒绝的任务 #

当 Executor 已经关闭，并且 Executor 将有限边界用于最大线程和工作队列容量，且已经饱和时，在方法 execute(Runnable) 中提交的新任务将被拒绝。在以上两种情况下，execute 方法都将调用其 RejectedExecutionHandler 的 rejectedExecution(Runnable, ThreadPoolExecutor) 方法。

下面由JDK提供的四种处理程序策略：

static class ThreadPoolExecutor.AbortPolicy 
        用于被拒绝任务的处理程序，它将抛出 RejectedExecutionException. 
    
    static class ThreadPoolExecutor.CallerRunsPolicy 
        用于被拒绝任务的处理程序，它直接在 execute 方法的调用线程中运行被拒绝的任务；如果执行程序已关闭，则会丢弃该任务。
    
    static class ThreadPoolExecutor.DiscardOldestPolicy 
        用于被拒绝任务的处理程序，它放弃最旧的未处理请求，然后重试 execute；如果执行程序已关闭，则会丢弃该任务。 
    
    static class ThreadPoolExecutor.DiscardPolicy 
        用于被拒绝任务的处理程序，默认情况下它将丢弃被拒绝的任务。

定义和使用其他种类的 RejectedExecutionHandler 类也是可能的，但这样做需要非常小心，尤其是当策略仅用于特定容量或排队策略时。

# 钩子 (hook) 方法 #

此类提供 protected 可重写的 beforeExecute(Thread, Runnable) 和 afterExecute(Runnable, Throwable) 方法，这两种方法分别在执行每个任务之前和之后调用。它们可用于操纵执行环境；例如，重新初始化 ThreadLocal、搜集统计信息或添加日志条目。此外，还可以重写方法 terminated() 来执行 Executor 完全终止后需要完成的所有特殊处理。  
如果钩子 (hook) 或回调方法抛出异常，则内部辅助线程将依次失败并突然终止。

# 队列维护 #

方法 getQueue() 允许出于监控和调试目的而访问工作队列。强烈反对出于其他任何目的而使用此方法。remove(Runnable) 和 purge() 这两种方法可用于在取消大量已排队任务时帮助进行存储回收。

# 终止 #

程序 AND 不再引用的池没有剩余线程会自动 shutdown。如果希望确保回收取消引用的池（即使用户忘记调用 shutdown()），则必须安排未使用的线程最终终止：设置适当保持活动时间，使用 0 核心线程的下边界和/或设置 allowCoreThreadTimeOut(boolean)。

# 对线程池的补充： #

在Java中我们可以使用 `Executors` 类直接创建一个已配置好线程池，Executors 内部也是调用 `ThreadPoolExecutor` 去创建线程池的，详细见api。

public class Executors {
        // 指定线程数量的线程池
        public static ExecutorService newFixedThreadPool(int nThreads) {
                return new ThreadPoolExecutor(nThreads, nThreads,
                                              0L, TimeUnit.MILLISECONDS,
                                              new LinkedBlockingQueue<Runnable>());
        }
        // 缓存线程池
        public static ExecutorService newCachedThreadPool() {
            return new ThreadPoolExecutor(0, Integer.MAX_VALUE,
                                          60L, TimeUnit.SECONDS,
                                          new SynchronousQueue<Runnable>());
        }
        // 可定时线程池
        public static ScheduledExecutorService newScheduledThreadPool(int corePoolSize) {
            return new ScheduledThreadPoolExecutor(corePoolSize);
        }
        // 单线程线程池
        public static ExecutorService newSingleThreadExecutor() {
            return new FinalizableDelegatedExecutorService
                (new ThreadPoolExecutor(1, 1,
                                        0L, TimeUnit.MILLISECONDS,
                                        new LinkedBlockingQueue<Runnable>()));
        }
    }

--------------------

参考：

> [《线程池ThreadPoolExecutor》][ThreadPoolExecutor]  
> [《线程池ThreadPoolExecutor构造方法和规则》][ThreadPoolExecutor 1]

[70]: /images/20220515/6a14554382734fa98f84010cd52719aa.png
[ThreadPoolExecutor]: https://blog.csdn.net/hayre/article/details/53291712
[ThreadPoolExecutor 1]: https://blog.csdn.net/qq_25806863/article/details/71126867