Java 21 虚拟线程如何限流控制吞吐量

分手后的思念是犯贱 2024-04-25 08:51 67阅读 0赞

虚拟线程（Virtual Threads）是 Java 21 所有新特性中最为吸引人的内容，它可以大大来简化和增强Java应用的并发性。但是，随着这些变化而来的是如何最好地管理此吞吐量的问题。本文，就让我们看一下开发人员在使用虚拟线程时，应该如何管理吞吐量。

在大多数情况下，开发人员不需要自己创建虚拟线程。例如，对于 Web 应用程序，Tomcat 或 Jetty 等底层框架将为每个传入请求自动生成一个虚拟线程。

如果在应用程序内部需要自行调用来提供业务并发能力时，我们可以使用[Java 21新特性：虚拟线程（Virtual Threads）][Java 21_Virtual Threads]中介绍的方法去创建和使用，比如较为常用的就是`Executors.newVirtualThreadPerTaskExecutor()`。

Runnable runnable = () -> {
        System.out.println("Hello, www.didispace.com");
    };
    
    try (ExecutorService executorService = Executors.newVirtualThreadPerTaskExecutor()) {
        for (int i = 0; i < 100; i++) {
            executorService.submit(runnable);
        }
    }

我们可以像上面开启100个虚拟线程来执行任务。那么问题来了，我们要如何对虚拟线程限流控制吞吐量呢？

### 虚拟线程的限流 ###

对于虚拟线程并发控制的答案是：信号量！**划重点：不要池化虚拟线程，因为它们不是稀缺资源。**所以，对于虚拟线程并发控制的最佳方案是使用`java.util.concurrent.Semaphore`。

下面的代码示例演示了如何实现`java.util.concurrent.Semaphore`来控制虚拟线程的并发数量：

public class SemaphoreExample {
    
        // 定义限流并发的信号量，这里设置为：10
        private static final Semaphore POOL = new Semaphore(10); 
    
        public void callOldService(...) {
            try{
                POOL.acquire(); // 尝试通过信号量获取执行许可
            } catch(InterruptedException e){
                // 执行许可获取失败的异常处理        
            }
    
            try {
                // 获取到执行许可，这里是使用虚拟线程执行任务的逻辑
            } finally {
                // 释放信号量
                POOL.release(); 
            }
        }
    }

是不是很简单呢？今天的分享就到这里，希望对你有所帮助，更多关于Java新特性的学习可以关注我的免费专栏[Java新特性][Java]。

### 扩展阅读 ###

*  [启动1000万个虚拟线程需要多少时间？需要多少平台线程？][1000]
 *  [Spring Boot虚拟线程与Webflux在JWT验证和MySQL查询上的性能比较][Spring Boot_Webflux_JWT_MySQL]

> 欢迎关注我的公众号：程序猿DD。前沿技术早知道，弯道超车有希望！积累超车资本，从关注DD开始！

[Java 21_Virtual Threads]: https://www.didispace.com/java-features/java21/jep444-virtual-threads.html
[Java]: https://www.didispace.com/java-features/
[1000]: https://www.didispace.com/article/java-21-virtaul-threads.html
[Spring Boot_Webflux_JWT_MySQL]: https://www.didispace.com/article/spring-boot/spring-boot-virtual-threads-vs-webflux.html