Tomcat的性能与最大并发配置

亦凉 2023-06-21 07:17 9阅读 0赞

当一个进程有 500 个线程在跑的话，那性能已经是很低很低了。Tomcat 默认配置的最大请求数是 150，也就是说同时支持 150 个并发，当然了，也可以将其改大。

当某个应用拥有 250 个以上并发的时候，应考虑应用服务器的集群。

具体能承载多少并发，需要看硬件的配置，CPU 越多性能越高，分配给 JVM 的内存越多性能也就越高，但也会加重 GC 的负担。  
     操作系统对于进程中的线程数有一定的限制：  
              Windows 每个进程中的线程数不允许超过 2000  
              Linux 每个进程中的线程数不允许超过 1000  
     另外，在 Java 中每开启一个线程需要耗用 1MB 的 JVM 内存空间用于作为线程栈之用。  
     Tomcat的最大并发数是可以配置的，实际运用中，最大并发数与硬件性能和CPU数量都有很大关系的。更好的硬件，更多的处理器都会使Tomcat支持更多的并发。  
     Tomcat 默认的 HTTP 实现是采用阻塞式的 Socket 通信，每个请求都需要创建一个线程处理。这种模式下的并发量受到线程数的限制，但对于 Tomcat 来说几乎没有 BUG 存在了。  
     Tomcat 还可以配置 NIO 方式的 Socket 通信，在性能上高于阻塞式的，每个请求也不需要创建一个线程进行处理，并发能力比前者高。但没有阻塞式的成熟。  
     这个并发能力还与应用的逻辑密切相关，如果逻辑很复杂需要大量的计算，那并发能力势必会下降。如果每个请求都含有很多的数据库操作，那么对于数据库的性能也是非常高的。  
     对于单台数据库服务器来说，允许客户端的连接数量是有限制的。  
     并发能力问题涉及整个系统架构和业务逻辑。  
     系统环境不同，Tomcat版本不同、JDK版本不同、以及修改的设定参数不同。并发量的差异还是满大的。

maxThreads="1000" 最大并发数

minSpareThreads="100"///初始化时创建的线程数

maxSpareThreads="500"///一旦创建的线程超过这个值，Tomcat就会关闭不再需要的socket线程。

acceptCount="700"// 指定当所有可以使用的处理请求的线程数都被使用时，可以放到处理队列中的请求数，超过这个数的请求将不予处理

配置实例：

<Connector port="8080" protocol="HTTP/1.1"   minSpareThreads="100"   maxSpareThreads="500"      maxThreads="1000"   acceptCount="700"

connectionTimeout="20000"

redirectPort="8443" />

# **具体测试：** #

服务器配置：

单硬盘，SATA   8MB缓存

测试服务器和loadrunner运行服务器位于同一网段--100MB网络（同一交换机）上，排除网络问题的影响

服务器运行始终，CPU使用率非常低没有超过5% 因此虽然服务器配置低，但是不是性能瓶颈所在

服务器运行在windowsserver 2003 sp2中文版（正版系统）

tomcat内存的设置：1.4GBJVM+256MB的池

\[java\] [view plain][] [copy][view plain]

1.  set JAVA\_HOME=C:\\JAVA\\JDK15  
2.  set CATALINA\_OPTS=-server -Xms 1400m -Xmx1400m -XX:PermSize=256m -XX:MaxPermSize=256m

tomcat线程的设置：初始产生1000线程数最大支持2000线程

\[java\] [view plain][] [copy][view plain]

1. <Connector port="80" maxHttpHeaderSize="8192"  
2.     maxThreads="4000" minSpareThreads="1000" maxSpareThreads="2000"  
3.     enableLookups="false" redirectPort="8443" acceptCount="2000"  
4.     connectionTimeout="20000" disableUploadTimeout="true" />

需要显示的JSP页面：index.jsp

\[java\] [view plain][] [copy][view plain]

1. <html>  
2. <body>  
3. test---tomcat  
4. <%  
5.    System.out.println("===========================");  
6.     System.out.println("===========================");  
7. System.out.println("===========================");  
8.    System.out.println("===========================");  
9.     System.out.println("===========================");     %>  
10. </body>  
11. </html>

类似于静态页面，以此来判断tomcat支持的最大的并发用户数量

使用loadrunner设置1000并发用户数进行压力测试。每两秒钟增加一个用户，以此递增，直至1000后，然后再按照两秒钟一个用户递减直至用户数位0.

测试结果：

<table> 
 <tbody> 
 <tr> 
 <td style="vertical-align:top;"> Transaction Response Time Under Load 1可以看到在达到600用户同时在线的时候，系统响应时间为6秒钟 100人-----响应时间0.8秒&nbsp;&nbsp;&nbsp;完美 150人-----响应时间1秒&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;完美 200人-----响应时间1.5秒&nbsp;&nbsp;&nbsp;&nbsp;响应时间有微小波动 比较完美 250人-----响应时间1.8秒&nbsp;&nbsp;&nbsp;&nbsp;比较完美（此时是理想情况下最大的并发用户数量） 280人-----开始出现连接丢失问题，连接开始不稳定 300人-----响应时间3秒&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;响应时间有较大波动峰值为6秒&nbsp;&nbsp;&nbsp;较差 350人-----响应时间3秒&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;开始大量出现连接丢失问题 连接很不稳定 400人-----响应时间3.8秒&nbsp;&nbsp;&nbsp;&nbsp;连接丢失数量达到3000次以上 450人-----响应时间4秒&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;连接丢失数量达到6000次以上 500人-----响应时间4秒&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;连接丢失数量达到11000次以上 550人-----响应时间6秒&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;连接丢失数量达到21000次以上 600人-----响应时间6秒&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;连接丢失数量达到25000次以上 600人开始系统出现异常情况，因此停止测试。测试数据到此为止。 </td> 
 </tr> 
 </tbody> 
</table>

每秒的点击次数：

![Center][]![Center 1][]

虚拟用户递增情况  
![Center 2][]

网络流量

![Center 3][]

测试过程中成功和失败的响应结果：

![Center 4][]

[view plain]: https://blog.csdn.net/hll814/article/details/50935765#
[Center]: https://img-blog.csdn.net/20160320113251081?watermark/2/text/aHR0cDovL2Jsb2cuY3Nkbi5uZXQv/font/5a6L5L2T/fontsize/400/fill/I0JBQkFCMA==/dissolve/70/gravity/Center
[Center 1]: https://img-blog.csdn.net/20160320113320143?watermark/2/text/aHR0cDovL2Jsb2cuY3Nkbi5uZXQv/font/5a6L5L2T/fontsize/400/fill/I0JBQkFCMA==/dissolve/70/gravity/Center
[Center 2]: https://img-blog.csdn.net/20160320113356878?watermark/2/text/aHR0cDovL2Jsb2cuY3Nkbi5uZXQv/font/5a6L5L2T/fontsize/400/fill/I0JBQkFCMA==/dissolve/70/gravity/Center
[Center 3]: https://img-blog.csdn.net/20160320113424328?watermark/2/text/aHR0cDovL2Jsb2cuY3Nkbi5uZXQv/font/5a6L5L2T/fontsize/400/fill/I0JBQkFCMA==/dissolve/70/gravity/Center
[Center 4]: https://img-blog.csdn.net/20160320113455753?watermark/2/text/aHR0cDovL2Jsb2cuY3Nkbi5uZXQv/font/5a6L5L2T/fontsize/400/fill/I0JBQkFCMA==/dissolve/70/gravity/Center