优化Linux下的内核TCP参数来提高服务器负载能力

爱被打了一巴掌 2022-08-05 15:05 154阅读 0赞

[原文地址][Link 1]

提高服务器的负载能力，是一个永恒的话题。在一台服务器CPU和内存资源额定有限的情况下，最大的压榨服务器的性能，是最终的目的。要提高Linux系统下的负载能力，可以先启用Apache的Worker模式（参考我写的《[Ubuntu下配置Apache的Worker模式][Ubuntu_Apache_Worker]》一文），来提高单位时间内的并发量。但是即使这么做了，当网站发展起来之后，连接数过多的问题就会日益明显。在节省成本的情况下，可以考虑修改Linux的内核TCP/IP参数，来最大的压榨服务器的性能。当然，如果通过修改内核参数也无法解决的负载问题，也只能考虑升级服务器了，这是硬件所限，没有办法的事。

Linux系统下，TCP/IP连接断开后，会以TIME\_WAIT状态保留一定的时间，然后才会释放端口。当并发请求过多的时候，就会产生大量的TIME\_WAIT状态的连接，无法及时断开的话，会占用大量的端口资源和服务器资源（因为关闭后进程才会退出）。这个时候我们可以考虑优化TCP/IP的内核参数，来及时将TIME\_WAIT状态的端口清理掉。

本文介绍的方法只对拥有大量TIME\_WAIT状态的连接导致系统资源消耗有效，不是这个原因的情况下，效果可能不明显。那么，到哪儿去查TIME\_WAIT状态的连接呢？那就是使用netstat命令。我们可以输入一个复核命令，去查看当前TCP/IP连接的状态和对应的个数：

> \#netstat -n | awk ‘/^tcp/ \{++S\[$NF\]\} END \{for(a in S) print a, S\[a\]\}’

这个命令会显示出类似下面的结果：

> LAST\_ACK 14  
> SYN\_RECV 348  
> ESTABLISHED 70  
> FIN\_WAIT1 229  
> FIN\_WAIT2 30  
> CLOSING 33  
> TIME\_WAIT 18122

我们只用关心TIME\_WAIT的个数，在这里可以看到，有18000多个TIME\_WAIT，这样就占用了18000多个端口。要知道端口的数量只有65535个，占用一个少一个，会严重的影响到后继的新连接。这种情况下，我们就有必要调整下Linux的TCP/IP内核参数，让系统更快的释放TIME\_WAIT连接。

我们用vim打开配置文件：

> \#vim /etc/sysctl.conf

然后，在这个文件中，加入下面的几行内容：

> net.ipv4.tcp\_syncookies = 1  
> net.ipv4.tcp\_tw\_reuse = 1  
> net.ipv4.tcp\_tw\_recycle = 1  
> net.ipv4.tcp\_fin\_timeout = 30

最后输入下面的命令，让内核参数生效：

> \#/sbin/sysctl -p

简单的说明下，上面的参数的含义：

net.ipv4.tcp\_syncookies = 1 表示开启SYN Cookies。当出现SYN等待队列溢出时，启用cookies来处理，可防范少量SYN攻击，默认为0，表示关闭；  
net.ipv4.tcp\_tw\_reuse = 1 表示开启重用。允许将TIME-WAIT sockets重新用于新的TCP连接，默认为0，表示关闭；  
net.ipv4.tcp\_tw\_recycle = 1 表示开启TCP连接中TIME-WAIT sockets的快速回收，默认为0，表示关闭；  
net.ipv4.tcp\_fin\_timeout 修改系統默认的 TIMEOUT 时间。

在经过这样的调整之后，除了会进一步提升服务器的负载能力之外，还能够防御一定程度的DDoS、CC和SYN攻击，是个一举两得的做法。

此外，如果你的连接数本身就很多，我们可以再优化一下TCP/IP的可使用端口范围，进一步提升服务器的并发能力。依然是往上面的参数文件中，加入下面这些配置：

> net.ipv4.tcp\_keepalive\_time = 1200  
> net.ipv4.ip\_local\_port\_range = 10000 65000  
> net.ipv4.tcp\_max\_syn\_backlog = 8192  
> net.ipv4.tcp\_max\_tw\_buckets = 5000

这几个参数，建议只在流量非常大的服务器上开启，会有显著的效果。一般的流量小的服务器上，没有必要去设置这几个参数。这几个参数的含义如下：

net.ipv4.tcp\_keepalive\_time = 1200 表示当keepalive起用的时候，TCP发送keepalive消息的频度。缺省是2小时，改为20分钟。  
net.ipv4.ip\_local\_port\_range = 10000 65000 表示用于向外连接的端口范围。缺省情况下很小：32768到61000，改为10000到65000。（注意：这里不要将最低值设的太低，否则可能会占用掉正常的端口！）  
net.ipv4.tcp\_max\_syn\_backlog = 8192 表示SYN队列的长度，默认为1024，加大队列长度为8192，可以容纳更多等待连接的网络连接数。  
net.ipv4.tcp\_max\_tw\_buckets = 5000 表示系统同时保持TIME\_WAIT的最大数量，如果超过这个数字，TIME\_WAIT将立刻被清除并打印警告信息。默 认为180000，改为5000。对于Apache、Nginx等服务器，上几行的参数可以很好地减少TIME\_WAIT套接字数量，但是对于 Squid，效果却不大。此项参数可以控制TIME\_WAIT的最大数量，避免Squid服务器被大量的TIME\_WAIT拖死。

经过这样的配置之后，你的服务器的TCP/IP并发能力又会上一个新台阶。

[Link 1]: http://blog.renhao.org/2010/07/setup-linux-kernel-tcp-settings/
[Ubuntu_Apache_Worker]: http://blog.renhao.org/2010/06/ubuntu-set-apache2-mpm-worker/