杨建：网站加速--服务器编写篇（上）

清疚 2022-05-26 05:40 177阅读 0赞

转自 [http://blog.sina.com.cn/s/blog\_466c66400100bi2n.html][http_blog.sina.com.cn_s_blog_466c66400100bi2n.html]

\--提升性能的同时为你节约10倍以上成本  
From: http://blog.sina.com.cn/iyangjian  
  
一，如何节约CPU  
二，怎样使用内存  
三，减少磁盘I/O  
四，优化你的网卡  
五，调整内核参数  
六，衡量Web Server的性能指标  
七，NBA js直播的发展历程  
八，新浪财经实时行情系统的历史遗留问题 (7 byte = 10.68w RMB/year)  
  -----------------------------------------------------------------------------------------  
  
**一，如何节约CPU**  
  
1,选择一个好的I/O模型(epoll, kqueue)  
3年前，我们还关心c10k问题，随着硬件性能的提升，那已经不成问题，但如果想让PIII 900服务器支撑5w+ connections,还是需要些能耐的。  
  
epoll最擅长的事情是监视大量闲散连接，批量返回可用描述符,这让单机支撑百万connections成为可能。linux 2.6以上开始支持epoll，freebsd上相应的有kqueue，不过我个人偏爱linux，不太关心kqueue。  
  
边缘触发ET 和 水平触发LT 的选择：  
早期的文档说ET很高效，但是有些冒进。但事实上LT使用过程中，我苦恼了将近一个月有余，一不留神CPU 利用率99%了，可能是我没处理好。后来zhongying同学帮忙把驱动模式改成了ET模式，ET既高效又稳定。  
  
简单地说，如果你有数据过来了，不去取LT会一直骚扰你，提醒你去取，而ET就告诉你一次，爱取不取，除非有新数据到来，否则不再提醒。  
  
重点说下ET,非阻塞模式，  
man手册说，如果ET提示你有数据可读的时候，你应该连续的读一直读到返回 EAGAIN or EWOULDBLOCK 为止，但是在具体实现中，我并没有这样做，而是根据我的应用做了优化。因为现在操作系统绝大多数实现都是最大传输单元值为1500。  MTU:1500 - ipheader:20 - tcpheader:20 = 1460 byte .    
HTTP header,不带cookie的话一般只有500+ byte。留512给uri，也基本够用，还有节余。  
更正:如果只读前1460个字节的header的话，99.999%的用户都能正常访问，但是有一两个用户是通过某http proxy来上网，这种用户请求的特征是会带2k以上的垃圾信息过来,类似于cookie,但又不是，重要的http header被放在了最后,导致我认为是非法请求,所以现在来看,为了避免被投诉,还是建议读取到"\\r\\n\\r\\n"作为结束,性能的影响也是比较有限的.   (最后修改时间 2010.05.11)

如果请求的header恰巧比这大是2050字节呢？  
会有两种情况发生：1，数据紧挨着同时到达，一次read就搞定。 2，分两个ethernet frame先后到达有一定时间间隔。  
我的方法是，用一个比较大的buffer比如1M去读header，如果你很确信你的服务对象请求比1460小，读一次就行。如果请求会很大分几个ethernet frame先后到达，也就是恰巧你刚刚read过，它又来一个新数据包，ET会再次返回，再处理下就是了。

更正: 在追踪通过http proxy上网的用户问题中发现,这个方法并不严谨:1, 2050字节有可能会分两个,以及两个以上的ethernet frame到达,虽然我测试还没遇到3个的情况，但是现在我断定它是会存在的. 2,即使比1460字节小的数据,也不敢保证装载在一个ethernet frame里,仍然有可能分多次到达. 所以用1M的buffer去读，返回数据比1460小，并不代表数据已经读完，只能说明，本次读完了，下次再有数据到达时会ET提示你.测试中发现，对于大于1460字节的头的读区,如果分多次到达，第一次返回为1460字节的概率大一些而已. 测试中甚至还遇到了另外一个临界情况,就是用1M的buffer刚读完数据,立刻再接着读,有可能会读到数据,这个数据应该是紧接着到达,很小的时间间隔,如果你不去读,我认为ET应该会再次返回(仅仅出现过一次,未能验证,有时间再求证).  (最后修改时间 2010.05.11)

顺便再说下写数据，一般一次可以write十几K数据到内核缓冲区。  
所以对于很多小的数据文件服务来说，是没有必要另外为每个connections分配发送缓冲区。  
只有当一次发送不完时候才分配一块内存，将数据暂存，待下次返回可写时发送。  
这样避免了一次内存copy，而且节约了内存。  
  
选择了epoll并不代表就就拥有了一个好的 I/O模型，用的不好，你还赶不上select,这是实话。  
epoll的问题我就说这么多，关于描述符管理方面的细节请参见我早期的一个帖子，[epoll模型的使用及其描述符耗尽问题的探讨][epoll]  大概讨论了18页，我刚才把解决方法放在第一个帖子里了。如果你对epoll有感兴趣，我这有[一个简单的基于epoll的web server例子][epoll_web server] 。  
  
另外你要使用多线程，还是多进程，这要看你更熟悉哪个，各有好处。  
多进程模式，单个进程crash了，不影响其他进程，而且可以为每个worker分别帮定不同的cpu,让某些cpu单独空出来处理中断和系统事物。多线程，共享数据方便，占用资源更少。进程或线程的个数，应该固定在（cpu核数-1） ~ 2倍cpu核数间为宜，太多了时间片轮转时会频繁切换，少了，达不到多核并发处理的效果。  
  
还有如何accept也是一门学问，没有最好，只有更适用，你需要做很多实验，确定对自己最高效的方式。有了一个好的I/O框架，你的效率想低也不容易,这是程序实现的大局。  
  
关于更多网络I/O模型的讨论请见 [<Scalable Network Programming >][Scalable Network Programming] 中文版。  
另外，必须强调的是,代码和结构应该简洁高效,一定要具体问题具体分析，没什么法则是万能的，要根据你的服务量身定做。  
  
2,关闭不必要的标准输入和标准输出  
close(0);  //stdin  
close(1);  //stdout  
如果你不小心，有了printf输出调试信息，这绝对是一个性能杀手。  
一个高性能的服务器不出错是不应该有任何输出的，免得耽误干活。  
这样做，至少能为你节约两个描述符资源。  
  
3，避免用锁 (i++ or ++i )  
多线程编程用锁是普遍现象，貌似已经成为习惯。  
但各线程最好是独立的，不需要同步机制的。  
锁会消耗资源，而且造成排队，甚至死锁，尽量想办法避免。  
非用不可时候，比如，实时统计各线程的负载情况，多个线程要对全局变量进行写操作。  
请用 ++i ，因为它是一个原子操作。

\---------------------------------------------------

更正: pinggao，同学对++i的原子性提出了质疑，并做了个测试程序，经过讨论得出结论：++i在多线程的程序中，在单核环境下，不一定是原子的，在多核环境下肯定不是原子的，我把这个当作原子操作用在了统计中，所以我得出的统计值是要比实际处理能力小很多的。。。亏大了。。等有新的数据再更正过来。。想想犯这个基本错误的原因，当初我们大学教授在讲++i是原子操作的时候，距离现在计算机环境发生了巨大变化。  [\++i原子性讨论][i]  (最后修改时间 2010.10.02)

4,减少系统调用  
系统调用是很耗的，因为它通常需要钻进内核再钻出来。  
我们应该避免用户空间和内核空间的切换。  
比如我要为每个请求打个时间戳，以计算超时，我完全可以在返回一批可用描述符前只调用一次time(),而不用每个请求都调用一次。 time()只精确到秒，一批请求处理都是毫秒级，所以也没必要那么做，再说了，计算超时误差那么一秒有什么影响吗？  
  
5, Connection: close vs  Keep-Alive ?  
谈httpd实现，就不能不提长连接Keep-Alive 。  
Keep-Alive是http 1.1中加入的，现在的浏览器99。99%应该都是支持Keep-Alive的。  
  
先说下什么是Keep-Alive:  
这是基于tcp的connections说的，也就是一个描述符(fd)，它并不代表独立占用一个进程或线程。一个线程用非阻塞模式可以保持成千上万个长连接。  
  
先说一个完整的HTTP 1.0的请求和响应:  
建立tcp连接 (syn; ack, syn2; ack2; 三个分组握手完成)  
请求  
响应  
关闭连接 (fin; ack; fin2; ack2  四个分组关闭连接)  
  
再说HTTP 1.1的请求和响应:  
建立tcp连接 (syn; ack, syn2; ack2; 三个分组握手完成)  
请求  
响应  
...  
...  
  
请求  
响应  
关闭连接 (fin; ack; fin2; ack2  四个分组关闭连接)  
  
如果请求和响应都只有一个分组，那么HTTP 1.0至少要传输11个分组(补充：请求和响应数据还各需要一个ack确认)，才拿到一个分组的数据。而长连接可以更充分的利用这个已经建立的连接，避免的频繁的建立和关闭连接，减少网络拥塞。  
  
我做过一个测试，在2cpu\*4core服务器上，不停的accept，然后不做处理，直接close掉。一秒最多可以accept 7w/s，这是极限。那么我要是想每秒处理10w以上的http请求该怎么办呢？  
目前唯一的也是最好的选择，就是保持长连接。  
比如我们NBA JS直播页面，刚打开就会向我的js服务器发出6个http请求，而且随后平均每10秒会产生两个请求。再比如，我们很多页面都会嵌几个静态池的图片，如果每个请求都是独立的（建立连接然后关闭），那对资源绝对是个浪费。  
  
长连接是个好东西，但是选择 Keep-Alive必须根据你的应用决定。比如NBA JS直播,我肯定10秒内会产生一个请求，所以超时设置为15秒，15秒还没活动，估计是去打酱油了，资源就得被我回收。超时设置过长，光连接都能把你的服务器堆死。  
  
为什么有些apache服务器，负载很高，把Keep-Alive关掉负载就减轻了呢？  
apache 有两种工作模式，prefork和worker。apache 1.x只有，prefork。  
prefork比较典型，就是个进程池，每次创建一批进程,还有apache是基于select实现的。在用户不是太多的时候，长连接还是很有用的，可以节约分组，提升响应速度，但是一旦超出某个平衡点，由于为了保持很多长连接，创建了太多的进程，导致系统不堪重负，内存不够了，开始换入换出，cpu也被很多进程吃光了,load上去了。这种情况下，对apache来说，每次请求重新建立连接要比保持这么多长连接和进程更划算。  
  
  
6,预处理 (预压缩，预取lastmodify,mimetype)  
预处理,原则就是，能预先知道的结果，我们绝不计算第二次。  
  
预压缩：我们在两三年前就开始使用预压缩技术，以节约CPU，伟大的微软公司在现在的IIS 7中也开始使用了。所谓的预压缩就是，从数据源头提供的就是预先压缩好的数据，IDC同步传输中是压缩状态，直到最后web server输出都是压缩状态，最终被用户浏览器端自动解压。  
  
预取lastmodify:  文件的lastmodify时间，如果不更新，我们不应该取第二次，别忘记了fsat这个系统调用是很耗的。  
  
预取mimetype： mimetype,如果你的文件类型不超过256种，一个字节就可以标识它，然后用数组下标直接输出，而且不是看到一个js文件，然后strcmp()了近百种后缀名后，才知道应该输出Content-Type: application/x-javascript，而且这种方法会随文件类型增加而耗费更多cpu资源。当然也可以写个hash函数来做这事，那也至少需要一次函数调用，做些求值运算，和分配比实际数据大几倍的hash表。  
  
如何更好的使用cpu一级缓存  
数据分解  
CPU硬亲和力的设置  
待补充。。。。  
  
**二，怎样使用内存**  
  
1，避免内存copy (strcpy,memcpy)  
虽然内存速度很快，但是执行频率比较高的核心部分能避免copy的就尽量别使用。如果必须要copy，尽量使用memcpy替代sprintf,strcpy，因为它不关心你是否遇到'\\0'; 内存拷贝和http响应又涉及到字符串长度计算。如果能预先知道这个长度最好用中间变量保留，增加多少直接加上去，不要用strlen()去计算，因为它会数数直到遇见'\\0'。能用sizeof()的地方就不要用strlen,因为它是个运算符，在预编的时被替换为具体数字，而非执行时计算。  
  
2，避免内核空间和用户进程空间内存copy (sendfile, splice and tee)  
sendfile: 它的威力在于，它为大家提供了一种访问当前不断膨胀的Linux网络堆栈的机制。这种机制叫做“零拷贝(zero-copy)”,这种机制可以把“传输控制协议（TCP）”框架直接的从主机存储器中传送到网卡的缓存块（network card buffers）中去，避免了两次上下文切换。详细参见 [<使用sendfile()让数据传输得到最优化>][sendfile]。据同事测试说固态硬盘SSD对于小文件的随机读效率很高，对于更新不是很频繁的图片服务，读却很多，每个文件都不是很大的话，sendfile+SSD应该是绝配。  
  
splice and tee: splice背后的真正概念是暴露给用户空间的“随机内核缓冲区”的概念。“也就是说，splice和tee运行在用户控制的内核缓冲区上，在这个缓冲区中，splice将来自任意文件描述符的数据传送到缓冲区中(或从缓冲区传送到文件描述符)，而tee将一个缓冲区中的数据复制到另一个缓冲区中。因此，从一个很真实(而抽象)的意义上讲，splice相当于内核缓冲区的read/write，而tee相当于从内核缓冲区到另一个内核缓冲区的memcpy。”。本人觉得这个技术用来做代理，很合适。因为数据可以直接从一个soket到另一个soket，不需要经用户和内核空间的切换。这是sendfile不支持的。详细参见 [<linux2.6.17以上内核中的 splice and tee>][linux2.6.17_ splice and tee] ,具体实例请参见  man 2  tee ,里面有个完整的程序。  
  
3，如何清空一块内存(memset ?)  
比如有一个buffer\[1024\*1024\],我们需要把它清空然后strcat(很多情况下可以通过记录写的起始位置+memcpy来代替)追加填充字符串。  
其实我们没有必要用memset(buffer,0x00,sizeof(buffer))来清空整个buffer, memset(buffer,0x00,1)就能达到目的。 我平时更喜欢用buffer\[0\]='\\0'; 来替代，省了一次函数调用的开销。  
  
4，内存复用  (有必要为每个响应分配内存 ?)  
对于NBA JS服务来说，我们返回的都是压缩数据，99%都不超过15k，基本一次write就全部出去了，是没有必要为每个响应分配内存的，公用一个buffer就够了。如果真的遇到大数据，我先write一次，剩下的再暂存在内存里，等待下次发送。  
  
5，避免频繁动态申请/释放内存（malloc）  
这个似乎不用多说，要想一个Server启动后成年累月的跑，就不应该频繁地去动态申请和释放内存。原因很简单一，避免内存泄露。二，避免碎片过多。三，影响效率。一般来说，都是一次申请一大块内存，然后自己写内存分配算法。为http用户分配的缓冲区生命期的特点是，可以随着fd的关闭，而回收，避免漏网。还有Server的编写者应该对自己设计的程序达到最高支撑量的时候所消耗的内存心中有数。  
  
6，字节对齐  
先看下面的两个结构体有什么不同：  
struct A \{  
        short size;   
        char \*ptr;  
        int left;  
\} a ;  
  
struct B \{  
        char \*ptr;  
        short size;   
        int left;  
\} b ;  
  
仅仅是一个顺序的变化,结构体B顺序是合理的:  
在32bit linux系统上，是按照32/8bit=4byte来对齐的， sizeof(a)=12 ,sizeof(b)=12 。  
在64bit linux系统上，是按照64/8bit=8byte来对齐的， sizeof(a)=24 ,sizeof(b)=16 。  
32bit机上看到的A和B结果大小是一样的，但是如果把int改成short效果就不一样了。  
  
如果我想强制以2byte对齐，可以这样：  
\#pragma pack(2)  
struct A \{  
        short size;   
        char \*ptr;  
        int left;  
\} a ;  
\#pragma pack()  
注意pack()里的参数，只能指定比本机支持的字节对齐标准小，而不能更大。  
  
7，内存安全问题  
先举个好玩的例子，不使用a，而给a赋上值:  
int main()  
\{  
        char a\[8\];  
        char b\[8\];  
        memcpy(b,"1234567890\\0",10);  
        printf("a=%s\\n",a);  
        return 0;  
\}  
程序输出  a=90 。  
这就是典型的溢出，如果是空闲的内存，用点也就罢了，可是把别人地盘上的数据覆盖了，就不好了。  
接收的用户数据一定要严格判断，确定不会越界，不是每个人都按规矩办事的，搞不好就挂了。  
  
8，云风的内存管理理论 （sd2c大会所获 [blog & ppt][blog _ ppt]）  
没有永远不变的原则  
大原则变化的慢  
没有一劳永逸的解决方案  
内存访问很廉价但有代价  
减少内存访问的次数是很有意义的  
随机访问内存慢于顺序访问内存  
请让数据物理上连续  
集中内存访问优于分散访问  
尽可能的将数据紧密的存放在一起  
无关性内存访问优于相关性内存访问  
请考虑并行的可能性、即使你的程序本身没有使用并行机制  
控制周期性密集访问的数据大小  
必要时采用时间换空间的方法  
读内存快于写内存  
代码也会占用内存，所以、保持代码的简洁  
  
物理法则  
晶体管的排列  
批量回收内存  
不释放内存，留给系统去做  
list map  vector (100次调用产生１３次内存分配和释放)  
长用字符串做成hash，使用指针访问  
直接内存页处理控制  
  
**三，减少磁盘I/O**  
这个其实就是通过尽可能的使用内存达到性能提高和i/o减少。从系统的读写buffer到用户空间自己的cache，都是可以有效减少磁盘i/o的方法。用户可以把数据暂存在自己的缓冲区里，批量读写大块数据。cache的使用是很必要的，可以自己用共享内存的方法实现，也可以用现成的BDB来实现。欢迎访问我的公益站点 [berkeleydb.net][],不过我不太欢迎那种问了问题就跑的人。BDB默认的cache只有256K，可以调大这个数字，也可以纯粹使用Mem Only方法。对于预先知道的结果，争取不从磁盘取第二次，这样磁盘基本就被解放出来了。BDB取数据的速度每秒大概是100w条（2CPU\*2Core Xeon(R) E5410 @ 2.33GHz环境测试,单条数据几十字节），如果你想取得更高的性能建议自己写。  
  
  
**四，优化你的网卡**  
首先ethtool ethx 看看你的外网出口是不是Speed: 1000Mb/s 。  
对于多核服务器，运行top命令，然后按一下1，就能看到每个核的使用情况。如果发现cpuid=0的那颗使用率明显高于其他核，那就说明id=0的cpu将来也许会成为你的瓶颈。然后可以用mpstat（非默认安装）命令查看系统中断分布，用cat /proc/interrupts 网卡中断分布。  
  
下面这个数据是我们已经做过优化了的服务器中断分布情况:  
\[yangjian2@D08043466 ~\]$ mpstat -P ALL 1  
Linux 2.6.18-53.el5PAE (D08043466)      12/15/2008  
01:51:27 PM  CPU   %user   %nice    %sys %iowait    %irq   %soft  %steal   %idle    intr/s  
01:51:28 PM  all    0.00    0.00    0.00    0.00    0.00    0.00    0.00  100.00   1836.00  
01:51:28 PM    0    0.00    0.00    0.00    0.00    0.00    0.00    0.00  100.00    179.00  
01:51:28 PM    1    0.00    0.00    0.00    0.00    0.00    0.00    0.00  100.00    198.00  
01:51:28 PM    2    1.00    0.00    0.00    0.00    0.00    0.00    0.00  100.00    198.00  
01:51:28 PM    3    0.00    0.00    0.00    0.00    0.00    0.00    0.00  100.00    346.00  
01:51:28 PM    4    0.00    0.00    0.00    0.00    0.00    0.00    0.00  100.00    207.00  
01:51:28 PM    5    0.00    0.00    0.00    0.00    0.00    0.00    0.00  100.00    167.00  
01:51:28 PM    6    0.00    0.00    0.00    0.00    0.00    0.00    0.00  100.00    201.00  
01:51:28 PM    7    0.00    0.00    0.00    0.00    0.00    0.00    0.00  100.00    339.00  
  
没优化过的应该是这个样子:  
yangjian2@xk-6-244-a8 ~\]$ mpstat -P ALL 1  
Linux 2.6.18-92.1.6.el5 (xk-6-244-a8.bta.net.cn)        12/15/2008  
02:05:26 PM  CPU   %user   %nice    %sys %iowait    %irq   %soft  %steal   %idle    intr/s  
02:05:27 PM  all    0.00    0.00    0.00    0.12    0.00    0.00    0.00   99.88   1593.00  
02:05:27 PM    0    0.00    0.00    0.00    0.00    0.00    0.00    0.00  100.00   1590.00  
02:05:27 PM    1    0.00    0.00    0.00    0.00    0.00    0.00    0.00  100.00      0.00  
02:05:27 PM    2    0.00    0.00    0.00    0.00    0.00    0.00    0.00  100.00      2.00  
02:05:27 PM    3    0.00    0.00    0.00    0.00    0.00    0.00    0.00  100.00      0.00  
02:05:27 PM    4    0.00    0.00    0.00    0.00    0.00    0.00    0.00  100.00      0.00  
02:05:27 PM    5    0.00    0.00    0.00    0.00    0.00    0.00    0.00  100.00      0.00  
02:05:27 PM    6    0.00    0.00    0.00    0.00    0.00    0.00    0.00  100.00      0.00  
02:05:27 PM    7    0.00    0.00    0.00    0.00    0.00    0.00    0.00  100.00      0.00  
  
对于32bit的centos5，mpstat -P ALL 1表现跟第一种情况一样,分布比较平均，但是一但有了访问量，就可以看到差距。cat /proc/interrupts 看起来更直观些，很清楚的知道哪个网卡的中断在哪个cpu上处理。  
  
其实，当你遇到网卡中断瓶颈的时候证明你的网站并发度已经相当高了，每秒三五万个请求还至于成为瓶颈。除非你的应用程序同时也在消耗cpu0的资源。对于这种情况，建议使用多进程模式，每个进程用 sched\_setaffinity绑定特定的cpu，把cpu0从用户事物中解放出来，专心处理系统事物，当然包括中断。这样你的极限应该能处理20w+ http req/s (2CPU\*4Core服务器)。但是对于多线程模式来说，我们就显得无能为力了，因为我们如果想使用多核，就没法不用cpu0。目前的方法只有两个：一，转化为多进程，然后进程内再使用多线程。二，让你的网卡中断分散在多个cpu上(目前只有硬件解决方案，感谢xiaodong2提供的技术支持)。 (修正：后来仔细读了几遍man手册，发现sched\_setaffinity绑定特定的cpu对于多线程也是适用的，并且实验通过,只需要将第一个参数置为0。这对cpu0的解放是个很好的发现。)  
  
将网卡中断分散在多个cpu硬件解决方案: 我们新加了一块网卡（前提是这个网卡支持中断分布），然后通过通过linux bonding将两个网卡比如eth0,eth1联合成一个通道bond0（当然这里还涉及到交换机的调整），然后bond0就有了2G的带宽吞吐量。把eth0的中断处理帮定在cpu 0-3，把eth1中断处理帮定在cpu 4-7，这样中断就被分布开了。这样会带来一些额外的cpu开销，但是跟好处相比可以忽略不计。我在网卡优化过的32bit服务器上测试http请求处理极限为 40w+ req/s，将近提升了一倍。  
  
  
**五，调整内核参数**  
  
我的内核心参数调整原则是，哪个遇到瓶颈调哪个，谨慎使用，不能凭想象乱调一气。看下面例子，其中default是我们公司定做的系统默认的一些参数值。add by yangjian2并非全部都要调整，我只挑几个比较重要的参数说明一下，更多TCP方面的调优请参见 man 7 tcp 。  
\#++++++++++++++++++default++++++++++++++++++++++++++++++  
net.ipv4.tcp\_syncookies = 1  
net.ipv4.tcp\_max\_tw\_buckets = 180000  
net.ipv4.tcp\_sack = 1  
net.ipv4.tcp\_window\_scaling = 1  
net.ipv4.tcp\_rmem = 4096        87380   4194304  
net.ipv4.tcp\_wmem = 4096        16384   4194304  
\#++++++++++++++++++add by yangjian2++++++++++++++++++++++  
net.ipv4.tcp\_max\_syn\_backlog = 65536  
net.core.netdev\_max\_backlog =  32768  
net.core.somaxconn = 32768  
  
net.core.wmem\_default = 8388608  
net.core.rmem\_default = 8388608  
net.core.rmem\_max = 16777216  
net.core.wmem\_max = 16777216  
  
net.ipv4.tcp\_timestamps = 0  
net.ipv4.tcp\_synack\_retries = 2  
net.ipv4.tcp\_syn\_retries = 2  
  
net.ipv4.tcp\_tw\_recycle = 1  
\#net.ipv4.tcp\_tw\_len = 1  
net.ipv4.tcp\_tw\_reuse = 1  
  
net.ipv4.tcp\_mem = 94500000 915000000 927000000  
net.ipv4.tcp\_max\_orphans = 3276800  
\#++++++++++++++++++++++++++++++++++++++++++++++++++++++++  
  
maxfd: 对于系统所能打开的最大文件描述符fd，可以通过以root启动程序，setrlimit()设置maxfd后，再通过setuid()转为普通用户提供服务,我用的 int set\_max\_fds(int maxfds); 函数是zhongying提供的。这比用ulimit来的方便的多，不晓得为什么那么多开源软件都没这样用。  
  
net.ipv4.tcp\_max\_syn\_backlog = 65536 : 这个参数可以肯定是必须要修改的，默认值1024，我google了一下，几乎是人云亦云，没有说的明白的。 要讲明白得从man listen说起，int listen(int sockfd, int backlog);  早期的网络编程都中描述，int backlog 代表未完成队列SYN\_RECV状态+已完成队列ESTABLISHED的和。但是这个意义在Linux 2.2以后的实现中已经被改变了，int backlog只代表已完成队列ESTABLISHED的长度，在AF\_INET协议族中（我们广泛使用的就是这个），当int backlog大于SOMAXCONN　 (128 in Linux　2.0 & 2.2)的时候，会被调整为常量SOMAXCONN大小。这个常量可以通过net.core.somaxconn来修改。而未完成队列大小可以通过net.ipv4.tcp\_max\_syn\_backlog来调整，一般遭受syn flood攻击的网站，都存在大量SYN\_RECV状态，所以调大tcp\_max\_syn\_backlog值能增加抵抗syn攻击的能力。  
  
net.ipv4.tcp\_syncookies = 1 : 当出现syn等候队列出现溢出时象对方发送syncookies。目的是为了防止syn flood攻击 , 默认值是 0。 不过man　listen说当启用syncookies时候，tcp\_max\_syn\_backlog的sysctl调整将失效，和这个描述不是很符合。参见下面两个描述分别是man　listen和man 7 tcp:  
When syncookies are enabled there is no logical maximum length and this tcp\_max\_syn\_backlog sysctl  setting  is  ignored.  
Send out  syncookies  when the syn backlog queue of a socket overflows.  
但我可以肯定的说这个选项对你的性能不会有提高，而且它严重的违背TCP协议，不允许使用TCP扩展,除非遭受攻击，否则不推荐使用。  
  
net.ipv4.tcp\_synack\_retries = 2 : 对于远端的连接请求SYN，内核会发送SYN ＋ ACK数据报，以确认收到上一个 SYN连接请求包。这是所谓的三次握手( threeway handshake)机制的第二个步骤。这里决定内核在放弃连接之前所送出的 SYN+ACK 数目。如果你的网站SYN\_RECV状态确实挺多，为了避免syn攻击，那么可以调节重发的次数。  
  
net.ipv4.tcp\_syn\_retries = 2 : 对于一个新建连接，内核要发送多少个 SYN 连接请求才决定放弃。不应该大于255，默认值是5，对应于180秒左右。这个对防止syn攻击其实是没有用处的，也没必要调节。  
  
net.ipv4.tcp\_max\_orphans = 3276800 : 这个最好不要修改，因为每增加1，将消耗~64k内存。即使报错 TCP: too many of orphaned sockets 也有可能是由于你的net.ipv4.tcp\_mem过小，导致的Out of socket memory，继而引发的。  
  
net.ipv4.tcp\_wmem = 4096 16384 4194304 :  为自动调优定义每个socket使用的内存。第一个值是为socket的发送缓冲区分配的最少字节数。第二个值是默认值（该值会被 wmem\_default覆盖），缓冲区在系统负载不重的情况下可以增长到这个值。第三个值是发送缓冲区空间的最大字节数（该值会被wmem\_max覆盖）。  
  
net.ipv4.tcp\_rmem = 4096 87380 4194304 : 接收缓冲区，原理同上。  
  
net.ipv4.tcp\_mem = 94500000 915000000 927000000 :  
low：当TCP使用了低于该值的内存页面数时，TCP不会考虑释放内存。  
pressure：当TCP使用了超过该值的内存页面数量时，TCP试图稳定其内存使用，进入pressure模式，当内存消耗低于low值时则退出pressure状态。  
high：允许所有tcp sockets用于排队缓冲数据报的内存页数。  
  
一般情况下这个值是在系统启动时根据系统内存数量计算得到的，如果你的dmesg报　Out of socket memory，你可以试着修改这个参数，顺便介绍３个修改方法:  
1, echo "94500000 915000000 927000000" > /proc/sys/net/ipv4/tcp\_wmem  
`2, sysctl -w "`net.ipv4.tcp\_mem = 94500000 915000000 927000000`"`  
3, net.ipv4.tcp\_mem = 94500000 915000000 927000000`  (vi /etc/sysctl.conf` 然后 `sysctl -p生效)`  
  
下面命令也许能提供些信息，在你修改tcp参数时做个参考:  
\[sports@xk-6-244-a8 nbahttpd\_beta4.0\]$ cat  /proc/net/sockstat  
sockets: used 1195  
TCP: inuse 1177 orphan 30 tw 199 alloc 1181 mem 216  
UDP: inuse 0 mem 0  
RAW: inuse 0  
FRAG: inuse 0 memory 0  
  
其他我就不多说了，知道这些基本就能解决绝大部分问题了。  
  
  
**六，衡量Web Server的性能指标**  
  
我认为一个好的Server应该能在有限的硬件资源上将性能发挥到极限。  
Web Server的衡量指标并非单一，要根据具体应用类型而定。比如财经实时图片系统，我们关注它每秒输出图片数量。NBA js直播放系统，我们关心他的同时在线connections和当时的每秒请求处理量。行情系统，我们关心它connections和请求处理量的同时还要关心每个请求平均查询多少支股票。但总体来说同时在线connections和当时的每秒请求处理量是两个最重要的指标。  
  
对于图片系统再说一句,我觉得大图片和小图片是应该区别对待的，小图片不应该产生磁盘 I/O 。  
  
Nginx是我见过的Web Server中性能比较高的一个,他几乎是和我的server同时诞生，可能还更早些，框架很不错，我觉得目前版本稍微优化下，支持10w connections不成问题。 lighttpd也不错，我对他的认识还是停留在几年前的性能测试上，它的性能会比nginx逊色一些。他们都支持epoll,sendfile,可以起多个进程worker，worker内部使用非阻塞，这是比较优良的I/O的模型。Squid,Apache，都是骨灰级软件了，好处就是支持的功能多，另许多轻量级Server望尘莫及，可是性能太一般了，祝愿他们早日重写。  
  
插点小插曲，我在财经项目组的时候，有的同事来我们组一年多了，问我是不是管机器的，我点点头，后来又有比较了解我的同事说我是系统管理员，我说“恩”。其实我的主业是写程序的。也许是我太低调了，觉得那些陈年往事不值再提，以至于别人对我做的东西了解甚少, 今天我就高调一把，公布一些我写的程序的性能指标。我们的系统近几年来说在性能上是领先业内的(不争世界第一，那样压力太大，第二就很好,也许正在看我blog的你一不留神就把我超了呢 ^-^ )，高效的原因很重要的一点是由于它是根据服务特点量身订做的。  
  
实验环境数据： 我写了个HTTP服务框架，不使用磁盘I/O，简化了逻辑处理部分，只会输出 "hello world!" 程序部署在192.168.0.1上(2cup\*4Core,硬件和系统都做过优化)，我在另外8台同等配置服务器上同时执行命令 ./apache/bin/ab -c 1000  -n 3000000   -k  "http://192.168.0.1/index.html" 几乎同时处理完毕，总合相加 40w req/s，我相信这是目前硬件水平上的极限值 。  
  
真实环境数据：2cup\*4Core Mem 16G, 64bit centos5，单机23w+ connections, 3.5w req/s时，CPU总量消耗 1/8，内存消耗0.4%（相当于正好消耗了一个Core+64M Mem）。在30w+ connections, 4.6w req/s 时,CPU总量消耗 1/4，内存消耗 0.5% 。保守地说，只要把网卡中断分散一下，单机50w+ connections很easy。  更多数据图文参见“NBA js直播的发展历程”一节。  
  
有些人了解我是由于财经的实时行情系统，虽然每天处理近百亿的http请求处理量还不错，但那并非我的得意之作，相反我觉得那个写的有些粗糙，至少有一倍以上的性能提升空间。对于行情系统，我还是很想把它做成push的，目标仍然是单机50w+在线，无延迟推送,可惜本人js功底太烂，所以要作为一个长期的地下项目去做,如果可能，我想一开始就把它作为一个开源项目来做。  
  
我个人比较喜欢追求性能极限，公司对此暂时还不是很认可,或者说重视程度还不够，可能是由于我们的硬件资源比较充裕吧。尽管如此，只要我认为对企业有价值的，就依然会坚持做下去，我的目标是获得业界的认可。同时我相信中国的未来不缺乏互联网用户，当有人烧不起钱的时候想起了我，那我就是有价值的。  
  
这里说的有点多了，不过放心，ppt我会做的相当简单。

[http_blog.sina.com.cn_s_blog_466c66400100bi2n.html]: http://blog.sina.com.cn/s/blog_466c66400100bi2n.html
[epoll]: http://bbs.chinaunix.net/viewthread.php?tid=813588&extra=&page=1
[epoll_web server]: http://www.berkeleydb.net/bbs/read.php?fid=18&tid=12&fpage=1
[Scalable Network Programming]: http://www.berkeleydb.net/bbs/read.php?fid=18&tid=19
[i]: http://bbs.chinaunix.net/thread-1794304-1-1.html
[sendfile]: http://blog.sina.com.cn/s/blog_466c664001000146.html
[linux2.6.17_ splice and tee]: http://blog.sina.com.cn/s/blog_466c664001000bj7.html
[blog _ ppt]: http://blog.codingnow.com/2008/11/sd2008.html#more
[berkeleydb.net]: http://www.berkeleydb.net/