一个简单的IOCP（IO完成端口）服务器/客户端类（中文版）

╰半夏微凉° 2022-09-20 11:19 405阅读 0赞

**一个简单的IOCP（IO完成端口）服务器/客户端类**

——A simple IOCP Server/Client Class By spinoza

原文【选自CodeProject】

[http://www.codeproject.com/Articles/10330/A-simple-IOCP-Server-Client-Class][http_www.codeproject.com_Articles_10330_A-simple-IOCP-Server-Client-Class]

源代码:

[http://www.codeproject.com/KB/IP/iocp\_server\_client/IOCP-Demo.zip][http_www.codeproject.com_KB_IP_iocp_server_client_IOCP-Demo.zip]

[http://www.codeproject.com/KB/IP/iocp\_server\_client/IOCP-SRC.zip][http_www.codeproject.com_KB_IP_iocp_server_client_IOCP-SRC.zip]

——译： Ocean Email: Ocean2oo6@hotmail.com

[http://blog.csdn.net/witch\_soya/article/details/6978856][http_blog.csdn.net_witch_soya_article_details_6978856]

[http://blog.csdn.net/dongzhongshu/article/details/5645179][http_blog.csdn.net_dongzhongshu_article_details_5645179]

[http://blog.csdn.net/babelan/article/details/4588608][http_blog.csdn.net_babelan_article_details_4588608]

[http://820808.blog.51cto.com/328558/66664][http_820808.blog.51cto.com_328558_66664]

[http://820808.blog.51cto.com/328558/68200][http_820808.blog.51cto.com_328558_68200]

This source code uses the advanced IOCP technology which can efficiently serve multiple clients. It also presents some solutions to practical problems that arise with the IOCP programming API, and provides a simple echo client/server with file transfer.

## 1.1要求 ##

l 本文希望读者对C++，TCP/IP，Socket编程，MFC以及多线程比较熟悉

l 源代码使用Winsock2.0以及IOCP技术，因此需要：

Windows NT/2000 or later: Requires Windows NT 3.5 or later.

Windows 95/98/ME: Not supported.

Visual C++ .NET, or a fully updated Visual C++ 6.0.

## 1.2 摘要 ##

当你开发不同类型的软件时，你总会需要进行C/S的开发。完成一个完善的C/S代码对于编码人员来说是一件困难的事情。本文给出了一个简单的但是却是却十分强大的C/S源代码，他可以扩展成任何类型的C/S程序。源代码使用了IOCP技术，该技术可以有效地处理多客户端。 IOCP 对于“一个客户端一个线程”所有面临的瓶颈（或者其他）问题提出了一种有效的解决方案，他只使用少量的执行线程以及异步的输入输出、接受发送。IOCP计数被广泛的用于各种高性能的服务器，如Apache等。源代码同时也提供了一组用于处理通信的常用功能以及在C/S软件中经常用到功能，如文件接受/传输功能以及逻辑线程池操作。本文将主要关注一种围绕IOCP API在实际中的解决方案，以及呈现源代码的完整文档。随后，我将展示一个可以处理多连接和文件传输的echo C/S程序。

## 2.1 介绍 ##

本文阐述了一个类，他可以被同时用于客户端和服务器端代码。这个类使用IOCP(Input Output Completion Ports)以及异步(non-blocking) 功能调用。源代码是基于很多其他源代码和文章的。

使用此源代码，你可以：

·为多主机进行链接、或者链接到多主机的客户端和服务器

·异步的发送和接受文件

·创建和管理一个逻辑工作线程池，他可以处理繁重的C/S请求或计算

找到一段完善的却又简单的、可以处理C/S通信的代码是一件困难的事情。在网络上找到的代码要么太过于复杂（可能多于20个类），或者不能提供有效的效率。本代码就是以简单为设计理念的，文档也尽可能的完善。在本文中，我们可以很简单的使用由Winsock 2.0提供的IOCP技术，我也会谈到一些在编码时会遇到的棘手的问题以及他们的解决方法。

## 2.2 异步输入输出完成端口(IOCP)的介绍 ##

一个服务器程序要是不能同时处理多客户端，那么我们可以说这个程序是毫无意义的，而我们为此一般会使用异步I/O调用或者多线程技术去实现。从定义上来看，一个异步I/O调用可以及时返回而让I/O挂起。在同一时间点上，I/O异步调用必须与主线程进行同步。这可以使用各种方式，同步主要可以通过以下实现：

·使用事件(events)  只要异步调用完成，一个Signal就会被Set。这种方式主要的缺点是线程必须去检查或者等待这个event被Set

·使用GetOverlappedResult功能。这种方式和上面的方式有同样的缺点。

·使用异步例程调用(APC)。对于这种方式有几个缺点。首先，APC总是在调用线程的上下文被调用的，其次，为了执行APCs，调用线程必须被挂起，这被成为alterable wait state

·使用IOCP。这种方式的缺点是很多棘手的编码问题必须得以解决。编写IOCP可能一件让人持续痛苦的事情。

### 2.2.1 为什么使用IOCP? ###

使用IOCP,我们可以克服”一个客户端一个线程”的问题。我们知道，这样做的话，如果软件不是运行在一个多核及其上性能就会急剧下降。线程是系统资源，他们既不是无限制的、也不是代价低廉的。

IOCP提供了一种只使用一些（I/O worker）线程去“相对公平地”完成多客户端的”输入输出”。线程会一直被挂起，而不会使用CPU时间片，直到有事情做为止。

## 2.3 什么是IOCP? ##

我们已经提到IOCP  只不过是一个线程同步对象，和信号量（semaphore）相似，因此IOCP并不是一个复杂的概念。一个IOCP 对象是与多个I/O对象关联的，这些对象支持挂起异步IO调用。知道一个挂起的异步IO调用结束为止，一个访问IOCP的线程都有可能被挂起。

## 3. IOCP是如何工作的？ ##

要获得更多的信息，我推荐其他的一些文章（译者注，在CodeProject）

当使用IOCP时，你必须处理三件事情：将一个Socket关联到完成端口，创建一个异步I/O调用，与线程进行同步。为了获得异步IO调用的结果，比如，那个客户端执行了调用，你必须传入两个参数：the CompletionKey 参数, 和 OVERLAPPED结构。

## 3.1 CompletionKey参数 ##

第一个参数是CompletionKey，一个DWORD类型值。你可以任何你希望的标识值，这将会和对象关联。一般的，一个包含一些客户端特定对象的结构体或者对象的指针可以使用此参数传入。在源代码中，一个指向ClientContext结构被传到CompletionKey参数中。

## 3.2 OVERLAPPED 参数 ##

这个参数一般用于传入被异步IO调用使用的内存buffer。我们必须主意这个数据必须是锁在内存的，不能被换页出物理内存。我们稍后会讨论这个。

## 3.3 将socket与完成端口绑定 ##

一旦一个完成端口创建，我们就可以使用CreateToCompletionPort方法去将socket绑定到完成端口，这看起来像这面这样：

BOOL IOCPS::AssociateSocketWithCompletionPort(SOCKET socket,

HANDLE hCompletionPort, DWORD dwCompletionKey)

HANDLE h = CreateIoCompletionPort((HANDLE) socket,

hCompletionPort, dwCompletionKey, m\_nIOWorkers);

return h == hCompletionPort;

## 3.4 创建异步IO调用 ##

创建真正的异步调用：可以调用WSASend,WSARecv。他们也需要一个WSABUF参数，这个参数包含一个指向被使用的buffer的指针。首要规则是，当服务器/客户端试图调用一个IO操作时，他们不是直接的操作，而是先被传送到完成端口，这将会被IO工作线程去完成操作。之所以要这样做，我们是想要CPU调用更加公平。 IO调用可以通过发送（Post）状态到完成端口来实现，看一下代码：

BOOL bSuccess = PostQueuedCompletionStatus(m\_hCompletionPort,

pOverlapBuff->GetUsed(),

(DWORD) pContext, &pOverlapBuff->m\_ol);

## 3.5 与线程同步 ##

与IO工作线程同步是通过GetQueuedCompletionStatus方法完成的（代码如下）。该方法也提供了CompleteKey参数以及OVERLAPPED参数：

BOOL GetQueuedCompletionStatus(

HANDLE CompletionPort, // handle to completion port

LPDWORD lpNumberOfBytes, // bytes transferred

PULONG\_PTR lpCompletionKey, // file completion key

LPOVERLAPPED \*lpOverlapped, // buffer

DWORD dwMilliseconds // optional timeout value

);

## 3.6 IOCP编码四个棘手的问题以及他们的解决方法 ##

使用IOCP时我们会遇到一些问题，这其中的有一些是不那么直观的。在使用IOCP的多线程场合中，线程的控制并不是很直观，因为通信与线程之间是没有关系的。在本节中，我们将展示四个使用IOCP在开发C/S程序时不同的问题。他们是：

·WSAENOBUGS  错误问题

·数据包重排序问题

·非法访问问题

3.6.1 WSAENOBUGS 错误问题

这个问题不是那么直观并且也很难发现，因为第一感觉是，他看起来像是一个平常的死锁或者内存泄露bug。假如你开发了你的服务器，他也能工作的很好。当你对他进行压力测试时，他突然挂起了。如果你比较幸运，你可以发现他是与WSAENOBUGS错误相关的。

每次重叠发送或者接受操作时，被提交的数据buffer都是有可能被锁住的。当内存锁住时，他就不能被换页到物理内存外。一个操作系统限制了可以被锁住的内存大小。当超出了限制时，重叠操作就会因WSAENOBUGS错误失败。

如果一个服务器在每个连接上进行了许多Overlapped接收，随着连接数量的增加，我们就可能达到这个限制。如果一个服务器希望处理非常大的突发用户，服务器POST可以从每个链接上接收到0字节的数据，因为已经没有buffer与接收操作关联了，没有内存需要被锁住了。使用这种方式，每个socket的接收buffer应该被保持完整因为一旦0字节的接收操作完成，服务器可以简单的进行非阻塞的接收去获取socket接收buffer中的所有缓存数据。当非阻塞因为WSAWOULDBLOCK错误失败时，这里就不再会有被挂起的数据了。这种设计可以用于那种需要最大可能的处理突发访问链接，这是以牺牲吞吐量作为代价的。当然，你对客户端如何与服务器端进行交互知道的越多越好。在前一个例子中，一个非阻塞的Receive将会在0字节接收完成后马上进行以便去取得缓存的数据。如果服务器知道客户端突然发送了很多数据，那么在接收0字节数据的Receive完成后，他应该POST一个或者多个Overlapped Reveives以便接收客户端发送的一些数据（大于每个socket接收buffer的最大缓冲buffer，默认是8k）。

一个针对WSAENOBUFFERS错误问题的简单而实际的解决方式在源代码中已经提供了。我们进行一个使用0字节Buffer的异步WSARead(…)(请查看OnZeroByteRead(…))。当这个调用完成后，我们知道在TCP/IP栈中存在数据，然后我们使用大小为MAXIMUMPACKAGE buffer进行几个异步的WSARead。这种解决方法只是在有数据来到时才锁住物理内存，这样可以解决WSAENOBUFS问题。但是这种解决方式会降低服务器的吞吐量。

### 3.6.2 数据包重排序问题 ###

这个问题也在参考文献【3】中提到。虽然使用IO完成端口的提交操作总是按照他们被提交的顺序完成，线程调度问题可能会导致与完成端口绑定的真正任务是以未知的顺序完成的。例如，如果你有两个IO工作线程，然后你应该接收到“byte chunk 1, byte chunk 2, byte chunk 3”，你可能会以错误的顺序去处理byte chunk，如“byte chunk 2, byte chunk 1， byte chunk 3”。这也就是意味着当你POST一个发送请求到IO完成端口进行发送数据时，数据可能会被以另外的顺序进行发送。

这可以通过只使用单个工作线程来解决，只提交一个IO调用，直到他完成，但是如果我们这样做的话，我们将会失去IOCP所有的好处。

一个实际的解决方式是添加一个顺序号给我们的buffer类，只处理buffer中的顺序号正确的buffer数据。这意味着，buffer如果有不正确的号码必须保存起来以便之后用到，因为性能的原因，我们将会将buffers保存到一个hash map对象中(如 m\_SendBufferMap and m\_ReadBufferMap)

要获得这种解决方式更多的信息，请阅读源代码，然后在IOCPS类中查看下面的函数：

·GetNextSendBuffer (..) and GetNextReadBuffer(..), to get the ordered send or receive buffer.

·IncreaseReadSequenceNumber(..) and IncreaseSendSequenceNumber(..), to increase the sequence numbers.

### 3.6.3 异步挂起读以及byte chunk数据包处理问题 ###

最常用的服务器协议是基于包的协议，该协议中前X字节表示头部，头部包含了一个完整的包的长度。服务器可以读取头部，查看多少数据需要的，然后继续读取数据直到读完一个包。这在服务器在一个时间上只进行一个异步调用时可以工作的很好。但是如果我们想挖掘IOCP服务器的所有潜力，我们需要有多个异步Reads去等待数据的到来。这意味这几个异步Reads 是完全乱序的（如前所述）， byte chunk流被挂起的reads操作返回来将不再是顺序的了（译者注，实际上这几个Reads操作是资源竞争的，同时读取数据，返回时的顺序不定）。并且，一个byte chunk流可以包含一个或者多个数据包，或者半包。如下图所示：

图1展示了部分包（绿色）以及完整包（黄色）可能会在不同的byte chunk流中异步到达

这意味着我们不得对byte chunk进行处理以便获得完整的数据包。进一步，我们不得不处理部分包（图中绿色）。这会使得包的处理变得更加麻烦。该问题的完整解决方法可以在IOCPS类的ProcessPackage方法中找到。

### 3.6.4 非法访问问题 ###

这是一个小问题，一般是由于代码的设计导致的，而不是IOCP特定的问题。假如一个客户端链接丢失了，而一个IO调用返回了一个错误flag，随后我们知道客户端不存在了。在CompleteKey参数中，我们将一个DWORD类型指针转型为ClientContext指针，接下来去访问或者删除他？访问异常就是这么发生的！

这个问题的解决方式是为包含挂起IO调用的结构体添加一个数字（nNumberOfPendlingIO），然后当我们知道这将不会有挂起的IO调用时才去删除结构体。这是在方法EnterIoLoop(..) function 和 ReleaseClientContext(..).完成的

## 3.7 源代码架构 ##

整个源代码是提供一些简单的类去处理在IOCP中需要面对的棘手的问题。源代码也提供了一些方法，这些方法经常被通信或者软件中用到的文件接收传输、逻辑线程池处理等

图2：上面的图片展示了IOCP类源代码功能

我们拥有几个工作线程去处理来自IOCP的异步IO调用，这些工作线程调用某些虚方法去把需要大量计算的请求放入到工作队列中。逻辑工作线程从队列中取得这些任务，处理、然后把结果通过类提供的一些方法发送回去。 GUI通常是通过Windows消息与主class通信的（MFC不是线程安全的），然后调用方法或者使用共享变量。

图3：上图展示了类的框架

我们在图3中可以看到以下的类：

· CIOCPBuffer:  一个用于管理被异步IO调用使用的buffers

· IOCPS:  用于通信的主要类。

· JobItem：一个包含需要被逻辑工作线程执行的任务的结构。

· ClientContext :一个包含了客户端特定信息（状态、数据等等）的结构

### 3.7.1 Buffer设计—— CIOCPBuffer类 ###

当时用异步IO调用时，我们必须提供一个私有的buffer去被IO操作使用。当我们分配buffers时，需要考虑几个问题：

·分配与释放内存时很昂贵的，所以我们应该重用已经分配的buffers(内存)。所以，我们可以使用链表结构去节省buffers:

// Free Buffer List..

CCriticalSection m\_FreeBufferListLock;

CPtrList m\_FreeBufferList;

// OccupiedBuffer List.. (Buffers that is currently used)

CCriticalSection m\_BufferListLock;

CPtrList m\_BufferList;

// Now we use the function AllocateBuffer(..)

// to allocate memory or reuse a buffer.

·某些时候，当一个IO调用完成时，我们可能会在buffer中得到部分的包数据，所以我们需要将buffer分割以便得到完整的消息。这是通过IOCPS类中的SpiltBuffer方法来实现的。同时，有时候我们需要在buffer之间拷贝信息，而这是通过IOCPS类中的AddAndFlush()来完成的。

·我们知道，我们同时需要为我们的buffer添加一个序列号以及一个状态(IOType变量，IOZeroReadCompleted等等)

·我们同时还需要一些方法去把byte数据流转换成数据，有些方法也在CIOCPBuffer类中被提供了

我们先前提到的所有问题的解决方案都已经在CIOCPBuffer类中得到支持了。

## 3.8 如何使用本源代码？ ##

通过从IOCP(见图3)派生你自己的类以及使用虚方法、使用IOCPS类提供的功能（如线程池），这就可以实现任何类型的服务器和客户端，我们可以使用有限数量的线程来有效的应对大量的连接。

### 3.8.1服务器/客户端的启动和关闭 ###

要启动服务器，调用以下的方法：

BOOL Start(int nPort=999,int iMaxNumConnections=1201,

int iMaxIOWorkers=1,int nOfWorkers=1,

int iMaxNumberOfFreeBuffer=0,

int iMaxNumberOfFreeContext=0,

BOOL bOrderedSend=TRUE,

BOOL bOrderedRead=TRUE,

int iNumberOfPendlingReads=4);

·nPortt

服务器将进行监听的端口号（如果是客户端的话，我们可以让他是\-1）

·iMaxNumConnections

最大可允许的连接数（使用一个很大的数字）

·iMaxIOWorkers

输入输出工作线程的数量

·nOfWorkers

逻辑工作线程的数量

·iMaxNumberOfFreeBuffer

我们将要节省下来进行重用的buffer最大数量（\-1表示不重用，0表示不限制数量）

·iMaxNumberOfFreeContext

我们将要节省下来进行重用的客户端信息对象的最大数量（\-1表示不重用，0表示不限制数量）

·bOrderedRead

是否需要有序读取（我们已经在3.6.2中讨论过这个）

·bOrderedSend

是够需要有序的写入（我们已经在3.6.2中讨论过这个）

·iNumberOfPendlingReads

等待数据而挂起的异步读取循环的数量

建立一个远程连接（客户端模式下nPort = -1）调用下面的方法：

Connect(const CString &strIPAddr, int nPort)

·strIPAddr

远程服务器的IP地址

·nPort

端口

关闭时请确认服务器调用以下的方法：ShutDown().

For example:

MyIOCP m\_iocp;

if(!m\_iocp.Start(-1,1210,2,1,0,0))

AfxMessageBox("Error could not start the Client");

….

m\_iocp.ShutDown();

## 4.1 代码描述 ##

更多的代码细节，请阅读源代码中的注释。

### 4.1.1 虚方法 ###

·NotifyNewConnection

当新的连接被建立时被调用

·NotifyNewClientContext

当一个空的ClientContext结构被分配时被调用

·NotifyDisconnectedClient

当一个客户端断线时被调用

·ProcessJob

当一个工作线程试图执行一个任务时调用

·NotifyReceivedPackage

当一个新的包到达时的提示

·NotifyFileCompleted

当一个文件传输完成时的提示

### 4.1.2 重要的变量 ###

请注意，所有需要使用共享变量的方法将对进行额外的加锁，这对于避免非法访问和重叠写入非常重要的。所有需要加锁且使用XXX名字的变量需要加锁，他们有一个XXXLock变量

·m\_ContextMapLock;

维护所有的客户端数据（Socket,客户端数据等等）

·ContextMap m\_ContextMap;

·m\_NumberOfActiveConnections

维护已有的连接数量

### 4.1.2 重要的方法 ###

·GetNumberOfConnections()

返回连接数

·CString GetHostAdress(ClientContext\* p)

返回给定客户端Context的主机地址

·BOOL ASendToAll(CIOCPBuffer \*pBuff);

发送buffer中的内容给所有的客户端。

·DisconnectClient(CString sID)

与一个给定唯一标示号的客户端断开连接

·CString GetHostIP()

返回本地IP地址

·JobItem\* GetJob()

从队列中移除JobItem，如果没有任务的话将会返回NULL

·BOOL AddJob(JobItem \*pJob)

添加任务到队列中

·BOOL SetWorkers(int nThreads)

设置在任何时刻能被调用的逻辑工作线程数量

·DisconnectAll();

断开所有的客户端

·ARead(…)

创建一个异步读取

·ASend(…)

创建一个异步发送。发送数据到客户端

·ClientContext\* FindClient(CString strClient)

根据给定的字符串ID查找客户端。不是线程安全的

·DisconnectClient(ClientContext\* pContext, BOOL bGraceful=FALSE);

断开一个客户端

·DisconnectAll()

断开所有已有的连接

·StartSendFile(ClientContext \*pContext)

发送ClientContext结构中声明的文件，通过使用优化的transmitfile(…)方法

·PrepareReceiveFile(..)

准备一个接收文件的连接，当你调用这个方法时，所有接收的字节将写入到一个文件

·PrepareSendFile(..)

打开一个文件以及发送一个包含文件信息的包到远程连接。这个方法也会把Asread(…)禁用掉，直到文件被传送完成或者终止。

·DisableSendFile(..)

禁用文件发送模式

·DisableRecevideFile(..)

禁用接收模式

## 5.1 文件传输 ##

文件传输使用过Winsock 2.0的TransmitFile方法完成的。 TransmitFile方法使用一个已经连接的socket句柄进行传输文件数据。这个方法使用操作系统的缓存管理器（cache manager）来接收文件数据，他提供了基于socket的高性能文件数据传输。当我们使用异步文件传输时，这里几个需要注意的地方：

·除非TransmitFile方法返回，不能在该socket上进行读取和写入，因为这样会损坏文件。因此，所有在PrepareSendFile()之后对ASend的调用都会禁用掉。

·因为操作系统是有序读取文件数据的，你可以通过使用FILE\_FLAG\_SEQUENTIAL\_SCAN去打开文件句柄来提高缓存的性能。

·当发送文件时，我们使用内核的异步例程调用（TF\_USE\_KERNEL\_APC）.使用TF\_USE\_KERNEL\_APC可以获得很好的性能。当我们在Context TransmitFile初始化时使用的线程使用非常繁重的计算任务时，这有可能会阻止APCs的执行。

文件传输是以下面的顺序运作的：服务器通过调用PrepareSendFile(…)初始化文件传输。当客户端接收到文件的信息时，他会调用PrepareReceiveFile(...) ,然后发送一个包给服务器去开始文件传输。当一个包到达服务器时，服务器调用StartSendFile(…)方法，这个犯非法使用了高性能的TransmitFile(…)方法去传输特定的文件。

## 6 源代码例子 ##

提供的源代码例子时一个echo客户端/服务器应用程序，他可以支持文件传输（见图4）。在源代码中，类MyIOCP继承自IOCP,他通过在4.1.1节中提到的使用虚方法处理客户端和服务器端的交互。

客户端或者服务器端最重要的部分是NotifyReceivePackage,如下所示：

void MyIOCP::NotifyReceivedPackage(CIOCPBuffer \*pOverlapBuff,

int nSize,ClientContext \*pContext)

BYTE PackageType=pOverlapBuff->GetPackageType();

switch (PackageType)

case Job\_SendText2Client :

Packagetext(pOverlapBuff,nSize,pContext);

break;

case Job\_SendFileInfo :

PackageFileTransfer(pOverlapBuff,nSize,pContext);

break;

case Job\_StartFileTransfer:

PackageStartFileTransfer(pOverlapBuff,nSize,pContext);

break;

case Job\_AbortFileTransfer:

DisableSendFile(pContext);

break;\};

该方法处理接收到的消息以及执行由远程连接发送的请求。在本例中，他只是简单的echo或者文件传输而已。源代码被非常两个项目，IOCP和 IOCPClient, 一个是服务器端的连接而另外一个时客户端的连接。

## 6.1 编译上的问题 ##

当使用VC++ 6.0  或者 .NET时，你可能会在使用CFile时得到一些奇怪的错误，如：

“if (pContext->m\_File.m\_hFile !=

INVALID\_HANDLE\_VALUE) <-error C2446: '!=' : no conversion "

"from 'void \*' to 'unsigned int'”

这个问题可以通过更新头文件或者你的VC++6.0版本来避免，或者改一下类型转换错误。在一些修改之后，服务器/客户端代码是可以在没有MFC时使用的。

## 7. 特殊的考虑以及首要原则 ##

当你在其他类型的应用程序中使用这个代码时，你可能会遇到一些跟本代码相关的陷阱以及“多线程编程”的陷阱。非确定性的错误时那些随机发生的错误，通过相同的一系列操作是很难重现这些非确定性的错误的。这些错误是已存在的错误中最糟糕的类型，同时通常他们时因为在核心设计的编码实现时产生的。当服务器执行多个IO工作线程时，为连接的客户端服务，如果程序员没有很好的搞清楚多线程环境下的编码问题，非确定性错误如非法访问可能就会发生。

原则1

在没有使用context lock(如下面的例子)对客户端Context(如ClientContext)进行加锁时，不要读取/写入。提示（Notification）方法(如 nofity\* (ClientContext \* pContext))已经是“线程安全”的了，你可以在不对context进行加锁的情况下访问ClientContext的成员。

//…同时，记住当你加锁一个Context时，其他的线程或者GUI可能会进行等待。

原则2：

避免或者在”context lock”中具有复杂的“context locks”或者其他类型锁的代码中“特殊考虑”，因为这有可能会引起死锁（比如，A等待B，而B等待C,C等待A =>死锁）。

上面的代码会引起死锁。

原则3：

不要在Notification方法外访问Client Context(比如，Notify\*(ClientContext \* pContext)).如果你你要这么做，你必须使用m\_ContextMapLock.Lock();…m\_ContstMapLock.Unlock();代码如下：

## 8 改进 ##

将来该代码会做出以下的更新：

1.AcceptEX()方法，接收一个新的连接将会被添加到源代码，该方法去处理短连接以及DOS攻击。

2.源代码将会被移植到其他平台，如Win32,STL,WTL

## 9 FAQ ##

Q1: 内存使用量（服务器程序）将会在客户端连接增加的时候稳定的增加，这可以从任务管理器看到。然而即使客户端断线时，内存使用量还是没有下降，这是怎么回事？

A1：代码会重用已经分配的buffers而不是不断释放和分配。你可以通过改变参数iMaxNumberOfFreeBuffer和 iMaxNumberOfFreeContext来改变这种方式，请阅读3.8.1节。

Q2：我在.NET环境下编译时遇到以下的错误：“error C2446:’!=’ no conversion from 'unsigned int' to 'HANDLE'”等等，这是怎么回事？

A2：这是因为SDK不同的头文件造成的。只要把他转换成HANDLE编译器就可以让你通过了。你也可以这是删除一行代码 \#define TRANSFERFILEFUNCTIONALITY然后再编译一下。

Q3：源代码可以在没有MFC的情况下使用吗？纯Win32或者在一个服务里面？

A3：源代码只是暂时使用了GUI开发的。我开发这个客户端/服务器解决方案时使用了MFC环境作为GUI。当然，你可以在一个通常的服务器环境下使用他。很多人已经这么做了。只要把MFC相关的东西，如CString,CPtrList等等移走，用Win32的类去替换。我其实也不喜欢MFC，如果你改变的代码，请发一份给我，谢谢。

Q4：做得太好了！谢谢你所做的工作，你会在什么时候不是在监听线程中实现AcceptEX(…)？

A4：当代码稳定后。现在他已经很稳定了，但是我知道一些IO工作线程和挂起的读操作的整合可能会导致一些问题。我很高兴你喜欢我的代码，请投我一票！

Q5：为什么启动多个IO工作线程？如果你没有多线程机器的话就没有必要了？

A5：不，没有必要开启多个IO工作线程。只要一个线程就能处理所有的连接。一般的家庭计算机中，一个工作线程就可以有最佳的表现。你也不需要考虑潜在的非法访问。但是当计算机变得越来越强大的时候（比如超线程，双核等等）多线程的可能性为什么不会有？

Q6：为什么使用多个挂起的读操作？他有什么优势？

A6：这取决都与开发者进行服务器开发采取的策略，也就是说“许多并发连接”还是“高吞吐量服务器”。拥有多个挂起的读操作增加了服务器的吞吐量，这是因为TCP/IP包将会被直接写到我们传入的buffer而不是TCP/IP栈（不会有双缓冲）。如果服务器知道客户端突然发送了大量数据，多个挂起的读操作可以提高性能（高吞吐量）。然而，每个挂起的接收操作（使用WSARevc()）会强迫内核去锁住接收buffers进入非换页池。这在物理内存满时（很多并发连接时产生）就会引起WSAENBUFFERS错误。这必须被考虑进去。再者，如果你使用多于一个IO工作线程，访问包的顺序就会被打乱（因为IOCP的结构），这样就需要额外的工作去维护顺序以便不用多个挂起的读操作。在这个设计中，当IO工作线程的数量大于1个时，多个挂起的读操作是被关闭的，这样就可以不需要处理重排序（重排序的话，序列号是必须在负载中存在的）。

Q7：在先前的文章中，你提到我们使用VirtualAlloc方法而不是new实现内存管理,为什么你没有实现呢？

A7：当你使用new来分配内存时，内存会被分配在虚拟内存或者物理内存。到底内存被分配到什么地方时不知道的，内存可以被分配到两个页面上。这意味着当我们访问一个特定的数据时，我们加载了太多的内存到物理内存。再者，你不知道内存是在虚拟内存还是物理内存，你也不能够高数系统什么时候“写回到磁盘中是不需要的（如果我们在内存中已经不再关心该数据）。但是请注意！任何使用VirtualAlloc\*的new分配都将会填满到64kB（页面文件大小）所以你如果你分配一个新的VAS绑定到物理内存，操作系统将会消耗一定量的物理内存去达到页面大小，这将会消耗VAS去执行填满到64kB。使用VirtualAlloc会比较麻烦： new 和 malloc 在内部使用了 virtualAlloc，但是每次你使用new/delete分配内存时，很多其他的计算就会被完成，而你不需要控制你的数据（彼此关联的数据）刚好在相同的页面（而不是跨越了两个页面）。我发现相对于代码的复杂度来说，我能获得的性能提高的非常小的。

## 10 References ##

“Developing a Truly Scalable Winsock Server using IO Completion Ports”, norm.NET, Writing scalable server applications using IOCP, 22/03/2005.

“Windows Sockets 2.0: Write Scalable Winsock Apps Using Completion Ports”, Anthony Jones & Amol Deshpande, 22/02/2005.

“A reusable, high performance, socket server class - Part 1-6”, Len Holgate, A reusable, high performance, socket server class - Part 1, JetByte Limited, jetbyte.

## 11 Revision History ##

Version 1.0 - 2005-05-10

Initial public release.

Version 1.1 - 2005-06-13

Fixed some memory leakage (e.g., ~CIOCPBuffer()).

TransmitFile is now optional in the source code (by using \#define TRANSFERFILEFUNCTIONALITY).

Some extra functions are added (by using \#define SIMPLESECURITY).

Version 1.11 - 2005-06-18

Changes in IOCPS::ProcessPackage(…) to avoid access violation.

Error in CIOCPBuffer::Flush(..) fixed.

Changes in IOCPS::Connect(..) to release socket when an error occurs.

Version 1.12 - 2005-11-29

Changes in IOCPS::OnWrite(….) to avoiding entering an infinite loop.

Changes in OnRead(…) and OnZeroByteRead (…) to avoid access violation if memory is full and AllocateBuffer fails.

Changes in OnReadCompleted(…) to avoid access violation.

Changes in AcceptIncomingClient(..) to better handle a new connection when the maximum number of connections is reached.

Version 1.13 - 2005-12-29

ReleaseBuffer(…) added to ARead(..), ASend(..), AZeroByteRead(..) to avoid memory leakage.

Changes in DisconnectClient(…) and ReleaseClientContext(…) to avoid “duplicate key” error when clients rapidly connect and disconnect.

Changes in IOWorkerThreadProc(…), OnWrite(ClientContext \*pContext,…), etc. to avoid buffer leakage.

Changes in DisconnectClient( unsigned int iID) to avoid access violation.

Added EnterIOLoop(..)/ExitIPLoop(..) to StartSendFile(..) and OnTransmitFileCompleted(..) to avoid access violation.

Some unessential error messages removed from the release mode, and additional debug information (e.g., TRACE(..) ) added to the source code in debug mode.

The function AcceptIncomingClients(..) changed and replaced with AssociateIncomingClientWithContext(..).

The Connect(..) function now uses AssociateIncomingClientWithContext(..).

Transfer file functions are now completely optional by making \#define TRANSFERFILEFUNCTIONALITY.

Changes in DisableSendFile(..)and other file transfer functions, to avoid access violation.

Some unnecessary functions and comments removed from the source code. Appropriate functions are now made private, protected, or public.

Several functions are now “inlined” to avoid the overhead of calling a function and for gaining performance.

Removed and replaced EnterIOLoop(..) and other code in OnWrite(ClientContext \*pContext,…) to avoid access violations. Information is in the source code.

Added "random disconnect" to demo server, and "auto reconnect" to demo client, plus additional cleanup in the demo project, and I now follow my own advices. :=)

Version 1.14 - 2006-02-18

Changes in IOWorkerThreadProc(LPVOID pParam)to avoid memory leakage (e.g., new ClientContext) on shutdown ("bug" detected by Maxim Y. Mluhov).

Small changes in OnReadCompleted(..).

Small change in IOCPS::DisconnectIfIPExist(..), to gain performance (fix by spring).

Small change in CIOCPBuffer::Flush(...) (fix by spring).

When using multiple pending reads (e.g., m\_iNumberOfPendlingReads>1) with multiple I/O workers (e.g., m\_iMaxIOWorkers>1), the order of the packages is broken. Temporary fix added to IOCPS::startup() (e.g., if(m\_iMaxIOWorkers>1) m\_iNumberOfPendlingReads=1;).

Updated section 8 and 6.3.2 in the article.

Version 1.15 - 2006-06-19

Changes in the CIOCPBuffer class and AllocateBuffer(..). Now, all the memory allocation/de –allocation is made on the heap using new/delete and VirtualAlloc(..) is not used (read question 7 for more information).

Changes in IOCPS::OnInitialize(..) to avoid WSAENOBUFS, exchanged the order of the ARead(..), AZeroByteRead(..).

Multiple pending read removed when multiple I/O workers are used. (Temporary fix is now permanent fix, read A6 and Q6.)

The \#define SIMPLESECURITY functions are used inside the ConnectAcceptCondition(..) with the SO\_CONDITIONAL\_ACCEPT parameter using WSAAccept(..), increasing security. We can refuse connections in a lower level in the kernel (not sending ACK => the attacker thinks that the server is down).

IsAlreadyConnected(..) and IsInBannedList(..) replacing DisconnectIfIPExist(..) and DisconnectIfBanned(..) because of optimization, the IP compare is using sockaddr\_in instead of string compare.

Version 1.16 - 2008-12-08

FIX: Changes in IOCPS::GetNextReadBuffer(ClientContext \*pContext, CIOCPBuffer \*pBuff) to avoid memory leak with CMap.

FIX: AllocateBuffer() can return NULL pointer in the following code in method IOCPS::ARead()

FIX: Socket leakage in IOCPS::AssociateIncomingClientWithContext(SOCKET clientSocket) on shutdown.

## 12 Other IOCP implementations using this source code ##

[Build your own cryptographically safe server/client protocol][Build your own cryptographically safe server_client protocol], 2006-06-19, Amin Gholiha.

License

This article, along with any associated source code and files, is licensed under[The Code Project Open License (CPOL)][The Code Project Open License _CPOL]

## About the Author作者简介 ##

spinoza 斯宾诺莎

Amin Gholiha.阿明Gholiha。

Education:教育：

\- Master of Science in Information Technology. -科学硕士在信息技术。

\- Degree of Master of Education. -硕士学位教育。

Knowledge/interest: programming (.NET,Visual, C\#/C++), neural network, mathematical modeling, signal processing, sequence analysis, pattern recognition,robot technology, system design, security and business management systems.知识/兴趣：编程（。 NET中，视觉， C＃中/ C + +中），神经网络，数学建模，信号处理，序列分析，模式识别，机器人技术，系统设计，安全和业务管理系统。 For business proposal email Gholiha@rocketmail.com, all other emails will be ignored.对于企业提出的电子邮件Gholiha@rocketmail.com，所有其他的电子邮件将被忽略。

Current Work:当前的工作：

Project Manager / Developer项目经理/开发

www.iba-worldwide.com www.iba - worldwide.com

Occupation:职业： Program Manager项目经理

Company:公司： Iba伊巴

Location:地点：瑞典 Sweden 瑞典

[http_www.codeproject.com_Articles_10330_A-simple-IOCP-Server-Client-Class]: http://www.codeproject.com/Articles/10330/A-simple-IOCP-Server-Client-Class
[http_www.codeproject.com_KB_IP_iocp_server_client_IOCP-Demo.zip]: http://www.codeproject.com/KB/IP/iocp_server_client/IOCP-Demo.zip
[http_www.codeproject.com_KB_IP_iocp_server_client_IOCP-SRC.zip]: http://www.codeproject.com/KB/IP/iocp_server_client/IOCP-SRC.zip
[http_blog.csdn.net_witch_soya_article_details_6978856]: http://blog.csdn.net/witch_soya/article/details/6978856
[http_blog.csdn.net_dongzhongshu_article_details_5645179]: http://blog.csdn.net/dongzhongshu/article/details/5645179
[http_blog.csdn.net_babelan_article_details_4588608]: http://blog.csdn.net/babelan/article/details/4588608
[http_820808.blog.51cto.com_328558_66664]: http://820808.blog.51cto.com/328558/66664
[http_820808.blog.51cto.com_328558_68200]: http://820808.blog.51cto.com/328558/68200
[Build your own cryptographically safe server_client protocol]: http://www.codeproject.com/Articles/14462/Build-your-own-cryptographically-safe-server-clien
[The Code Project Open License _CPOL]: http://www.codeproject.com/info/cpol10.aspx