[轉載]IOCP模型的總結

原文：

IOCP模型的總結

IOCP（I/O Completion Port，I/O完成端口）是性能最好的一種I/O模型。它是應用程式使用線程池處理異步I/O請求的一種機制。在處理多個并發的異步I/O請求時，以往的模型都是在接收請求是建立一個線程來應答請求。這樣就有很多的線程并行地運作在系統中。而這些線程都是可運作的，Windows核心花費大量的時間在進行線程的上下文切換，并沒有多少時間花線上程運作上。再加上建立新線程的開銷比較大，是以造成了效率的低下。 

而IOCP模型是事先開好了N個線程，存儲線上程池中，讓他們hold。然後将所有使用者的請求都投遞到一個完成端口上，然後N個工作線程逐一地從完成端口中取得使用者消息并加以處理。這樣就避免了為每個使用者開一個線程。既減少了線程資源，又提高了線程的使用率。 

完成端口模型是怎樣實作的呢？我們先建立一個完成端口（::CreateIoCompletioPort()）。然後再建立一個或多個工作線程，并指定他們到這個完成端口上去讀取資料。我們再将遠端連接配接的套接字句柄關聯到這個完成端口（還是用::CreateIoCompletionPort()）。一切就OK了。 

工作線程都幹些什麼呢？首先是調用::GetQueuedCompletionStatus()函數在關聯到這個完成端口上的所有套接字上等待I/O的完成。再判斷完成了什麼類型的I/O。一般來說，有三種類型的I/O，OP_ACCEPT，OP_READ和OP_WIRTE。我們到資料緩沖區内讀取資料後，再投遞一個或是多個同類型的I/O即可（::AcceptEx()、::WSARecv()、::WSASend()）。對讀取到的資料，我們可以按照自己的需要來進行相應的處理。 

為此，我們需要一個以OVERLAPPED（重疊I/O）結構為第一個字段的per-I/O資料自定義結構。 

typedef struct _PER_IO_DATA

{

         OVERLAPPED ol;      // 重疊I/O結構 

         char buf[BUFFER_SIZE];  // 資料緩沖區 

         int nOperationType;         //I/O操作類型 

#define OP_READ 1

#define OP_WRITE 2

#define OP_ACCEPT 3

} PER_IO_DATA, *PPER_IO_DATA; 

将一個PER_IO_DATA結構強制轉化成一個OVERLAPPED結構傳給::GetQueuedCompletionStatus()函數，傳回的這個PER_IO_DATA結構的的nOperationType就是I/O操作的類型。當然，這些類型都是在投遞I/O請求時自己設定的。 

這樣一個IOCP伺服器的架構就出來了。當然，要做一個好的IOCP伺服器，還有考慮很多問題，如記憶體資源管理、接受連接配接的方法、惡意的客戶連接配接、包的重排序等等。以上是個人對于IOCP模型的一些了解與看法，還有待完善。另外各Winsock API的用法參見MSDN。

補充IOCP模型的實作： 

//建立一個完成端口

FCompletPort := CreateIoCompletionPort( INVALID_HANDLE_VALUE, 0,0,0 ); 

//接受遠端連接配接，并把這個連接配接的socket句柄綁定到剛才建立的IOCP上

AConnect := accept( FListenSock, addr, len);

CreateIoCompletionPort( AConnect, FCompletPort, nil, 0 ); 

//建立CPU數*2 + 2個線程

for i:=1 to si.dwNumberOfProcessors*2+2 do

begin

  AThread := TRecvSendThread.Create( false );

  AThread.CompletPort := FCompletPort;//告訴這個線程，你要去這個IOCP去通路資料

end; 

OK，就這麼簡單，我們要做的就是建立一個IOCP，把遠端連接配接的socket句柄綁定到剛才建立的IOCP上，最後建立n個線程，并告訴這n個線程到這個IOCP上去通路資料就可以了。 

再看一下TRecvSendThread線程都幹些什麼： 

procedure TRecvSendThread.Execute;

var

  ......

  while (not self.Terminated) do

  begin

    //查詢IOCP狀态（資料讀寫操作是否完成）

    GetQueuedCompletionStatus( CompletPort, BytesTransd, CompletKey, POVERLAPPED(pPerIoDat), TIME_OUT ); 

    if BytesTransd <> 0  then

       ....;//資料讀寫操作完成 

    //再投遞一個讀資料請求

    WSARecv( CompletKey, @(pPerIoDat^.BufData), 1, BytesRecv, Flags, @(pPerIoDat^.Overlap), nil );

  end;

讀寫線程隻是簡單地檢查IOCP是否完成了我們投遞的讀寫操作，如果完成了則再投遞一個新的讀寫請求。

應該注意到，我們建立的所有TRecvSendThread都在通路同一個IOCP（因為我們隻建立了一個IOCP），并且我們沒有使用臨界區！難道不會産生沖突嗎？不用考慮同步問題嗎？

呵呵，這正是IOCP的奧妙所在。IOCP不是一個普通的對象，不需要考慮線程安全問題。它會自動調配通路它的線程：如果某個socket上有一個線程A正在通路，那麼線程B的通路請求會被配置設定到另外一個socket。這一切都是由系統自動調配的，我們無需過問。