常见的多线程并发服务器设计模型

淩亂°似流年 2022-05-08 01:58 336阅读 0赞

**一、3点基础知识**

1、一个主机的端口号为所有进程所共享，但普通用户进程绑定不了一些特殊端口号如20、80等。

2、每个进程都有自己的文件描述符（包括file fd, socket fd, timer fd, event fd, signal fd），一般是1024，可以通过ulimit -n 设置，但所有进程打开的文件描述符总数有上限，跟主机的内存有关。

3、一个进程内的所有线程共享进程的文件描述符。

**二、常见并发服务器方案：**

**1、循环式/迭代式( iterative )服务器**  
无法充分利用多核CPU，不适合执行时间较长的服务，即适用于短连接。如果是长连接则需要在read/write之间循环，那么只能服务一个客户端。

![Center][]

**2、并发式(concurrent)服务器**  
one connection per process/one connection per thread

适合执行时间比较长的服务

![Center 1][]![Center 2][]

one connection per process : 主进程每次fork 之后要关闭connfd，子进程要关闭listenfd

one connection per thread : 主线程每次accept 回来就创建一个子线程服务，由于线程共享文件描述符，故不用关闭。

**3、prefork or pre threaded**（UNP2e 第27章）（容易发生“惊群”现象，即多个子进程都处于accept状态）

![Center 3][]

**4、反应式( reactive )服务器 (reactor模式)（select/poll/epoll）**  
并发处理多个请求，实际上是在一个线程中完成。无法充分利用多核CPU  
不适合执行时间比较长的服务，所以为了让客户感觉是在“并发”处理而不是“循环”处理，每个请求必须在相对较短时间内执行。

![Center 4][]

5、reactor + thread per request（过渡方案）

6、reactor + worker thread（过渡方案）

**7、reactor + thread pool**（能适应密集计算）

![Center 5][]

**8、multiple reactors（能适应更大的突发I/O）**

reactors in threads（one loop per thread）  
reactors in processes

一般来说一个subReactor适用于一个千兆网口

![Center 6][]

**9、multiple reactors + thread pool**（one loop per thread + threadpool）（突发I/O与密集计算）

subReactor可以有多个，但threadpool只有一个。

![Center 7][]

10、proactor服务器(proactor模式，基于异步I/O)

> 理论上proactor比reactor效率要高一些
> 
> 异步I/O能够让I/O操作与计算重叠。充分利用DMA特性。
> 
> Linux异步IO

> > glibc aio（aio\_\*），有bug
> 
> > kernel native aio（io\_\*），也不完美。目前仅支持 O\_DIRECT 方式来对磁盘读写，跳过系统缓存。要自已实现缓存，难度不小。

> boost asio实现的proactor，实际上不是真正意义上的异步I/O，底层是用epoll来实现的，模拟异步I/O的。

![Center 8][]

**常见并发服务器方案比较：**

![Center 9][]

本文来自 鱼思故渊 的CSDN 博客 ，全文地址请点击：https://blog.csdn.net/yusiguyuan/article/details/17591613?utm\_source=copy

[Center]: /images/20220508/0a2b6dcc34bc4a5097c39d6a21b3477a.png
[Center 1]: https://img-blog.csdn.net/20131104211821140?watermark/2/text/aHR0cDovL2Jsb2cuY3Nkbi5uZXQvam51X3NpbWJh/font/5a6L5L2T/fontsize/400/fill/I0JBQkFCMA==/dissolve/70/gravity/Center
[Center 2]: /images/20220508/ad56ab0050574cd6a6e5b9bd43d0b93b.png
[Center 3]: /images/20220508/8adf837d7a814116ac140cc20f54dfe3.png
[Center 4]: /images/20220508/202df1518c2549fc90888d263ab2e717.png
[Center 5]: /images/20220508/fd93eb1280e14622a5f1a37f8a76fa05.png
[Center 6]: /images/20220508/6670ad4368dd4ce28fb9ad955219d8f6.png
[Center 7]: /images/20220508/19b0b20adb2a4dcaa0ba32aea1d12520.png
[Center 8]: /images/20220508/5b7817c40d7b4415a782af7f150407b8.png
[Center 9]: /images/20220508/10cf6fd4628446a49b6c3c06d6ad4260.png