彻底理解 IO 多路复用实现机制

待我称王封你为后i 2022-11-22 10:24 234阅读 0赞

### 什么是多路复用 ###

IO 多路复用中多路是指网络连接，复用指的是同一个线程，可以理解为一个线程管理多个连接，是一种同步IO模型，实现一个线程可以监视多个文件句柄；一旦某个文件句柄就绪，就能够通知应用程序进行相应的读写操作；没有文件句柄就绪就会阻塞应用程序，交出CPU。这种机制的使用需要额外的功能来配合： select、poll、epoll。

### 为什么需要多路复用 ###

多路复用还是提高效率，节省时间，怎么节约时间呢？在多路复用之前，我们看下网络模型是怎么样的？基于这张神图：  
![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3JhbmRvbXBlb3BsZQ_size_16_color_FFFFFF_t_70]  
这是阻塞IO 模型（Blocking IO ），应用跟操作系统交互 请求读取数据，这个时候操作系统要开始读取数据，一直到数据先加载到kernel buff中，然后从kernel复制到user空间，这样应用系统就读取到了。这全程都是一个线程处理，并且应用也一直在等待，那如果一个应用要读取多个数据呢？那就一个一个排队，不是并发的操作。

那肯定就有人说了，能不能快点？能不能不阻塞，于是就有了Non-Blocking IO ，看看图：  
![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3JhbmRvbXBlb3BsZQ_size_16_color_FFFFFF_t_70 1]  
这里就是应用不停的去请求内核，数据准备好了没，不停的请求，数据准备好了就return OK，这样不会被阻塞，但会不停的请求，消耗cpu。那就有没有系统来通知我数据准备好了，这样我就不需要每次请求内核，于是就有了多路复用（IO Multiplexing ），看看图：  
![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3JhbmRvbXBlb3BsZQ_size_16_color_FFFFFF_t_70 2]  
这样就可以不用每次都请求数据了，但要请求2次才能拿到数据，不过另一个好处就是可以多次select请求，然后那个请求数据好了，就recvfrom 处理数据，不过这里可以看到第一个wait for data 是非阻塞的，不用占用应用，但第二个 copy 到 user 是需要阻塞的，总体来说虽然没有节约系统准备数据的时间，但多路复用可以复用一个线程来发送select请求，多个线程来处理已经就绪的数据，将请求和接受数据形成两个操作，并且解耦。附属上总的IO模型的概念图：  
![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3JhbmRvbXBlb3BsZQ_size_16_color_FFFFFF_t_70 3]

### 多路复用机制 ###

多路复用的实现主要是利用单线程采用select\\poll\\epoll等等系统调用获取 fd 列表，遍历有事件的 fd 进行 accept/recv/send ，使其能支持更多的并发连接请求。其中select、poll，epoll本质上都是同步I/O，因为他们都需要在读写事件就绪后自己负责进行读写FD，读写过程是阻塞的，这三种方法区别获取fd的方式上。

### 前提知识：文件描述符FD ###

文件描述符（File descriptor）是计算机科学中的一个术语，是一个用于表述指向文件的引用的抽象化概念。文件描述符在形式上是一个非负整数。实际上，它是一个索引值，指向内核为每一个进程所维护的该进程打开文件的记录表。当程序打开一个现有文件或者创建一个新文件时，内核向进程返回一个文件描述符。在程序设计中，一些涉及底层的程序编写往往会围绕着文件描述符展开。但是文件描述符这一概念往往只适用于UNIX、Linux这样的操作系统。

### select缺点 ###

select本质上是通过设置或者检查存放fd标志位的数据结构来进行下一步处理。这样所带来的缺点是：

*  单个进程所打开的FD是有限制的，通过 FD\_SETSIZE 设置，默认1024 ;
 *  每次调用 select，都需要把 fd 集合从用户态拷贝到内核态，这个开销在 fd 很多时会很大；  
    需要维护一个用来存放大量fd的数据结构，这样会使得用户空间和内核空间在传递该结构时复制开销大
 *  对 socket 扫描时是线性扫描，采用轮询的方法，效率较低（高并发）  
    当套接字比较多的时候，每次select()都要通过遍历FD\_SETSIZE个Socket来完成调度,不管哪个Socket是活跃的,都遍历一遍。这会浪费很多CPU时间。如果能给套接字注册某个回调函数，当他们活跃时，自动完成相关操作，那就避免了轮询，这正是epoll与kqueue做的。

### poll缺点 ###

poll本质上和select没有区别，它将用户传入的数组拷贝到内核空间，然后查询每个fd对应的设备状态， 但是它没有最大连接数的限制，原因是它是基于链表来存储的，它没有最大连接数的限制，原因是它是基于链表来存储的，但是同样有缺点：

*  每次调用 poll ，都需要把 fd 集合从用户态拷贝到内核态，这个开销在 fd 很多时会很大；
 *  对 socket 扫描是线性扫描，采用轮询的方法，效率较低（高并发时）

### epoll缺点 ###

epoll可以理解为event poll，不同于忙轮询和无差别轮询，epoll会把哪个流发生了怎样的I/O事件通知我们。所以我们说epoll实际上是\*\*事件驱动（每个事件关联上fd）的，此时我们对这些流的操作都是有意义的。  
epoll的优点：

*  没有最大并发连接的限制，能打开的FD的上限远大于1024（1G的内存上能监听约10万个端口）；  
    效率提升，不是轮询的方式，不会随着FD数目的增加效率下降。只有活跃可用的FD才会调用callback函数；即- Epoll最大的优点就在于它只管你“活跃”的连接，而跟连接总数无关，因此在实际的网络环境中，Epoll的效率就会远远高于select和poll；
 *  内存拷贝，利用mmap()文件映射内存加速与内核空间的消息传递；即epoll使用mmap减少复制开销。

epoll缺点：

*  epoll只能工作在 linux 下

### 参考博客 ###

[彻底理解 IO 多路复用实现机制][IO]  
[Linux 网络编程的5种IO模型：多路复用(select/poll/epoll)][Linux _5_IO_select_poll_epoll]  
[知乎：怎么理解多路复用][Link 1]

[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3JhbmRvbXBlb3BsZQ_size_16_color_FFFFFF_t_70]: /images/20221120/1bb772a1feee416a896933a1b9ff9d87.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3JhbmRvbXBlb3BsZQ_size_16_color_FFFFFF_t_70 1]: /images/20221120/54d358b5230849d5b37103ff81556f6d.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3JhbmRvbXBlb3BsZQ_size_16_color_FFFFFF_t_70 2]: /images/20221120/ef09bc2ac1684e70bc9addbaae765828.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3JhbmRvbXBlb3BsZQ_size_16_color_FFFFFF_t_70 3]: /images/20221120/a2addb9f01d34a5e9524c4a62d99fbad.png
[IO]: https://juejin.im/post/6882984260672847879#heading-7
[Linux _5_IO_select_poll_epoll]: https://www.cnblogs.com/schips/p/12568408.html
[Link 1]: https://www.zhihu.com/question/28594409