Linux下I/O多路复用系统调用(select, poll, epoll)介绍

╰半橙微兮° 2022-03-27 02:28 230阅读 0赞

转自：[https://zhuanlan.zhihu.com/p/22834126][https_zhuanlan.zhihu.com_p_22834126]

## **1. 概念引入** ##

I/O多路复用（multiplexing）的本质是通过一种机制（系统内核缓冲I/O数据），让单个进程可以监视多个文件描述符，一旦某个描述符就绪（一般是读就绪或写就绪），能够通知程序进行相应的读写操作。

Linux中基于socket的通信本质也是一种I/O，使用socket()函数创建的套接字默认都是阻塞的，这意味着当sockets API的调用不能立即完成时，线程一直处于等待状态，直到操作完成获得结果或者超时出错。会引起阻塞的socket API分为以下四种：

*  输入操作： recv()、recvfrom()。以阻塞套接字为参数调用该函数接收数据时，如果套接字缓冲区内没有数据可读，则调用线程在数据到来前一直睡眠。
 *  输出操作： send()、sendto()。以阻塞套接字为参数调用该函数发送数据时，如果套接字缓冲区没有可用空间，线程会一直睡眠，直到有空间。
 *  接受连接：accept()。以阻塞套接字为参数调用该函数，等待接受对方的连接请求。如果此时没有连接请求，线程就会进入睡眠状态。
 *  外出连接：connect()。对于TCP连接，客户端以阻塞套接字为参数，调用该函数向服务器发起连接。该函数在收到服务器的应答前，不会返回。这意味着TCP连接总会等待至少服务器的一次往返时间。

使用阻塞模式的套接字编写网络程序比较简单，容易实现。但是在服务器端，通常要处理大量的套接字通信请求，如果线程阻塞于上述的某一个输入或输出调用时，将无法处理其他任何运算或响应其他网络请求，这么做无疑是十分低效的，当然可以采用多线程，但大量的线程占用很大的内存空间，并且线程切换会带来很大的开销。而I/O多路复用模型能处理多个connection的优点就使其**能支持更多的并发连接请求**。

Linux支持I/O多路复用的系统调用有select、poll、epoll，这些调用都是内核级别的。但select、poll、epoll本质上都是同步I/O，先是block住等待就绪的socket，再block住将数据从内核拷贝到用户内存空间。基于select调用的I/O复用模型如下：

![v2-bae9d6368b741d17e09c791a664a43ba_hd.jpg][]

## **2. select, poll, epoll系统调用详解** ##

select，poll，epoll之间的区别如下图：

![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3BhbmdlMTk5MQ_size_16_color_FFFFFF_t_70][]

**2.1 select详解**

Linux提供的select相关函数接口如下：

#include <sys/select.h>
    #include <sys/time.h>
    
    int select(int max_fd, fd_set *readset, fd_set *writeset, fd_set *exceptset, struct timeval *timeout)
    FD_ZERO(int fd, fd_set* fds)   //清空集合
    FD_SET(int fd, fd_set* fds)    //将给定的描述符加入集合
    FD_ISSET(int fd, fd_set* fds)  //将给定的描述符从文件中删除  
    FD_CLR(int fd, fd_set* fds)    //判断指定描述符是否在集合中

1.  select函数的返回值就绪描述符的数目，超时时返回0，出错返回-1。
2.  第一个参数max\_fd指待测试的fd个数，它的值是待测试的最大文件描述符加1，文件描述符从0开始到max\_fd-1都将被测试。
3.  中间三个参数readset、writeset和exceptset指定要让内核测试**读、写**和**异常**条件的fd集合，如果不需要测试的可以设置为NULL。

整体的使用流程如下图：

![v2-ec35ba930d31f88b3a978c796fdfac95_hd.jpg][]

基于select的I/O复用模型的是单进程执行，占用资源少，可以为多个客户端服务。但是select需要轮询每一个描述符，在高并发时仍然会存在效率问题，同时select能支持的最大连接数通常受限。

**2.2 poll详解**

poll的机制与select类似，与select在本质上没有多大差别，管理多个描述符也是进行轮询，根据描述符的状态进行处理，但是poll没有最大文件描述符数量的限制。

Linux提供的poll函数接口如下：

#include <poll.h>
    int poll(struct pollfd fds[], nfds_t nfds, int timeout);
    
    typedef struct pollfd {
            int fd;                         // 需要被检测或选择的文件描述符
            short events;                   // 对文件描述符fd上感兴趣的事件
            short revents;                  // 文件描述符fd上当前实际发生的事件*/
    } pollfd_t;

1.  poll()函数返回fds集合中就绪的读、写，或出错的描述符数量，返回0表示超时，返回-1表示出错；
2.  fds是一个struct pollfd类型的数组，用于存放需要检测其状态的socket描述符，并且调用poll函数之后fds数组不会被清空；
3.  nfds记录数组fds中描述符的总数量；
4.  timeout是调用poll函数阻塞的超时时间，单位毫秒；
5.  一个pollfd结构体表示一个被监视的文件描述符，通过传递fds\[\]指示 poll() 监视多个文件描述符。其中，结构体的events域是监视该文件描述符的事件掩码，由用户来设置这个域，结构体的revents域是文件描述符的操作结果事件掩码，内核在调用返回时设置这个域。events域中请求的任何事件都可能在revents域中返回。

合法的事件如下：  
POLLIN 有数据可读   
POLLRDNORM 有普通数据可读  
POLLRDBAND 有优先数据可读  
POLLPRI 有紧迫数据可读   
POLLOUT 写数据不会导致阻塞   
POLLWRNORM 写普通数据不会导致阻塞 POLLWRBAND 写优先数据不会导致阻塞 POLLMSGSIGPOLL 消息可用  
当需要监听多个事件时，使用**POLLIN | POLLRDNORM**设置 events 域；当poll调用之后检测某事件是否发生时，**fds\[i\].revents & POLLIN**进行判断。

**2.3 epoll详解**

epoll在Linux2.6内核正式提出，是基于事件驱动的I/O方式，相对于select和poll来说，epoll没有描述符个数限制，使用一个文件描述符管理多个描述符，将用户关心的文件描述符的事件存放到内核的一个事件表中，这样在用户空间和内核空间的copy只需一次。优点如下：

1.  没有最大并发连接的限制，能打开的fd上限远大于1024（1G的内存能监听约10万个端口）
2.  采用回调的方式，效率提升。只有**活跃可用**的fd才会调用callback函数，也就是说 epoll 只管你“活跃”的连接，而跟连接总数无关，因此在实际的网络环境中，epoll的效率就会远远高于select和poll。
3.  内存拷贝。使用mmap()文件映射内存来加速与内核空间的消息传递，减少复制开销。

epoll对文件描述符的操作有两种模式：LT(level trigger，水平触发)和ET(edge trigger)。

*  **水平触发：**默认工作模式，即当epoll\_wait检测到某描述符事件就绪并通知应用程序时，应用程序可以不立即处理该事件；下次调用epoll\_wait时，会再次通知此事件。
 *  **边缘触发：**当epoll\_wait检测到某描述符事件就绪并通知应用程序时，应用程序必须立即处理该事件。如果不处理，下次调用epoll\_wait时，不会再次通知此事件。（直到你做了某些操作导致该描述符变成未就绪状态了，也就是说边缘触发只在状态由未就绪变为就绪时通知一次）。

ET模式很大程度上减少了epoll事件的触发次数，因此效率比LT模式下高。

Linux中提供的epoll相关函数接口如下：

#include <sys/epoll.h>
    int epoll_create(int size);
    int epoll_ctl(int epfd, int op, int fd, struct epoll_event *event);
    int epoll_wait(int epfd, struct epoll_event * events, int maxevents, int timeout);

1.  **epoll\_create**函数创建一个epoll句柄，参数size表明内核要监听的描述符数量。调用成功时返回一个epoll句柄描述符，失败时返回-1。
2.  **epoll\_ct**l函数注册要监听的事件类型。四个参数解释如下：  
    ![\\circ][circ] epfd表示epoll句柄；  
    ![\\circ][circ] op表示fd操作类型：**EPOLL\_CTL\_ADD**（注册新的fd到epfd中），**EPOLL\_CTL\_MOD**（修改已注册的fd的监听事件），**EPOLL\_CTL\_DEL**（从epfd中删除一个fd）  
    ![\\circ][circ] fd是要监听的描述符；  
    ![\\circ][circ] event表示要监听的事件  
    epoll\_event结构体定义如下：
    
        struct epoll_event {
            __uint32_t events;  /* Epoll events */
            epoll_data_t data;  /* User data variable */
        };
        
        typedef union epoll_data {
            void *ptr;
            int fd;
            __uint32_t u32;
            __uint64_t u64;
        } epoll_data_t;
3.  **epoll\_wait**函数等待事件的就绪，成功时返回就绪的事件数目，调用失败时返回 -1，等待超时返回 0。  
    ![\\circ][circ] epfd是epoll句柄  
    ![\\circ][circ] events表示从内核得到的就绪事件集合  
    ![\\circ][circ] maxevents告诉内核events的大小  
    ![\\circ][circ] timeout表示等待的超时事件

上述三个系统调用的实际实例可参考[IO多路复用：select、poll、epoll示例][IO_select_poll_epoll]和[Linux高性能服务器编程][Linux]。

## **3. 小结** ##

select的几大缺点：

*  （1）每次调用select，都需要把fd集合从用户态拷贝到内核态，这个开销在fd很多时会很大
 *  （2）同时每次调用select都需要在内核遍历传递进来的所有fd，这个开销在fd很多时也很大
 *  （3）select支持的文件描述符数量太小了，32位系统1024，64位系统2048

poll的实现和select非常相似，只是描述fd集合的方式不同，poll使用pollfd结构(链表结构)而不是select的fd\_set结构，所以连接数上没有限制，其他的都差不多。

epoll既然是对select和poll的改进，就应该能避免上述的三个缺点。那epoll都是怎么解决的呢？

*  对于第一个缺点，epoll的解决方案在epoll\_ctl函数中。每次注册新的事件到epoll句柄中时（在epoll\_ctl中指定EPOLL\_CTL\_ADD），会把所有的fd拷贝进内核，而不是在epoll\_wait的时候重复拷贝。epoll保证了每个fd在整个过程中只会拷贝一次。
 *  对于第二个缺点，epoll的解决方案不像select或poll一样每次都把current轮流加入fd对应的设备等待队列中，而只在epoll\_ctl时把current挂一遍（这一遍必不可少）并为每个fd指定一个回调函数，当设备就绪，唤醒等待队列上的等待者时，就会调用这个回调函数，而这个回调函数会把就绪的fd加入一个就绪链表）。epoll\_wait的工作实际上就是在这个就绪链表中查看有没有就绪的fd（利用schedule\_timeout()实现睡一会，判断一会的效果）。
 *  对于第三个缺点，epoll没有这个限制，它所支持的fd上限是最大可以打开文件的数目，这个数字一般远大于2048,举个例子,在1GB内存的机器上大约是10万左右，具体数目可以cat /proc/sys/fs/file-max察看,一般来说这个数目和系统内存关系很大。

epoll是Linux目前大规模网络并发程序开发的首选模型。在绝大多数情况下性能远超select和poll。目前流行的高性能web服务器Nginx正式依赖于epoll提供的高效网络套接字轮询服务。但是，在并发连接不高的情况下，多线程+阻塞I/O方式可能性能更好。

[https_zhuanlan.zhihu.com_p_22834126]: https://zhuanlan.zhihu.com/p/22834126
[v2-bae9d6368b741d17e09c791a664a43ba_hd.jpg]: /images/20220327/6d067a6104934fef93d79c0ecd35c8a8.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3BhbmdlMTk5MQ_size_16_color_FFFFFF_t_70]: /images/20220327/dbcb9ac7f83b48cfa1331cdcc865de92.png
[v2-ec35ba930d31f88b3a978c796fdfac95_hd.jpg]: /images/20220327/f11a37a5a87140c8bba18928d1eef5df.png
[circ]: /images/20220327/266af9e0bd3b4a579fced89ac533450e.png+
[IO_select_poll_epoll]: http://link.zhihu.com/?target=http%3A//blog.csdn.net/lisonglisonglisong/article/details/51328062
[Linux]: http://link.zhihu.com/?target=http%3A//blog.csdn.net/column/details/high-per-server.html