一、简介

介绍同步、异步、阻塞、非阻塞的区别。

介绍五中IO模型。

介绍IO多路复用使用的Ractor设计模式；介绍异步IO的Proactor设计模式，以及Proactor的流程。

IO模型的对比。

二、同步、异步、阻塞、非阻塞

1. 阻塞（blocking）VS非阻塞（non-blocking）

依读操作为例：当用户线程发起一个IO读请求时，内核会去查看要读取的数据是否就绪，对于阻塞IO来说，如果数据没有就绪，则会一直在那等待，直到数据就绪；对于非阻塞IO来说，如果数据没有就绪，则会返回一个标志信息告知用户线程当前要读的数据没有就绪，当数据就绪之后，再将数据拷贝到用户线程。

一个完整的IO读请求操作包括两个阶段：

²   查看数据是否就绪；

²   进行数据拷贝（内核将数据拷贝到用户线程）。

阻塞和非阻塞的区别就在于第一个阶段，如果数据没有就绪，在查看数据是否就绪的过程中是一直等待，还是直接返回一个标志信息。

2. 同步VS异步

同步与异步的区别在于线程执行时，一个线程执行时否会导致其他的线程暂时等待。同步一个线程执行时，其他线程全部暂停；异步一个线程执行时，其他线程不暂停。

同步IO：当用户发出IO请求操作之后，如果数据没有就绪，需要通过用户线程或者内核不断地去轮询数据是否就绪，当数据就绪时，再将数据从内核拷贝到用户线程；

异步IO：只有IO请求操作的发出是由用户线程来进行的，IO操作的两个阶段都是由内核自动完成，然后发送通知告知用户线程IO操作已经完成。也就是说在异步IO中，不会对用户线程产生任何阻塞。

三、IO模型

1. 同步阻塞IO（Blocking IO）

同步阻塞IO模型是最简单的IO模型，用户线程在内核进行IO操作时被阻塞。

用户线程通过系统调用read发起IO读操作，由用户空间转到内核空间。内核等到数据包到达后，然后将接收的数据拷贝到用户空间，完成read操作。

Java io从文件中读取内容或者向文件中写入数据均使用此模型；从sokect读取数据或者向socket中写入数据也使用此模型。

2. 同步非阻塞IO（Non-blocking IO）

同步非阻塞IO是在同步阻塞IO的基础上，将socket设置为NONBLOCK。这样做用户线程可以在发起IO请求后可以立即返回。

由于socket是非阻塞的方式，因此用户线程发起IO请求时立即返回。但并未读取到任何数据，用户线程需要不断地发起IO请求，直到数据到达后，才真正读取到数据，继续执行。

第一阶段：用户进程没有阻塞，也就是没有挂起，它一值在询问数据有没有到达kernel buffer中，忙等…；

第二个阶段：数据从kernel buffer复制到用户进程空间，是阻塞的。

这种IO模型会大量的占用CPU的时间，效率很低效，很少使用。

3. IO多路复用（IO Multiplexing / 异步阻塞IO）

IO多路复用模型是建立在内核提供的多路分离函数select，poll，epoll基础之上的，使用这些函数可以避免同步非阻塞IO模型中轮询等待的问题。

1) Rector模式

IO多路复用使用的是Reactor模式，我们先看一下Rector模式。

a) Handle

表示操作系统中的句柄，是对资源在操作系统层面上的一种抽象，它可以是打开的文件、一个连接(Socket)、Timer等。由于Reactor模式一般使用在网络编程中，因而这里一般指Socket Handle，即一个网络连接（Connection，在Java NIO中的Channel）。这个Channel注册到Synchronous Event Demultiplexer中，以监听Handle中发生的事件，对ServerSocketChannnel可以是CONNECT事件，对SocketChannel可以是READ、WRITE、CLOSE事件等。

b) EventHandler

表示IO事件处理器，它拥有IO文件句柄Handle（通过getHandle获取），以及对Handle的操作handleEvent（读/写等）。

继承于EventHandler的子类可以对事件处理器的行为进行定制。

c) Reactor类

用于管理EventHandler（注册、删除等），并使用handleEvents实现事件循环，不断调用同步事件多路分离器的多路分离函数select，只要某个文件句柄被激活（可读/写等），select就返回，handleEvents就会调用与文件句柄关联的事件处理器的handleEEvent进行相关操作。

d) Synchronous event demultiplexer

阻塞等待一系列的Handle中的事件到来。这个模块一般使用操作系统的select来实现,在Java NIO中用Selector来封装。当执行Selector.select()时会执行pollWrapper.poll()方法，此方法会调用native的epoll方法，当Selector.select()返回时，可以调用Selector的selectedKeys()方法获取Set<SelectionKey>，一个SelectionKey表达一个有事件发生的Channel以及该Channel上的事件类型。

2) 模型

通过Reactor的方式，可以将用户线程轮询IO操作状态的工作统一交给handleEvents事件循环进行处理。

用户线程注册事件处理器之后可以继续执行做其他的工作（异步），而Reactor线程负责调用内核的select函数检查socket状态。

当有socket被激活时，则通知相应的用户线程（或执行用户线程的回调函数），执行handleEvent进行数据读取、处理的工作。

由于select函数是阻塞的，因此多路IO复用模型也被称为异步阻塞IO模型。这里的所说的阻塞是指select函数执行时线程被阻塞，而不是指socket。一般在使用IO多路复用模型时，socket都是设置为NONBLOCK的，不过这并不会产生影响，因为用户发起IO请求时，数据已经到达了，用户线程一定不会被阻塞。

3) 伪代码

select(socket);
while(true) {
    sockets = select();
    for(socket in sockets) {
        if(can_read(socket)) {
            read(socket, buffer);
            process(buffer);
        }
    }
}

4) NIO示例代码

详细示例，请参考《NIO》

4. 信号驱动式IO（signal-driven IO）

首先我们允许Socket进行信号驱动IO,并安装一个信号处理函数，进程继续运行并不阻塞。当数据准备好时，进程会收到一个SIGIO信号，可以在信号处理函数中调用I/O操作函数处理数据。

5. 异步IO（Asynchronous IO）

“真正”的异步IO需要操作系统更强的支持。在IO多路复用模型中，事件循环将文件句柄的状态事件通知给用户线程，由用户线程自行读取数据、处理数据。而在异步IO模型中，当用户线程收到通知时，数据已经被内核读取完毕，并放在了用户线程指定的缓冲区内，内核在IO完成后通知用户线程直接使用即可。

1)  Proactor模式

异步IO模型使用了Proactor设计模式，先看一下Proactor设计模式。

Proactor模式和Reactor模式在结构上比较相似，不过在用户（Client）使用方式上差别较大。用户线程通过向Reactor对象注册感兴趣的事件监听，然后事件触发时调用事件处理函数。

AsynchronousOperationProcessor异步操作处理器；负责执行异步操作，一般由操作系统内核实现。

2) 时序

用户线程将AsynchronousOperation（读/写等）、Proactor、CompletionHandler注册到AsynchronousOperationProcessor，当用户线程调用异步API后，便继续执行自己的任务。

AsynchronousOperationProcessor会开启独立的内核线程执行异步操作，当异步IO操作完成时，AsynchronousOperationProcessor将AsynchronousOperation、Proactor、CompletionHandler取出，连同IO操作的结果数据一起转发给Proactor。

Proactor负责触发CompletionHandler中handleEvent函数。

虽然Proactor模式中每个异步操作都可以绑定一个Proactor对象，但是一般在操作系统中，Proactor被实现为Singleton模式，以便于集中化分发操作完成事件。

3) 模型

异步IO模型中，用户线程直接使用内核提供的异步IO API发起read请求，且发起后立即返回，继续执行用户线程代码。不过此时用户线程已经将调用的AsynchronousOperation和CompletionHandler注册到内核，然后操作系统开启独立的内核线程去处理IO操作。当read请求的数据到达时，由内核负责读取socket中的数据，并写入用户指定的缓冲区中。最后内核将read的数据和用户线程注册的CompletionHandler分发给内部Proactor，Proactor将IO完成的信息通知给用户线程（一般通过调用用户线程注册的完成事件处理函数），完成异步IO。

不少高性能并发服务程序使用IO多路复用模型+多线程任务处理的架构基本可以满足需求。况且目前操作系统对异步IO的支持并非特别完善，更多的是采用IO多路复用模型模拟异步IO的方式（IO事件触发时不直接通知用户线程，而是将数据读写完毕后放到用户指定的缓冲区中）。

四、   IO模型对比

1.  IO模型功能对比

2.  IO模型特性对比

3.  伪异步IO

在NIO没有流行之前，为了解决tomcat通信线程铜鼓IO导致业务线程被挂住的问题，大家想到一个拌饭：在通信线程和业务线程之间做一个缓冲区，这个缓冲区用于隔离IO线程和业务线程的直接访问，实现业务线程不被IO线程阻塞。对于后端业务来说，将消息或者Task放在线程池中就直接返回了，它不在直接访问IO线程或者对IO读写，这样就不会被同步阻塞。另外，接收到客户端封装的Task后，放在后端的线程池，让后端的线程异步取任务执行，这样就解决了一连接一线程的问题。这种做法常被称之为伪异步IO。

五、   epoll原理

epoll是Linux下的一种IO多路复用技术，可以非常高效的处理数以百万计的socket句柄。

1.  epoll方法

int epoll_create(int size)

epoll_create建立一个epoll对象。参数size是内核保证能够正确处理的最大句柄数，多于这个最大数时内核可不保证效果。

int epoll_ctl(int epfd, int op, int fd, struct epoll_event *event)

epoll_ctl可以操作epoll_create创建的epoll，如将socket句柄加入到epoll中让其监控，或把epoll正在监控的某个socket句柄移出epoll。

int epoll_wait(int epfd, struct epoll_event *events,int maxevents, int timeout)

epoll_wait在调用时，在给定的timeout时间内，所监控的句柄中有事件发生时，就返回用户态的进程。

2.  epoll内部实现

epoll初始化时，会向内核注册一个文件系统，用于存储被监控的句柄文件，调用epoll_create时，会在这个文件系统中创建一个file节点。同时epoll会开辟自己的内核高速缓存区，以红黑树的结构保存句柄，以支持快速的查找、插入、删除。还会再建立一个list链表，用于存储准备就绪的事件。

当执行epoll_ctl时，把socket句柄放到epoll文件系统里file对象对应的红黑树上；给内核中断处理程序注册一个回调函数，告诉内核，如果这个句柄的中断到了，就把它放到准备就绪list链表里。所以，当一个socket上有数据到了，内核在把网卡上的数据copy到内核中后，就把socket插入到就绪链表里。

当epoll_wait调用时，仅仅观察就绪链表里有没有数据，如果有数据就返回，否则就sleep，超时时立刻返回。

3.  epoll的工作模式

LT：level-trigger，水平触发模式

只要某个socket处于readable/writable状态，无论什么时候进行epoll_wait都会返回该socket。

ET：edge-trigger，边缘触发模式

只有某个socket从unreadable变为readable或从unwritable变为writable时，epoll_wait才会返回该socket。

六、  参考资料

高性能IO模型浅析

http://www.cnblogs.com/fanzhidongyzby/p/4098546.html

reactor-siemens.pdf

http://www.dre.vanderbilt.edu/~schmidt/PDF/reactor-siemens.pdf

深入浅出NIO Socket实现机制

http://www.jianshu.com/p/0d497fe5484a