Java NIO 在并发型服务器设计中的应用

1. 引言
随着多处理机体系结构的演变、网络技术的发展和分布式应用的兴起，并发型多任务的
服务器程序设计技术已越来越显示其重要性，这要求服务器程序能够在几百个甚至更多的客
户端同时发出请求信息的情况下，仍能保持高性能的并发处理机制，迅速完成所有并发请求
的处理。传统的并发型服务器设计是利用阻塞型网络I/O 以多线程的模式来实现的，然而由
于系统常常在进行网络读写时处于阻塞状态，会大大影响系统的性能；自Java1. 4 开始引入
了NIO(新I/O) API，通过使用非阻塞型I/O，实现流畅的网络读写操作，为开发高性能并发
型服务器程序提供了一个很好的解决方案。
2. 传统阻塞型网络I/O 的不足
Java 平台传统的I/O 系统都是基于Byte（字节）和Stream（数据流）的，相应的I/O 操
作都是阻塞型的，所以服务器程序也采用阻塞型I/O 进行数据的读、写操作。本文以TCP
长连接模式来讨论并发型服务器的相关设计，为了实现服务器程序的并发性要求，系统由一
个单独的主线程来监听用户发起的连接请求，一直处于阻塞状态；当有用户连接请求到来时，
程序都会启一个新的线程来统一处理用户数据的读、写操作，其操作模式如图1[1]所示。
图1 基于阻塞I/O 的多线程TCP 服务器操作模式
这种模式的优点是简单、实用、易管理；然而缺点也是显而易见的：由于是为每一个客
户端分配一个线程来处理输入、输出数据，其线程与客户机的比例近似为1：1，随着线程
数量的不断增加，服务器启动了大量的并发线程，会大大加大系统对线程的管理开销，这将
成为吞吐量瓶颈的主要原因；其次由于底层的I/O 操作采用的同步模式，I/O 操作的阻塞管
- 2 -
理粒度是以服务于请求的线程为单位的,有可能大量的线程会闲置,处于盲等状态，造成I/O
资源利用率不高，影响整个系统的性能。
对于并发型服务器，系统用在阻塞型I/O 等待和线程间切换的时间远远多于CPU 在内
存中处理数据的时间，因此传统的阻塞型I/O 已经成为制约系统性能的瓶颈。Java1.4 版本
后推出的NIO 工具包，提供了非阻塞型I/O 的异步输入输出机制，为提高系统的性能提供
了可实现的基础机制。
3. NIO 包及工作原理
针对传统I/O 工作模式的不足，NIO 工具包提出了基于Buffer（缓冲区）、Channel（通
道）、Selector（选择器）的新模式[2]；Selector（选择器）、可选择的Channel（通道）和
SelectionKey（选择键）配合起来使用，可以实现并发的非阻塞型I/O 能力。
3.1 NIO 工具包的成员[3]
3.1.1 Buffer（缓冲器）
Buffer 类是一个抽象类，它有7 个子类分别对应于七种基本的数据类型：ByteBuffer、
CharBuffer、DoubleBuffer、FloatBuffer、IntBuffer、LongBuffer 和ShortBuffer。每一个Buffer
对象相当于一个数据容器，可以把它看作内存中的一个大的数组，用来存储和提取所有基本
类型(boolean 型除外)的数据。Buffer 类的核心是一块内存区，可以直接对其执行与内存有关
的操作，利用操作系统特性和能力提高和改善Java 传统I/O 的性能。
3.1.2 Channel（通道）
Channel 被认为是NIO 工具包的一大创新点，是(Buffer)缓冲器和I/O 服务之间的通道，
具有双向性，既可以读入也可以写出，可以更高效的传递数据。我们这里主要讨论
ServerSocketChannel 和SocketChannel，它们都继承了SelectableChannel，是可选择的通道，
分别可以工作在同步和异步两种方式下（这里的可选择不是指可以选择两种工作方式，而是
指可以有选择的注册自己感兴趣的事件）。当通道工作在同步方式时，它的功能和编程方法
与传统的ServerSocket、Socket 对象相似；当通道工作在异步工作方式时，进行输入输出处
理不必等到输入输出完毕才返回，并且可以将其感兴趣的（如：接受操作、连接操作、读出
操作、写入操作）事件注册到Selector 对象上，与Selector 对象协同工作可以更有效率的支
持和管理并发的网络套接字连接。
3.1.3 Selector（选择器）和SelectionKey（选择键）
各类Buffer 是数据的容器对象；各类Channel 实现在各类Buffer 与各类I/O 服务间传输
数据。Selector 是实现并发型非阻塞I/O 的核心，各种可选择的通道将其感兴趣的事件注册
到Selector 对象上，Selector 在一个循环中不断轮循监视这各些注册在其上的Socket 通道。
SelectionKey 类则封装了SelectableChannel 对象在Selector 中的注册信息。当Selector 监测
到在某个注册的SelectableChannel 上发生了感兴趣的事件时,自动激活产生一个SelectionKey
对象,在这个对象中记录了哪一个SelectableChannel 上发生了哪种事件，通过对被激活的
SelectionKey 的分析,外界可以知道每个SelectableChannel 发生的具体事件类型,进行相应的
处理。
- 3 -
3.2 NIO 工作原理
通过上面的讨论，我们可以看出在并发型服务器程序中使用NIO，实际上是通过网络事
件驱动模型实现的。我们应用Select 机制，不用为每一个客户端连接新启线程处理，而是将
其注册到特定的Selector 对象上，这就可以在单线程中利用Selector 对象管理大量并发的网
络连接，更好的利用了系统资源；采用非阻塞I/O 的通信方式，不要求阻塞等待I/O 操作完
成即可返回，从而减少了管理I/O 连接导致的系统开销，大幅度提高了系统性能。NIO 的结
构如图2 所示。
图2 非阻塞网络I/O 原理
从图中可以看出，当有读或写等任何注册的事件发生时，可以从Selector 中获得相应的
SelectionKey ， 从SelectionKey 中可以找到发生的事件和该事件所发生的具体的
SelectableChannel，以获得客户端发送过来的数据。由于在非阻塞网络I/O 中采用了事件触
发机制，处理程序可以得到系统的主动通知，从而可以实现底层网络I/O 无阻塞、流畅地读
写，而不像在原来的阻塞模式下处理程序需要不断循环等待。使用NIO，可以编写出性能更
好、更易扩展的并发型服务器程序。
4. 并发型服务器程序的实现代码
应用NIO 工具包，基于非阻塞网络I/O 设计的并发型服务器程序与以往基于阻塞I/O 的
实现程序有很大不同，在使用非阻塞网络I/O 的情况下，程序读取数据和写入数据的时机不
是由程序员控制的，而是Selector 决定的。下面便给出基于非阻塞网络I/O 的并发型服务器
程序的核心代码片段[4]：

1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 60 61 62 63 64 65 66 67 68 69 70 71 72 73 74 75 76 77 78 79 80 81 82 83 84 85 86 87 88 89 90 91 92 93 94 95 96 97 98 99 100 101 102 103 104 105 106 107 108 109 110 111 112 113 114 115 116 117 118 119 120 121 122 123 124 125 126 127 128 129 130 131 132 133 134 135 136 137 138 139 140 141 142 143 144 145 146 147

import java.io.*； //引入Java.io包 import java.net.*； //引入Java.net包 import java.nio.channels.*； //引入Java.nio.channels包 import java.util.*； //引入Java.util包 public class TestServer implements Runnable { /** - 4 - * 服务器Channel对象，负责接受用户连接 */ private ServerSocketChannel server； /** * Selector对象，负责监控所有的连接到服务器的网络事件的发生 */ private Selector selector； /** * 总的活动连接数 */ private int activeSockets； /** * 服务器Channel绑定的端口号 */ private int port ； /** * 构造函数 */ public TestServer()throws IOException { activeSockets=0； port=9999；//初始化服务器Channel绑定的端口号为9999 selector= Selector.open()；//初始化Selector对象 server=ServerSocketChannel.open()；//初始化服务器Channel对象 ServerSocket socket=server.socket()；//获取服务器Channel对应的//ServerSocket对象 socket.bind(new InetSocketAddress(port))；//把Socket绑定到监听端口9999上 server.configureBlocking(false)；//将服务器Channel设置为非阻塞模式 server.register(selector,SelectionKey.OP_ACCEPT)；//将服务器Channel注册到 Selector对象，并指出服务器Channel所感兴趣的事件为可接受请求操作 } public void run() { while(true) { try { /** * 应用Select机制轮循是否有用户感兴趣的新的网络事件发生，当没有 - 5 - * 新的网络事件发生时，此方法会阻塞，直到有新的网络事件发生为止 */ selector.select()； } catch(IOException e) { continue；//当有异常发生时，继续进行循环操作 } /** * 得到活动的网络连接选择键的集合 */ Set<SelectionKey> keys=selector.selectedKeys()； activeSockets=keys.size()；//获取活动连接的数目 if(activeSockets==0) { continue；//如果连接数为0，则继续进行循环操作 } /** * 应用For—Each循环遍历整个选择键集合 */ for(SelectionKey key :keys) { /** * 如果关键字状态是为可接受，则接受连接，注册通道，以接受更多的* 事件，进行相关的服务器程序处理 */ if(key.isAcceptable()) { doServerSocketEvent(key)； continue； } /** * 如果关键字状态为可读，则说明Channel是一个客户端的连接通道， * 进行相应的读取客户端数据的操作 */ if(key.isReadable()) { doClientReadEvent(key)； continue； - 6 - } /** * 如果关键字状态为可写，则也说明Channel是一个客户端的连接通道， * 进行相应的向客户端写数据的操作 */ if(key.isWritable()) { doClinetWriteEvent(key)； continue； } } } } /** * 处理服务器事件操作 * @param key 服务器选择键对象 */ private void doServerSocketEvent(SelectionKey key) { SocketChannel client=null； try { ServerSocketChannel server=(ServerSocketChannel)key.channel()； client=server.accept()； if(client==null) { return； } client.configureBlocking(false)；//将客户端Channel设置为非阻塞型 /** * 将客户端Channel注册到Selector对象上，并且指出客户端Channel所感 * 兴趣的事件为可读和可写 */ client.register(selector,SelectionKey.OP_READ|SelectionKey.OP_READ)； }catch(IOException e) { try { client.close(); - 7 - }catch(IOException e1){} } } /** * 进行向客户端写数据操作 * @param key 客户端选择键对象 */ private void doClinetWriteEvent(SelectionKey key) { 代码实现略； } /** * 进行读取客户短数据操作 * @param key 客户端选择键对象 */ private void doClientReadEvent(SelectionKey key) { 代码实现略； } }

从上面对代码可以看出，使用非阻塞性I/O进行并发型服务器程序设计分三个部分：1.
向Selector对象注册感兴趣的事件；2.从Selector中获取所感兴趣的事件；3.根据不同的事件进
行相应的处理。
5. 结语
通过使用NIO 工具包进行并发型服务器程序设计，一个或者很少几个Socket 线程就可
以处理成千上万个活动的Socket 连接，大大降低了服务器端程序的开销；同时网络I/O 采取
非阻塞模式，线程不再在读或写时阻塞，操作系统可以更流畅的读写数据并可以更有效地向
CPU 传递数据进行处理，以便更有效地提高系统的性能。

文章来自: 丁辉
标签: java  NIO 阻塞 非阻塞