开发者社区> 微笑着生活> 正文
阿里云
为了无法计算的价值
打开APP
阿里云APP内打开

Java NIO(十一)Non-blocking Server

简介: 即使您了解Java NIO非阻塞功能如何工作(选择器,通道,缓冲区等),设计非阻塞服务器仍然很难。与阻塞IO相比,非阻塞IO包含几个挑战。这个无阻塞的服务器教程将讨论非阻塞服务器的主要挑战,并为他们描述一些潜在的解决方案。
+关注继续查看

即使您了解Java NIO非阻塞功能如何工作(选择器,通道,缓冲区等),设计非阻塞服务器仍然很难。与阻塞IO相比,非阻塞IO包含几个挑战。这个无阻塞的服务器教程将讨论非阻塞服务器的主要挑战,并为他们描述一些潜在的解决方案。

本教程中介绍的想法是围绕Java NIO设计的。但是,我相信这些想法可以在其他语言中重用,只要它们具有某种类似于Selector的构造。据我所知,这样的结构是由底层操作系统提供的,所以很有可能你也可以用其他语言访问它。

非阻塞服务器- GitHub库

I have created a simple proof-of-concept of the ideas presented in this tutorial and put it in a GitRebu repository for you to look at. Here is the GitHub repository:
https://github.com/jjenkov/java-nio-server
感谢国外作者Jakob Jenkov

非阻塞IO管道

非阻塞IO管道是处理非阻塞IO的组件链。 这包括以非阻塞方式读取和写入IO。 下面是一个简化的非阻塞IO管道的例子:


img_3ca6f4203decb76f963f50b74177eddf.png

一个组件使用一个Selector来检查一个Channel何时有数据读取。然后,组件读取输入数据并根据输入生成一些输出。输出再次写入通道。

非阻塞IO管道不需要读取和写入数据。有些流水线只能读取数据,有些流水线只能写数据。

上图仅显示单个组件。非阻塞IO管道可能有多个组件处理传入数据。非阻塞IO管道的长度取决于管道需要做什么。

非阻塞IO管道也可能同时从多个通道读取。例如,从多个SocketChannel读取数据。

上图中的控制流程也被简化了。它是通过选择器启动从通道读取数据的组件。不是Channel将数据推送到Selector,而是从那里进入组件,即使这是上图所示。
大概这个组件就是 Buffer吧

非阻塞与阻塞IO管道

非阻塞和阻塞IO管道之间的最大区别在于如何从底层通道(套接字或文件)读取数据。

IO管道通常从某个流(从一个套接字或文件)读取数据,并将该数据拆分为一致的消息。 这与使用分词器将数据流分解为令牌进行分析类似。 相反,您将数据流分解为更大的消息。 我将调用将消息流分解成消息读取器的消息。 下面是一个消息阅读器将消息分解成消息的图示:


img_460c36f366f8b468a637397574fe51c5.png
image.png

阻塞IO管道可以使用类似于InputStream的接口,一次一个字节可以从底层通道读取,而类似于InputStream的接口将阻塞,直到有数据准备好读取。 这导致阻塞消息阅读器实现。

使用阻塞IO接口来简化消息阅读器的实现。 阻塞消息阅读器从不必处理没有从流中读取数据的情况,或者只从流中读取部分消息并且需要稍后恢复消息解析的情况。

同样,一个阻塞消息编写器(一个将消息写入流的组件)从来不必处理只写入消息的一部分的情况,以及稍后必须恢复消息写入的情况。

阻塞IO管道缺陷

虽然拦截消息阅读器更容易实现,但它有一个不幸的缺点是需要一个单独的线程为每个流需要被拆分成消息。这是必要的原因是每个流的IO接口阻塞,直到有一些数据要从中读取。这意味着单个线程不能尝试从一个流中读取,如果没有数据,则从另一个流中读取。只要线程试图从流中读取数据,线程就会阻塞,直到实际上有一些数据要读取。

如果IO管道是必须处理大量并发连接的服务器的一部分,则服务器将需要每个活动的入口连接一个线程。如果服务器在任何时候只有几百个并发连接,这可能不成问题。但是,如果服务器有数百万并发连接,这种类型的设计不能很好地扩展。每个线程将为其堆栈提供320K(32位JVM)和1024K(64位JVM)内存。那么,1.000.000个线程将占用1TB的内存!也就是说,在服务器已经使用任何存储器来处理传入消息(例如分配给在消息处理期间使用的对象的存储器)之前。

为了减少线程的数量,许多服务器使用一种设计,其中服务器保持一个线程池(例如100个),该线程池一次从入站连接读取消息。入站连接保留在队列中,并且线程按顺序处理来自每个入站连接的消息,并将入站连接放入队列中。这里说明这个设计:
img_f1d1407f1c044de79660df4bf910754c.png
image.png

但是,这种设计要求入站连接经常合理地发送数据。 如果入站连接可能处于非活动状态的时间较长,大量的非活动连接实际上可能会阻塞线程池中的所有线程。 这意味着服务器响应缓慢甚至无响应。

一些服务器设计试图通过线程池中的线程数量具有一定弹性来缓解这个问题。 例如,如果线程池用完线程,线程池可能会启动更多的线程来处理负载。 此解决方案意味着需要更多数量的慢连接才能使服务器无响应。 但请记住,您可以运行多少个线程的上限仍然存在。 所以,这不能很好地扩大与1000.000慢速连接。

基本的非阻塞IO管道设计

非阻塞IO管道可以使用单个线程来读取来自多个流的消息。 这要求流可以切换到非阻塞模式。 处于非阻塞模式时,当您尝试从中读取数据时,流可能会返回0个或更多字节。 如果流没有要读取的数据,则返回0字节。 当流实际上有一些数据要读取时,将返回1+字节。

为了避免检查有0字节的流,我们使用Java NIO Selector。 一个或多个SelectableChannel实例可以使用Selector进行注册。 当你在选择器上调用select()或selectNow()时,它只给你实际上有数据读取的SelectableChannel实例。 这里说明这个设计:
img_49a24f811e20605716912a30078526f9.png
image.png

阅读部分消息

当我们从一个SelectableChannel读取一个数据块时,我们不知道这个数据块是否包含少于或多于一条消息。 数据块可能包含部分消息(少于消息),完整消息或超过消息,例如1.5或2.5个消息。 这里说明了各种部分消息的可能性:


img_6eeeaa95f46c882e7b2642f14b6486fb.png
image.png

处理部分消息有两个挑战:

  1. 检测数据块中是否有完整的消息。
  2. 如何处理部分消息,直到消息的其余部分到达。
    检测完整消息需要消息阅读器查看数据块中的数据,以查看数据是否至少包含一条完整消息。 如果数据块包含一个或多个完整的消息,则这些消息可以沿管道向下发送以进行处理。 寻找完整的消息的过程将会重复很多,所以这个过程必须尽可能快。

只要数据块中有部分消息,或者是一个或多个完整消息,就需要存储该消息,直到该消息的其余部分从该通道到达。

检测完整消息和存储部分消息都是消息阅读器的责任。 为避免来自不同渠道实例的消息数据混合,我们将为每个渠道使用一个消息阅读器 设计如下所示:


img_0354a2174deff98e86409f577e892287.png
image.png

在检索到一个具有要从Selector中读取数据的Channel实例之后,与该Channel关联的Message Reader将读取数据并尝试将其分解为消息。 如果这导致读取任何完整的消息,则这些消息可以通过读取管道传递给需要处理它们的任何组件。

消息阅读器当然是协议特定的。 消息阅读器需要知道它正在尝试阅读的消息的消息格式。 如果我们的服务器实现可以跨协议重用,则需要能够插入消息读取器实现 - 可能通过以某种方式接受消息读取器工厂作为配置参数。

存储部分信息

现在我们已经确定消息阅读器负责存储部分消息,直到收到完整的消息,我们需要弄清楚这个部分消息存储应该如何实现。

我们应该考虑两个设计考虑因素:

  1. 我们希望尽可能少地复制消息数据。 越复制,性能越低。
  2. 我们希望完整的消息被存储在连续的字节序列中,以使解析消息更容易。
每个消息读取器的缓冲区

显然,部分消息需要存储在某种缓冲区中。 直接的实现是在每个消息阅读器内部简单地使用一个缓冲区。 但是,这个缓冲区应该有多大? 它需要足够大才能存储最大允许的消息。 因此,如果允许的最大消息是1MB,则每个消息读取器中的内部缓冲区至少需要1MB。

当我们达到数百万的连接时,每个连接使用1MB并不是真正的工作。 1.000.000 x 1MB仍然是1TB的内存! 而如果最大消息大小是16MB? 还是128MB?

可调整大小的缓冲区

另一个选择是在每个消息读取器中实现可调整大小的缓冲区。 一个可调整大小的缓冲区将从小的地方开始,如果缓冲区的消息太大,缓冲区将被扩展。 这样,每个连接不一定需要例如 1MB缓冲区。 每个连接只占用尽可能多的内存,因为它们需要保存下一条消息。

有几种方法来实现可调整大小的缓冲区。 所有这些都有优点和缺点,所以我将在下面的部分进行讨论。

通过复制调整大小

实现可调整大小的缓冲器的第一种方法是从例如小缓冲器开始。 4KB。如果消息不能放入4KB缓冲器中,可以分配8KB,并将来自4KB缓冲区的数据复制到较大的缓冲区中。

通过调整复制大小的缓冲区实现的优点是消息的所有数据都保存在一个连续的字节数组中。这使解析消息变得更容易。

调整大小的副本缓冲区实现的缺点是,它会导致大量的数据复制更大的消息。

为了减少数据复制,您可以分析流经系统的消息的大小,以查找会减少复制量的缓冲区大小。例如,您可能会看到大多数消息都小于4KB,因为它们只包含非常小的请求/响应。这意味着第一个缓冲区大小应该是4KB。

那么你可能会看到,如果消息大于4KB,通常是因为它包含一个文件。您可能会注意到,流经系统的大部分文件都小于128KB。那么使第二个缓冲区大小为128KB是有意义的。

最后你可能会看到,一旦消息超过128KB,消息的大小就没有真正的模式,所以也许最后的缓冲区大小应该是最大的消息大小。

有了这3种缓冲区大小,可以根据流经系统的消息的大小,减少数据复制的次数。低于4KB的邮件将永远不会被复制。对于1.000.000个并发连接,导致1.000.000 x 4KB = 4GB,这在今天的大多数服务器(2015)中都是可能的。 4KB和128KB之间的消息将被复制一次,只有4KB的数据将被复制到128KB缓冲区中。 128KB和最大消息大小之间的消息将被复制两次。第一次4KB将被复制,第二次128KB将被复制,所以总共132KB复制为最大的消息。假设没有那么多的128KB以上的消息,这可能是可以接受的。

一旦消息被完全处理,分配的内存应该被释放。这样,从同一连接接收到的下一个消息再次以最小的缓冲区大小开始。这是确保内存可以在连接之间更有效地共享的必要条件。很可能不是所有的连接都需要同时使用大缓冲区。

我有一个关于如何实现这样一个支持可调整大小的数组的内存缓冲区的完整教程:可调整大小的数组。本教程还包含指向GitHub存储库的链接,其中的代码显示了一个工作实现。

通过追加来调整大小

调整缓冲区大小的另一种方法是使缓冲区由多个数组组成。当您需要调整缓冲区大小时,只需分配另一个字节数组并将数据写入该数组。

有两种方式来增长这样一个缓冲区。一种方法是分配单独的字节数组并保留这些字节数组的列表。另一种方法是分配更大的共享字节数组的片,然后保存分配给缓冲区的片的列表。就我个人而言,我觉得切片方法稍好一些,但差别不大。

通过附加单独的数组或片来增长缓冲区的好处是在写入时不需要复制任何数据。所有数据可以直接从套接字(Channel)直接复制到数组或片中。

以这种方式增长缓冲区的缺点是数据不会存储在单个连续的数组中。这使得消息解析变得更加困难,因为解析器需要同时查找每个数组的末尾和所有数组的末尾。由于您需要在写入的数据中查找消息的结尾,因此此模型不太容易处理。

TLV编码消息 Type-length-value

一些协议消息格式使用TLV格式(类型,长度,值)进行编码。这意味着,当消息到达时,消息的总长度被存储在消息的开头。这样你就可以立即知道为整个消息分配多少内存。

TLV编码使得内存管理变得更容易。您立即知道要为消息分配多少内存。没有内存被浪费在仅部分使用的缓冲区的末尾。

TLV编码的一个缺点是,在消息的所有数据到达之前,为消息分配所有内存。一些发送较大消息的缓慢连接可以分配所有可用的内存,从而使服务器无响应。

解决此问题的方法是使用包含多个TLV字段的消息格式。因此,内存分配给每个字段,而不是整个消息,内存只在字段到达时才分配。尽管如此,一个大的领域可能会对你的内存管理产生同样的影响。

另一个解决方法是超时例如没有收到的消息10-15秒。这可以使您的服务器从许多大消息的同时到达的同时恢复,但它仍然会使服务器一段时间无响应。此外,有意的DoS(拒绝服务)攻击仍然可以导致您的服务器的内存完全分配。

TLV编码存在不同的变化。究竟使用了多少字节,所以指定字段的类型和长度取决于每个单独的TLV编码。也有TLV编码,首先是字段的长度,然后是类型,然后是值(LTV编码)。虽然字段的顺序是不同的,但它仍然是一个TLV变化。

TLV编码使内存管理更容易的事实是HTTP 1.1是如此糟糕的协议的原因之一。这是他们试图在HTTP 2.0中解决数据以LTV编码帧传输的问题之一。这也是为什么我们为使用TLV编码的VStack.co项目设计了自己的网络协议。

编写部分消息

在一个非阻塞的IO管道中写数据也是一个挑战。当您以非阻塞模式在通道上调用写入(ByteBuffer)时,无法保证正在写入ByteBuffer中有多少个字节。写(ByteBuffer)方法返回写了多少字节,所以可以跟踪写入的字节数。这就是挑战:跟踪部分编写的消息,以便最终发送消息的所有字节。

为了管理将部分消息写入频道,我们将创建一个消息编写器。就像使用消息读取器一样,我们需要每个通道写消息的消息写入器。在每个Message Writer内部,我们都记录了它正在写入的消息的字节数。

如果有更多的消息到达消息写入器,而不是直接写入通道,则消息需要在消息写入器内部排队。消息编写器然后将消息尽可能快地写入通道。

下面是一个图表,展示了如何设计部分消息:
img_32c867269f8428e601fbd3f54b023b37.png
image.png

为了使消息编写器能够发送仅部分被发送的消息,消息编写器需要不时地被调用,所以它可以发送更多的数据。

如果你有很多的连接,你会有很多消息编写器实例。检查例如一百万个Message Writer实例来查看它们是否可以写入任何数据的速度很慢。首先,许多Message Writer实例很多没有任何消息要发送。我们不想检查那些Message Writer实例。其次,并不是所有的Channel实例都可以准备好写入数据。我们不想浪费时间试图写数据到无法接受任何数据的频道。

要检查通道是否准备好写入,可以使用选择器注册通道。但是,我们不想使用Selector注册所有Channel实例。试想一下,如果你有1.000.000连接,大部分是空闲的,所有1.000.000连接都被注册到了Selector。然后,当你调用select()时,这些Channel实例中的大部分都将准备好写入(它们大部分是空闲的,记得吗?)。然后您必须检查所有这些连接的消息编写器,看看他们是否有任何数据要写入。

为了避免检查消息的所有消息编写器实例,以及所有通道实例,它们没有任何消息发送给它们,我们使用这个两步法:

  1. 当消息写入消息写入器时,消息写入器向选择器(如果它尚未注册)注册其关联的通道。

  2. 当你的服务器有时间的时候,它会检查选择器来查看哪些已注册的通道实例准备好写入。 对于每个写入就绪通道,其相关的消息写入器被要求将数据写入通道。 如果消息写入器将其所有消息写入其通道,则该通道将再次从选择器中注销。
    这个小小的两步方法确保只有Channel消息被写入到它们的实例才会真正注册到Selector中。

总结:Putting it All Together

如您所见,非阻塞服务器需要不时检查传入数据,以查看是否收到任何新的完整邮件。 服务器可能需要多次检查,直到收到一个或多个完整的消息。 检查一次是不够的。

同样,非阻塞服务器需要不时检查是否有数据要写入。 如果是,服务器需要检查是否有相应的连接准备好写入数据。 仅在消息第一次排队时检查是不够的,因为消息可能是部分写入的。

  1. 总而言之,一个非阻塞服务器最终需要定期执行三个“管道”:
  2. 读取管道,用于检查来自打开的连接的新输入数据。
  3. 处理任何收到的完整消息的流程管道。
    写入管道检查是否可以将任何传出消息写入任何打开的连接。
    这三条管道是循环重复执行的。 你可能会稍微优化执行。 例如,如果没有排队的消息,则可以跳过写入管道。 或者,如果我们没有收到新的,完整的消息,也许可以跳过流程管道。

以下是一个说明整个服务器循环的图表:

img_4de73f6bb6e3d17373ae948748daca2b.png
image.png

如果您仍然觉得这有点复杂,请记住查看GitHub存储库:https://github.com/jjenkov/java-nio-server
也许看到代码在行动可能会帮助你了解如何实现这一点。

Server Thread Model

GitHub仓库中的非阻塞服务器实现使用2线程的线程模型。 第一个线程接受来自ServerSocketChannel的传入连接。 第二个线程处理接受的连接,即读取消息,处理消息并将响应写回连接。 这2个线程模型如下所示:
img_4a821b8f103e5b00dbb5986fc5f72182.png
image.png

版权声明:本文内容由阿里云实名注册用户自发贡献,版权归原作者所有,阿里云开发者社区不拥有其著作权,亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容,填写侵权投诉表单进行举报,一经查实,本社区将立刻删除涉嫌侵权内容。

相关文章
用java实现云计算的两种趋势性方法
本文讲的是用java实现云计算的两种趋势性方法,最近,人们在思考如何使用Java来实现云计算,我看到了两种趋势性的方法。它们存在交叉重叠处而并非互相排斥,但总体而言它们在项目方面有着非常不同的表现
766 0
用java实现邮件发送验证码
java实现邮件发送验证码 网易邮箱开通POP3SMTP服务的步骤 java实现邮件发送验证码    建议不要用qq邮箱,我使用qq邮箱直接一直给我报530错误,我一直认为我代码写的有错误或者POP3/SMTP服务没弄好。
2007 0
TCP与UDP通信协议及Java实现
概述 TCP (Transmission Control Protocol):传输控制协议 UDP(User Datagram Protocol):用户数据报协议 TCP 与 UDP 都是 运输层(Transport Layer)上的因特网协议,运输层协议的功能就是为运行在不同主机上的应用进程之间提供 逻辑通信 ,使得运行不同进程的主机即使分隔于地球两侧,也能像是直接相连一样。
2056 0
【Java数据结构学习笔记之三】Java数据结构与算法之队列(Queue)实现
  本篇是数据结构与算法的第三篇,本篇我们将来了解一下知识点: 队列的抽象数据类型 顺序队列的设计与实现 链式队列的设计与实现 队列应用的简单举例 优先队列的设置与实现双链表实现 队列的抽象数据类型   队列同样是一种特殊的线性表,其插入和删除的操作分别在表的两端进行,队列的特点就是先进先出(First In First Out)。
764 0
【Java数据结构学习笔记之二】Java数据结构与算法之栈(Stack)实现
  本篇是java数据结构与算法的第2篇,从本篇开始我们将来了解栈的设计与实现,以下是本篇的相关知识点: 栈的抽象数据类型 顺序栈的设计与实现 链式栈的设计与实现 栈的应用 栈的抽象数据类型   栈是一种用于存储数据的简单数据结构,有点类似链表或者顺序表(统称线性表),栈与线性表的最大区别是数据的存取的操作,我们可以这样认为栈(Stack)是一种特殊的线性表,其插入和删除操作只允许在线性表的一端进行,一般而言,把允许操作的一端称为栈顶(Top),不可操作的一端称为栈底(Bottom),同时把插入元素的操作称为入栈(Push),删除元素的操作称为出栈(Pop)。
1036 0
微博爬虫“免登录”技巧详解及 Java 实现(业余草的博客)
版权声明:本文为博主原创文章,未经博主允许不得转载。 https://blog.csdn.net/xmt1139057136/article/details/78110007 一、微博一定要登录才能抓取?目前,对于微博的爬虫,大部分是基于模拟微博账号登录的方式实现的,这种方式如果真的运营起来,实际上是一件非常头疼痛苦的事,你可能每天都过得提心吊胆,生怕新浪爸爸把你的那些账号给封了,而且现在随着实名制的落地,获得账号的渠道估计也会变得越来越少。
948 0
+关注
微笑着生活
快乐开发
文章
问答
文章排行榜
最热
最新
相关电子书
更多
MySQL Java开发实战
立即下载
Java开发手册1.2.0
立即下载
Java开发手册1.1.0
立即下载