清明抽空看了下netty部分的知识点,总结一下发布在简书上,netty本身涵盖的知识点比较多,一篇文章也讲不完那么多,这篇文章主要是普及 netty的Reactor模型、server初始化、client初始化三块内容,当然也会将寻找的参考资料一并贴出来,其实互联网已经很多人对netty做了大量的研究。
在开始之前建议看下永顺同学的总结文章,对于netty部分讲解的非常清楚。
Nio Reactor介绍
网上一般把Nio和Bio进行对比介绍,这里也借用互联网的资料开个头,基本上大体来讲BIO/NIO两个进行对比,然后在NIO内部又有多种实现,存在细微差别。
BIO模型
说明:
1、单个线程进行监听,accept连接并提交给线程或者线程池进行处理(一个连接建立成功后,创建一个单独的线程处理其I/O操作),在这个基础上考虑到创建线程和销毁线程的开销,一般后端会维持一个线程池,然后提交给线程池进行处理。
2、BIO方式适用于连接数目比较小且固定的场景,这种方式对服务器资源要求比较高,并发局限于应用中。
经典Reactor模式
说明
1、经典的Reactor模型内部维持一个selector对象(有兴趣可以去了解下select和epoll两种实现方式),selector对象中维持一个监听socket负责accept连接,在取得连接后将accept的连接同样注册到同一个selector当中,通过selector的消息通知机制来触发消息的读写。优点在于不不需要新建很多线程,缺点在于通过单线程处理所有的连接请求会存在性能瓶颈。
多工程线程Reactor模式
说明:
1、多工作线程的Reactor模式是在经典的Reactor模式基础上为了解决刚刚存在问题而进行了改进,将消息的读取和处理进行剥离,也就是说原本的单个selector负责连接的建立和消息的读取,但是消息读取以后的处理过程交由线程池进行处理,这样就部分解决了经典Reactor模式下弊端,但是依然存在问题,单个selector依然会需要处理accept和read等事件,那么下一步就需要把这一步问题进一步进行剥离。
多Reactor
说明
多Reactor模型其实是在多工作线程Reactor模式进行进一步优化,将监听的selector和处理IO的selector进行角色分离,在该模式下主Reactor负责监听连接将新socket注册注册到子Reactor当中,通过分工后主Reactor只需要负责监听socket连接,子Reactor负责处理IO事件。
Netty采用的模型
netty基本上支持以上的多种模型,不过netty的多Reactor模型其实没有ThreadPool那一部分,netty进行了Reactor的主从分离。
Netty-server初始化
基本概念
Channel
可以简单理解为包装了socket的集合体,内部包括比较多属性,核心的属性包括socket、pipeline,在netty当中每个Channel是负责数据传输的socket,在其内部包含消息处理链条PipeLine,PipeLine包含了in/out事件需要进行的一系列处理动作。
PipeLine
pipeline其实就是所谓的职责链,相当于一个双向链表,内部包含了正向IN消息的处理handler列表和反向OUT消息的处理handler列表。
NioEventLoop
NioEventLoop可以理解为Channel的依附实体,每个NioEventLoop包含一个执行线程和一个selector对象,其中selector对象负责提供给Channel进行注册,由执行线程循环检测是否有事件到来,注意Channel和NioEventLoop是1:N的关系,也就是说一个Channel只能注册到一个NioEventLoop当中,一个NioEventLoop可以提供给多个Channel注册。
NioEventLoopGroup
NioEventLoopGroup是NioEVentLoop的对象集合,就是NioEventLoopGroup包含多个NioEventLoop,还记得上面提到Reactor模型里面的子Reactor对象么,其实就是多个NioEventLoop,在我们主Reactor执行accept操作后会把socket注册到子Reactor对象当中,那么子NioEventLoopGroup是一个NioEventLoop的集合,会按照hash随机选择一个进行注册。
debug入门
说明
如果要了解netty-server端的初始化过程,最好的办法就是直接对源码进行debug,如何debug就比较简单了,github下载工程然后找到example的例子,找到server/client进行debug就可以了。
EventLoopGroup初始化过程
说明
1、EventLoopGroup整个初始化过程,其实我的理解最核心的部分是创建指定数目的NioEventLoop对象,然后供ServerBootStrap进行选择。所以这个部分我觉得最关键的是掌握这个点就可以了。
说明
MultithreadEventExecutorGroup内部其实帮我们执行了创建EventLooop对象。
说明
真正需要关注的点已经标红了,就是按照CPU核数创建了EventLoop对象,并对外提供一个chooser的方法提供EventLoop对象的选择。
说明
此图来自互联网永顺同学贡献,这里提供链接。
Bootstrap初始化过程
说明
bootstrap初始化过程其实主要是设置了一些属性,其中handler()和childHandler()两个方法特别重要,前置设置了主Reactor当中Channel的一个处理逻辑,后者设置了从Reactor当中Channel的一个处理逻辑。
server端初始化过程
server端的初始化大体来说主要包含init、register、bind三个步骤,其中init主要是初始化Channel、register主要是注册Channel到selector当中、bind主要是将socket绑定指定的ip和port,不过整个过程其实不是同步调用进行的,而是通过线程池提交任务的形式实现的,这个很重要,否则你看代码时候会一头雾水。
server端从另外一个角度分析的话,其实包括两个过程,一个是Channel的注册过程,一个是事件的触发过程。
说明
此图来自互联网永顺同学贡献,这里提供链接。
client/server端的注册过程都是一样的,所以图也是通用的
初始化的入口
说明
参见AbstractBootstrap类
基本上包括了initAndRegister、bind两个过程,initAndRegister负责初始化NioServerSocketChannel并注册到NioEventLoop当中,bind负责绑定指定的ip和port。
InitAndRegister过程
说明
参见AbstractBootstrap类
创建NioServerSocketChannel对象,这里之所以能够通过反射进行创建,是因为创建ServerBootstrap的时候指定了NioServerSocketChannel类,具体事情参见下图分析。
初始化Channel的一些属性,里面最重要的一步就是绑定了ChannelInitialize的handler,具体见下图分析。
register负责把NioServerSocketChannel绑定到NioEventLoop对象当中,见下图。
InitAndRegister - 创建Channel过程
说明
创建了NioServerSocketChannel对象,对象的属性包括pipeLine,channel对象等
InitAndRegister - Init Channel过程
说明
核心点在于在于绑定了ServerSocket的初始化调用链
InitAndRegister - 注册Channel到EventLoop过程
说明
首先选择一个EventLoop对象进行注册
注册过程中执行eventLoop.execute动作,这个动作内部会先创建一个线程,然后把register0的动作封装成任务提交给eventLoop执行。
注意这里的task其实是就是Register0封装的一个Runnable对象。
InitAndRegister - Register事件触发过程
说明
1、注册Channel到指定的EvengLoop的selector当中。
2、调用NioServerSocketChannel的Initialized方法实现主Reactor关联的pipeLine上的事件的注册,包括LoggingHandler和ServerBootstrapAcceptor两个Handler,在执行Initialized方法后在pipeLine链条会包含LoggingHandler,因为ServerBootstrapAcceptor这个动作是另外提交了一个任务。
3、通过fireChannelRegistered()调用触发注册事件。
Bind事件触发过程
说明:
1、参见AbstractChannel类
2、bind过程中除了遍历pipeLine执行相关handler后最后由header完成bind动作
3、bind的最后触发了active动作,都是以任务的形式提交的,active动作从head开始遍历pipeline到tail
Netty的事件处理
说明:
NioEventLoop内部不停处理事件,然后将连接的socket注册到子EventLoopGroup的EventLoop当中。
Netty-client初始化
Netty client的初始化其实是一个异步过程,也就是说我们connect的时候只是在EventLoop当中注册了一个OP_CONNECT的事件,然后连接成功后会触发这个事件,然后完成真正的连接操作。
说明:
参见NioSocketChannel类
说明:
1、参见NioEventLoop类
Nio Reactor模型介绍:http://www.jasongj.com/java/nio_reactor/
Nio Reactor模型问题:https://www.cnblogs.com/ivaneye/p/5731432.html
netty分析:https://github.com/yongshun/learn_netty_source_code
netty系列分析文章:https://blog.csdn.net/yexin94822739/article/category/6976420
netty客户端解析:https://www.cnblogs.com/chenyangyao/p/5796867.html