一个故事讲清楚NIO

简介:

假设某银行只有10个职员。该银行的业务流程分为以下4个步骤:

1) 顾客填申请表(5分钟);

2) 职员审核(1分钟);

3) 职员叫保安去金库取钱(3分钟);

4) 职员打印票据,并将钱和票据返回给顾客(1分钟)。

  我们看看银行不同的工作方式对其工作效率到底有何影响。

1 BIO方式

  每来一个顾客,马上由一位职员来接待处理,并且这个职员需要负责以上4个完整流程。当超过10个顾客时,剩余的顾客需要排队等候。

  我们算算这个银行一个小时到底能处理多少顾客?一个职员处理一个顾客需要10分钟(5+1+3+1)时间,一个小时(60分钟)能处理6个顾客,一共10个职员,那就是只能处理60个顾客。

  可以看到银行职员的工作状态并不饱和,比如在第1步,其实是处于等待中。

  这种工作其实就是BIO,每次来一个请求(顾客),就分配到线程池中由一个线程(职员)处理,如果超出了线程池的最大上限(10个),就扔到队列等待 。

2 NIO方式

  如何提高银行的吞吐量呢?

  思路:分而治之,将任务拆分开来,由专门的人负责专门的任务。

  具体来讲,银行专门指派一名职员A,A的工作就是每当有顾客到银行,他就递上表格让顾客填写,每当有顾客填好表后,A就将其随机指派给剩余的9名职员完成后续步骤。

  我们计算下这种工作方式下银行一个小时到底能处理多少顾客?

  假设顾客非常多,职员A的工作处于饱和中,他不断的将填好表的顾客带到柜台处理,柜台一个职员5分钟能处理完一个顾客,一个小时9名职员能处理:9*(60/5)=108。

  可见工作方式的转变能带来效率的极大提升。

      这种工作方式其实就NIO的思路。下图是非常经典的NIO说明图,mainReactor线程负责监听server socket,accept新连接,并将建立的socket分派给subReactor;subReactor可以是一个线程,也可以是线程池(一般可以设置为CPU核数),负责多路分离已连接的socket,读写网络数据,这里的读写网络数据可类比顾客填表这一耗时动作,对具体的业务处理功能,其扔给worker线程池完成。

  可以看到典型NIO有三类线程,分别是mainReactor线程、subReactor线程、work线程。不同的线程干专业的事情,最终每个线程都没空着,系统的吞吐量自然就上去了。

        

 

3 异步方式

  第二种工作方式有没有什么可以提高的地方呢?

  仔细查看可发现第3步骤这3分钟柜台职员是在等待中度过的,那怎么能让柜台职员保持满负荷呢?

  还是分而治之的思路,指派1个职员B来专门负责第3步骤。每当柜台员工完成第2步时,就通知职员B来负责与保安沟通取钱。这时候柜台员工可以继续处理下一个顾客。当职员B拿到钱之后,他会怎么办呢?他会通知顾客钱已经到柜台了,让顾客重新排队处理,当柜台职员再次服务该顾客时,发现该顾客前3步已经完成,直接执行第4步即可。

  我们可以算算通过这种方法,银行的吞吐量能提高到多少。

  假设职员B的工作非常饱和,柜台一个职员现在2分钟能处理完一个顾客,一个小时8名职员能处理:8*(60/2)=240。

  在当今web服务中,经常需要通过RPC或者Http等方式调用第三方服务,这里对应的就是第3步,如果这步耗时较长,通过异步方式将能极大降低资源使用率。

  jetty Continuations 就实现了上述异步方式,有兴趣的同学可以去尝试下(http://wiki.eclipse.org/Jetty/Feature/Continuations)。

  NIO+异步的方式能让少量的线程(资源)做大量的事情,这适用于很多应用场景,比如代理服务、api服务、长连接服务等等,这些应用如果用同步方式将耗费大量机器资源。尽管NIO+异步能提高系统吞吐量,但其并不能让一个请求的等待时间下降,相反可能会增加等待时间。

 4 小结

  总结就一句:“分而治之,将任务拆分开来,由专门的人负责专门的任务”,这不仅在计算机领域生效,在整个社会领域都生效。

目录
相关文章
|
10月前
|
设计模式 运维 索引
【2023总结】谈谈文章背后的故事与思考
【2023总结】谈谈文章背后的故事与思考
|
NoSQL Java 关系型数据库
23年春招最全1575道Java 面试题目,一份通往阿里的面试指南
疫情过后,不少人已经蓄势待发,信心满满地准备投递简历,到处面试,在不同的 Offer 之中择优而栖。 与此同时,也有人会悔恨自己这半年进步不大,每天噼里啪啦敲代码,但面对那些不能再熟悉的 Java 面试题时,只是感觉似曾相识,却怎么也回答不到点子上,比 HashMap 的工作原理,或 volatile 的使用场景等。 究其原因,主要有两方面: 第一,“知其然不知其所以然”。开发了很多业务应用,却从未缕清技术选择背后的逻辑。所以,领导不放心把有一定深度的任务交给他们,因为不知道其成长潜力有多大。 第二,知识碎片化,不成系统。面试时,无法完整、清晰地描述自己所开发的系统,或使用的技术。所以
|
NoSQL Java 关系型数据库
23年秋招最全1575道Java 面试题目,一份通往阿里的面试指南
金九银十不少人已经蓄势待发,信心满满地准备投递简历,到处面试,在不同的 Offer 之中择优而栖。 与此同时,也有人会悔恨自己这半年进步不大,每天噼里啪啦敲代码,但面对那些不能再熟悉的 Java 面试题时,只是感觉似曾相识,却怎么也回答不到点子上,比 HashMap 的工作原理,或 volatile 的使用场景等。 究其原因,主要有两方面: 第一,“知其然不知其所以然”。开发了很多业务应用,却从未缕清技术选择背后的逻辑。所以,领导不放心把有一定深度的任务交给他们,因为不知道其成长潜力有多大。 第二,知识碎片化,不成系统。面试时,无法完整、清晰地描述自己所开发的系统,或使用的技术。所以,
176 0
|
4月前
|
网络协议 Java 物联网
Java网络编程知识点
Java网络编程知识点
84 13
|
设计模式 算法 Dubbo
风向标!准备跳槽的小伙伴可以看下《2023 Java offer 收割指南》
大厂的面试题一直都是风向标,动态必须关注! 想高效快速地拿到心仪 offer,一定要从面试官的角度出发,提前做好功课,了解市场的最新风向。
全到哭!从面试到架构,阿里大佬用五部分就把高并发编程讲清楚了
不知道大家最近去面试过没有?有去面试过的小伙伴应该会知道现在互联网企业招聘对于“高并发”这块的考察可以说是越来越注重了。基本上你简历上有高并发相关经验,就能成为企业优先考虑的候选人。其原因在于,企业真正需要的是能独立解决问题的人才。每年面试找工作的人很多,技术水平也是高低不一,而并发编程却一直是让大家很头疼的事情,很多人总觉得自己似乎掌握了并发编程的知识,但实际在面试或者工作中,都会被它吊打虐哭。
172 0
|
消息中间件 Java Kafka
今年面试太难?我凭借这份Java架构面试指南,成功跳槽涨薪10K!
时光飞逝,转眼2023金九银十已经快结束了,最近内卷严重 跳槽=加薪 职场中加薪有个屡试不爽的方法,那就是跳槽 每每听到周围人跳槽就加薪30%,似乎给职场人一种错误的认知,跳槽就一定能加薪 在一定阶段内,能力足以撑起期望,会有合理涨幅 当处于瓶颈期,能力不足以支撑期望,期望破裂;很多人以为只是公司给不起钱,不能意识到能力和期望不对等 涨薪的几点原由: 1、购买你过往公司对你的培训成本 2、购买你过往项目的成功经验 3、弥补你的沉默和风险性成本(信任,成绩归零) 的确,在恰当的时间点跳槽能够合理涨薪,3年左右为最佳,这也是为何内部成长的职场人薪资普遍低于正常跳槽人30%左右的原因
|
编解码 架构师 网络协议
美团架构师熬夜整理:Netty权威指南2.0版+英雄传说项目
什么?你现在会觉得使用Netty编程的难度和工作量大了吗?Netty是一个令人惊讶的项目,在短短几年内成为众多Java高并发异步通信的首选框架。
148 0
|
设计模式 缓存 NoSQL
短期内跳槽的Java程序员必看的八项知识点+两大项目实战
8大知识模块 1:多线程高并发 2:JVM虚拟机 3:设计模式 4:redis 5: zookeeper 6: mysql调优课程 7:netty(网游后端项目) 8:spring源码分析
|
存储 网络协议 Java
面试官:小伙子我们先来详细的好好聊一聊NIO的三大组件
NIO是Java从JDK1.4开始引入的一系列改进版输入输出处理手段,也就是New IO,简称NIO,也有说法叫NonBlocking IO,是同步非阻塞式的IO模型,准确地说它支持阻塞非阻塞两种模式。