【Java】《2小时搞定多线程》个人笔记(一)https://developer.aliyun.com/article/1395300
并发和并行
并发和并行的前提
- CPU的飞速发展,比如 i7 出现多核多线程。
- 编程语言自身支持多线程,这一点很重要,比如Java天生具备多线程能力。
- 一对一映射内核线程。
- 充分利用操作系统资源。
- 操作系统本身:操作系统对于多线程的利用也很关键,操作系统通过编程语言的逻辑进行多线程。调度是性能影响的关键。
理清两者概念
并发
实际上包含了两种概念,第一种:并发存在程序“并发性”,第二种:多个任务的执行状态是“并发”的。
这两种概念都有一个很好的比喻,也就是我们的大脑,我们大脑可以具备“并发性”,比如可以同时操作鼠标和键盘。另一个意义操作鼠标和键盘这两个动作是并发但不是并行的,同时画圆和画圈(需要经过一定的训练)可以看作是并行的。
并发存在程序“并发性”:
- 此时并发和并行的概念不在同一个维度。
- 同一个时间可能有多个线程接替工作,给使用者的感受好像是在同时工作,比如边敲键盘,边操作鼠标,实际上是受到程序并发性的影响。
- 不同的部分在无序或者同时执行,但是最终结果不影响。
- 无论单核还是多核心,只要能得出正确结果,就具备并发性。
- 这时候和多个任务执行状态的概念是不在一个维度上的, 而是更高维度。
多个任务的执行状态是“并发”的:
- 这种情况下是逻辑上的“并行”,并不是真正的并行。
- 重叠的时间段交替运行
- 并发不一定并行
- 并行一定并发
- 并发,并发和并发的不同
并行
并行的例子就是两个动作物理上同时发生,比如边打游戏,边接电话这两个动作可以同时进行。
- 并行是多个核心可以在同一个时间线物理上同时工作
- 并行一定并发
- 依托于现代处理的发展
- 多核能力强化
- 编程语言支持多线程
两者关系
上面的图可以得出几个概念
- 并发不一定并行
- 并行一定并发
- 并行和并发是并行包含在并发的概念里面,所以并行的前提是并发
提问:并发程序一定是并行的么?
结论:并发程序不一定并行,但是并行程序一定是并发的。
不一定,因为单核处理器通过快速的上下文切换也可以达到类似并行的效果,实际上是利用抢占式的系统调用和分片式的系统调用完成的。
单核逻辑上同行运行叫做并发。上下文切换非常快,所以会认为是并行的。多核实现了物理上并行,核心和核心之间互相独立,可以真正意义上物理时间可以实现。
比喻:是一个人操作多条流水线,好像每一个流水线都可以处理任务。多个人在流水线上,一个流水线挂了可以由别的流水线接收。
并发继续拓展
- 表面上多个任务执行状态。
- 程序上的并发性也叫做并发。
高并发和多线程关系
多线程是解决高并发问题的解决方案之一,但是多线程不是高并发的唯一办法。
比如redis操作数据就是单线程实现的(保证原子性非常简单),因为没有上下文切换十分高效,它没有用到多线程却页解决了数据库高并发的问题,分担压力。
拓展:
- 并行的程序执行效率取决于开发者的代码。
- 取决于处理器的性能。
- 操作系统的调度。
高并发的性能指标
- QPS:每秒的查询数量,越高说明服务器可以承受的瞬间压力越大
- 带宽:决定了例如视频网站的服务质量。
- PV(Page View):也就是访问和点击量。
- UV(Unique View):表示单个用户访问的次数,是对于PV的访问量和点击率
- UV一定会小于PV
- IP和UV:最大的区别是是否是同一个用户的操作决定,也就是Cookie
- 两个不同的指标
- 第一个指标 IP:拨号上网IP变动
- IP是每个人单独IP,但是访问者的Cookie是一样的
- IP+1,Uv不变
- 第二个指标 UV:局域网同一个账户多个人使用
- IP可能没有变但是Cookie在切换
- IP没有变,UV+1
- 并发连接数
- 某个时刻同时接受请求数量
- 服务器平均等待时间
- 处理一个请求所需时间。
同步和异步/阻塞和非阻塞
同步和异步
区分关键点:被调用方的行为
同步
强调的是被调用者(服务器)行为,不是请求方的行为。没有得到结果之前,服务端不返回任何结果。
和阻塞的判断刚好相反。
再次强调是被调用者(服务器)行为,不是请求方的行为。
异步
调用之后服务端立刻返回结果(通常是一个通知)。
案例:烧水壶、买书
烧水壶:传统的铁壶需要等待水烧开才会有结果,电水壶只需要理解返回启动结果即可,因为后续水烧开之后会断电并且提醒。
买书:同步就是书店买书直到老板给出想要的书之前会一直被迫等待(被调用方的行为),网上买书下单之后直接通知结果过几天之后到货。
阻塞和非阻塞
关键:对于调用者而言的服务端状态
- 站在线程状态角度
- 站在线程发出请求之后请求方的角度
案例:烧水壶、买书
烧水壶:阻塞就是看着水一直到烧开,非阻塞就是烧水的时候间隔一段时间看一眼。
买书:阻塞就是拿到要买的书籍之前老老实实等待(调用方等待),非阻塞书店老板找书的过程中可以逛逛书店看看其他的书籍。
综合案例
综合案例用洗衣服的案例来理解。
同步阻塞
洗衣服丢到洗衣机,全程看着洗衣机洗完,洗好之后晾衣服。
同步非阻塞
把衣服丢到洗衣机洗,然后回客厅做其他事情,定时看看洗衣机是不是洗完了,洗好后再去晾衣服。(等待期间你可以做其他事情,比如用电脑刷剧看视频)。
异步阻塞
把衣服丢到洗衣机洗,然后看着洗衣机洗完,洗好后再去晾衣服(没这个情况,几乎没这个说法,可以忽略)。
异步非阻塞
把衣服丢到洗衣机洗,然后回客厅做其他事情,洗衣机洗好后会自动去晾衣服,晾完成后放个音乐告诉你洗好衣服并晾好了。
常见问题汇总
线程和进程的相同与不同点
不同点:
- 起源不同
- 概念不同
- 性能开销不同
- 作用域不同
- 拥有资源不同
- 数量不同
相同点:生命周期
并发和并发
- 并发和高并发是一个包含关系(并行包含并发),一个程序并行意味着一定是并发,但是并发可以模拟出并行的效果。
- 并发有两种概念,如果是程序“并发性”,则并行和并发不在一个维度,可以任务无论单核或者多核只要结果正确就具备并发性。另外一个程序具备并发性也算是并发的说法。
多线程的弊端
- 异构化任务无法用多线程完成的任务不如单线程高效。
- 线程安全问题,比如共享变量互相覆盖。
- 性能问题,比如上下文切换、缓存失效。
高并发是否意味着多线程
- 多线程仅仅是高并发的解决方案之一,两者是两个不同的概念,不能混为一谈。
- 多线程不是唯一办法,但确实是主要办法。
缓存、消息队列、锁是高并发的三架马车
同步、异步、阻塞、非阻塞
从并发编程的角度对着四个概念进行再次整理。
同步异步:和队列有关,事情能不能委托给其他人来办。 阻塞非阻塞:和锁的机制有关,做一个工作的时候能不能抽空干别的事情。
洗衣机洗衣服:
- 同步阻塞:开启洗衣机,并且全程盯着洗衣机工作。
- 同步非阻塞,开启洗衣机,虽然还是要隔几分钟看洗衣机是否完成工作,但是期间可以干别的事情。
- 异步阻塞:委托给洗衣机自己洗衣服,但是要全程盯着取出衣服最后把衣服晾了。
- 异步非阻塞:告诉洗衣机自己洗衣服,工作完成之后洗衣机自动把衣服晾了,最后告知结果。
单核CPU上多线程的意义
- 开启多个线程可以让耗时的任务交给后台处理,利用其他线程提供服务。
- 程序不知道运行在单核还是多核,单核CPU也可以充分利用多线程提高资源利用率。