对于并行和并行概念上的理解与总结

简介: 并行和并行概念上的理解与总结

并行的基本概念 — 为什么需要并行?
1、业务要求:业务上需要一个逻辑执行单元
比如:一个服务端需要处理多个客户端的请求;JVM虚拟机启动后,运行多个线程,包括启动Main函数的线程、JIT即时编译、GC等等;
串行处理多个客户端请求实现复杂;
单线程需要处理任务调度的问题;
进程要比线程更重,开销更大。

2、并行在多核CPU上能够提高性能。
并行计算只适用在图像处理和服务端编程两个领域。两者都属于计算密集型,比如数据挖掘、数据分析,多核运行要比单核运行速度更快。
客观原因:摩尔定律失效,导致多核CPU的产生,使并行技术流行。计算机CPU的发展已经陷入了瓶颈,单核4GHZ的芯片已经到达极限,最终使计算机往多核处理器方向发展。

并发的基本概念
同步:会一直等待请求返回;
异步:异步调用后,可以进行后续工作处理,无需等待结果。
并行:同一时间内间隔,两个线程同时执行,比如垃圾回收时启动多个线程并行处理,用户需要等待。
并发:交替做不同的事情,比如两个CPU,一个CPU处理用户线程,另一个CPU则处理GC线程;
临界区:表示一种公共资源或共享数据,是一种被保护控制的数据,当有线程正在使用数据时,其它线程必须等待该线程释放。
阻塞和非阻塞用于形容多线程在使用临界区时的相互影响。
阻塞:当一个线程占用了临界区的资源,其它的线程必须在临界区中等待,等待会导致线程挂起。如果占用资源的线程一直不释放,其它阻塞在临界区的线程一直不会工作。
非阻塞:允许多个线程同时访问临界区,只要保证不破坏数据。
死锁:对于阻塞的线程,进入临界区后,有可能会发生死锁现象。死锁将会导致系统挂起,服务不可用。死锁产生的必要条件是一个线程抢占到资源而没有释放。
活锁:相对于死锁,两个线程:线程A和线程B,同时需要资源A和资源B;而线程A拿到资源A,线程B拿到资源B,但不能工作,两个线程又同时分别释放掉资源,再次抢占相互释放出来的部分资源,循环往复,始终无法进行正常工作。活锁的问题相比死锁更难排查。
饥饿:是指某一个或多个线程因为种种原因无法获得足够的资源,导致一直无法执行。线程执行具有优先级,当多个线程同时阻塞在临界区,系统会先调度优先级高的线程,而优先级很低的线程因为分配不到足够的资源,系统可能会调用不到,导致线程饿死。

并发级别
阻塞:当一个线程进入临界区后,其它线程必须等待。相对于非阻塞,它是一种悲观策略,多个线程进入临界区修时可能会改坏数据,所以只允许一个线程进入临界区修改数据。
无障碍:
是一种最弱的非障碍阻塞调度。
线程可以自由进入临界区,相对于阻塞,它是一种乐观调度,即它允许所有线程进入临界区读写数据。
但它采取的是宽进严出的策略。当线程退出时,如果有数据竞争,就会先回滚这条数据,并不断的重试,直到获取到正确的数据为止;如果没有数据竞争,会在有限步内完成操作。
无障碍的场景下,相当于获取一个数据快照,直到获取到正确的数据为止。
无锁
必须是无障碍的:无障碍允许所有线程进入临界区,但并不能保证每个线程都能正常退出,当线程之间出现相互干扰,就会不断的一直重试,导致线程无法正常退出临界区,就会造成系统卡死的情况。
制约条件:保证有一个线程可以胜出。即在数据竞争中,在临界区的线程至少有一个竞争成功,必然会顺利退出。
无等待
无锁、要求所有线程都必须在有限步内完成,不限制线程进入临界区,并行级别最高,能够发挥系统性能至最高、无饥饿的,不会让所有线程都等待在临界区
无等待的一种实现情况:
所有的读线程都是无等待的,而写线程修改的是原始数据的副本,写的过程也是无等待的,最终写线程将修改后的数据同步覆盖到原始数据。
根据阿姆达定律和古斯塔夫森定律,阿姆达尔定律:增加CPU不一定能提高并行化效率,提高串行化比例,合理增加并行数,才能得到最大的加速比。古斯塔夫森定律:有足够的并行化数量,要提高串行化效率,只要增加CPU数量就能够提高程序的性能,因此其加速比和CPU的个数成正比关系。

相关文章
|
3月前
并发与并行的区别(详细介绍)
并发与并行的区别(详细介绍)
1302 0
|
10月前
并发和并行以及他们的区别
并发:         并发指的是多个任务交替执行的能力,这些任务可能不是同时执行,而是通过快速切换在不同任务之间来实现“同时执行”的效果。在多核处理器上,多个线程可以真正同时执行,而在单核处理器上,线程之间通过时间片轮转实现并发。         所以当谈论并发的时候一定要加个单位时间,也就是说单位时间内并发量是多少?离开了单位时间其实是没有意义的。 并行:         并行指的是多个任务同时执行的能力,每个任务都在独立的CPU上执行。并行通常用于同时处理独立任务,这些任务可以同时执行,而不需要相互等待或协同工作。 两者区别:         关键区别在于并发强调任务在时间上交替执行
60 0
|
2月前
|
分布式计算 并行计算 调度
并行和并发的区别
并行和并发的区别
|
3月前
并行和并发有什么区别?
并行和并发有什么区别?
|
3月前
|
调度 数据库 计算机视觉
并行和并发的区别(详细)
并行和并发的区别(详细)
|
存储 并行计算 安全
并发和并行的区别
并发和并行的区别
|
机器学习/深度学习 存储 缓存
Plasticine: 面向并行模式的可重配架构(下)
Plasticine: 面向并行模式的可重配架构(下)
270 2
Plasticine: 面向并行模式的可重配架构(下)
|
存储 机器学习/深度学习 算法
Plasticine: 面向并行模式的可重配架构(上)
Plasticine: 面向并行模式的可重配架构(上)
247 0
Plasticine: 面向并行模式的可重配架构(上)
|
存储 编译器 调度
并发和并行有什么区别
并发和并行有什么区别
149 0