正文
并行性包括同时性和并发性。其中，同时性是指两个或两个以上的事件在同一时刻发生，并发性是指两个或两个以上的事件在同一时间间隔内连续发生。
从计算机信息处理的步骤和阶段的角度来看，并行处理可分为如下几类。
- 存储器操作并行。
- 处理器操作步骤并行（流水线处理机）。
- 处理器操作并行（阵列处理机）。
- 指令、任务、作业并行（多处理机、分布式处理系统、计算机网络）。
阵列处理机
阵列处理机将重复设置的多个处理单元（PU）按一定方式连成阵列，在单个控制部件（CU）控制下，对分配给自己的数据进行处理，并行地完成一条指令所规定的操作。这是一种单指令流多数据流计算机，通过资源重复实现并行性。
并行处理机
SIMD 和 MIMD 是典型的并行处理机，SIMD 有共享存储器和分布式存储器两种形式。
在具有共享存储器的 SIMD 结构中，将若干存储器构成统一的并行处理机存储器，通过互联网 ICN 为整个并行系统的所有处理单元共享。其中，PE 未处理单元，CU 控制部件，M 为共享存储器，ICN 为互联网络。
共享存储器
分布式存储器的 SIMD 如图所示，其中，PE 为处理单元，CU 为控制部件，PEM 为局部存储器，ICN 为互联网络。含有多个同样结构的处理单元，通过寻径网络的 ICN 为一定的方式互相连接。
分布式存储器
多处理机
多处理机系统是由多台处理机组成的系统，每台处理机有属于自己的控制部件，可以执行独立的程序，共享一个主存储器和所有的外部设备。它是多指令流多数据流计算机。在多处理机系统，机间的互联技术决定了多处理机的性能。多处理机之间的互连要满足高频带、低成本、连接方式的多样性以及在不规则通信情况下连接的无冲突性。
其他计算机
集群一般是指连接在一起的两个或多个计算机（结点）。集群计算机是一种并行或分布式处理系统，由很多连接在一起的独立计算机组成，像一个单集成的计算机资源一样协调工作，主要用来解决大型计算问题。计算机结点可以是一个单处理器或多处理器的系统，拥有内存、I/O 设备和操作系统。连接在一起的计算机集群对用户和应用程序来说像一个单一的系统，这样的系统可以提供一种价格合理的且可获得所需性能和快速而可靠的服务的解决方案。
