层次化存储结构
首先,问小伙伴们一个问题:计算机的存储结构为什么需要进行层次化的划分呢?
说的直接一点:就是为了减少经济成本。如果说,CPU的价格非常便宜的话,根本就不需要内存了。可以把所有的内存容量全部都做到CPU里面去,就可以了。但是,事实上,CPU的内存是很金贵的,至今为止,CPU中基本上还是一级缓存和二级缓存。三级缓存比较少见。而且,CPU中的存储容量是非常小的,基本都是KB级别的存储,CPU的内存容量也就几KB,MB级别的CPU内存也是比较少见的。所以,出于经济成本的考虑,计算机中的存储结构是按照层次进行划分的。
为了能够让小伙伴们更加清晰的理解层次化存储结构,我们先来看一张图。
由上图,可以看出:
(1)层次化的存储结构可以分为:CPU、Cache(高速缓存)、主存(内存)、外存(辅存)。
(2)从上往下,速度越来越慢,容量越来越大。
局部性原理是层次化存储结构的支撑。
局部性原理
一个编写良好的计算机程序常常具有良好的局部性。也就是说。它们倾向于引用临近于其他最近引用过的数据项的数据项,或者最近引用过的数据项本身。这汇总倾向性,就被称为局部性原理,这是一个持久的概念,对硬件和软件系统的设计和性能都有着极大的影响。
之所以有这个规律,很多人认为原因是:程序的指令大部分时间是顺序执行的,而且程序的集合,如数组等各种数据结构是连续存放的。
局部性原理讲的是:在一段时间内,整个程序的执行仅限于程序的某一部分,相应地,程序访问的存储空间也局限于某个内存区域。主要分为两类:
- 时间局部性:如果程序中的某条指令一旦执行,则不久之后该指令可能再次被执行;如果某数据被访问,则不久之后该数据可能再次被访问。
- 空间局部性:是指一旦程序访问了某个存储单元,则不久之后,其附近的存储单元也将被访问。
Cache
针对Cache相关的技术,我们主要来聊聊Cache的概念和映像相关的技术。
Cache-概念
这里的Cache表示的是高速缓冲,在计算机的存储体系系统中,Cache是除寄存器外访问速度最快的层次。使用Cache改善系统性能的依据是程序的局部性原理 。
如果以h代表对Cache的访问命中率,t1表示Cache的周期时间,t2表示主存储器的周期时间,以读操作为例,使用“Cache+主存储器”的系统的平均周期为t3,则可以得出如下运算公式。
t3 = h * t1 + (1 - h) * t2
其中。(1 - h)又称为失效率,也就是未命中率。
Cache-映像
Cache的映像分为三种,分别是:直接相联映像、全相联映像、组相联映像。
- 直接相联映像:硬件电路比较简单,但冲突率最高。
- 全相连映像:电路难于设计和实现,只适用于小容量的Cache,冲突率比较低。
- 组相联映像:直接相联与全相联的折中。
地址映像是将主存与Cache的存储空间划分为若干大小相同的页(或称为块)。
例如,一台计算机的主存容量为1GB,划分为2048页,每页512KB;Cache的容量为8MB,划分为16页,每页512KB。接下来,我们由此来详细图解直接相联映像、全相联映像和组相联映像。
直接相联映像
我们可以画一组图来表示Cache的直接映像。首先,我们先来简单画一个主存标记、Cache页号和页内地址的示意图。如下所示。
如上图所示,主存标记为7位,Cache页号为4位,页内地址为19位。
记录主存区号的示意图如下所示。
有了上面两张图的基础后,我们再来看直接相联映像的示意图如下所示。
这里,我们将容量为1GB的主存划分成2048页,总共127个区,每页的容量为512KB。将容量为8MB的Cache划分为16页,每页容量为512KB。
所谓直接相联映像是指Cache中的0页只能存储主存中0页的内容,这里主存中0页指的是每个区的0页,比如上图中的0区的0页,1区的16页,127区的2032页等。
在直接相联映像中,只需要记录主存标记、Cache页号和页内地址就能够快速的找到主存中的数据。
使用直接相联映像有个缺点:那就是如果Cache中的0页,存储了主存中0区0页的内容时,如果此时需要存储主存1区中的16页内容,就只能将主存0区中0页的内容从Cache的0页中清除,然后将主存1区中16页的内容存储到Cache中的0页内。冲突率比较高。细心的小伙伴会发现:这其实是违背局部性原理的。
直接相联映像访问速度最快,但冲突率最高。
全相连映像
我们先来看下全相联映像的主存页标记和页内地址的示意图,如下所示。
此时,使用11位来标识主存页标记,使用19位来标识页内地址。
使用全相连映像需要记录主存与Cache的对应关系,如下图所示。
接下来,我们来看看全相连映像的示意图,如下所示。
从图中可以看出,Cache中的任何一个也,都可以存储主存中的任何一个页。
使用全相连映像访问速度最慢,冲突率最低。
组相联映像
组相联映像本质上是直接相联映像和全相联映像的折中。同样的,我们先来看组相连映像的存储示意图。
此时,在组相连映像中,Cache组号使用3位表示,组内页号使用1位表示,页内地址使用19位表示。其中,3位的Cache组号,1位的组内页号和前面的7位构成了主存页标记;3位的Cache组号,1位的组内页号和19号的页内地址构成了Cache地址。
接下来,我们再来看看主存与Cache的对应关系,如下图所示。
组相连的映像示意图如下所示。
由上图可知,在组相连映像中,主存的组与Cache的组是直接相联映像关联,而在组内则是通过全相联映像来访问和存储数据。们来一起聊聊计算机中的层次化存储结构。