最佳实践：如何在Linux中优化虚拟内存管理-阿里云开发者社区

一、概述

首先需要知道虚拟内存是一个抽象的概念。概念上而言，虚拟内存是一个存放在磁盘上N个连续字节大小的单元组成的数组。每个进程都拥有一个虚拟内存空间，在此空间上进程可以对虚拟内存进行管理和应用（例如内存映射和malloc、free等动态分配内存空间）。

虚拟内存的作用（为什么需要虚拟内存？而不是直接操控物理内存）：将主存可以看成是一个存储在磁盘上地址空间的高速缓存，也就是说，其功能是在主存中自动缓存最近使用的存放在磁盘上的虚拟地址空间中的内容为每个进程提供一个一致的地址空间，从而简化内存管理保护每个进程的地址空间不被其他进程破坏。

虚拟内存作为缓存的工具

现代计算机采用的是虚拟寻址方式，也就是说，CPU传出来的地址是虚拟地址，这个虚拟地址要转换成物理地址，才能真正在主存中“寻址”，因此就需要一个地址翻译，也就是页表。页表就是将虚拟页映射到物理页，硬件通过读取页表中的页表条目将虚拟地址转换成物理地址。

这里就会有一个页命中率的问题。当页表中有这个虚拟地址对应的物理页号时候（命中，页表条目中有效位置1），则接下来可直接去主存（或者高速缓存）的物理地址中取数据；当页表中虚拟地址没有设置有效位（未命中，即缺页），此时就会产生一个缺页异常，调用内核中的缺页处理程序，选择页表中的一个牺牲页调出（如果其更改了则会让其重新写回磁盘），然后将目标页调入内存，同时更新页表，然后异常处理程序返回。然后会重新执行导致缺页的指令，此时即会命中。

虚拟内存作为内存管理工具

实际上，操作系统为每个进程都提供了一个独立的页表，因为每个进程都有一个独立的虚拟地址空间。多个虚拟页面可以映射到同一个共享物理页面上，即内存共享（进程IPC方法之一）。虚拟内存简化了如下内存管理：
简化链接。进程虚拟地址空间的一致性极大地简化了连接器的设计和实现，允许连接器生成完全可连接的可执行文件，而这些可执行文件是独立于物理内存中的代码和数据的位置。
简化加载。虚拟内存使得容易向内存中加载可执行文件和共享对象文件。加载器从不从磁盘到内存复制任何数据，虚拟内存系统会按照运行时候的需求自动掉入数据页。
简化共享。虚拟内存可以使得进程与进程之间实现代码和数据共享（如共享库，内存公有映射）
简化内存分配。虚拟内存为用户进程提供了一个简单的分配额外内存的机制（malloc等）

二、虚拟内存管理

虚拟内存技术允许执行进程不必完全处于内存。这种方案的一个主要优点就是，程序可以大于物理内存。此外，虚拟内存将内存抽象成一个巨大的、统一的存储数组，进而实现了用户看到的逻辑内存与物理内存的分离。这种技术使得程序员不再担忧内存容量的限制。

虚拟内存还允许进程轻松共享文件和实现共享内存。此外，它为创建进程提供了有效的机制。然而，虚拟内存的实现并不容易，并且使用不当还可能会大大降低性能。

2.1 背景

内存管理算法是必要的，因为有一个基本要求：执行的指令应处于物理内存。满足这一要求的第一种方法是，将整个逻辑地址空间置于物理内存中。动态加载可以帮助缓解这种限制，但它通常需要特殊的预防措施和程序员的额外工作。

指令应处于物理内存以便执行的要求，似乎是必要的和合理的；但它也是有缺点的，因为它将程序的大小限制为物理内存的大小。事实上，通过实际程序的研究会发现，在许多情况下并不需要将整个程序置于内存中。

虚拟内存(virtual memory) 将用户逻辑内存与物理内存分开。这在现有物理内存有限的情况下，为程序员提供了巨大的虚拟内存，如下图所示。虚拟内存使得编程更加容易，因为程序员不再需要担心有限的物理内存空间，只需要关注所要解决的问题。

进程的虚拟地址空间(virtual address space) 就是进程如何在内存中存放的逻辑(或虚拟)视图。通常，进程从某一逻辑地址(如地址0)开始，连续存放，如下图所示。物理地址可以按帧来组织，并且分配给进程的物理帧也可以不连续，这就需要内存管理单元(MMU) 将逻辑页映射到内存的物理页帧。

2.2 请求调页

如何从磁盘加载可执行程序到内存：

一种选择是，在程序执行时将整个程序加载到物理内存。然而，这种方法的一个问题是，最初可能不需要整个程序都处于内存。假设程序开始时带有一组用户可选的选项。加载整个程序会导致所有选项的执行代码都加载到内存中，而不管这些选项是否最终使用。
另一种策略是，仅在需要时才加载页面。这种技术被称为请求调页(demand paging) ，常常用于虚拟内存系统。对于请求调页的虚拟内存，页面只有在程序执行期间被请求时才被加载。因此，从未访问的那些页从不加载到物理内存中。

请求调页系统类似于具有交换的分页系统，如下图所示，这里进程驻留在外存上(通常为磁盘)。当进程需要执行时，它被交换到内存中。不过，不是将整个进程交换到内存中，而是采用惰性交换器(lazy swapper) 。惰性交换器除非需要某个页面，否则从不将它交换到内存中。

在请求调页的上下文中，使用术语“交换器”在技术上是不正确的。交换器操纵整个进程，而调页程序(pager) 只涉及进程的页面。因此，在讨论请求调页时，我们使用“调页程序”，而不是“交换器”。

调度程序需要一定的硬件支持，以区分内存页面和磁盘的页面。有效-无效位方案可以解决

有效（v）：页面在内存中
无效（i）：页面不在进程逻辑地址空间中，或有效但只在磁盘上

如果进程试图访问那些尚未调入内存的页面时，对标记为无效的页面访问会产生缺页错误

【文章福利】小编推荐自己的Linux内核技术交流群:【 865977150】整理了一些个人觉得比较好的学习书籍、视频资料共享在群文件里面，有需要的可以自行添加哦！！！

处理这种缺页错误的程序很简单：

检查进程内部表，已确定该引用是有效的还是无效的
如果非法，终止进程；如果有效但尚未调入页面，那么应该调入
找到一个空闲帧
将所需要的页调入到，找到的空闲帧里
修改页表（有效、无效位），以表示该页已在物理内存中
重启被陷阱中断的指令（重新访问）

缺页中断机构

在请求分页系统中，每当所要访问的页面不在内存时，便产生一个缺页中断，请求操作系统将所缺的页调入内存。此时应将缺页的进程阻塞（调页完成唤醒)，如果内存中有空闲块，则分配一个块，将要调入的页装入该块，并修改页表中相应页表项，若此时内存中没有空闲块，则要淘汰某页（若被淘汰页在内存期间被修改过，则要将其写回外存)。

缺页中断作为中断同样要经历，诸如保护CPU环境、分析中断原因、转入缺页中断处理程序、恢复CPU环境等几个步骤。但与一般的中断相比，它有以下两个明显的区别：

在指令执行期间产生和处理中断信号，而非一条指令执行完后，属于内部中断。

一条指令在执行期间，可能产生多次缺页中断。

处理缺页错误的程序：

检查这个进程的内部表，以确定该引用是有效还是无效的内存访问。
如果引用无效，终止进程。如果引用有效但尚未调入页面，那么现在就调入。
找到哦一个空闲帧。
调度磁盘操作，以将所需页面读到刚分配的帧。
磁盘读取完成时，修改进程的内部表和页表，以指示该页现在处于内存中。
重新启动被陷阱中断的指令。

2.3写时复制

写时复制（cow）通过允许父进程和子进程最初共享相同的页面来工作。这些共享页标记为写时复制，这意味着如果任何一个进程需要对页进行写操作，那么就会创建一个共享页的副本。

优点：

可以快速创建进程
最小化创建新进程的页数

2.4页面置换算法

实现请求调页，需要解决的两个问题：帧分配算法和页面置换算法。
帧分配算法：多个进程都在内存中，要决定为每个进程分配多少帧。
页面置换算法：需要页面置换时，决定把哪个帧置换出去。

进程运行时，若其访问的页面不在内存而需将其调入，但内存已无空闲空间时，就需要从内存中调出一页程序或数据，送入磁盘的对换区。

选择调出页面的算法就称为页面置换算法。好的页面置换算法应有较低的页面更换频率，也就是说，应将以后不会再访问或者以后较长时间内不会再访问的页面先调出。

常见的置换算法有以下四种。

（1）最佳置换算法

最佳(Optimal, OPT)置换算法所选择的被淘汰页面将是以后永不使用的，或者是在最长时间内不再被访问的页面,这样可以保证获得最低的缺页率。但由于人们目前无法预知进程在内存下的若千页面中哪个是未来最长时间内不再被访问的，因而该算法无法实现。

最佳置换算法可以用来评价其他算法。假定系统为某进程分配了三个物理块，并考虑有以下页面号引用串：

7, 0, 1, 2, 0, 3, 0, 4, 2, 3, 0, 3, 2, 1, 2, 0, 1, 7, 0, 1进程运行时，先将7, 0, 1三个页面依次装入内存。进程要访问页面2时，产生缺页中断，根据最佳置换算法，选择第18次访问才需调入的页面7予以淘汰。然后，访问页面0时，因为已在内存中所以不必产生缺页中断。访问页面3时又会根据最佳置换算法将页面1淘汰……依此类推，如图3-26所示。从图中可以看出釆用最佳置换算法时的情况。

可以看到，发生缺页中断的次数为9，页面置换的次数为6。

（2）FIFO页面置换算法

优先淘汰最早进入内存的页面，亦即在内存中驻留时间最久的页面。该算法实现简单，只需把调入内存的页面根据先后次序链接成队列，设置一个指针总指向最早的页面。但该算法与进程实际运行时的规律不适应，因为在进程中，有的页面经常被访问。

这里仍用上面的实例，釆用FIFO算法进行页面置换。进程访问页面2时，把最早进入内存的页面7换出。然后访问页面3时，再把2, 0, 1中最先进入内存的页换出。由图可以看出，利用FIFO算法时进行了 12次页面置换，比最佳置换算法正好多一倍。

FIFO算法还会产生当所分配的物理块数增大而页故障数不减反增的异常现象，这是由 Belady于1969年发现，故称为Belady异常，如图所示。只有FIFO算法可能出现Belady 异常，而LRU和OPT算法永远不会出现Belady异常。

（3）LRU页面置换算法

选择最近最长时间未访问过的页面予以淘汰，它认为过去一段时间内未访问过的页面，在最近的将来可能也不会被访问。该算法为每个页面设置一个访问字段，来记录页面自上次被访问以来所经历的时间，淘汰页面时选择现有页面中值最大的予以淘汰。

再对上面的实例釆用LRU算法进行页面置换，如图所示。进程第一次对页面2访问时，将最近最久未被访问的页面7置换出去。然后访问页面3时，将最近最久未使用的页面1换出。

前5次置换的情况与最佳置换算法相同，但两种算法并无必然联系。实际上，LRU算法根据各页以前的情况，是“向前看”的，而最佳置换算法则根据各页以后的使用情况，是“向后看”的。

LRU性能较好，但需要寄存器和栈的硬件支持。LRU是堆栈类的算法。理论上可以证明，堆栈类算法不可能出现Belady异常。FIFO算法基于队列实现，不是堆栈类算法。

（4）时钟页面置换算法

LRU算法的性能接近于OPT,但是实现起来比较困难，且开销大；FIFO算法实现简单，但性能差。所以操作系统的设计者尝试了很多算法，试图用比较小的开销接近LRU的性能，这类算法都是CLOCK算法的变体。

简单的CLOCK算法是给每一帧关联一个附加位，称为使用位。当某一页首次装入主存时，该帧的使用位设置为1;当该页随后再被访问到时，它的使用位也被置为1。对于页替换算法，用于替换的候选帧集合看做一个循环缓冲区，并且有一个指针与之相关联。当某一页被替换时，该指针被设置成指向缓冲区中的下一帧。当需要替换一页时，操作系统扫描缓冲区，以查找使用位被置为0的一帧。每当遇到一个使用位为1的帧时，操作系统就将该位重新置为0；如果在这个过程开始时，缓冲区中所有帧的使用位均为0，则选择遇到的第一个帧替换；如果所有帧的使用位均为1,则指针在缓冲区中完整地循环一周，把所有使用位都置为0，并且停留在最初的位置上，替换该帧中的页。由于该算法循环地检查各页面的情况，故称为CLOCK算法，又称为最近未用(Not Recently Used, NRU)算法。

页面分配策略

驻留集指请求分页存储管理中操作系统给进程分配的内存块的集合，而工作集是指在某段时间内进程访问页面的集合，一般而言，工作集的大小不会大于工作集，否则进程运行过程中可能频繁地发生页面调入调出，产生抖动/颠簸现象（页面频繁换入换出）。

考虑驻留集的大小，可以分为固定分配和可变分配，即驻留集大小在程序运行期间是否可以改变；考虑置换策略有全局置换和局部置换，局部置换即发生缺页时只能选择自己已有的物理块进行置换，全局置换即可以选择操作系统保留的空闲物理块或别的进程持有的物理块进行置换。全局置换意味着进程的拥有的物理块会变，因此不存在固定分配全局置换。

置换策略包括以下三种：

固定分配局部置换：操作系统为每个进程分配一定的物理块，在运行期间保持不变。若进程发生缺页，只能选择该进程在内存中的页面进行置换，例如上面举的页面置换算法都是在固定分配局部置换的前提下。这种分配策略的缺点是要实现知晓进程需要多少个物理块才比较合适。
可变分配全局置换：刚开始时操作系统会为进程分配一定数量的物理块。当进程发生缺页时，从空闲物理块中取出一块分配给进程，若没有空闲物理块，则从未锁定的页面中选取。只要进程发生缺页们就会获得新的物理块。被选择的页面可能是任意一个进程中的页面，因此被选择的进程拥有的物理块会减少，导致缺页率上升。
可变分配局部置换：刚开始是操作系统会为进程分配一定数量的物理块，进程缺页时只允许从自己在内存中的页面进行替换。如果进程频繁地发生缺页，则操作系统会考虑为该进程多分配几个物理块，反之则减少分配的物理块。该策略是根据发生缺页的频率动态地调整进程拥有的物理块个数

2.5帧分配

在各个进程之间，如何分配固定数量的可用内存？每个进程各分配多少帧？

（1）帧的最小数

帧分配策略受到多方面的限制。例如，所分配的帧不能超过可用帧的数量，也必须分配至少最小数量的帧。

分配至少最小数量的帧的一个原因涉及性能。显然，随着分配给每个进程的帧数量的减少，缺页错误率增加，从而减慢进程执行。此外，请记住，若在执行指令完成之前发生缺页错误，应重新启动指令。因此，必须有足够的帧来容纳任何单个指令可以引用的所有不同的页面。

（2）分配算法

平均分配：每个进程分配相同数量的帧。
按比例分配：进程占用内存越大，分配帧的数量越多。

（3）全局分配与局部分配

为各个进程分配帧的另一个重要因素是页面置换。由于多个进程竞争帧，可以将页面置换算法分为两大类：全局置换(global replacement) 和局部置换(local replacement) 。

全局置换允许一个进程从所有帧的集合中选择一个置换帧，而不管该帧是否已分配给其他进程；也就是说，一个进程可以从另一个进程那里获取帧。局部置换要求每个进程只从它自己分配的帧中进行选择。

2.6系统抖动

如果进程没有需要支持活动使用页面的帧数，那么它会很快产生缺页错误。此时，必须置换某个页面。然而，由于它的所有页面都在使用中，所以必须立即置换需要再次使用的页面。因此，它会再次快速产生缺页错误，再一次置换必须立即返回的页面，如此快速进行。这种高度的页面调度活动称为抖动。如果一个进行的调页时间多于它的执行时间，那么这个进程就在抖动。

（1）系统抖动的原因

抖动导致严重的性能问题。考虑以下场景，这是基于早期调页系统的实际行为。

操作系统监视CPU利用率。如果CPU利用率太低，那么通过向系统引人新的进程来增加多道程度。采用全局置换算法会置换任何页面，而不管这些页面属于哪个进程。现在假设进程在执行中进入一个新阶段，并且需要更多的帧。它开始出现缺页错误，并从其他进程那里获取帧。然而，这些进程也需要这些页面，因此它们也会出现缺页错误，并且从其他进程中获取帧。这些缺页错误进程必须使用调页设备以将页面换进和换出。当它们为调页设备排队时，就绪队列清空。随着进程等待调页设备， CPU利用率会降低。

CPU调度程序看到CPU利用率的降低，进而会增加多道程度。新进程试图从其他运行进程中获取帧来启动，从而导致更多的缺页错误和更长的调页设备队列。因此， CPU利用率进一步下降，并且CPU调度程序试图再次增加多道程度。这样就出现了抖动，系统吞吐量陡降。缺页错误率显著增加。结果，有效内存访问时间增加。没有工作可以完成，因为进程总在忙于调页。

如何解决抖动问题？

1. 通过局部置换算法。
2. 工作集模型。
3. 缺页错误频率：设置缺页错误率的上下限。

（2）内存映射文件

假设采用标准系统调用open() 、read() 和write() 来顺序读取磁盘文件。每个文件访问都需要系统调用和磁盘访问。或者，采用所讨论的虚拟内存技术，以将文件I/O作为常规内存访问。这种方法称为内存映射(memory mapping) 文件，允许一部分虚拟内存与文件进行逻辑关联。正如我们将会看到的，这可能导致显著的性能提高。

基本机制

将磁盘块儿（block）映射到内存的一页或多页

最开始，访问文件会发生页错误

文件的读写就按通常的内存访问来处理

文件的写（磁盘）I/O 操作不一定立即发生，而是定期的发生或关闭文件时发生

优点：文件共享

多个进程可以将同一个文件映射到各自的虚拟内存中，以允许数据共享

三、虚拟内存原理

3.1为何引入虚拟内存

传统内存管理方式的特点

对于传统的内存管理，作业必须一次性全部装入内存才可以开始运行。当作业很大时，无法全部装入内存，导致大的作业无法运行，例如一个16GB的游戏无法在8GB的内存中直接运行。因此只有少量作业能够同时运行，系统的并发度低。
一旦作业被调入内存，就会一直常驻在内存中，但是大部分情况下一个时间段内只要访问作业的一部分数据进程就能正常运行，因此内存中会常驻许多暂时用不到的数据，导致内存的利用率低。

3.2引入虚拟内存

综合上述对于传统内存管理的缺点，引入虚拟内存。利用局部性(包括空间局部性和时间局部性)原理，在作业装入时，可以将程序中很快会用到的部分装入内存，暂时用不到的部分驻留在外存中。在程序执行过程中，若要访问的信息不在内存中，则利用调度将对应的信息从外存调入到内存中。若内存空间不足，则操作系统将内存中暂时用不到的信息调出到外存中。这样在操作系统的管理下，在用户看来内存被扩大了（例如8GB的内存能运行16GB的游戏，实际上分配给游戏进程的内存可能只有2GB，通过操作系统的管理让该游戏能够正常运行），这就是虚拟内存。

实际上物理内存空间的大小没有改变，只是在逻辑空间上进行了扩充，这也是操作系统虚拟性的一个体现。

3.3工作原理

程序执行的原理

操作系统为每个进程提供了一个假象：它拥有属于自己的大量的私有内存，可以有巨大的连续地址空间放入自己的代码和数据。用户程序中访问的地址都是虚拟地址，需要经过操作系统和硬件的协同工作将这个虚拟地址翻译为物理地址，找到想要的信息。

现代计算机系统都配有高速可随机访问存储器，称为主存储器、物理内存或者直接称为内存。内存是用于存放代码和数据的硬件，它是处理器能直接寻址的存储空间，存取速率快。内存的承载实体通常是随机存取存储器（RAM），CPU可以直接与RAM交换数据。RAM在工作状态下，可以随时从任何一个指定的地址写入（存入）或读出（取出）信息。

CPU通常生成一个虚拟地址（VA）来访问主存，这个虚拟地址被加载到内存之前，需要先查表转换成物理地址（PA），最终CPU间接的访问了内存的这个物理地址（PA）。

程序被执行前需要先将程序放到内存中才能被CPU处理。程序运行时会将保存在硬盘上的程序复制到RAM内存（载入内存），然后CPU执行内存中的程序代码。如果执行的程序占用内存很大或很多，或同时执行多个程序，就会导致内存消耗殆尽。从而导致程序执行异常或崩溃。

虚拟内存的特点

多次性：无需一次性将作业全部装入内存，而是运行作业被分为多次调入内存
对换性：在作业运行时无锡常驻内存，允许在作业允许过程中，将作业调入调出内存
虚拟性：从逻辑空间上扩充了内存的容量，使得用户看到的内存容量远大于实际的物理内存容量

3.4虚拟内存工作原理

进程在运行时的地址空间实际上是一层逻辑抽象的连续地址。当进程开始运行时，先将一部分程序装入内存，另一部分暂时不需要实际物理内存的暂时留在外存，暂不分配实际物理内存；当要执行的指令不在内存时，由系统自动完成将它们调入内存的工作。

（内存管理：自动交换技术）当没有足够的内存时，系统自动选择部分内存（暂不执行的程序）空间，将其中原有的内容交换到磁盘（硬盘）上，并释放其所占用的实际物理内存供其他进程使用。这样做的结果使程序的运行丝毫不受影响，使程序在运行中感觉到拥有一个不受内存容量约束的、虚拟的、能够满足自己需求的存储器。

虚拟内存给予应用程序强大的能力，应用程序可以创建和销毁内存片，应用程序可以将内存片映射到磁盘文件中，应用程序可以与其它进程共享内存。

3.5虚拟内存的实现

虚拟内存的实现包括三种方式，分别是①请求分页存储管理②请求分段存储管理③请求段页式存储管理，与传统的非连续分配存储管理（基本分页存储管理、基本分段存储管理、基本段页式存储管理）类似，不同之处在于：①在程序执行过程中，若要访问的信息不在内存中，则有操作系统负责将所需的信息从外存调入到内存中，然后执行程序；②若内存空间不足，则操作系统会将内存中暂时用不到的信息调出到外存中。下面仅介绍请求分页存储管理，其他两种管理方式类似。

请求分页存储管理

请求分页存储管理的页表如下所示：

前两项与基本分页存储管理的页表一致，表明进程中页号对应的内存块号
状态位表明该页面是否已经调入内存中
访问字段可以记录最近该页被访问了多少次，或者是上次访问的时间，用于页面替换算法使用
修改位表明页面在调入后是否被修改，如果没有被修改则在被替换时可以选择不再写回外存中，而是直接被覆盖
外存地址表明进程对应的页面在外存中的存放位置

假设现在要访问的页面不在内存中，即状态位为0，则会产生一个缺页中断，此时操作系统会使用中断处理程序处理中断，此时缺页的进程会阻塞，放入阻塞队伍中，等到页面调度完成后再将其唤醒，放回到就绪队伍中。

如果内存中有空闲块，则会分配一个空闲块给该进程，然后将所缺页面从外存中调入到内存中的空闲块中，并修改页表；若没有空闲块，则利用页面置换算法选择一个页面进行淘汰，并修改页表，若被淘汰的块没有被修改过，则不用写回到外存中。

例如要访问进程的第0页，发现第0页没有调入内存中，且现在有内存中的空闲块a，则将第0页对应的外存块（第X块）调入到内存块a中，调入成功后修改的页表如下：

地址转换过程

在请求分页管理中页可以加入快表TLB来加速查询过程，若某个页面被换出内存，则在快表中对应的表项也要删除，否则可能会访问异常。若在快表中查找到对应页号的页表项，则可以直接通过页表项中的内存块号找到对应的物理地址。整体的地址转换过程如下图所示：

假设访问快表时间为a，访问内存的时间为b，访问外存并从外存调入内存让后更新页表、快表的时间为c。

若在快表中找到对应表项，则访问时间为a(访问快表命中)+b(访问对应内存块)；
若在快表中没有找到而在页表中找到对应表项，则访问时间为a(访问快表未命中)+b(访问页表命中)+c(访问对应内存块) = a + 2b；
若该页面不在内存中，即访问页表发现控制位为0，则访问时间为a(访问快表未命中)+b(访问页表为命中)+c(从外存中调入)+a(访问快表命中)+b(访问对应内存块)= 2a + 2b + c

精选文章推荐阅读：

最佳实践：如何在Linux中优化虚拟内存管理