程序员必知:关于Linux内存寻址与页表处理的一些细节

简介: 程序员必知:关于Linux内存寻址与页表处理的一些细节

我们很容易从一些Linux内核的书籍中知道X86架构使用2级( 10-10-12 )页表,X86-64架构使用4级( 9-9-9-9-12 )页表甚至是5级(在pgd_t与pud_t中间加了一层p4d_t),但是一些隐藏的问题却往往被忽略,如每一个进程的页表存储在内核空间吗?为什么内核中页表所在页框物理地址转化为虚拟地址只需要加个偏置 PAGE_OFFSET?CR3寄存器内容和task_struct->mm->pgd都是全局页表的物理地址吗?一些页表操作函数如pud_offset为什么使用的是经过va()的地址以及为什么有了MMU还需要这些函数?

首先,如果你忘了多级页表内存寻址的细节,下面这张图可以很快让你回忆起来。

以上以X86-64架构为例描述了一个4级页表,需要注意的是Linux下逻辑地址与虚拟地址是一致的(各个段描述符Base均为0),p**_index()用于计算虚拟地址中每一级相对于页目录/表基址的索引或者偏置,而基址存储在CR3寄存器或者上一级页目录项或者页表项的物理地址字段中。

以下描述了内存寻址的特性:

内核给每一个进程分配页表,页表存储在内核空间,当发生进程切换或者其它特定时间时,CR3寄存器装载当前活动进程的全局页表的物理基址。所以后续寻址虚拟地址使用的就是当前进程的页表。

CR3寄存器写入值时会自动刷新TLB(转换后援缓冲器)表项。

CR3寄存器存储的是进程页全局目录的物理基址,然而 task_struct->mm->pgd存储的是进程页全局目录的虚拟地址。

每一个页目录项或者页表项中的有一个40Bit(视内核版本不同稍有差异)的字段用于存储下一级目录的物理地址,然而如果在内核中要遍历页表,在开启了MMU后,由于不能再使用物理地址,需要使用 "va(x)" 将物理地址转化为虚拟地址方可寻址,这个过程由MMU来完成。

虚拟地址的最低12位(4KB的页大小)和物理地址的最低12位相同。虚拟地址的4个页表段page_index可以看做在页表中的索引。

上图中的页操作函数可供我们遍历页表,如通过 "current" 指针就可以得到进程描述符,然后得到内存描述符下的 "pgd" 指针,从而可以得到该虚拟地址对应的物理地址(即上图中最后一层就是 page number + offset 得到物理地址),通过物理地址的前52位可以得到该物理地址所在页的页描述符,因为所有页框的页描述符是数组 mem_map【】 中的元素,数组的线性特性使得通过 page number 得到页描述符变成可能。

我们可以使用一个简单的例子做一个 a page table walk:

1 static unsigned long vaddr2paddr(unsigned long vaddr)

2 {

3 pgd_t pgd;

4 p4d_t p4d;

5 pud_t pud;

6 pmd_t pmd;

7 pte_t pte;

8 unsigned long paddr = 0;

9 unsigned long page_addr = 0;

10 unsigned long page_offset = 0;

11

12 pgd = pgd_offset(current->mm, vaddr);

13 if (!pgtable_l5_enabled())

14 printk("pgtable_l5 is not enabled\n");

15 p4d = p4d_offset(pgd, vaddr);

16 pud = pud_offset(p4d, vaddr);

17 pmd = pmd_offset(pud, vaddr);

18 pte = pte_offset_kernel(pmd, vaddr);

19 page_addr = pte_val(pte) PAGE_MASK;

20 page_offset = vaddr ~PAGE_MASK;

21 paddr = page_addr | page_offset;

22

23 return paddr;

24 }

1 #include

2 #include

3 #include

4 #include

5 #include

6 #include

7

8 unsigned long vaddr = 0;

9

10 MODULE_LICENSE("GPL");

11 MODULE_AUTHOR("ShieldQiQi");

12 MODULE_DESCRIPTION("Test page table walk");

13

14 static void get_pgtable_macro(void)

15 {

16 printk("PAGE_OFFSET = 0x%lx\n", PAGE_OFFSET);

17 printk("PGDIR_SHIFT = %d\n", PGDIR_SHIFT);

18 printk("P4D_SHIFT = %d\n", P4D_SHIFT);

19 printk("PUD_SHIFT = %d\n", PUD_SHIFT);

20 printk("PMD_SHIFT = %d\n", PMD_SHIFT);

21 printk("PAGE_SHIFT = %d\n", PAGE_SHIFT);

22

23 printk("PTRS_PER_PGD = %d\n", PTRS_PER_PGD);

24 printk("PTRS_PER_P4D = %d\n", PTRS_PER_P4D);

25 printk("PTRS_PER_PUD = %d\n", PTRS_PER_PUD);

26 printk("PTRS_PER_PMD = %d\n", PTRS_PER_PMD);

27 printk("PTRS_PER_PTE = %d\n", PTRS_PER_PTE);

28

29 printk("PAGE_MASK = 0x%lx\n", PAGE_MASK);

30 }

31

32 static unsigned long vaddr2paddr(unsigned long vaddr)

33 {

34 pgd_t pgd;

35 p4d_t p4d;

36 pud_t pud;

37 pmd_t pmd;

38 pte_t pte;

39 unsigned long paddr = 0;

40 unsigned long page_addr = 0;

41 unsigned long page_offset = 0;

42

43 pgd = pgd_offset(current->mm, vaddr);

44 printk("current->mm->pgd = 0x%lx\n", (unsigned long)current->mm->pgd);

45 printk("pgd = 0x%lx\n", (unsigned long)pgd);

46 printk("pgd_val = 0x%lx\n", pgd_val(pgd));

47 printk("pgd_index = %lu\n", pgd_index(vaddr));

48 if (pgd_none(pgd)) {

49 printk("not mapped in pgd\n");

50 return -1;

51 }

52

53 if (!pgtable_l5_enabled())

54 printk("pgtable_l5 is not enabled\n");

55

56 p4d = p4d_offset(pgd, vaddr);

57 printk("p4d_val = 0x%lx\n", p4d_val(p4d));

58 printk("p4d_index = %lu\n", p4d_index(vaddr));

59 if (p4d_none(p4d)) {

60 printk("not mapped in p4d\n");

61 return -1;

62 }

63

64 pud = pud_offset(p4d, vaddr);

65 printk("p4d_pfn_mask = 0x%lx\n", p4d_pfn_mask(p4d));

66 printk("p4d_page_vaddr = 0x%lx\n", p4d_page_vaddr(p4d));

67 printk("pud_index = 0x%lx\n", pud_index(vaddr));

68 printk("pud = 0x%lx\n", (unsigned long)pud);

69

70 printk("pud_val = 0x%lx\n", pud_val(pud));

71 if (pud_none(pud)) {

72 printk("not mapped in pud\n");

73 return -1;

74 }//代码效果参考:http://www.ezhiqi.com/bx/art_2671.html

75

76 pmd = pmd_offset(pud, vaddr);

77 printk("pmd_val = 0x%lx\n", pmd_val(pmd));

78 printk("pmd_index = %lu\n", pmd_index(vaddr));

79 printk("pmd = 0x%lx\n", (unsigned long)pmd);

80 if (pmd_none(pmd)) {

81 printk("not mapped in pmd\n");

82 return -1;

83 }

84

85 pte = pte_offset_kernel(pmd, vaddr);

86 printk("pte = 0x%lx\n", (unsigned long)pte);

87 printk("pte_val = 0x%lx\n", pte_val(pte));

88 printk("pte_index = %lu\n", pte_index(vaddr));

89 if (pte_none(pte)) {

90 printk("not mapped in pte\n");

91 return -1;

92 }

93

94 / Page frame physical address mechanism | offset /

95 page_addr = pte_val(pte) PAGE_MASK;

96 page_offset = vaddr ~PAGE_MASK;

97 paddr = page_addr | page_offset;

98 printk("page_addr = %lx, page_offset = %lx\n", page_addr, page_offset);

99 printk("vaddr = %lx, paddr = %lx\n", vaddr, paddr);

100

101 return paddr;

102 }

103

104 static int init v2p_init(void)

105 {

106

107 printk("vaddr to paddr module is running..\n");

108 get_pgtable_macro();

109 printk("\n");

110

111 vaddr = (unsigned long)vmalloc(1000 sizeof(char));

112 if (vaddr == 0) {

113 printk("vmalloc failed..\n");

114 return 0;

115 }//代码效果参考:http://www.ezhiqi.com/bx/art_2715.html

116 printk("vmalloc_vaddr=0x%lx\n", vaddr);

117 vaddr2paddr(vaddr);

118 vfree((void )vaddr);

119

120 printk("\n\n");

121 vaddr = get_free_page(GFP_KERNEL);

122 if (vaddr == 0) {

123 printk("get_free_page failed..\n");

124 return 0;

125 }

126 printk("get_page_vaddr=0x%lx\n", vaddr);

127 vaddr2paddr(vaddr);

128 free_page(vaddr);

129

130 return 0;

131 }//代码效果参考:http://www.ezhiqi.com/bx/art_6545.html

132

133 static void exit v2p_exit(void)

134 {

135 printk("vaddr to paddr module is leaving..\n"

相关文章
|
7天前
|
存储 缓存 算法
【原创】(十)Linux内存管理 - zoned page frame allocator - 5(1)
【原创】(十)Linux内存管理 - zoned page frame allocator - 5
|
1天前
|
监控 Linux
深入了解Linux的pmap命令:进程内存映射的利器
`pmap`是Linux下分析进程内存映射的工具,显示内存区域、权限、大小等信息。通过`/proc/[pid]/maps`获取数据,特点包括详细、实时和灵活。参数如`-x`显示扩展信息,`-d`显示设备。示例:`pmap -x 1234`查看进程1234的映射。注意权限、实时性和准确性。结合其他工具定期监控,排查内存问题。
|
2天前
|
Linux
【linux】共享内存
【linux】共享内存
6 0
|
3天前
|
Linux 芯片
一篇文章讲明白Linux内核态和用户态共享内存方式通信
一篇文章讲明白Linux内核态和用户态共享内存方式通信
|
4天前
|
程序员 索引
逆向学习汇编篇:内存管理与寻址方式
逆向学习汇编篇:内存管理与寻址方式
7 0
|
7天前
|
存储 缓存 Linux
【原创】(十)Linux内存管理 - zoned page frame allocator - 5(2)
【原创】(十)Linux内存管理 - zoned page frame allocator - 5
|
12天前
|
消息中间件 存储 Kafka
实时计算 Flink版产品使用问题之 从Kafka读取数据,并与两个仅在任务启动时读取一次的维度表进行内连接(inner join)时,如果没有匹配到的数据会被直接丢弃还是会被存储在内存中
实时计算Flink版作为一种强大的流处理和批处理统一的计算框架,广泛应用于各种需要实时数据处理和分析的场景。实时计算Flink版通常结合SQL接口、DataStream API、以及与上下游数据源和存储系统的丰富连接器,提供了一套全面的解决方案,以应对各种实时计算需求。其低延迟、高吞吐、容错性强的特点,使其成为众多企业和组织实时数据处理首选的技术平台。以下是实时计算Flink版的一些典型使用合集。
|
5天前
|
存储 Java C++
Java虚拟机(JVM)管理内存划分为多个区域:程序计数器记录线程执行位置;虚拟机栈存储线程私有数据
Java虚拟机(JVM)管理内存划分为多个区域:程序计数器记录线程执行位置;虚拟机栈存储线程私有数据,如局部变量和操作数;本地方法栈支持native方法;堆存放所有线程的对象实例,由垃圾回收管理;方法区(在Java 8后变为元空间)存储类信息和常量;运行时常量池是方法区一部分,保存符号引用和常量;直接内存非JVM规范定义,手动管理,通过Buffer类使用。Java 8后,永久代被元空间取代,G1成为默认GC。
16 2
|
8天前
|
存储
数据在内存中的存储(2)
数据在内存中的存储(2)
21 5
|
8天前
|
存储 小程序 编译器
数据在内存中的存储(1)
数据在内存中的存储(1)
25 5