Linux用户态进程的内存管理浅析

野性酷女 2023-05-22 11:27 24阅读 0赞

相信大家都知道对用户态的内存消耗对象是进程，应用开发者面对的所有代码操作最后的落脚点都是进程，这也是说为什么内存和进程两个知识点的重要性，理解了内存和进程两大法宝，对所有软件开发的理解都会有了全局观（关于进程的知识以后再整理和大家分享）。

下面闲话少说，开始本篇的内容——进程的内存消耗和泄漏

## 进程的虚拟地址空间VMA（Virtual Memory Area） ##

在linux操作系统中，每个进程都通过一个task\_struct的结构体描叙，每个进程的地址空间都通过一个mm\_struct描叙，c语言中的每个段空间都通过vm\_area\_struct表示，他们关系如下 :

![format_png][]

上图中，task\_struct中的mm\_struct就代表进程的整个内存资源，mm\_struct中的pgd为页表，mmap指针指向的vm\_area\_struct链表的每一个节点就代表进程的一个虚拟地址空间，即一个VMA。一个VMA最终可能对应ELF可执行程序的数据段、代码段、堆、栈、或者动态链接库的某个部分。

VMA的分布情况可以有通过pmap命令，及maps，smaps文件查看，如下图：

![format_png 1][]

另，VMA的具体内容可参考下图。

![format_png 2][]

## page fault的几种可能性 ##

![format_png 3][]

*  如，调用malloc申请100M内存，IA32下在0~3G虚拟地址中立刻就会占用到大小为100M的VMA，且符合堆的定义，这一段VMA的权限是R+W的。但由于Lazy机制，这100M其实并没有获得，这100M全部映射到一个物理地址相同的零页，且在页表中记录的权限为只读的。当100M中任何一页发生写操作时，MMU会给CPU发page fault（MMU可以从寄存器读出发生page fault的地址；MMU可以读出发生page fault的原因），Linux内核收到缺页中断，在缺页中断的处理程序中读出虚拟地址和原因，去VMA中查，发现是用户程序在写malloc的合法区域且有写权限，Linux内核就真正的申请内存，页表中对应一页的权限也修改为R+W。
 *  如，程序中有野指针飞到了此程序运行时进程的VMA以外的非法区域，硬件就会收到page fault，进程会收到SIGSEGV信号报段错误并终止。如，程序中有野指针飞到了此程序运行时进程的VMA以外的非法区域，硬件就会收到page fault，进程会收到SIGSEGV信号报段错误并终止。
 *  如，代码段在VMA中权限为R+X，如果程序中有野指针飞到此区域去写，则也会发生段错误。（另，malloc堆区在VMA中权限为R+W，如果程序的PC指针飞到此区域去执行，同样发生段错误。）
 *  如，执行代码段时会发生缺页，Linux申请1页内存，并从硬盘读取出代码段，此时产生了IO操作，为major主缺页。如，执行代码段时会发生缺页，Linux申请1页内存，并从硬盘读取出代码段，此时产生了IO操作，为major主缺页。

![format_png 4][]

综上，page fault后，Linux会查VMA，也会比对VMA中和页表中的权限，体现出VMA的重要作用。

## malloc分配的原理 ##

malloc的过程其实就是把VMA分配到各种段当中，这时候是没有真正分配物理地址的。malloc 调用后，只是分配了内存的逻辑地址，在内核的mm\_struct 链表中插入vm\_area\_struct结构体，没有分配实际的内存。当分配的区域写入数据是，引发页中断，建立物理页和逻辑地址的映射。下图表示了这个过程。

![format_png 5][]

从操作系统角度来看，进程分配内存有两种方式，分别由两个系统调用完成：brk和mmap（不考虑共享内存）。

*  malloc小于128k的内存，使用brk分配内存，将\_edata往高地址推(只分配虚拟空间，不对应物理内存(因此没有初始化)，第一次读/写数据时，引起内核缺页中断，内核才分配对应的物理内存，然后虚拟地址空间建立映射关系)
 *  malloc大于128k的内存，使用mmap分配内存，在堆和栈之间找一块空闲内存分配(对应独立内存，而且初始化为0)

## 内存的消耗VSS RSS PSS USS ##

首先，我们评估一个进程的内存消耗都是指用户空间的内存，不包括内核空间的内存消耗 。这里我们用工具 procrank先来看下Linux进程的内存占用量 。

![format_png 6][]

*  VSS -Virtual Set Size 虚拟耗用内存（包含共享库占用的内存）
 *  RSS -Resident Set Size 实际使用物理内存（包含共享库占用的内存）
 *  PSS -Proportional Set Size 实际使用的物理内存（比例分配共享库占用的内存）
 *  USS -Unique Set Size 进程独自占用的物理内存（不包含共享库占用的内存）

下面再用一张图来更好的解释VSS,RSS,PSS,USS之间的区别：

![format_png 7][]

有了对VSS,RSS,PSS,USS的了解，我们趁热打铁来看下内存在进程中是如何被瓜分的：

![format_png 8][]

1044，1045，1054三个进程，每个进程都有一个页表，对应其虚拟地址如何向real memory上去转换。

process 1044的1，2，3都在虚拟地址空间，所以其VSS=1+2+3。

process 1044的4，5，6都在real memory上，所以其RSS=4+5+6。

分析real memory的具体瓜分情况：

4 libc代码段，1044，1045，1054三个进程都使用了libc的代码段，被三个进程分享。

5 bash shell的代码段，1044，1045都是bash shell，被两个进程分享。

6 1044独占

所以，上图中4+5+6并不全是1044进程消耗的内存，因为4明显被3个进程指向，5明显被2个进程指向，衍生出了PSS（按比例计算的驻留内存）的概念。进程1044的PSS为4/3 +5/2 +6。

最后，进程1044独占且驻留的内存USS为 6。

一般来说内存占用大小有如下规律：VSS >= RSS >= PSS >= USS

[format_png]: /images/20230521/8e208114edb9451db8a4b3898ce65a37.png
[format_png 1]: /images/20230521/3df472a0a641426ba720454871e889f6.png
[format_png 2]: /images/20230521/947af3fa0ad24467b6c0771cfae50b7f.png
[format_png 3]: /images/20230521/69f383a0ab544c6dad473475eed9de8c.png
[format_png 4]: /images/20230521/32d294f97d5e49148d655ba4443c55fd.png
[format_png 5]: /images/20230521/5386c78aa9114f669b40dbd8a02f3576.png
[format_png 6]: /images/20230521/3732b01af2f5468d87979e3103e2149f.png
[format_png 7]: /images/20230521/0cd22cbf04f14e87ac25eccf9b8ba57a.png
[format_png 8]: /images/20230521/58029856165c491592bea5be8fb58413.png