glibc中malloc的详细解释

分手后的思念是犯贱 2022-08-14 01:45 182阅读 0赞

glibc中的malloc实现:

The main properties of the algorithms are: 
\* For large (>= 512 bytes) requests, it is a pure best-fit allocator, 
    with ties normally decided via FIFO (i.e. least recently used). 
\* For small (<= 64 bytes by default) requests, it is a caching 
    allocator, that maintains pools of quickly recycled chunks. 
\* In between, and for combinations of large and small requests, it does 
    the best it can trying to meet both goals at once. 
\* For very large requests (>= 128KB by default), it relies on system 
    memory mapping facilities, if supported.

应用程序是从0x8048000开始，那是由linker定的，具体数值在一linker脚本定的，具 体在哪忘了，只在linux上是这样，到其它的平台上，可能就是另外一个值了，这只是个约定。0x804a008到0x8048000之间是程序 的.text,.data,.bss等内容。  
  
而mmap分配的内存地址从0x40000000开始是由linux内核定的（见《深入理解linux内核》第三版最后一章），2.6.9以前的默认开始地址。当要分配的内存小于128K时malloc使用brk()向内核申请内存，所以开始地址离 0x8048000很近，而当要分配的内存大于了128K时，glibc的malloc就用mmap()向内核要内存，所以开始地址离0x40000000很近。  
  
mmap()的开始地址，在2.6.9以后，在/proc中有个开关，可以改变这个地址，新的地址是从0xc0000000开始倒数128到129M中的 一个页对齐的数作为开始地址，具体的请看ULK3的最后一章吧。  
  
从0x40000000~0xc0000000之间是mmap,stack,env,arg。mmap从小向大增涨，从0xc0000000开始为,env,arg(具体顺序记不清了),主程序的stack。

－－－－－－－－－－－－－－－－－－－

在glibc的malloc的实现中, 分配虚存有两种系统调用可用: brk()和mmap(), 如果要分配大块内存, glibc会使用mmap()去分配内存,这种内存靠近栈. 你可以通过: 
\#include <malloc.h> 
mallopt(M\_MMAP\_THRESHOLD, 内存块大小), 这样只有超过这个"内存块大小"的malloc才会使用mmap(), 其他使用brk, 使用brk()从贴近heap的地方开始分配.

－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－

在glibc的malloc的实现有一个优化,  
1. 当你malloc()一块很小的内存是, glibc调用brk(), 只需要在heap中移动一下指针, 即可获得可用虚存, 这样分配得到的地址较小.  
2. 当你malloc()一块较大内存时, glibc调用mmap(), 需要在内核中重新分配vma结构等, 他会在靠近栈的地方分配虚存, 这样返回的地址大.  
3. 这个较小和较小的临界值是一个通过mallopt()调整的.  
4. 当然, 除了上面的规则, malloc()还有自己的算法, 来判断到底采用mmap()还是brk(), 一般和虚存碎片有关.

－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－

追溯到在 Apple II 上进行汇编语言编程的时代，那时内存管理还不是个大问题。您实际上在运行整个系统。系统有多少内存，您就有多少内存。您甚至不必费心思去弄明白它有多少内 存，因为每一台机器的内存数量都相同。所以，如果内存需要非常固定，那么您只需要选择一个内存范围并使用它即可。

不过，即使是在这样一个简单的计算机中，您也会有问题，尤其是当您不知道程序的每个部分将需要多少内存时。如果您的空间有限，而内存需求是变化的，那么您需要一些方法来满足这些需求：

*  确定您是否有足够的内存来处理数据。 
 *  从可用的内存中获取一部分内存。 
 *  向可用内存池（pool）中返回部分内存，以使其可以由程序的其他部分或者其他程序使用。

实现这些需求的程序库称为 *分配程序（allocators）*，因为它们负责分配和回收内存。程序的动态性越强，内存管理就越重要，您的内存分配程序的选择也就更重要。让我们来了解可用于内存管理的不同方法，它们的好处与不足，以及它们最适用的情形。

C 风格的内存分配程序  
  
C 编程语言提供了两个函数来满足我们的三个需求：

*  **malloc：**该函数分配给定的字节数，并返回一个指向它们的指针。如果没有足够的可用内存，那么它返回一个空指针。 
 *  **free：**该函数获得指向由 `malloc` 分配的内存片段的指针，并将其释放，以便以后的程序或操作系统使用（实际上，一些 `malloc` 实现只能将内存归还给程序，而无法将内存归还给操作系统）。

物理内存和虚拟内存  
  
要理解内存在程序中是如何分配的，首先需要理解如何将内存从操作系统分配给程序。计算机上的每一个进程都认为自己可以访问所有的物理内存。显然，由于同时在运行多个程序，所以每个进程不可能拥有全部内存。实际上，这些进程使用的是 *虚拟内存*。

只是作为一个例子，让我们假定您的程序正在访问地址为 629 的内存。不过，虚拟内存系统不需要将其存储在位置为 629 的 RAM 中。实际上，它甚至可以不在 RAM 中 —— 如果物理 RAM 已经满了，它甚至可能已经被转移到硬盘上！由于这类地址不必反映内存所在的物理位置，所以它们被称为虚拟内存。操作系统维持着一个虚拟地址到物理地址的转 换的表，以便计算机硬件可以正确地响应地址请求。并且，如果地址在硬盘上而不是在 RAM 中，那么操作系统将暂时停止您的进程，将其他内存转存到硬盘中，从硬盘上加载被请求的内存，然后再重新启动您的进程。这样，每个进程都获得了自己可以使用 的地址空间，可以访问比您物理上安装的内存更多的内存。

在 32-位 x86 系统上，每一个进程可以访问 4 GB 内存。现在，大部分人的系统上并没有 4 GB 内存，即使您将 swap 也算上， *每个进程*所使用的内存也肯定少于 4 GB。因此，当加载一个进程时，它会得到一个取决于某个称为 *系统中断点（system break）*的 特定地址的初始内存分配。该地址之后是未被映射的内存 —— 用于在 RAM 或者硬盘中没有分配相应物理位置的内存。因此，如果一个进程运行超出了它初始分配的内存，那么它必须请求操作系统“映射进来（map in）”更多的内存。（映射是一个表示一一对应关系的数学术语 —— 当内存的虚拟地址有一个对应的物理地址来存储内存内容时，该内存将被映射。）

基于 UNIX 的系统有两个可映射到附加内存中的基本系统调用：

*  **brk：** `brk()` 是一个非常简单的系统调用。还记得系统中断点吗？该位置是进程映射的内存边界。 `brk()` 只是简单地将这个位置向前或者向后移动，就可以向进程添加内存或者从进程取走内存。 
 *  **mmap：** `mmap()`，或者说是“内存映像”，类似于 `brk()`，但是更为灵活。首先，它可以映射任何位置的内存，而不单单只局限于进程。其次，它不仅可以将虚拟地址映射到物理的 RAM 或者 swap，它还可以将它们映射到文件和文件位置，这样，读写内存将对文件中的数据进行读写。不过，在这里，我们只关心 `mmap` 向进程添加被映射的内存的能力。 `munmap()` 所做的事情与 `mmap()` 相反。

如您所见， `brk()` 或者 `mmap()` 都可以用来向我们的进程添加额外的虚拟内存。在我们的例子中将使用 `brk()`，因为它更简单，更通用。

实现一个简单的分配程序  
  
如果您曾经编写过很多 C 程序，那么您可能曾多次使用过 `malloc()` 和 `free()`。不过，您可能没有用一些时间去思考它们在您的操作系统中是如何实现的。本节将向您展示 `malloc` 和 `free` 的一个最简化实现的代码，来帮助说明管理内存时都涉及到了哪些事情。

要试着运行这些示例，需要先 复制本代码清单，并将其粘贴到一个名为 malloc.c 的文件中。接下来，我将一次一个部分地对该清单进行解释。

在大部分操作系统中，内存分配由以下两个简单的函数来处理：

*  `void *malloc(long numbytes)`：该函数负责分配 `numbytes` 大小的内存，并返回指向第一个字节的指针。 
 *  `void free(void *firstbyte)`：如果给定一个由先前的 `malloc` 返回的指针，那么该函数会将分配的空间归还给进程的“空闲空间”。

`malloc_init` 将是初始化内存分配程序的函数。它要完成以下三件事：将分配程序标识为已经初始化，找到系统中最后一个有效内存地址，然后建立起指向我们管理的内存的指针。这三个变量都是全局变量：

**清单 1. 我们的简单分配程序的全局变量**

<table style="width: 100%;"> 
 <tbody> 
 <tr> 
 <td> <pre><code> int has_initialized = 0; void *managed_memory_start; void *last_valid_address; </code></pre> </td> 
 </tr> 
 </tbody> 
</table>

如前所述，被映射的内存的边界（最后一个有效地址）常被称为系统中断点或者 *当前中断点*。在很多 UNIX® 系统中，为了指出当前系统中断点，必须使用 `sbrk(0)` 函数。 `sbrk` 根据参数中给出的字节数移动当前系统中断点，然后返回新的系统中断点。使用参数 `0` 只是返回当前中断点。这里是我们的 `malloc` 初始化代码，它将找到当前中断点并初始化我们的变量：

**清单 2. 分配程序初始化函数**

<table style="width: 100%;"> 
 <tbody> 
 <tr> 
 <td> <pre><code> /* Include the sbrk function */ #include void malloc_init() { /* grab the last valid address from the OS */ last_valid_address = sbrk(0); /* we don't have any memory to manage yet, so *just set the beginning to be last_valid_address */ managed_memory_start = last_valid_address; /* Okay, we're initialized and ready to go */ has_initialized = 1; } </code></pre> </td> 
 </tr> 
 </tbody> 
</table>

现在，为了完全地管理内存，我们需要能够追踪要分配和回收哪些内存。在对内存块进行了 `free` 调用之后，我们需要做的是诸如将它们标记为未被使用的等事情，并且，在调用 `malloc` 时，我们要能够定位未被使用的内存块。因此， `malloc` 返回的每块内存的起始处首先要有这个结构：

**清单 3. 内存控制块结构定义**

<table style="width: 100%;"> 
 <tbody> 
 <tr> 
 <td> <pre><code> struct mem_control_block { int is_available; int size; }; </code></pre> </td> 
 </tr> 
 </tbody> 
</table>

现在，您可能会认为当程序调用 `malloc` 时这会引发问题 —— 它们如何知道这个结构？答案是它们不必知道；在返回指针之前，我们会将其移动到这个结构之后，把它隐藏起来。这使得返回的指针指向没有用于任何其他用途的内存。那样，从调用程序的角度来看，它们所得到的全部是空闲的、开放的内存。然后，当通过 `free()` 将该指针传递回来时，我们只需要倒退几个内存字节就可以再次找到这个结构。

在讨论分配内存之前，我们将先讨论释放，因为它更简单。为了释放内存，我们必须要做的惟一一件事情就是，获得我们给出的指针，回退 `sizeof(struct mem_control_block)` 个字节，并将其标记为可用的。这里是对应的代码：

**清单 4. 解除分配函数**

<table style="width: 100%;"> 
 <tbody> 
 <tr> 
 <td> <pre><code> void free(void *firstbyte) { struct mem_control_block *mcb; /* Backup from the given pointer to find the * mem_control_block */ mcb = firstbyte - sizeof(struct mem_control_block); /* Mark the block as being available */ mcb-&gt;is_available = 1; /* That's It! We're done. */ return; } </code></pre> </td> 
 </tr> 
 </tbody> 
</table>

如您所见，在这个分配程序中，内存的释放使用了一个非常简单的机制，在固定时间内完成内存释放。分配内存稍微困难一些。以下是该算法的略述：

**清单 5. 主分配程序的伪代码**

<table style="width: 100%;"> 
 <tbody> 
 <tr> 
 <td> <pre><code> 1. If our allocator has not been initialized, initialize it. 2. Add sizeof(struct mem_control_block) to the size requested. 3. start at managed_memory_start. 4. Are we at last_valid address? 5. If we are: A. We didn't find any existing space that was large enough -- ask the operating system for more and return that. 6. Otherwise: A. Is the current space available (check is_available from the mem_control_block)? B. If it is: i) Is it large enough (check "size" from the mem_control_block)? ii) If so: a. Mark it as unavailable b. Move past mem_control_block and return the pointer iii) Otherwise: a. Move forward "size" bytes b. Go back go step 4 C. Otherwise: i) Move forward "size" bytes ii) Go back to step 4 </code></pre> </td> 
 </tr> 
 </tbody> 
</table>

我们主要使用连接的指针遍历内存来寻找开放的内存块。这里是代码：

**清单 6. 主分配程序**

<table style="width: 100%;"> 
 <tbody> 
 <tr> 
 <td> <pre><code> void *malloc(long numbytes) { /* Holds where we are looking in memory */ void *current_location; /* This is the same as current_location, but cast to a * memory_control_block */ struct mem_control_block *current_location_mcb; /* This is the memory location we will return. It will * be set to 0 until we find something suitable */ void *memory_location; /* Initialize if we haven't already done so */ if(! has_initialized) { malloc_init(); } /* The memory we search for has to include the memory * control block, but the users of malloc don't need * to know this, so we'll just add it in for them. */ numbytes = numbytes + sizeof(struct mem_control_block); /* Set memory_location to 0 until we find a suitable * location */ memory_location = 0; /* Begin searching at the start of managed memory */ current_location = managed_memory_start; /* Keep going until we have searched all allocated space */ while(current_location != last_valid_address) { /* current_location and current_location_mcb point * to the same address. However, current_location_mcb * is of the correct type, so we can use it as a struct. * current_location is a void pointer so we can use it * to calculate addresses. */ current_location_mcb = (struct mem_control_block *)current_location; if(current_location_mcb-&gt;is_available) { if(current_location_mcb-&gt;size &gt;= numbytes) { /* Woohoo! We've found an open, * appropriately-size location. */ /* It is no longer available */ current_location_mcb-&gt;is_available = 0; /* We own it */ memory_location = current_location; /* Leave the loop */ break; } } /* If we made it here, it's because the Current memory * block not suitable; move to the next one */ current_location = current_location + current_location_mcb-&gt;size; } /* If we still don't have a valid location, we'll * have to ask the operating system for more memory */ if(! memory_location) { /* Move the program break numbytes further */ sbrk(numbytes); /* The new memory will be where the last valid * address left off */ memory_location = last_valid_address; /* We'll move the last valid address forward * numbytes */ last_valid_address = last_valid_address + numbytes; /* We need to initialize the mem_control_block */ current_location_mcb = memory_location; current_location_mcb-&gt;is_available = 0; current_location_mcb-&gt;size = numbytes; } /* Now, no matter what (well, except for error conditions), * memory_location has the address of the memory, including * the mem_control_block */ /* Move the pointer past the mem_control_block */ memory_location = memory_location + sizeof(struct mem_control_block); /* Return the pointer */ return memory_location; } </code></pre> </td> 
 </tr> 
 </tbody> 
</table>

这就是我们的内存管理器。现在，我们只需要构建它，并在程序中使用它即可。