Linux内存描述之概述--Linux内存管理(一)

傷城~ 2023-05-30 03:39 6阅读 0赞

# 1 前景回顾   前面我们讲到服务器体系(SMP, NUMA, MPP)与共享存储器架构(UMA和NUMA) #

# 1.1 UMA和NUMA两种模型 #

共享存储型多处理机有两种模型

*  均匀存储器存取（Uniform-Memory-Access，简称UMA）模型，将可用内存以连续方式组织起来,
 *  非均匀存储器存取（Nonuniform-Memory-Access，简称NUMA）模型

# 1.2 UMA模型 #

传统的多核运算是使用SMP(Symmetric Multi-Processor )模式：将多个处理器与一个集中的存储器和I/O总线相连。所有处理器只能访问同一个物理存储器，因此SMP系统有时也被称为一致存储器访问（UMA）结构体系，一致性意指无论在什么时候，处理器只能为内存的每个数据保持或共享唯一一个数值。

物理存储器被所有处理机均匀共享。所有处理机对所有存储字具有相同的存取时间，这就是为什么称它为均匀存储器存取的原因。每台处理机可以有私用高速缓存,外围设备也以一定形式共享。

很显然，SMP的缺点是可伸缩性有限，因为在存储器和I/O接口达到饱和的时候，增加处理器并不能获得更高的性能，与之相对应的有AMP架构，不同核之间有主从关系，如一个核控制另外一个核的业务，可以理解为多核系统中控制平面和数据平面。

1.3 NUMA模型  
NUMA模式是一种分布式存储器访问方式，处理器可以同时访问不同的存储器地址，大幅度提高并行性。 NUMA总是多处理器计算机,系统的哪个CPU都有本地内存, 可支持快速的访问, 各个处理器之前通过总线链接起来, 以支持堆其他CPU的本地内存的访问, 当然访问要比本地内存慢.

NUMA模式下，处理器被划分成多个”节点”（node）， 每个节点被分配有的本地存储器空间。 所有节点中的处理器都可以访问全部的系统物理存储器，但是访问本节点内的存储器所需要的时间，比访问某些远程节点内的存储器所花的时间要少得多。

其访问时间随存储字的位置不同而变化。其共享存储器物理上是分布在所有处理机的本地存储器上。所有本地存储器的集合组成了全局地址空间，可被所有的处理机访问。处理机访问本地存储器是比较快的，但访问属于另一台处理机的远程存储器则比较慢，因为通过互连网络会产生附加时延

NUMA 的主要优点是伸缩性。NUMA 体系结构在设计上已超越了 SMP 体系结构在伸缩性上的限制。通过 SMP，所有的内存访问都传递到相同的共享内存总线。这种方式非常适用于 CPU 数量相对较少的情况，但不适用于具有几十个甚至几百个 CPU 的情况，因为这些 CPU 会相互竞争对共享内存总线的访问。NUMA 通过限制任何一条内存总线上的 CPU 数量并依靠高速互连来连接各个节点，从而缓解了这些瓶颈状况。

# 2 (N)UMA模型中linux内存的机构 #

Linux适用于各种不同的体系结构, 而不同体系结构在内存管理方面的差别很大. 因此linux内核需要用一种体系结构无关的方式来表示内存.

Linux内核通过插入一些兼容层, 使得不同体系结构的差异很好的被隐藏起来, 内核对一致和非一致内存访问使用相同的数据结构

# 2.1 (N)UMA模型中linux内存的机构 #

非一致存储器访问(NUMA)模式下

*  处理器被划分成多个”节点”(node), 每个节点被分配有的本地存储器空间. 所有节点中的处理器都可以访问全部的系统物理存储器，但是访问本节点内的存储器所需要的时间，比访问某些远程节点内的存储器所花的时间要少得多
 *  内存被分割成多个区域（BANK，也叫”簇”），依据簇与处理器的”距离”不同, 访问不同簇的代码也会不同. 比如，可能把内存的一个簇指派给每个处理器，或则某个簇和设备卡很近，很适合DMA，那么就指派给该设备。因此当前的多数系统会把内存系统分割成2块区域，一块是专门给CPU去访问，一块是给外围设备板卡的DMA去访问

在UMA系统中, 内存就相当于一个只使用一个NUMA节点来管理整个系统的内存. 而内存管理的其他地方则认为他们就是在处理一个(伪)NUMA系统.

# 2.2 Linux物理内存的组织形式 #

Linux把物理内存划分为三个层次来管理

1.  存储节点(Node)    CPU被划分为多个节点(node), 内存则被分簇, 每个CPU对应一个本地物理内存, 即一个CPU-node对应一个内存簇bank，即每个内存簇被认为是一个节点
2.  管理区(Zone)    每个物理内存节点node被划分为多个内存管理区域, 用于表示不同范围的内存, 内核可以使用不同的映射方式映射物理内存
3.  页面(Page)    内存被细分为多个页面帧, 页面是最基本的页面分配的单位　｜

为了支持NUMA模型，也即CPU对不同内存单元的访问时间可能不同，此时系统的物理内存被划分为几个节点(node), 一个node对应一个内存簇bank，即每个内存簇被认为是一个节点

*  首先, 内存被划分为结点. 每个节点关联到系统中的一个处理器, 内核中表示为pg\_data\_t的实例. 系统中每个节点被链接到一个以NULL结尾的pgdat\_list链表中<而其中的每个节点利用pg\_data\_tnode\_next字段链接到下一节．而对于PC这种UMA结构的机器来说, 只使用了一个成为contig\_page\_data的静态pg\_data\_t结构.
 *  接着各个节点又被划分为内存管理区域, 一个管理区域通过struct zone\_struct描述, 其被定义为zone\_t, 用以表示内存的某个范围, 低端范围的16MB被描述为ZONE\_DMA, 某些工业标准体系结构中的(ISA)设备需要用到它, 然后是可直接映射到内核的普通内存域ZONE\_NORMAL,最后是超出了内核段的物理地址域ZONE\_HIGHMEM, 被称为高端内存.　是系统中预留的可用内存空间, 不能被内核直接映射.
 *  最后页帧(page frame)代表了系统内存的最小单位, 堆内存中的每个页都会创建一个struct page的一个实例. 传统上，把内存视为连续的字节，即内存为字节数组，内存单元的编号(地址)可作为字节数组的索引. 分页管理时，将若干字节视为一页，比如4K byte. 此时，内存变成了连续的页，即内存为页数组，每一页物理内存叫页帧，以页为单位对内存进行编号，该编号可作为页数组的索引，又称为页帧号.

在一个单独的节点内，任一给定CPU访问页面所需的时间都是相同的。然而，对不同的CPU，这个时间可能就不同。对每个CPU而言，内核都试图把耗时节点的访问次数减到最少这就要小心地选择CPU最常引用的内核数据结构的存放位置.

# 2.3 内存节点node #

CPU被划分为多个节点(node), 内存则被分簇, 每个CPU对应一个本地物理内存, 即一个CPU-node对应一个内存簇bank，即每个内存簇被认为是一个节点

系统的物理内存被划分为几个节点(node), 一个node对应一个内存簇bank，即每个内存簇被认为是一个节点

在LINUX中引入一个数据结构struct pglist\_data ，来描述一个node，定义在include/linux/mmzone.h 文件中。（这个结构被typedef pg\_data\_t）。

对于NUMA系统来讲， 整个系统的内存由一个node\_data的pg\_data\_t指针数组来管理,

对于PC这样的UMA系统，使用struct pglist\_data contig\_page\_data ，作为系统唯一的node管理所有的内存区域。（UMA系统中中只有一个node）

可以使用NODE\_DATA(node\_id)来查找系统中编号为node\_id的结点, 参见NODE\_DATA的定义

UMA结构下由于只有一个结点, 因此该宏总是返回全局的contig\_page\_data, 而与参数node\_id无关.

extern struct pglist_data *node_data[];
    #define NODE_DATA(nid)          (node_data[(nid)])

在UMA结构的机器中, 只有一个node结点即contig\_page\_data, 此时NODE\_DATA直接指向了全局的contig\_page\_data, 而与node的编号nid无关, 参照include/linux/mmzone.h?v=4.7, line 858, 其中全局唯一的内存node结点contig\_page\_data定义在mm/nobootmem.c?v=4.7, line 27, linux-2.4.37

#ifndef CONFIG_NEED_MULTIPLE_NODES
    extern struct pglist_data contig_page_data;
    #define NODE_DATA(nid)          (&contig_page_data)
    #define NODE_MEM_MAP(nid)       mem_map
    else
    /*  ......  */
    #endif

在分配一个页面时, Linux采用节点局部分配的策略, 从最靠近运行中的CPU的节点分配内存, 由于进程往往是在同一个CPU上运行, 因此从当前节点得到的内存很可能被用到

# 2.4 物理内存区域zone #

因为实际的计算机体系结构有硬件的诸多限制, 这限制了页框可以使用的方式. 尤其是, Linux内核必须处理80x86体系结构的两种硬件约束.

*  ISA总线的直接内存存储DMA处理器有一个严格的限制 : 他们只能对RAM的前16MB进行寻址
 *  在具有大容量RAM的现代32位计算机中, CPU不能直接访问所有的物理地址, 因为线性地址空间太小, 内核不可能直接映射所有物理内存到线性地址空间, 我们会在后面典型架构(x86)上内存区域划分详细讲解x86\_32上的内存区域划分 
 *  因此Linux内核对不同区域的内存需要采用不同的管理方式和映射方式,

为了解决这些制约条件，Linux使用了三种区:

*  ZONE\_DMA : 这个区包含的页用来执行DMA操作。
 *  ZONE\_NOMAL : 这个区包含的都是能正常映射的页。
 *  ZONE\_HIGHEM : 这个区包”高端内存”，其中的页能不永久地映射到内核地址空间

而为了兼容一些设备的热插拔支持以及内存碎片化的处理, 内核也引入一些逻辑上的内存区.

ZONE\_MOVABLE : 内核定义了一个伪内存域ZONE\_MOVABLE, 在防止物理内存碎片的机制memory migration中需要使用该内存域. 供防止物理内存碎片的极致使用

ZONE\_DEVICE : 为支持热插拔设备而分配的Non Volatile Memory非易失性内存

内核将每个簇所对应的node又被分成的称为管理区(zone)的块，它们各自描述在内存中的范围。一个管理区(zone)由struct zone结构体来描述，在linux-2.4.37之前的内核中是用typedef struct zone\_struct zone\_t数据结构来描述）

对于x86\_32的机器，管理区(内存区域)类型如下分布

类型    区域  
ZONE\_DMA    0~15MB  
ZONE\_NORMAL    16MB~895MB  
ZONE\_HIGHMEM    896MB~物理内存结束  
内核在初始化内存管理区时, 首先建立管理区表zone\_table. 参见mm/page\_alloc.c?v=2.4.37, line 38

/*
     *
     * The zone_table array is used to look up the address of the
     * struct zone corresponding to a given zone number (ZONE_DMA,
     * ZONE_NORMAL, or ZONE_HIGHMEM).
     */
    zone_t *zone_table[MAX_NR_ZONES*MAX_NR_NODES];
    EXPORT_SYMBOL(zone_table);

该表处理起来就像一个多维数组,

MAX\_NR\_ZONES是一个节点中所能包容纳的管理区的最大数, 如3个, 定义在include/linux/mmzone.h?v=2.4.37, line 25, 与zone区域的类型(ZONE\_DMA, ZONE\_NORMAL, ZONE\_HIGHMEM)定义在一起. 当然这时候我们这些标识都是通过宏的方式来实现的, 而不是如今的枚举类型

MAX\_NR\_NODES是可以存在的节点的最大数.

函数EXPORT\_SYMBOL使得内核的变量或者函数可以被载入的模块(比如我们的驱动模块)所访问.

# 2.5 内存页page #

大多数内核（kernel）的操作只使用ZONE\_NORMAL区域，系统内存由很多固定大小的内存块组成的，这样的内存块称作为“页”（PAGE），

x86体系结构中，page的大小为4096个字节。

每个物理的页由一个struct page的数据结构对象来描述。页的数据结构对象都保存在mem\_map全局数组中，该数组通常被存放在ZONE\_NORMAL的首部，或者就在小内存系统中为装入内核映像而预留的区域之后。从载入内核的低地址内存区域的后面内存区域，也就是ZONE\_NORMAL开始的地方的内存的页的数据结构对象，都保存在这个全局数组中。

# 2.6 高端内存 #

由于能够被Linux内核直接访问的ZONE\_NORMAL区域的内存空间也是有限的，所以LINUX提出了高端内存（High memory）的概念，并且允许对高端内存的访问