Hadoop YARN中内存的设置

分手后的思念是犯贱 2022-08-18 05:46 149阅读 0赞

在YARN中，资源管理由ResourceManager和NodeManager共同完成，其中，ResourceManager中的调度器负责资源的分配，而NodeManager则负责资源的供给和隔离。ResourceManager将某个NodeManager上资源分配给任务（这就是所谓的“资源调度”）后，NodeManager需按照要求为任务提供相应的资源，甚至保证这些资源应具有独占性，为任务运行提供基础的保证，这就是所谓的资源隔离。

基于以上考虑，YARN允许用户配置每个节点上可用的物理内存资源，注意，这里是“可用的”，因为一个节点上的内存会被若干个服务共享，比如一部分给YARN，一部分给HDFS，一部分给HBase等，YARN配置的只是自己可以使用的，配置参数如下：

**（1）yarn.nodemanager.resource.memory-mb**

表示该节点上YARN可使用的物理内存总量，默认是8192（MB），注意，如果你的节点内存资源不够8GB，则需要调减小这个值，而YARN不会智能的探测节点的物理内存总量。

**（2）yarn.nodemanager.vmem-pmem-ratio**

任务每使用1MB物理内存，最多可使用虚拟内存量，默认是2.1。

**（3） yarn.nodemanager.pmem-check-enabled**

是否启动一个线程检查每个任务正使用的物理内存量，如果任务超出分配值，则直接将其杀掉，默认是true。

**（4） yarn.nodemanager.vmem-check-enabled**

是否启动一个线程检查每个任务正使用的虚拟内存量，如果任务超出分配值，则直接将其杀掉，默认是true。

**（5）yarn.scheduler.minimum-allocation-mb**

单个任务可申请的最少物理内存量，默认是1024（MB），如果一个任务申请的物理内存量少于该值，则该对应的值改为这个数。

**（6）yarn.scheduler.maximum-allocation-mb**

单个任务可申请的最多物理内存量，默认是8192（MB）。

默认情况下，YARN采用了线程监控的方法判断任务是否超量使用内存，一旦发现超量，则直接将其杀死。由于Cgroups对内存的控制缺乏灵活性（即任务任何时刻不能超过内存上限，如果超过，则直接将其杀死或者报OOM），而Java进程在创建瞬间内存将翻倍，之后骤降到正常值，这种情况下，采用线程监控的方式更加灵活（当发现进程树内存瞬间翻倍超过设定值时，可认为是正常现象，不会将任务杀死），因此YARN未提供Cgroups内存隔离机制。

可以使用如下命令在提交任务时动态设置：

hadoop jar <jarName> -D mapreduce.reduce.memory.mb=5120

e.g.

\[hadoop@cMaster hadoop-2.5.2\]$ ./bin/hadoop jar /home/hadoop/jar-output/TestLoop-1024M.jar -D mapreduce.map.memory.mb=5120 AESEnTest 1024 1 1

*后面的1024及两个1均为jar的输入参数。*

Hadoop2.5.2搭建好之后，运行写好的MapReduce程序出现如下问题：

Container \[pid=24156,containerID=container\_1427332071311\_0019\_01\_000002\] is running beyond physical memory limits. Current usage: 2.1 GB of 2 GB physical memory used; 2.7 GB of 4.2 GB virtual memory used. Killing container.  
Dump of the process-tree for container\_1427332071311\_0019\_01\_000002 :  
|- PID PPID PGRPID SESSID CMD\_NAME USER\_MODE\_TIME(MILLIS) SYSTEM\_TIME(MILLIS) VMEM\_USAGE(BYTES) RSSMEM\_USAGE(PAGES) FULL\_CMD\_LINE  
|- 24156 2787 24156 24156 (bash) 0 0 108646400 296 /bin/bash -c /usr/java/jdk1.7.0\_45/bin/java -Djava.net.preferIPv4Stack=true -Dhadoop.metrics.log.level=WARN -Xmx2048m -Djava.io.tmpdir=/home/hadoop/hadoop-2.5.2/hadoop-hadoop/nm-local-dir/usercache/hadoop/appcache/application\_1427332071311\_0019/container\_1427332071311\_0019\_01\_000002/tmp -Dlog4j.configuration=container-log4j.properties -Dyarn.app.container.log.dir=/home/hadoop/hadoop-2.5.2/logs/userlogs/application\_1427332071311\_0019/container\_1427332071311\_0019\_01\_000002 -Dyarn.app.container.log.filesize=0 -Dhadoop.root.logger=INFO,CLA org.apache.hadoop.mapred.YarnChild 192.168.199.93 33497 attempt\_1427332071311\_0019\_m\_000000\_0 2 1>/home/hadoop/hadoop-2.5.2/logs/userlogs/application\_1427332071311\_0019/containe...

分析：

根据前面所述的内存配置相关理论知识，我们可以总结如下：

(RM, Resource Manager; NM, Node Manager; AM, Application Manager)

**RM内存资源配置——两个参数（yarn-site.xml）**

<property>  
<description>The minimum allocation for every container request at the RM,  
in MBs. Memory requests lower than this won‘t take effect,  
and the specified value will get allocated at minimum.</description>  
<name>**yarn.scheduler.minimum-allocation-mb**</name>  
<value>1024</value>  
</property>

<property>  
<description>The maximum allocation for every container request at the RM,  
in MBs. Memory requests higher than this won‘t take effect,  
and will get capped to this value.</description>  
<name>**yarn.scheduler.maximum-allocation-mb**</name>  
<value>8192</value>  
</property>

它们表示单个容器可以申请的最小与最大内存。

**NM(yarn-site.xml)**

<property>  
<description>Amount of physical memory, in MB, that can be allocated  
for containers.</description>  
<name>**yarn.nodemanager.resource.memory-mb**</name>  
<value>8192</value>  
</property>  
  
<property>  
<description>Ratio between virtual memory to physical memory when  
setting memory limits for containers. Container allocations are  
expressed in terms of physical memory, and virtual memory usage  
is allowed to exceed this allocation by this ratio.  
</description>  
<name>**yarn.nodemanager.vmem-pmem-ratio**</name>  
<value>2.1</value>  
</property>

前者表示单个节点可用的最大内存，RM中的两个值都不应该超过该值。

后者表示虚拟内存率，即占task所用内存的百分比，默认为2.1.

**AM(mapred-site.xml)**

*mapreduce.map.memory.mb*

*mapreduce.reduce.memory.mb*

指定map和reduce task的内存大小，该值应该在RM的最大最小container之间。如果不设置，则默认用以下规则进行计算：max\{MIN\_Container\_Size,(Total Available RAM/containers)\}。

一般地，reduce设置为map的两倍。

AM的其他参数设置：

mapreduce.map.java.opts

mapreduce.reduce.java.opts

这两个参数是伪需要运行JVM程序（java，scala等）准备，通过这两个参数可以向JVM中传递参数，与内存有关的是-Xmx, -Xms等选项，数值的大小应该要再AM中的map.mb和reduce.mb之间。

对如上问题，我选择使用以下方式来解决：（根据提交的job动态设置mapreduce.map.memory.mb的值）