Yarn运行原理

逃离我推掉我的手 2022-05-12 17:52 160阅读 0赞

### 1. Yarn架构 ###

![在这里插入图片描述][70]

从 YARN 的架构图来看，它主要由ResourceManager、NodeManager、ApplicationMaster和Container等以下几个组件构成。

#### 1.1 ResourceManager（RM） ####

YARN 分层结构的本质是 ResourceManager。这个实体控制整个集群并管理应用程序向基础计算资源的分配。ResourceManager 将各个资源部分（计算、内存、带宽等）精心安排给基础 NodeManager（YARN 的每节点代理）。ResourceManager 还与 ApplicationMaster 一起分配资源，与 NodeManager 一起启动和监视它们的基础应用程序。在此上下文中，ApplicationMaster 承担了以前的 TaskTracker 的一些角色，ResourceManager 承担了 JobTracker 的角色。

**RM的作用如下：**

> 1.  处理客户端请求
> 2.  启动或监控ApplicationMaster
> 3.  监控NodeManager
> 4.  资源的分配与调度

#### 1.2 ApplicationMaster（AM） ####

ApplicationMaster 管理在YARN内运行的每个应用程序实例。ApplicationMaster 负责协调来自 ResourceManager 的资源，并通过 NodeManager 监视容器的执行和资源使用（CPU、内存等的资源分配）。请注意，尽管目前的资源更加传统（CPU 核心、内存），但未来会带来基于手头任务的新资源类型（比如图形处理单元或专用处理设备）。从 YARN 角度讲，ApplicationMaster 是用户代码，因此存在潜在的安全问题。YARN 假设 ApplicationMaster 存在错误或者甚至是恶意的，因此将它们当作无特权的代码对待。

**AM的作用如下：**

> 1.  负责数据的切分
> 2.  为应用程序申请资源并分配给内部的任务
> 3.  任务的监控与容错

#### 1.3 NodeManager（NM） ####

NodeManager管理YARN集群中的每个节点。NodeManager 提供针对集群中每个节点的服务，从监督对一个容器的终生管理到监视资源和跟踪节点健康。MRv1 通过插槽管理 Map 和 Reduce 任务的执行，而 NodeManager 管理抽象容器，这些容器代表着可供一个特定应用程序使用的针对每个节点的资源。

**NM的作用如下：**

> 1.  管理单个节点上的资源
> 2.  处理来自ResourceManager的命令
> 3.  处理来自ApplicationMaster的命令

#### 1.4 Container ####

Container 是 YARN 中的资源抽象，它封装了某个节点上的多维度资源，如内存、CPU、磁盘、网络等，当AM向RM申请资源时，RM为AM返回的资源便是用Container表示的。YARN会为每个任务分配一个Container，且该任务只能使用该Container中描述的资源。

> 总的来说，Container有以下作用：
> 
> 1.  对任务运行环境进行抽象，封装CPU、内存等多维度的资源以及环境变量、启动命令等任务运行相关的信息

--------------------

### 2. Yarn原理 ###

![在这里插入图片描述][70 1]

--------------------

### 参考： ###

[YARN的入门介绍][YARN]  
[初步掌握Yarn的架构及原理][Yarn]

[70]: /images/20220504/e68f578847e949938353b1221c1017b9.png
[70 1]: /images/20220504/4ee99f60a7db44358ad57b6948dd4c70.png
[YARN]: https://blog.csdn.net/zhangtianpu/article/details/81072413
[Yarn]: https://www.cnblogs.com/cxzdy/p/5494929.html