(5)Hadoop 进程详解

ゞ浴缸里的玫瑰 2022-08-09 09:12 27阅读 0赞

######     ######

# 一.master节点 #

## NameNode ##

NameNode的主要功能之一是用来管理文件系统的命名空间，其将所有的文件和文件目录的元数据保存在一个文件系统树中。为了保证交互速度，NameNode会在内存中保存这些元数据信息，但同时也会将这些信息保存到硬盘上进行持久化存储，通常会被保存成以下文件：命名空间镜像文件（fsimage）和修改日志文件（edits）。下图是NameNode节点上的文件目录结构：

![wKiom1OSfhvSkAAcAAAnqIht8bE706.jpg][]

fsimage文件，也即命名空间映像文件，是内存中的元数据在硬盘上的checkpoint，它是一种序列化的格式，并不能够在硬盘上直接修改。

有了这两个文件后，Hadoop在重启时就可以根据这两个文件来进行状态恢复，fsimage相当于一个checkpoint，所以当Hadoop重启时需要两个文件：fsimage+edits，首先将最新的checkpoint的元数据信息从fsimage中加载到内存，然后逐一执行edits修改日志文件中的操作以恢复到重启之前的最终状态。

Hadoop的持久化过程是将上一次checkpoint以后最近一段时间的操作保存到修改日志文件edits中。

这里出现的一个问题是edits会随着时间增加而越来越大，导致以后重启时需要花费很长的时间来按照edits中记录的操作进行恢复。

所以Hadoop用到了SecondaryNameNode，它就是用来帮助元数据节点将内存中的元数据信息checkpoint到硬盘上的。

## SecondaryNameNode ##

![Center][]

## ResourceManager ##

在YARN中，ResourceManager负责集群中所有资源的统一管理和分配，它接收来自各个节点（NodeManager）的资源汇报信息，并把这些信息按照一定的策略分配给各个应用程序（实际上是ApplicationManager）。

# 二.data节点 #

## NodeManager ##

NodeManager（NM）是YARN中每个节点上的代理，它管理Hadoop集群中单个计算节点，包括与ResourceManger保持通信，监督Container的生命周期管理，监控每个Container的资源使用（内存、CPU等）情况，追踪节点健康状况，管理日志和不同应用程序用到的附属服务（auxiliary service）。

## DataNode ##

[wKiom1OSfhvSkAAcAAAnqIht8bE706.jpg]: /images/20220731/89150565ae894015bdc2d3092456e3a4.png
[Center]: /images/20220731/88615e1d720b4f0388dd99817b290fbe.png