fsimage,edits ,SNN介绍

谁践踏了优雅 2022-12-27 04:55 182阅读 0赞

**fsimage**：命名空间镜像文件,**不及时更新**,存储多个NameNode信息。（一个文件一个NameNode）

*  把文件和目录的元数据信息持久化地存储到fsimage文件中，每次启动时从中将元数据加载到内存中构建目录结构树，之后的操作记录在edits log中

**edits log**：编辑日志,**实时更新**,程序运行过程中对DataNode的操作记录。

fsimage和edits log**均存储在磁盘**，而不是内存上

**思考：NameNode中的元数据是存储在哪里的？**

首先，我们做个假设，如果存储在NameNode节点的磁盘中，因为经常需要进行随机访问，还有响应客户请求，必然是效率过低。因此，元数据需要存放在内存中。但如果只存在内存中，一旦断电，元数据丢失，整个集群就无法工作了。因此产生**在磁盘中备份元数据**的**FsImage**。

这样又会带来新的问题，当在内存中的元数据更新时，如果同时更新FsImage，就会导致效率过低，但如果不更新，就会发生一致性问题，一旦NameNode节点断电，就会产生数据丢失。因此，引入**Edits**文件(只进行追加操作，效率很高)。**每当元数据有更新或者添加元数据时，修改内存中的元数据并追加到Edits**中。这样，一旦NameNode节点断电，可以通过FsImage和Edits的合并，合成元数据。

但是，如果长时间添加数据到Edits中，会导致该文件数据过大，效率降低，而且一旦断电，恢复元数据需要的时间过长。因此，需要定期进行FsImage和Edits的合并，如果这个操作由NameNode节点完成，又会效率过低。因此，引入一个新的节点**SecondaryNamenode**，专门**用于FsImage和Edits的合并**。

### 1. SNN ###

它不是NN的备份（**但可以做备份**），它的主要工作是**帮助NN合并edits log到fsimage中，减少NN启动时间**。

SecondaryNameNode就是当edits log文件到达一定阈值时或到达规定的时间时会获取NameNode中的fsimage和editslog文件并将它们做一次合并，然后将新的fsimage文件发送给NameNode，这样edits log文件就可以更新为空文件，继续存储新的操作记录。

**SNN执行合并时机**

*  根据配置文件设置的时间间隔fs.checkpoint.period 默认**3600秒**  
    （一小时）
 *  根据配置文件设置edits log大小 fs.checkpoint.size 规定edits文件的最大值默认是**64MB**

edits log文件很小，每次做合并操作时不会耗时很久。

*  为什么edits log文件很小？
    
     *  HDFS架构中，除了NameNode，还有一个**SecondaryNameNode**.
     *  SecondaryNameNode就是当edits log文件到达一定阈值时或到达规定的时间时会获取NameNode中的fsimage和editslog文件并将它们做一次合并，然后将新的fsimage文件发送给NameNode，这样edits log文件就可以更新为空文件，继续存储新的操作记录。

![\[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-Iip1uB4C-1607394453230)(img\\1560239274499.png)\]][img-Iip1uB4C-1607394453230_img_1560239274499.png]

![\[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-yx6hA492-1607394453234)(img\\373XQ\]I@@Z\[7ARTDKPVI0.png)\]][img-yx6hA492-1607394453234_img_373XQ_I_Z_7ARTDKPVI0.png]

### 2. Fsimage和Edits介绍 ###

NameNode被格式化之后，将在/opt/module/hadoop-2.7.2/data/tmp/dfs/name/current目录中产生如下文件  
fsimage 0000000000000000000  
fs image 0000000000000000000 . md5  
seen txid  
VERSION

(1) **Fsimage文件**: HDFS文件系统元数据的一个永久性的检查点，其中包含HDFS文件系统的所有目录和文件inode的序列化信息。  
(2) **Edits log文件**: 存放HDFS文件系统的所有更新操作的路径，文件系统客户端执行的所有写操作首先会被记录到Edits文件中。  
(3) **seen txid**文件保存的是一个数字，就是最后一个edits\_ 的数字  
(4)每次NameNode启动的时候都会将Fsimage文件读入内存，加载Edits里面的更新操作，保证内存中的元数据信息是最新的、同步的，可以看成NameNode启动的时候就将Fsimage和Edits文件进行了合并。

**Namenode主要维护两个文件，一个是fsimage，一个是edits log。**

*  **fsimage**
    
    **保存了最新的元数据检查点**，包含了整个HDFS文件系统的所有目录和文件的信息。对于文件来说包括了数据块描述信息、修改时间、访问时间等；对于目录来说包括修改时间、访问权限控制信息(目录所属用户，所在组)等。
 *  **edits log**
    
    主要是在NameNode**已经启动情况下对HDFS进行的各种更新操作进行记录**，HDFS客户端执行所有的写操作都会被记录到edits log中。

简单来想，NameNode维护了文件与数据块的映射表以及数据块与数据节点的映射表，什么意思呢？就是一个文件，它切分成了几个数据块，以及这些数据块分别存储在哪些datanode上，namenode一清二楚。Fsimage就是在某一时刻，整个hdfs 的快照，就是这个时刻hdfs上所有的文件块和目录，分别的状态，位于哪些个datanode，各自的权限，各自的副本个数。然后客户端对hdfs所有的更新操作，比如说移动数据，或者删除数据，都会记录在edits log中。

为了避免editlog不断增大，secondary namenode会周期性合并fsimage和edits成新的fsimage，新的操作记录会写入新的editlog中，这个周期可以自己设置（editlog到达一定大小或者定时）。

![\[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-4cWN4mcw-1607394453236)(img\\1560238719464.png)\]][img-4cWN4mcw-1607394453236_img_1560238719464.png]

可以很清晰看出

第一步：将hdfs更新记录写入一个新的文件——edits.new。

第二步：将fsimage和editlog通过http协议发送至secondary namenode。

第三步：将fsimage与editlog合并，生成一个新的文件——fsimage.ckpt。这步之所以要在secondary namenode中进行，是因为比较耗时，如果在namenode中进行，或导致整个系统卡顿。

第四步：将生成的fsimage.ckpt通过http协议发送至namenode。

第五步：重命名fsimage.ckpt为fsimage，edits.new为edits。

这样的话，fsimage与editlog合并的过程就完成了。所以如果namenode宕机，其实secondary namenode还保存这一份不久前的fsimage，还能挽回一些损失吧。

一旦有datanode挂掉了（宕机或者是网络阻塞），namenode能很快感知到，并且将宕机的节点上的数据块转移至其余空闲节点。这点是因为hdfs的心跳机制（heartbeat）。

心跳机制**默认3s**一次，datanode会向namenode发送一次心跳，告知namenode当前节点上存放的数据文件是什么。如果namenode中记录的是该datanode存放了文件A的两个数据块和文件B的一个数据块，但是心跳中只有文件A的一个数据块信息，namenode就会知道该datanode数据块损坏了，会把损坏的数据块在别的datanode上补充.

**SNN每隔一段时间会向NN发出停止使用EditLog的请求，NN接收到请求后会生成新的EditLog.New，暂时将更新操作日志写入其中。SNN会将NN的FsImage和EditLog拉回本地并加载至内存，逐条执行EditLog，使FsImage保持最新（即合并操作），然后SNN将合并后的新FsImage发送回NN，NN收到后替换原有的FsImage，并使用EditLog.New替换原有的EditLog，从而减小了NN中EditLog的体积，同时也实现了定时冷备份的功能。**

[img-Iip1uB4C-1607394453230_img_1560239274499.png]: /images/20221120/ca3f7c4dcf2a4d8ba287ac13a867b624.png
[img-yx6hA492-1607394453234_img_373XQ_I_Z_7ARTDKPVI0.png]: /images/20221120/23555edc7c6b42f99e1261b55b8925e4.png
[img-4cWN4mcw-1607394453236_img_1560238719464.png]: /images/20221120/4af711df8198477aaf824eb3e69a950b.png