Hadoop详解（五）：HDFS HA 和 Federation

我会带着你远行 2022-04-23 02:44 576阅读 0赞

# 1. Hadoop 2.0 产生背景 #

*  Hadoop 1.0中HDFS和MapReduce在高可用、扩展性等方面存在问题
 *  HDFS存在的问题
    
     *  NameNode单点故障，难以应用于在线场景 HA
     *  NameNode压力过大，且内存受限，影扩展性 Federation
 *  MapReduce存在的问题响
    
     *  JobTracker访问压力大，影响系统扩展性
     *  难以支持除MapReduce之外的计算框架，比如Spark、Storm等

# 2. Hadoop 1.x 和Hadoop 2.x #

![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzIxMTI1MTgz_size_16_color_FFFFFF_t_70]

Hadoop 2.x由HDFS、MapReduce和YARN三个分支构成：

1.  HDFS：NN Federation（联邦）、HA。2.X:只支持2个节点HA，3.0实现了一主多备
2.  MapReduce：运行在YARN上的MR；
    
     *  离线计算，基于磁盘I/O计算
3.  YARN,资源管理系统

## 2.1 HDFS 2.x ##

*  解决HDFS 1.0中单点故障和内存受限问题。
 *  解决单点故障
    
     *  HDFS HA：通过主备NameNode解决
     *  如果主NameNode发生故障，则切换到备NameNode上
 *  解决内存受限问题
    
     *  HDFS Federation(联邦)
     *  水平扩展，支持多个NameNode；
     *  （2）每个NameNode分管一部分目录；
     *  （1）所有NameNode共享所有DataNode存储资源
 *  2.x仅是架构上发生了变化，使用方式不变
 *  对HDFS使用者透明
 *  HDFS 1.x中的命令和API仍可以使用

# 3. HDFS 2.x Federation(联邦) #

通过多个namenode/namespace把元数据的存储和管理分散到多个节点中，使到namenode/namespace可以通过增加机器来进行水平扩展。

能把单个namenode的负载分散到多个节点中，在HDFS数据规模较大的时候不会也降低HDFS的性能。可以通过多个namespace来隔离不同类型的应用，把不同类型应用的HDFS元数据的存储和管理分派到不同的namenode中。

![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzIxMTI1MTgz_size_16_color_FFFFFF_t_70 1]

# 4. HDFS 2.x HA（高可用） #

主备NameNode

Hadoop HA主要是解决NameNode单点故障问题，主NameNode对外提供服务，备NameNode同步主NameNode元数据，以待切换。所有DataNode同时向两个NameNode汇报数据块信息（位置）。并且在Hadoop HA中还含有JNN集群用来存储共享存储状态（shared edits文件）。处于StandyBy节点的NameNode，主要作用是完成了edits.log文件的合并产生新的image，推送回给Active NameNode。该步骤和SecondaryNameNode的备份功能类似，通过这种方式保证了StandyBy节点的NameNode和Actvie NameNode的fsimage文件一致。edit文件通过JNN集群存储共享存储状态，active namenode处理所有的操作请求（读写），读写入到这个共享状态的集群节点。

HDFS HA保持NameNode元数据信息一致，也就是说保持fsimge和edits文件保持一致。fsimge和edits文件在HDFS 格式化之后产生。

![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzIxMTI1MTgz_size_16_color_FFFFFF_t_70 2]

Hadoop的元数据主要作用是维护HDFS文件系统中文件和目录相关信息。元数据的存储形式主要有3类：内存镜像、磁盘镜像(FSImage)、日志(EditLog)。在Namenode启动时，会加载磁盘镜像到内存中以进行元数据的管理，存储在NameNode内存；磁盘镜像是某一时刻HDFS的元数据信息的快照，包含所有相关Datanode节点文件块映射关系和命名空间(Namespace)信息，存储在NameNode本地文件系统；日志文件记录client发起的每一次操作信息，即保存所有对文件系统的修改操作，用于定期和磁盘镜像合并成最新镜像，保证NameNode元数据信息的完整，存储在NameNode本地和共享存储系统(QJM)中。

## 4.1 共享存储(shared edits) ##

active namenode处理所有的操作请求（读写），standby namenode只同步状态datanode会同时向两个namenode发送block报告和心跳当满足一次checkpoint时，standby namenode进行一次合并操作active NN执行任何命名空间的修改都会持久化到一半以上的journalnodes上而Standby NN负责观察edits log的变化，它能够读取从JNs中读取edits信息，并更新其内部的命名空间一旦Active NN出现故障，Standby NN将会保证从JNs中读出了全部的Edits，然后切换成Active状态一次checkpoint过程

## 4.2 切换机制 ##

*  手动切换：通过命令实现主备之间的切换，可以用HDFS升级等场合
 *  自动切换：基于Zookeeper实现

### 基于Zookeeper自动切换方案 ###

*  ZooKeeper Failover Controller：监控NameNode健康状态，
 *  当NameNode启动时，会向Zookeeper注册NameNode
 *  NameNode挂掉后，ZKFC为NameNode竞争锁，获得ZKFC 锁的NameNode变为active

[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzIxMTI1MTgz_size_16_color_FFFFFF_t_70]: /images/20220323/e6412e1cbcb44a1faa1aaef1eaaa7a3a.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzIxMTI1MTgz_size_16_color_FFFFFF_t_70 1]: /images/20220323/33f7805f74134cc3a4b276b96aab2da5.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzIxMTI1MTgz_size_16_color_FFFFFF_t_70 2]: /images/20220323/d8a707bde7304ec38b0ded0c6f2ca790.png

发表评论取消回复

表情：

评论列表（有 0 条评论，576人围观）

还没有评论，来说两句吧...

相关阅读

相关 HDFS Federation

![20180129204022897595.png][] 多个NN共用一个集群里的存储资源，每个NN都可以单独对外提供服务。每个NN都会定义一个存储池，有单独的id，每个D

小灰灰/ 2023年08月17日 15:19/ 0 赞/ 112 阅读

相关 Hadoop系列之HDFS Federation(联邦机制) (16)

HDFS Federation（联邦机制） HDFS Federation 中文意思为 HDFS 联盟或者 HDFS 联邦。这里并非指多个集群，更准确的应该是一个集群有多

谁践踏了优雅/ 2023年01月11日 08:29/ 0 赞/ 299 阅读

相关 HDFS 联盟（HDFS Federation）

背景 HDFS主要包括两层： Namespace 由目录，文件和块组成支持所有文件系统操作包括增加，删除，修改和列出文件和目录 Block Storage

绝地灬酷狼/ 2022年08月17日 15:10/ 0 赞/ 277 阅读

相关 HDFS HA和Federation安装部署方法

[HDFS HA和Federation安装部署方法][HDFS HA_Federation] 相比于Hadoop1.0，Hadoop 2.0中的HDFS增加了两个重大特性

灰太狼/ 2022年08月07日 11:38/ 0 赞/ 200 阅读

相关 HDFS Federation

[https://www.linuxidc.com/Linux/2014-04/100056.htm][https_www.linuxidc.com_Linux_2014-04

我会带着你远行/ 2022年05月29日 09:15/ 0 赞/ 189 阅读

相关 Hadoop——HDFS HA部署

本节目标：掌握HDFS HA的部署本节参考[官方文档][Link 1]进行部署。所需软件：JDK1.8、Hadoop2.7.6、zookeeper3.4.11 节

ゝ一世哀愁。/ 2022年05月26日 01:12/ 0 赞/ 284 阅读

相关 Hadoop HA + Federation + YARN HA配置实现（九）

集群规划 ![20170328104414639][] 配置步骤一、前提准备 1）安装好Hadoop2.0集群《==参考《HADOOP HA+Federat

Love The Way You Lie/ 2022年04月25日 06:52/ 0 赞/ 272 阅读

相关 Hadoop详解（五）：HDFS HA 和 Federation

1. Hadoop 2.0 产生背景 Hadoop 1.0中HDFS和MapReduce在高可用、扩展性等方面存在问题 HDFS存在的问题

我会带着你远行/ 2022年04月23日 02:44/ 0 赞/ 577 阅读

相关 Hadoop3.2.0 HDFS Federation

背景多个名称节点/命名空间主要优点联合配置组态：格式化名称节点从旧版本

深藏阁楼爱情的钟/ 2022年02月18日 10:36/ 0 赞/ 242 阅读

相关 Hadoop 2.0 NameNode HA和Federation实践

一、为什么需要HA和Federation： 1. 单点故障在Hadoop 2.0之前，也有若干技术试图解决单点故障的问题，我们在这里做个简短的总结：

你的名字/ 2021年05月12日 11:55/ 0 赞/ 382 阅读