轻松入门大数据第7章进阶实战：轻松实现Hadoop分布式集群环境 7.1 Hadoop集群部署及HA 7.1.6 Hadoop集群HDFS HA配置及测试

小咪咪 2024-03-17 11:10 43阅读 0赞

### 轻松入门大数据 ###

#### 文章目录 ####

*   *  轻松入门大数据
     *   *  第7章 进阶实战：轻松搞定Hadoop分布式集群环境
         *   *  7.1 Hadoop集群部署及HA
             *   *  7.1.6 Hadoop集群HDFS HA配置及测试

![在这里插入图片描述][394a879ade30405bb473c3bf6e183c8f.png_pic_center]

#### 第7章 进阶实战：轻松搞定Hadoop分布式集群环境 ####

##### 7.1 Hadoop集群部署及HA #####

> 1.  Hadoop集群规划
> 2.  Hadoop集群部署及测试
> 3.  HDFS HA架构
> 4.  HDFS HA部署及测试

###### 7.1.6 Hadoop集群HDFS HA配置及测试 ######

看着官网文档配置

[https://hadoop.apache.org/docs/stable/hadoop-project-dist/hadoop-hdfs/HDFSHighAvailabilityWithQJM.html][https_hadoop.apache.org_docs_stable_hadoop-project-dist_hadoop-hdfs_HDFSHighAvailabilityWithQJM.html]

![在这里插入图片描述][f7088d87c1d6421bb3d65098fbca4a67.png_pic_center]

首先是`**hdfs-site.xml**`

这下要改一下规划了，之前我们只有一个NN，这次加一个，做高可用

hadoop001
    	NN1
    	DN
    	NM
    
    hadoop002
    	RM
    	DN
    	NM
    
    hadoop003
    	DN
    	NM
    	NN2

001 上的NN 如果挂了， 003 上的NN 起来续上

修改hadoop001 上的配置文件，`core-site.xml`

<configuration>
    
      <property>
            <name>fs.defaultFS</name>
            <value>hdfs://mycluster</value>
        </property>
    
        <property>
            <name>hadoop.tmp.dir</name>
            <value>/home/hadoop/app/tmp/dfs</value>
        </property>
    
        <property>
          <name>ha.zookeeper.quorum</name>
          <value>hadoop001:2181,hadoop002:2181,hadoop003:2181</value>
        </property>
    
    </configuration>

![在这里插入图片描述][aec95e95d41c47eb9ca95df3314820d4.png_pic_center]

`hdfs-site.xml`

<?xml version="1.0" encoding="UTF-8"?>
    <?xml-stylesheet type="text/xsl" href="configuration.xsl"?>
    
    
    
    
    <configuration>
      <property>
            <name>dfs.datanode.use.datanode.hostname</name>
            <value>true</value>
      </property>
    
      <property>
        <name>dfs.nameservices</name>
        <value>mycluster</value>
      </property>
    
      <property>
        <name>dfs.ha.namenodes.mycluster</name>
        <value>nn1,nn2</value>
      </property>
    
      <property>
        <name>dfs.namenode.rpc-address.mycluster.nn1</name>
        <value>hadoop001:8020</value>
      </property>
    
      <property>
        <name>dfs.namenode.rpc-address.mycluster.nn2</name>
        <value>hadoop003:8020</value>
      </property>
    
      <property>
        <name>dfs.namenode.http-address.mycluster.nn1</name>
        <value>hadoop001:9870</value>
      </property>
      <property>
        <name>dfs.namenode.http-address.mycluster.nn2</name>
        <value>hadoop003:9870</value>
      </property>
    
      <property>
        <name>dfs.namenode.shared.edits.dir</name>
        <value>qjournal://hadoop001:8485;hadoop002:8485;hadoop003:8485/mycluster</value>
      </property>
    
      <property>
        <name>dfs.journalnode.edits.dir</name>
        <value>/home/hadoop/app/tmp/journal</value>
      </property>
    
      <property>
        <name>dfs.ha.automatic-failover.enabled</name>
        <value>true</value>
      </property>
    
      <property>
        <name>dfs.client.failover.proxy.provider.mycluster</name>
        <value>org.apache.hadoop.hdfs.server.namenode.ha.ConfiguredFailoverProxyProvider</value>
      </property>
    
      <property>
        <name>dfs.ha.nn.not-become-active-in-safemode</name>
        <value>true</value>
      </property>
    
      <property>
        <name>dfs.ha.fencing.methods</name>
        <value>
            sshfence
        </value>
      </property>
    
      <property>
        <name>dfs.ha.fencing.ssh.private-key-files</name>
        <value>/home/hadoop/.ssh/id_rsa</value>
      </property>
    
      <property>
        <name>dfs.ha.fencing.ssh.connect-timeout</name>
        <value>30000</value>
      </property>
    
    </configuration>

三台机器都创建下面这个目录出来

mkdir -p /home/hadoop/app/tmp/journal

而且要把配置文件同步一下【这里笔者是直接复制粘贴的】

OK，重启各个服务

![在这里插入图片描述][56f892c8f66f491b935787e7feddfde0.png_pic_center]

三台机器上当前都只有ZK 在运行

![在这里插入图片描述][d3e56a52a4904ceb8ed2ea89ed04bff0.png_pic_center]

![在这里插入图片描述][8835d228adde40fbacf4bff1d63996f0.png_pic_center]

hadoop001 `bin` 下执行`./hdfs --daemon start journalnode`

![在这里插入图片描述][8f53871c051c403786828c7c83a0bc7d.png_pic_center]

在hadoop002 上同样

![在这里插入图片描述][3be700b690554d1b9859b7fb750048ab.png_pic_center]

3 也是

![在这里插入图片描述][b7c763d5d6484acd8c3a520ba0e16dc9.png_pic_center]

回到1，初始化HDFS，`bin`下，`./hdfs namenode -format`

![在这里插入图片描述][549f807e024b41c3a4674272aa725a69.png_pic_center]

一个一个进程的启，`./hdfs --daemon start namenode`

![在这里插入图片描述][cf80cfe80b804740b95bc84280d96bae.png_pic_center]

现在切到3 ，`./hdfs namenode -bootstrapStandby`

![在这里插入图片描述][dcc94138469e40e48c54af475b001259.png_pic_center]

回到hadoop001 ，`./hdfs zkfc -formatZK`

![在这里插入图片描述][0cc15bf677e34322bbdf268b58473fbe.png_pic_center]

启动hdfs，`sbin`下，`./start-dfs.sh`

![在这里插入图片描述][055aad09d658482e8f4a8659feea7b5d.png_pic_center]

没问题

![在这里插入图片描述][39cfb038073d413da976485018f994e9.png_pic_center]

看看hadoop003

![在这里插入图片描述][fc79f283c0c4477a98bb226915e204b1.png_pic_center]

3 上面也有NN ，DN 好像没起来

![在这里插入图片描述][fd6657b7c77245c48b0fe5acd29ad7c6.png_pic_center]

按照我们的规划，每个上面都应该有一个DN ，手动启动一下

`./hdfs --daemon start datanode`

![在这里插入图片描述][48fcd9571b504cdf8de9f857022d6bb2.png_pic_center]

![在这里插入图片描述][82d4946fa553450e9ba0801d99850832.png_pic_center]

![在这里插入图片描述][b353359a4cae4d079a3d3c5c5ea30a2d.png_pic_center]

OK， 现在符合规划了

在hadoop003 进行调用

![在这里插入图片描述][1dda4d1e324840dfae7629a27bb54e9d.png_pic_center]

现在的文件系统中什么都没有

创建一个目录

![在这里插入图片描述][8433043ed63c4b76a4b8f41225470feb.png_pic_center]

创建一个文件放上去

![在这里插入图片描述][b5d86f6a4db54efb877413ec53cfcf48.png_pic_center]

出错了，命令不能这样，集群没对

刚刚启动hdfs的时候，datanode 没起来，应该不是这样，笔者先停掉所有的 进程

![在这里插入图片描述][b3b37b0ff3dc4c2bb468be0f6be9d46e.png_pic_center]

停止还可以

![在这里插入图片描述][2cfc1c56f79341e68695d1a49c41fba9.png_pic_center]

![在这里插入图片描述][ddd860a13b6c41bf80eecbcabefdb670.png_pic_center]

一键启动再试一次

![在这里插入图片描述][58e1388d671347a291d7fb41b7a4af08.png_pic_center]

这次DN 创建出来了

![在这里插入图片描述][4ecccd04267e464a8f4b11819ce199b9.png_pic_center]

2的DN 没起来

![在这里插入图片描述][e52a35535acb44a5bbde90e0bc512604.png_pic_center]

3 的DN 也没起来

> 重新弄了一遍应该是正常了

再来创建东西

![在这里插入图片描述][e15d74b922e34c5996613f2641c690e5.png_pic_center]

当前啥也没有

![在这里插入图片描述][6cc1215eb3de465abca1f558c2034cda.png_pic_center]

这次成功了，就是前面的步骤，启动journalNode 的时候注意顺序

查一下

![在这里插入图片描述][96e6bd0a886f44cfb3e0f401ae621e57.png_pic_center]

没问题

看到hadoop001 的UI

![在这里插入图片描述][b775a3d98f5f4364a3ed279a70dac799.png_pic_center]

001 是active

![在这里插入图片描述][90d4135e17be48d397c032667e7ff4fd.png_pic_center]

三个活节点

看到hadoop003

![在这里插入图片描述][34f744e3764b43608c6f89a99ccb17dd.png_pic_center]

它是一个standby

![在这里插入图片描述][b3274b9ad69b4a7b902ad98f5275476d.png_pic_center]

同样也是三个节点

我现在把001 上的NN 干掉

![在这里插入图片描述][1a7342eebda14d588b79b652b217b17a.png_pic_center]

![在这里插入图片描述][777fac335f3d4d6d8ac83a9bb3b44d8c.png_pic_center]

干掉之后

![在这里插入图片描述][67062ac00ab941399cee0cc44e756af5.png_pic_center]

001 这个NN 就不能访问了，看看003 的

![在这里插入图片描述][feea5b55f77543e2aeb206cfaef1648d.png_pic_center]

OK， 它变成active 了

没有问题，这就实现了高可用自动切换。

[394a879ade30405bb473c3bf6e183c8f.png_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/17/49c31720cce943d9ad805a8d02e08c8c.png
[https_hadoop.apache.org_docs_stable_hadoop-project-dist_hadoop-hdfs_HDFSHighAvailabilityWithQJM.html]: https://hadoop.apache.org/docs/stable/hadoop-project-dist/hadoop-hdfs/HDFSHighAvailabilityWithQJM.html
[f7088d87c1d6421bb3d65098fbca4a67.png_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/17/ef3d7f5466db4e9f98c3d982be816c06.png
[aec95e95d41c47eb9ca95df3314820d4.png_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/17/b752118013b94b18bef10e8affb2d3da.png
[56f892c8f66f491b935787e7feddfde0.png_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/17/fadc7452ab18459487dec52977dbeaef.png
[d3e56a52a4904ceb8ed2ea89ed04bff0.png_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/17/641ddce715a24bc981a8adacb6189d84.png
[8835d228adde40fbacf4bff1d63996f0.png_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/17/2197e9b5eb5e409dbad31bd9d2a292f7.png
[8f53871c051c403786828c7c83a0bc7d.png_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/17/751e343dd27e4bab8767aa8cd867d89c.png
[3be700b690554d1b9859b7fb750048ab.png_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/17/5b0cfcb345844ecd9138f11fa2da9471.png
[b7c763d5d6484acd8c3a520ba0e16dc9.png_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/17/e40735e98aea4227be1c69d1d29500d3.png
[549f807e024b41c3a4674272aa725a69.png_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/17/042fe8c441354d26b3f8bd1cfe0b7ec5.png
[cf80cfe80b804740b95bc84280d96bae.png_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/17/e1cfc7c7bb1844ccadd8d7278b5de139.png
[dcc94138469e40e48c54af475b001259.png_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/17/79ab815359134896af587d87dc2b1843.png
[0cc15bf677e34322bbdf268b58473fbe.png_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/17/95ba7d563007428fb5e644ee75d9ce84.png
[055aad09d658482e8f4a8659feea7b5d.png_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/17/d0bf9b7bb61f4a458e4113e35df61b9c.png
[39cfb038073d413da976485018f994e9.png_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/17/ea21e31d8110442aa873bbcabd54f29b.png
[fc79f283c0c4477a98bb226915e204b1.png_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/17/f1ee991e474642a1a82684463a51d6f4.png
[fd6657b7c77245c48b0fe5acd29ad7c6.png_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/17/b02cd604eaa14f299cc523b8a2ae86c5.png
[48fcd9571b504cdf8de9f857022d6bb2.png_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/17/88cec385a06744e591187df8fbe71667.png
[82d4946fa553450e9ba0801d99850832.png_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/17/68bf6010287f4782a182e5daf5ee43ba.png
[b353359a4cae4d079a3d3c5c5ea30a2d.png_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/17/f50dc3182cd44189803560b7179d46b4.png
[1dda4d1e324840dfae7629a27bb54e9d.png_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/17/1eb7406ffa5a468ea8d1c5269f5932d2.png
[8433043ed63c4b76a4b8f41225470feb.png_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/17/eac5eba1c81a4def88ab594326f71f62.png
[b5d86f6a4db54efb877413ec53cfcf48.png_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/17/1e0bd94452534dc19e0905b3e0168d51.png
[b3b37b0ff3dc4c2bb468be0f6be9d46e.png_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/17/2ab80c40fecd43f0b382fae27f4fab61.png
[2cfc1c56f79341e68695d1a49c41fba9.png_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/17/0170e1df57ea4f5c9c3941792b6d8c1f.png
[ddd860a13b6c41bf80eecbcabefdb670.png_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/17/734b1ec934b7420fb0e7e532addfade8.png
[58e1388d671347a291d7fb41b7a4af08.png_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/17/afb6436ff6a346058fd0ca5428fa2684.png
[4ecccd04267e464a8f4b11819ce199b9.png_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/17/e0c108937bca460c8e9225a9713a7874.png
[e52a35535acb44a5bbde90e0bc512604.png_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/17/b67e50413f634f56b56f44e3f1825e03.png
[e15d74b922e34c5996613f2641c690e5.png_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/17/d6facbd38b9c445092a7181f8b755f85.png
[6cc1215eb3de465abca1f558c2034cda.png_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/17/482b0fab253640aeb4c3212c1f9cf228.png
[96e6bd0a886f44cfb3e0f401ae621e57.png_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/17/c3b88c89d5e54c27af05747cc6ffb0a2.png
[b775a3d98f5f4364a3ed279a70dac799.png_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/17/7f895aa61a0f4c978517f9da472a3e3c.png
[90d4135e17be48d397c032667e7ff4fd.png_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/17/4fa6fc2d9eb54852a89fb61cb96477b8.png
[34f744e3764b43608c6f89a99ccb17dd.png_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/17/2f5e8b74707a4daaa71b53bab5f24f9e.png
[b3274b9ad69b4a7b902ad98f5275476d.png_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/17/661bcf7278034ef1842edebfe5a1ec39.png
[1a7342eebda14d588b79b652b217b17a.png_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/17/f0c30559d8e74091b1db990285a1d604.png
[777fac335f3d4d6d8ac83a9bb3b44d8c.png_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/17/c505088037cf477ca81e1710db9de5c8.png
[67062ac00ab941399cee0cc44e756af5.png_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/17/8b39d1c8b1c74b23b869696cb6eaee30.png
[feea5b55f77543e2aeb206cfaef1648d.png_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/17/aa937d17a01042198480073806b5c3c0.png