IOException: Incompatible clusterIDs in /home/hadoop/hadoopinfra/hdfs/datanode: namenode clusterID =

爱被打了一巴掌 2023-02-14 15:35 3阅读 0赞

hadoop格式化：java.io.IOException: Incompatible clusterIDs in /home/lxh/hadoop/hdfs/data: namenode clusterID

**1 概述**  
  解决hadoop启动hdfs时，datanode无法启动的问题。错误为：

<table> 
 <tbody> 
 <tr> 
 <td> <code>java.io.IOException: Incompatible clusterIDs&nbsp;</code><code>in</code>&nbsp;<code>/home/lxh/hadoop/hdfs/data</code><code>: namenode clusterID = CID-a3938a0b-57b5-458d-841c-d096e2b7a71c; datanode clusterID = CID-200e6206-98b5-44b2-9e48-262871884eeb</code> </td> 
 </tr> 
 </tbody> 
</table>

**2 问题描述**  
  执行start-dfs.sh后，根据打印日志，可以看到分别执行了NameNode、DataNode的操作。

<table> 
 <tbody> 
 <tr> 
 <td> &nbsp; &nbsp; &nbsp; </td> 
 <td> <code>Starting namenodes on [localhost]</code> <code>localhost: starting namenode, logging to&nbsp;</code><code>/home/lxh/hadoop/hadoop-2</code><code>.4.1</code><code>/logs/hadoop-lxh-namenode-ubuntu</code><code>.out</code> <code>localhost: starting datanode, logging to&nbsp;</code><code>/home/lxh/hadoop/hadoop-2</code><code>.4.1</code><code>/logs/hadoop-lxh-datanode-ubuntu</code><code>.out</code> </td> 
 </tr> 
 </tbody> 
</table>

但是执行jps查看启动结果时，返现DataNode并没有启动。

<table> 
 <tbody> 
 <tr> 
 <td> &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; </td> 
 <td> <code>10256 ResourceManager</code> <code>29634 NameNode</code> <code>29939 SecondaryNameNode</code> <code>30054 Jps</code> <code>10399 NodeManager</code> </td> 
 </tr> 
 </tbody> 
</table>

**3 查找问题**  
  很是费解，刚刚还能够正常运行，并且执行了wordcount的测试程序。于是回想了一下刚才的操作，执行了dfs格式化(hdfs namenode -format和hdfs datanode -format)，然后重新启动就出现了这个情况。难道与格式化有关？于是查看日志：

<table> 
 <tbody> 
 <tr> 
 <td>&nbsp;</td> 
 <td> <code>2014-08-08 00:32:08,787 FATAL org.apache.hadoop.hdfs.server.datanode.DataNode: Initialization failed&nbsp;</code><code>for</code>&nbsp;<code>Block pool &lt;registering&gt; (Datanode Uuid unassigned) service to localhost</code><code>/127</code><code>.0.0.1:9000. Exiting.</code> <code>java.io.IOException: Incompatible clusterIDs&nbsp;</code><code>in</code>&nbsp;<code>/home/lxh/hadoop/hdfs/data</code><code>: namenode clusterID = CID-a3938a0b-57b5-458d-841c-d096e2b7a71c; datanode clusterID = CID-200e6206-98b5-44b2-9e48-262871884eeb</code> <code>at org.apache.hadoop.hdfs.server.datanode.DataStorage.doTransition(DataStorage.java:477)</code> <code>at org.apache.hadoop.hdfs.server.datanode.DataStorage.recoverTransitionRead(DataStorage.java:226)</code> <code>at org.apache.hadoop.hdfs.server.datanode.DataStorage.recoverTransitionRead(DataStorage.java:254)</code> <code>at org.apache.hadoop.hdfs.server.datanode.DataNode.initStorage(DataNode.java:974)</code> <code>at org.apache.hadoop.hdfs.server.datanode.DataNode.initBlockPool(DataNode.java:945)</code> <code>at org.apache.hadoop.hdfs.server.datanode.BPOfferService.verifyAndSetNamespaceInfo(BPOfferService.java:278)</code> <code>at org.apache.hadoop.hdfs.server.datanode.BPServiceActor.connectToNNAndHandshake(BPServiceActor.java:220)</code> <code>at org.apache.hadoop.hdfs.server.datanode.BPServiceActor.run(BPServiceActor.java:816)</code> <code>at java.lang.Thread.run(Thread.java:745)</code> <code>2014-08-08 00:32:08,790 WARN org.apache.hadoop.hdfs.server.datanode.DataNode: Ending block pool service&nbsp;</code><code>for</code><code>: Block pool &lt;registering&gt; (Datanode Uuid unassigned) service to localhost</code><code>/127</code><code>.0.0.1:9000</code> <code>2014-08-08 00:32:08,791 INFO org.apache.hadoop.hdfs.server.datanode.DataNode: Removed Block pool &lt;registering&gt; (Datanode Uuid unassigned)</code> </td> 
 </tr> 
 </tbody> 
</table>

根据日志描述，原因是datanode的clusterID 和 namenode的clusterID 不匹配。

原因找到，看看是否如日志描述的这样。

打开hdfs-site.xml中关于datanode和namenode对应的目录，分别打开其中的current/VERSION文件，进行对比。

<table> 
 <tbody> 
 <tr> 
 <td> &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; </td> 
 <td> <code>${datanode}</code><code>/current/VERSION</code><code>:</code> &nbsp; <code>storageID=DS-be8dfa2b-17b1-4c9f-bbfe-4898956a39ed</code> <code>clusterID=CID-200e6206-98b5-44b2-9e48-262871884eeb</code> <code>cTime=0</code> <code>datanodeUuid=406b6d6a-0cb1-453d-b689-9ee62433b15d</code> <code>storageType=DATA_NODE</code> <code>layoutVersion=-55</code> </td> 
 </tr> 
 </tbody> 
</table>

<table> 
 <tbody> 
 <tr> 
 <td> &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; </td> 
 <td> <code>${namenode}</code><code>/current/VERSION</code><code>:</code> &nbsp; <code>namespaceID=670379</code> <code>clusterID=CID-a3938a0b-57b5-458d-841c-d096e2b7a71c</code> <code>cTime=0</code> <code>storageType=NAME_NODE</code> <code>blockpoolID=BP-325596647-127.0.1.1-1407429078192</code> <code>layoutVersion=-56</code> </td> 
 </tr> 
 </tbody> 
</table>

果然如日志中记录的一样，于是修改datanode的VERSION文件中的clusterID，使与namenode保持一致，然后启动dfs（执行start-dfs.sh），在执行jps查看启动情况，发现全部正常启动。

<table> 
 <tbody> 
 <tr> 
 <td> &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; </td> 
 <td> <code>10256 ResourceManager</code> <code>30614 NameNode</code> <code>30759 DataNode</code> <code>30935 SecondaryNameNode</code> <code>31038 Jps</code> <code>10399 NodeManager</code> </td> 
 </tr> 
 </tbody> 
</table>

**4 分析问题原因**  
  执行hdfs namenode -format后，current目录会删除并重新生成，其中VERSION文件中的clusterID也会随之变化，而datanode的VERSION文件中的clusterID保持不变，造成两个clusterID不一致。

所以为了避免这种情况，可以再执行的namenode格式化之后，删除datanode的current文件夹，或者修改datanode的VERSION文件中出clusterID与namenode的VERSION文件中的clusterID一样，然后重新启动dfs。

博主强烈推荐：https://blog.csdn.net/persistencegoing/article/details/84376427

希望大家关注我一波,防止以后迷路,有需要的可以加群讨论互相学习java ,学习路线探讨,经验分享与java求职

群号:721 515 304