大数据系列之-zookeeper集群篇

ゝ一世哀愁。 2022-12-23 06:42 156阅读 0赞

### **为什么搭建Zookeeper集群** ###

大部分分布式应用需要一个主控、协调器或者控制器来管理物理分布的子进程。目前，大多数都要开发私有的协调程序，缺乏一个通用机制，协调程序的反复编写浪费，且难以形成通用、伸缩性好的协调器，zookeeper提供通用的分布式锁服务，用以协调分布式应用。所以说zookeeper是分布式应用的协作服务。

zookeeper作为注册中心，服务器和客户端都要访问，如果有大量的并发，肯定会有等待。所以可以通过zookeeper集群解决。

下面是zookeeper集群部署结构图：

![format_png][]

###     ###

### **了解Leader选举** ###

Zookeeper的启动过程中leader选举是非常重要而且最复杂的一个环节。那么什么是leader选举呢？zookeeper为什么需要leader选举呢？zookeeper的leader选举的过程又是什么样子的？

首先我们来看看什么是leader选举。其实这个很好理解，leader选举就像总统选举一样，每人一票，获得多数票的人就当选为总统了。在zookeeper集群中也是一样，每个节点都会投票，如果某个节点获得超过半数以上的节点的投票，则该节点就是leader节点了。

以一个简单的例子来说明整个选举的过程.   
假设有五台服务器组成的zookeeper集群,它们的id从1-5,同时它们都是最新启动的,也就是没有历史数据,在存放数据量这一点上,都是一样的.假设这些服务器依序启动,来看看会发生什么 。

1) 服务器1启动,此时只有它一台服务器启动了,它发出去的报没有任何响应,所以它的选举状态一直是LOOKING状态

2) 服务器2启动,它与最开始启动的服务器1进行通信,互相交换自己的选举结果,由于两者都没有历史数据,所以id值较大的服务器2胜出,但是由于没有达到超过半数以上的服务器都同意选举它(这个例子中的半数以上是3),所以服务器1,2还是继续保持LOOKING状态.

3) 服务器3启动,根据前面的理论分析,服务器3成为服务器1,2,3中的老大,而与上面不同的是,此时有三台服务器选举了它,所以它成为了这次选举的leader.

4) 服务器4启动,根据前面的分析,理论上服务器4应该是服务器1,2,3,4中最大的,但是由于前面已经有半数以上的服务器选举了服务器3,所以它只能接收当小弟的命了.    
5 5启动,同4一样,当小弟

##     ##

## **搭建Zookeeper集群** ##

###     ###

### **搭建要求** ###

真实的集群是需要部署在不同的服务器上的，但是在我们测试时同时启动十几个虚拟机内存会吃不消，所以我们通常会搭建**伪集群**，也就是把所有的服务都搭建在一台虚拟机上，用端口进行区分。

我们这里要求搭建一个三个节点的Zookeeper集群（伪集群）。

###     ###

### **准备工作** ###

重新部署一台虚拟机作为我们搭建集群的测试服务器。

（1）安装JDK  【此步骤省略】。

（2）Zookeeper压缩包上传到服务器

（3）将Zookeeper解压 ，创建data目录 ，将 conf下zoo\_sample.cfg 文件改名为 zoo.cfg

（4）建立/usr/local/zookeeper-cluster目录，将解压后的Zookeeper复制到以下三个目录

/usr/local/zookeeper-cluster/zookeeper-1

/usr/local/zookeeper-cluster/zookeeper-2

/usr/local/zookeeper-cluster/zookeeper-3

<table> 
 <tbody> 
  <tr> 
   <td><p>[root@localhost ~]# mkdir /usr/local/zookeeper-cluster</p><p>[root@localhost ~]# cp -r &nbsp;zookeeper-3.4.6 /usr/local/zookeeper-cluster/zookeeper-1</p><p>[root@localhost ~]# cp -r &nbsp;zookeeper-3.4.6 /usr/local/zookeeper-cluster/zookeeper-2</p><p>[root@localhost ~]# cp -r &nbsp;zookeeper-3.4.6 /usr/local/zookeeper-cluster/zookeeper-3</p></td> 
  </tr> 
 </tbody> 
</table>

（5） 配置每一个Zookeeper 的dataDir（zoo.cfg） clientPort 分别为2181  2182  2183

修改/usr/local/zookeeper-cluster/zookeeper-1/conf/zoo.cfg

<table> 
 <tbody> 
  <tr> 
   <td><p>clientPort=2181</p><p>dataDir=/usr/local/zookeeper-cluster/zookeeper-1/data</p></td> 
  </tr> 
 </tbody> 
</table>

修改/usr/local/zookeeper-cluster/zookeeper-2/conf/zoo.cfg

<table> 
 <tbody> 
  <tr> 
   <td><p>clientPort=2182</p><p>dataDir=/usr/local/zookeeper-cluster/zookeeper-2/data</p></td> 
  </tr> 
 </tbody> 
</table>

修改/usr/local/zookeeper-cluster/zookeeper-3/conf/zoo.cfg

<table> 
 <tbody> 
  <tr> 
   <td><p>clientPort=2183</p><p>dataDir=/usr/local/zookeeper-cluster/zookeeper-3/data</p></td> 
  </tr> 
 </tbody> 
</table>

###     ###

### **配置集群** ###

（1）在每个zookeeper的 data 目录下创建一个 myid 文件，内容分别是1、2、3 。这个文件就是记录每个服务器的ID

<table> 
 <tbody> 
  <tr> 
   <td><p style="text-align: justify"><strong>-------知识点小贴士------</strong><strong></strong></p><p style="text-align: justify">如果你要创建的文本文件内容比较简单，我们可以通过echo 命令快速创建文件</p><p style="text-align: justify">格式为：</p><p style="text-align: justify">echo 内容 &gt;文件名</p><p style="text-align: justify">例如我们为第一个zookeeper指定ID为1，则输入命令</p><p style="text-align: justify">&nbsp;</p></td> 
  </tr> 
 </tbody> 
</table>

（2）在每一个zookeeper 的 zoo.cfg配置客户端访问端口（clientPort）和集群服务器IP列表。

集群服务器IP列表如下

<table> 
 <tbody> 
  <tr> 
   <td><p>server.1=192.168.25.140:2881:3881</p><p>server.2=192.168.25.140:2882:3882</p><p>server.3=192.168.25.140:2883:3883</p></td> 
  </tr> 
 </tbody> 
</table>

解释：server.服务器ID=服务器IP地址：服务器之间通信端口：服务器之间投票选举端口

<table> 
 <tbody> 
  <tr> 
   <td><p><strong>-----知识点小贴士-----</strong><strong></strong></p><p>我们可以使用EditPlus远程修改服务器的文本文件的内容，更加便捷</p><p>（1）在菜单选择FTP Settings</p><p>&nbsp;</p><p style="text-align: center"><img src="https://imgconvert.csdnimg.cn/aHR0cHM6Ly9tbWJpei5xcGljLmNuL21tYml6X3BuZy81Y1ZsUEhMTWtMV1JUem5OaWNpYVZMZkt1QWZWWXprdGliSHVVZnJ4TGU1M0FIbHJ3eGwxMjE0WjNDMmVJRWd1MEh6V09CR1o2N2Q3VWNyWUNUNENpYnNYNVEvNjQw?x-oss-process=image/format,png"></p><p>（2）点击ADD按钮<br></p><p>&nbsp;</p><p style="text-align: center"><img src="https://imgconvert.csdnimg.cn/aHR0cHM6Ly9tbWJpei5xcGljLmNuL21tYml6X3BuZy81Y1ZsUEhMTWtMV1JUem5OaWNpYVZMZkt1QWZWWXprdGliSDM0N2dWSFZETWliYVlRcG9DWDJ0eXU1WGdVeVN5U0J1VExGRmF6YW8zYXpqcUtrUVBRMkRuYncvNjQw?x-oss-process=image/format,png"></p><p>（3）输入服务器信息<br></p><p>&nbsp;</p><p style="text-align: center"><img src="https://imgconvert.csdnimg.cn/aHR0cHM6Ly9tbWJpei5xcGljLmNuL21tYml6X3BuZy81Y1ZsUEhMTWtMV1JUem5OaWNpYVZMZkt1QWZWWXprdGliSE53T3ZLVm1oNlVaV0UxN3FBVlJ3NVM2RHNOTkJXenVwSmJFd2VoVXNWTjVwMGFiN3hWVVRkdy82NDA?x-oss-process=image/format,png"></p><p>（4）点击高级选项按钮<br></p><p>&nbsp;</p><p style="text-align: center"><img src="https://imgconvert.csdnimg.cn/aHR0cHM6Ly9tbWJpei5xcGljLmNuL21tYml6X3BuZy81Y1ZsUEhMTWtMV1JUem5OaWNpYVZMZkt1QWZWWXprdGliSFhKZ2F5akJpY2lhbDdteDVHb2VpY0dMbFBvd1VvaEtpYm1KWVZ5c0lCWnowMXM5clViOWR0aDNoMkEvNjQw?x-oss-process=image/format,png"></p><p>（5）选择SFTP &nbsp;端口22<br></p><p>&nbsp;</p><p style="text-align: center"><img src="https://imgconvert.csdnimg.cn/aHR0cHM6Ly9tbWJpei5xcGljLmNuL21tYml6X3BuZy81Y1ZsUEhMTWtMV1JUem5OaWNpYVZMZkt1QWZWWXprdGliSHFtR2h5ZHpOVko4Q1ZrMXVLaWFaeHBpY1R0aWFqVHIzOU43a3VnUTByOWt2bVdGeWZwMEw0Nk52US82NDA?x-oss-process=image/format,png"></p><p>（6）OK &nbsp;。完成配置<br></p><p>&nbsp;</p><p style="text-align: center"><img src="https://imgconvert.csdnimg.cn/aHR0cHM6Ly9tbWJpei5xcGljLmNuL21tYml6X3BuZy81Y1ZsUEhMTWtMV1JUem5OaWNpYVZMZkt1QWZWWXprdGliSG5BQjlKemFrd2JOS1NPOWlhV3lOWUppY0JqbDNFTjEwbDFxVGljazJmMUtpYnFuSXhpYnRhY1VyRTh3LzY0MA?x-oss-process=image/format,png"></p><p>连接：<br></p><p> <br></p><p style="text-align: center"><img src="https://imgconvert.csdnimg.cn/aHR0cHM6Ly9tbWJpei5xcGljLmNuL21tYml6X3BuZy81Y1ZsUEhMTWtMV1JUem5OaWNpYVZMZkt1QWZWWXprdGliSGowcnRwaWNibWJyd1lFN2ljWkdFaGR6U3B1UnhralJ6UlhvaGFYTXNlVGZMUFFiNkxmWnJoTDFRLzY0MA?x-oss-process=image/format,png"></p><p>&nbsp;</p><p style="text-align: center"><img src="https://imgconvert.csdnimg.cn/aHR0cHM6Ly9tbWJpei5xcGljLmNuL21tYml6X3BuZy81Y1ZsUEhMTWtMV1JUem5OaWNpYVZMZkt1QWZWWXprdGliSHh5cmFpYW1TeDFaSEJYT1RaSEVOcW5KbzFORks4ZmxPMzFnR2pSN3NXWXl4ZmpDRkRTaWJvUHN3LzY0MA?x-oss-process=image/format,png"></p><p style="text-align: center"><img src="https://imgconvert.csdnimg.cn/aHR0cHM6Ly9tbWJpei5xcGljLmNuL21tYml6X3BuZy81Y1ZsUEhMTWtMV1JUem5OaWNpYVZMZkt1QWZWWXprdGliSFlYTm93aG1vRG5MUW9DcTNmV25CclZPaWExSGY3aWNpYjZJTFdmaWI1N2xFcmJ1NHRXYXFHaWJRQ253LzY0MA?x-oss-process=image/format,png"></p><p>&nbsp;<br></p><p>哈哈，无敌啦~~~~ &nbsp;&nbsp;你可能要问，老师，你为啥不早告诉我有这一招 &nbsp;！</p></td> 
  </tr> 
 </tbody> 
</table>

### **启动集群** ###

启动集群就是分别启动每个实例。

![format_png 1][]

启动后我们查询一下每个实例的运行状态

先查询第一个服务

![format_png 2][]

Mode为follower表示是**跟随者**（从）

再查询第二个服务Mod 为leader表示是**领导者**（主）

![format_png 3][]

查询第三个为跟随者（从）

![format_png 4][]

###  ###

###     ###

### **模拟集群异常** ###

（1）首先我们先测试如果是从服务器挂掉，会怎么样

把3号服务器停掉，观察1号和2号，发现状态并没有变化

![format_png 5][]

由此得出结论，3个节点的集群，从服务器挂掉，集群正常

（2）我们再把1号服务器（从服务器）也停掉，查看2号（主服务器）的状态，发现已经停止运行了。

![format_png 6][]

由此得出结论，3个节点的集群，2个从服务器都挂掉，主服务器也无法运行。因为可运行的机器没有超过集群总数量的半数。

（3）我们再次把1号服务器启动起来，发现2号服务器又开始正常工作了。而且依然是领导者。

![format_png 7][]

(4)我们把3号服务器也启动起来，把2号服务器停掉（汗~~干嘛？领导挂了？）停掉后观察1号和3号的状态。

![format_png 8][]

发现新的leader产生了~

由此我们得出结论，当集群中的主服务器挂了，集群中的其他服务器会自动进行选举状态，然后产生新的leader

（5）我们再次测试，当我们把2号服务器重新启动起来（汗~~这是诈尸啊!）启动后，会发生什么？2号服务器会再次成为新的领导吗？我们看结果

![format_png 9][]

![format_png 10][]

我们会发现，2号服务器启动后依然是跟随者（从服务器），3号服务器依然是领导者（主服务器），没有撼动3号服务器的领导地位。哎~退休了就是退休了，说了不算了，哈哈。

由此我们得出结论，当领导者产生后，再次有新服务器加入集群，不会影响到现任领导者。

## **Dubbox连接zookeeper集群** ##

修改服务提供者和服务调用者的spring 配置文件

<table> 
 <tbody> 
  <tr> 
   <td><p style="text-align: left">&lt;!-- 指定注册中心地址 --&gt;</p><p>&lt;dubbo:registry</p><p>protocol=<em>"zookeeper"</em>&nbsp;address=<em>"</em><em>192.168.25.140</em><em>:2181,</em><em>192.168.25.140</em><em>:2182,</em><em>192.168.25.140</em><em>:2183"</em>&gt;</p><p>&lt;/dubbo:registry&gt;</p></td> 
  </tr> 
 </tbody> 
</table>

![format_png 11][]

![format_png 12][]

[format_png]: /images/20221120/c4ea9c92abfb4adcbfd1ae37b872c776.png
[format_png 1]: /images/20221120/c02677498386499da0d27526622be4e2.png
[format_png 2]: /images/20221120/6ab262b71ddf4160b9c9468e4d2d811e.png
[format_png 3]: /images/20221120/6baa89fed2194d8e9f8ee2ef8b073f46.png
[format_png 4]: /images/20221120/a08d1735b72f494c9a8926134ab75597.png
[format_png 5]: /images/20221120/84fa023866d743fdae5febc2776f2b32.png
[format_png 6]: /images/20221120/f3392ad8652f458e9188eb2c1e144dec.png
[format_png 7]: https://imgconvert.csdnimg.cn/aHR0cHM6Ly9tbWJpei5xcGljLmNuL21tYml6X3BuZy81Y1ZsUEhMTWtMV1JUem5OaWNpYVZMZkt1QWZWWXprdGliSFd0elA3QWtYRkJsNllnd2g4bFcyaElRaEZKM1NPY2hOWmwyVXh5NGlick5TcDN6QkE5MXpZeEEvNjQw?x-oss-process=image/format,png
[format_png 8]: https://imgconvert.csdnimg.cn/aHR0cHM6Ly9tbWJpei5xcGljLmNuL21tYml6X3BuZy81Y1ZsUEhMTWtMV1JUem5OaWNpYVZMZkt1QWZWWXprdGliSFQ0M3VpYmljQTFVenlLMzBjdFlxTXVyOHBpYVJwSzBwQUZNWXBTTHJEZmliSk8wclpybE45R25TcUEvNjQw?x-oss-process=image/format,png
[format_png 9]: https://imgconvert.csdnimg.cn/aHR0cHM6Ly9tbWJpei5xcGljLmNuL21tYml6X3BuZy81Y1ZsUEhMTWtMV1JUem5OaWNpYVZMZkt1QWZWWXprdGliSE5laWNvcDEyM29pY1R6Z2FXb2RwNW11NVQzckw1NkNnUklKTGljaGtPZURndHZ3dG9saFBBRTh3US82NDA?x-oss-process=image/format,png
[format_png 10]: https://imgconvert.csdnimg.cn/aHR0cHM6Ly9tbWJpei5xcGljLmNuL21tYml6X3BuZy81Y1ZsUEhMTWtMV1JUem5OaWNpYVZMZkt1QWZWWXprdGliSE9LS2dEYjRTQnFmNTVpY2RYb2o4U040RVRwQ1U4TWthUmZZbm1Ibmg4RkV1TzN4R0RGM1VMaWJnLzY0MA?x-oss-process=image/format,png
[format_png 11]: https://imgconvert.csdnimg.cn/aHR0cHM6Ly9tbWJpei5xcGljLmNuL21tYml6X2pwZy81Y1ZsUEhMTWtMVWphZVl3VGwzZTZHY1Bob3NJaWMzRDFNTE5RR2FDT2lha1JCSFhHM0JZNWJQQ2JHaWI3VmNJQkN6UDhjWDFzOEFWRFJjOFREeHJpYXlrVVEvNjQw?x-oss-process=image/format,png
[format_png 12]: https://imgconvert.csdnimg.cn/aHR0cHM6Ly9tbWJpei5xcGljLmNuL21tYml6X3BuZy81Y1ZsUEhMTWtMVTFCZXkyZW4zTlI0R2ZsejJtRnYzN2ZtaDNyWjNvZ1ZobnNTd2RBRVdtTmFFNTY0a0NqMG9IQ1A3cDZrV01HUzRGWXdZeTkyTmc1QS82NDA?x-oss-process=image/format,png