Zookeeper简介及集群搭建

不念不忘少年蓝@ 2022-02-18 09:51 218阅读 0赞

### **Zookeeper原理简介** ###

ZooKeeper是一个高性能的，分布式的，开放源码的分布式应用程序协调服务，它包含一个简单的原语集，分布式应用程序可以基于它实现同步服务，配置维护和命名服务等。他是一个树形结构。这种树形结构和标准文件系统相似。ZooKeeper 树中的每个节点被称为Znode。和文件系统的目录树一样，ZooKeeper 树中的每个节点可以拥有子节点。每个节点表示一个唯一服务资源

### Zookeeper设计目的 ###

*  最终一致性：client不论连接到那个Server，展示给它的都是同一个视图。
 *  可靠性：具有简单、健壮、良好的性能、如果消息m被到一台服务器接收，那么消息m将被所有服务器接收。
 *  实时性：Zookeeper保证客户端将在一个时间间隔范围内获得服务器的更新信息，或者服务器失效的信息。但由于网络延时等原因，Zookeeper不能保证两个客户端能同时得到刚更新的数据，如果需要最新数据，应该在读数据之前调用sync()接口。
 *  等待无关（wait-free）：慢的或者失效的client不得干预快速的client的请求，使得每个client都能有效的等待。
 *  原子性：更新只能成功或者失败，没有中间状态。
 *  顺序性：包括全局有序和偏序两种：全局有序是指如果在一台服务器上消息a在消息b前发布，则在所有Server上消息a都将在消息b前被发布；偏序是指如果一个消息b在消息a后被同一个发送者发布，a必将排在b前面。

### **Zookeeper工作原理** ###

1、在zookeeper的集群中，各个节点共有下面3种角色和4种状态：

角色：leader,follower,observer  
状态：leading,following,observing,looking

Zookeeper的核心是原子广播，这个机制保证了各个Server之间的同步。实现这个机制的协议叫做Zab协议（ZooKeeper Atomic Broadcast protocol）。Zab协议有两种模式，它们分别是恢复模式（Recovery选主）和广播模式（Broadcast同步）。当服务启动或者在领导者崩溃后，Zab就进入了恢复模式，当领导者被选举出来，且大多数Server完成了和leader的状态同步以后，恢复模式就结束了。状态同步保证了leader和Server具有相同的系统状态。

为了保证事务的顺序一致性，zookeeper采用了递增的事务id号（zxid）来标识事务。所有的提议（proposal）都在被提出的时候加上了zxid。实现中zxid是一个64位的数字，它高32位是epoch用来标识leader关系是否改变，每次一个leader被选出来，它都会有一个新的epoch，标识当前属于那个leader的统治时期。低32位用于递增计数。

每个Server在工作过程中有4种状态：

LOOKING：当前Server不知道leader是谁，正在搜寻。

LEADING：当前Server即为选举出来的leader。

FOLLOWING：leader已经选举出来，当前Server与之同步。

OBSERVING：observer的行为在大多数情况下与follower完全一致，但是他们不参加选举和投票，而仅仅接受(observing)选举和投票的结果。

### **Zookeeper集群节点** ###

*  Zookeeper节点部署越多，服务的可靠性越高，建议部署奇数个节点，因为zookeeper集群是以宕机个数过半才会让整个集群宕机的。
 *  需要给每个zookeeper 1G左右的内存，如果可能的话，最好有独立的磁盘，因为独立磁盘可以确保zookeeper是高性能的。如果你的集群负载很重，不要把zookeeper和RegionServer运行在同一台机器上面，就像DataNodes和TaskTrackers一样。

### Zookeeper集群搭建 ###

1.  安装zookeeper首先需要安装JDK环境，不再废话
2.  官网下载地址：[https://zookeeper.apache.org/][https_zookeeper.apache.org]
3.  解压三个zookeeper版本为3.4.10名字分别为zookeeper-3.4.10-1，zookeeper-3.4.10-2，zookeeper-3.4.10-3
4.  进入到zookeeper-3.4.10-1的conf目录复制zoo\_sample.cfg名为zoo.cfg
5.  vim zoo.cfg
6.      # The number of milliseconds of each tick
        tickTime=2000
        # The number of ticks that the initial
        # synchronization phase can take
        initLimit=10
        # The number of ticks that can pass between
        # sending a request and getting an acknowledgement
        syncLimit=5
        # the directory where the snapshot is stored.
        # do not use /tmp for storage, /tmp here is just
        # example sakes.
        dataDir=/usr/local/zookeeper-3.4.10-1/data
        # the port at which the clients will connect
        clientPort=2181
        # the maximum number of client connections.
        # increase this if you need to handle more clients
        #maxClientCnxns=60
        #
        # Be sure to read the maintenance section of the
        # administrator guide before turning on autopurge.
        #
        # http://zookeeper.apache.org/doc/current/zookeeperAdmin.html#sc_maintenance
        #
        # The number of snapshots to retain in dataDir
        #autopurge.snapRetainCount=3
        # Purge task interval in hours
        # Set to "0" to disable auto purge feature
        #autopurge.purgeInterval=1
        
        dataLogDir=/usr/local/zookeeper-3.4.10-1/logs
        server.1=localhost:2888:3888
        server.2=localhost:2889:3889
        server.3=localhost:2890:3890
    
     
7.  > tickTime：心跳的时间，单位毫秒. Zookeeper 服务器之间或客户端与服务器之间维持心跳的时间间隔，也就是每个 tickTime 时间就会发送一个心跳。表明存活状态。
    > 
    > initLimit：这个配置项是用来配置zookeeper接受客户端（这里所说的客户端不是用户连接zookeeper服务器的客户端,而是zookeeper服务器集群中连接到leader的follower 服务器）初始化连接时最长能忍受多少个心跳时间间隔数。当已经超过10个心跳的时间（也就是tickTime）长度后 zookeeper 服务器还没有收到客户端的返回信息,那么表明这个客户端连接失败。总的时间长度就是 10\*2000=20秒。
    > 
    > syncLimit：这个配置项标识leader与follower之间发送消息,请求和应答时间长度,最长不能超过多少个tickTime的时间长度,总的时间长度就是5\*2000=10秒。
    > 
    > dataDir：数据目录，可以是任意目录。存储 zookeeper 的快照文件、pid 文件，默认为/tmp/zookeeper，建议在 zookeeper 安装目录下创建 data 目录，将 dataDir 配置改为/usr/local/zookeeper-3.4.10/data
    > 
    > clientPort：客户端连接 zookeeper 的端口，即 zookeeper 对外的服务端口，默认为 2181
    > 
    > server.A=B:C:D中的A是一个数字,表示这个是第几号服务器,B是这个服务器的IP地址，C第一个端口用来集群成员的信息交换,表示这个服务器与集群中的leader服务器交换信息的端口，D是在leader挂掉时专门用来进行选举leader所用的端口。
    > 
    > dataLogDir：log目录, 同样可以是任意目录，一般是节点安装目录下的logs目录。如果没有设置该参数，将使用和dataDir相同的设置。
8.  在zookeeper的根目录下面创键一个data目录，和logs目录，因为配置文件中配置了这两个目录
9.  每个data目录中都创建一个名为myid的文件，3个文件的内容分别写1、2、3。这个1、2、3是对应前面的server.1、 server.2、 server.3
10. 同理在zookeeper-3.4.10-2，zookeeper-3.4.10-3和该配置一样，只需要路径该为对应路径，clientPort不冲突就行了
11. 启动三台zk，在zk的bin目录下执行./zkServer.sh start  \#启动，stop停止，restart重启
12. ps查看一下就行了，三个节点都正常启动成功了，接下来我们进入客户端，创建一些znode，看看是否会同步到集群中的其他节点上去
13. ./zkCli.sh -server localhost:2181
14.     [root@localhost bin]# ./zkCli.sh -server localhost:2181   # 登录第一个节点的客户端
        Connecting to localhost:2181
        2019-04-17 10:01:48,790 [myid:] - INFO  [main:Environment@100] - Client environment:zookeeper.version=3.4.10-39d3a4f269333c922ed3db283be479f9deacaa0f, built on 03/23/2017 10:13 GMT
        2019-04-17 10:01:48,795 [myid:] - INFO  [main:Environment@100] - Client environment:host.name=localhost
        2019-04-17 10:01:48,795 [myid:] - INFO  [main:Environment@100] - Client environment:java.version=1.8.0_121
        2019-04-17 10:01:48,798 [myid:] - INFO  [main:Environment@100] - Client environment:java.vendor=Oracle Corporation
        2019-04-17 10:01:48,798 [myid:] - INFO  [main:Environment@100] - Client environment:java.home=/usr/local/jdk1.8.0_121/jre
        2019-04-17 10:01:48,798 [myid:] - INFO  [main:Environment@100] - Client environment:java.class.path=/usr/local/zookeeper-3.4.10-1/bin/../build/classes:/usr/local/zookeeper-3.4.10-1/bin/../build/lib/*.jar:/usr/local/zookeeper-3.4.10-1/bin/../lib/slf4j-log4j12-1.6.1.jar:/usr/local/zookeeper-3.4.10-1/bin/../lib/slf4j-api-1.6.1.jar:/usr/local/zookeeper-3.4.10-1/bin/../lib/netty-3.10.5.Final.jar:/usr/local/zookeeper-3.4.10-1/bin/../lib/log4j-1.2.16.jar:/usr/local/zookeeper-3.4.10-1/bin/../lib/jline-0.9.94.jar:/usr/local/zookeeper-3.4.10-1/bin/../zookeeper-3.4.10.jar:/usr/local/zookeeper-3.4.10-1/bin/../src/java/lib/*.jar:/usr/local/zookeeper-3.4.10-1/bin/../conf:.:/usr/local/jdk1.8.0_121/lib/dt.jar:/usr/local/jdk1.8.0_121/lib/tools.jar:/usr/local/jdk1.8.0_121/jre/lib/rt.jar
        2019-04-17 10:01:48,798 [myid:] - INFO  [main:Environment@100] - Client environment:java.library.path=/usr/java/packages/lib/amd64:/usr/lib64:/lib64:/lib:/usr/lib
        2019-04-17 10:01:48,798 [myid:] - INFO  [main:Environment@100] - Client environment:java.io.tmpdir=/tmp
        2019-04-17 10:01:48,799 [myid:] - INFO  [main:Environment@100] - Client environment:java.compiler=<NA>
        2019-04-17 10:01:48,799 [myid:] - INFO  [main:Environment@100] - Client environment:os.name=Linux
        2019-04-17 10:01:48,799 [myid:] - INFO  [main:Environment@100] - Client environment:os.arch=amd64
        2019-04-17 10:01:48,799 [myid:] - INFO  [main:Environment@100] - Client environment:os.version=3.10.0-514.el7.x86_64
        2019-04-17 10:01:48,799 [myid:] - INFO  [main:Environment@100] - Client environment:user.name=root
        2019-04-17 10:01:48,799 [myid:] - INFO  [main:Environment@100] - Client environment:user.home=/root
        2019-04-17 10:01:48,799 [myid:] - INFO  [main:Environment@100] - Client environment:user.dir=/usr/local/zookeeper-3.4.10-1/bin
        2019-04-17 10:01:48,801 [myid:] - INFO  [main:ZooKeeper@438] - Initiating client connection, connectString=localhost:2181 sessionTimeout=30000 watcher=org.apache.zookeeper.ZooKeeperMain$MyWatcher@22d8cfe0
        2019-04-17 10:01:48,867 [myid:] - INFO  [main-SendThread(localhost:2181):ClientCnxn$SendThread@1032] - Opening socket connection to server localhost/0:0:0:0:0:0:0:1:2181. Will not attempt to authenticate using SASL (unknown error)
        Welcome to ZooKeeper!
        JLine support is enabled
        2019-04-17 10:01:49,104 [myid:] - INFO  [main-SendThread(localhost:2181):ClientCnxn$SendThread@876] - Socket connection established to localhost/0:0:0:0:0:0:0:1:2181, initiating session
        2019-04-17 10:01:49,191 [myid:] - INFO  [main-SendThread(localhost:2181):ClientCnxn$SendThread@1299] - Session establishment complete on server localhost/0:0:0:0:0:0:0:1:2181, sessionid = 0x16a29002e510000, negotiated timeout = 30000
        
        WATCHER::
        
        WatchedEvent state:SyncConnected type:None path:null
        [zk: localhost:2181(CONNECTED) 1] ls /
        [zookeeper]
        [zk: localhost:2181(CONNECTED) 2] create /data test-data
        Created /data
        [zk: localhost:2181(CONNECTED) 3] ls /
        [zookeeper, data]
        [zk: localhost:2181(CONNECTED) 4] quit
        #################################
        ./zkCli.sh -server localhost:2182 # 登录第二个节点的客户端
        ...
        ...
        [zk: localhost:2182(CONNECTED) 0] ls /       # 可以查看到我们在第一个节点上创建的znode，代表集群中的节点能够正常同步数据
        [zookeeper, data]
        [zk: localhost:2182(CONNECTED) 1] get /data         # 数据也是一致的
        test-data
        cZxid = 0x100000002
        ctime = Wed Apr 17 10:03:11 CST 2019
        mZxid = 0x100000002
        mtime = Wed Apr 17 10:03:11 CST 2019
        pZxid = 0x100000002
        cversion = 0
        dataVersion = 0
        aclVersion = 0
        ephemeralOwner = 0x0
        dataLength = 9
        numChildren = 0
        [zk: localhost:2182(CONNECTED) 2] quit
        Quitting...
        2019-04-17 10:07:05,918 [myid:] - INFO  [main:ZooKeeper@684] - Session: 0x26a29002e5a0000 closed
        2019-04-17 10:07:05,924 [myid:] - INFO  [main-EventThread:ClientCnxn$EventThread@519] - EventThread shut down for session: 0x26a29002e5a0000
        #################################
        ./zkCli.sh -server localhost:2183 # 登录第三个节点的客户端
        第三台同理
        #####################################
    
     
15. 查看集群的状态、主从信息需要使用 ./zkServer.sh status 命令，但是多个节点的话，逐个查看有些费劲，所以我们写一个简单的shell脚本来批量执行命令
16.     vim checked.sh # 脚本内容如下#!/bin/bash
        /usr/local/zookeeper-3.4.10-1/bin/zkServer.sh status
        /usr/local/zookeeper-3.4.10-2/bin/zkServer.sh status
        /usr/local/zookeeper-3.4.10-3/bin/zkServer.sh status
    
     
17.     [root@localhost local]# sh ./checked.sh
        ZooKeeper JMX enabled by default
        Using config: /usr/local/zookeeper-3.4.10-1/bin/../conf/zoo.cfg
        Mode: follower
        ZooKeeper JMX enabled by default
        Using config: /usr/local/zookeeper-3.4.10-2/bin/../conf/zoo.cfg
        Mode: leader
        ZooKeeper JMX enabled by default
        Using config: /usr/local/zookeeper-3.4.10-3/bin/../conf/zoo.cfg
        Mode: follower
    
     
18. 最后在附带一个zookeeper图像化客户端工具的下载地址：[https://issues.apache.org/jira/secure/attachment/12436620/ZooInspector.zip][https_issues.apache.org_jira_secure_attachment_12436620_ZooInspector.zip]；解压连接就可以使用了

参考：

[ZooKeeper的伪分布式集群搭建以及真分布式集群搭建][ZooKeeper]

[Zookeeper集群搭建][Zookeeper]

[https_zookeeper.apache.org]: https://zookeeper.apache.org/
[https_issues.apache.org_jira_secure_attachment_12436620_ZooInspector.zip]: https://issues.apache.org/jira/secure/attachment/12436620/ZooInspector.zip
[ZooKeeper]: https://blog.51cto.com/zero01/2107174
[Zookeeper]: https://www.linuxprobe.com/zookeeper-cluster-deploy.html