3、zookeeper FastLeader选举

ゞ浴缸里的玫瑰 2022-05-28 06:28 154阅读 0赞

配置为多个实例共同构成一个集群对外提供服务。其每一个实例本地都存有冗余数据，每一个实例都可以直接对外提供读写服务。在这个集群中为了保证数据的一致性，需要有一个Leader来协调一些事务。那么问题来了：如何确定哪一个实例是Leader呢？

问题的难点在于：  
        没有一个仲裁者来选定Leader。  
        每一个实例本地可能已经存在数据，不确定哪个实例上的数据是最新的。

## 服务器启动时期的Leader选举 ##

若进行Leader选举，则至少需要两台机器，这里选取3台机器组成的服务器集群为例。在集群初始化阶段，当有一台服务器Server1启动时，其单独无法进行和完成Leader选举，当第二台服务器Server2启动时，此时两台机器可以相互通信，每台机器都试图找到Leader，于是进入Leader选举过程。选举过程如下

(1) 每个Server发出一个投票。由于是初始情况，Server1和Server2都会将自己作为Leader服务器来进行投票，每次投票会包含所推举的服务器的myid和ZXID，使用(myid, ZXID)来表示，此时Server1的投票为(1, 0)，Server2的投票为(2, 0)，然后各自将这个投票广播给集群中其他机器。

(2) 接受来自各个服务器的投票。集群的每个服务器收到投票后，首先判断该投票的有效性，如检查是否是本轮投票、是否来自LOOKING状态的服务器。

(3) 处理投票。针对每一个投票，服务器都需要将别人的投票和自己的投票进行PK，PK规则如下

· 优先检查ZXID。ZXID比较大的服务器优先作为Leader。

· 如果ZXID相同，那么就比较myid。myid较大的服务器作为Leader服务器。

对于Server1而言，它的投票是(1, 0)，接收Server2的投票为(2, 0)，首先会比较两者的ZXID，均为0，再比较myid，此时Server2的myid最大，于是更新自己的投票为(2, 0)，然后重新广播，对于Server2而言，其无须更新自己的投票，只是再次向集群中所有机器发出上一次投票信息即可。

(4) 统计投票。每次投票后，服务器都会统计投票信息，判断是否已经有过半机器接受到相同的投票信息，对于Server1、Server2而言，都统计出集群中已经有两台机器接受了(2, 0)的投票信息，此时便认为已经选出了Leader。

(5) 改变服务器状态。一旦确定了Leader，每个服务器就会更新自己的状态，如果是Follower，那么就变更为FOLLOWING，如果是Leader，就变更为LEADING。

## 服务器运行时期的Leader选举 ##

在Zookeeper运行期间，Leader与非Leader服务器各司其职，即便当有非Leader服务器宕机或新加入，此时也不会影响Leader，但是一旦Leader服务器挂了，那么整个集群将暂停对外服务，进入新一轮Leader选举，其过程和启动时期的Leader选举过程基本一致。假设正在运行的有Server1、Server2、Server3三台服务器，当前Leader是Server2，若某一时刻Server2挂了，此时便开始Leader选举。选举过程如下：

(1) 变更状态。Leader挂后，余下的非Observer服务器都会讲自己的服务器状态变更为LOOKING，然后开始进入Leader选举过程。

(2) 每个Server会发出一个投票。在运行期间，每个服务器上的ZXID可能不同，此时假定Server1的ZXID为123，Server3的ZXID为122；在第一轮投票中，Server1和Server3都会投自己，产生投票(1, 123)，(3, 122)，然后各自将投票发送给集群中所有机器。

(3) 接收来自各个服务器的投票。与启动时过程相同。

(4) 处理投票。与启动时过程相同，此时，Server1将会成为Leader。

(5) 统计投票。与启动时过程相同。

(6) 改变服务器的状态。与启动时过程相同。

## Leader选举算法分析 ##

在3.4.0后的Zookeeper的版本只保留了TCP版本的FastLeaderElection选举算法。当一台机器进入Leader选举时，当前集群可能会处于以下两种状态  
　　　　· 集群中已经存在Leader。  
　　　　· 集群中不存在Leader。  
　　对于集群中已经存在Leader而言，此种情况一般都是某台机器启动得较晚，在其启动之前，集群已经在正常工作，对这种情况，该机器试图去选举Leader时，会被告知当前服务器的Leader信息，对于该机器而言，仅仅需要和Leader机器建立起连接，并进行状态同步即可。而在集群中不存在Leader情况下则会相对复杂，其步骤如下

(1) 第一次投票。无论哪种导致进行Leader选举，集群的所有机器都处于试图选举出一个Leader的状态，即LOOKING状态，LOOKING机器会向所有其他机器发送消息，该消息称为投票。投票中包含了SID（服务器的唯一标识）和ZXID（事务ID），(SID, ZXID)形式来标识一次投票信息。假定Zookeeper由5台机器组成，SID分别为1、2、3、4、5，ZXID分别为9、9、9、8、8，并且此时SID为2的机器是Leader机器，某一时刻，1、2所在机器出现故障，因此集群开始进行Leader选举。在第一次投票时，每台机器都会将自己作为投票对象，于是SID为3、4、5的机器投票情况分别为(3, 9)，(4, 8)， (5, 8)。

(2) 变更投票。每台机器发出投票后，也会收到其他机器的投票，每台机器会根据一定规则来处理收到的其他机器的投票，并以此来决定是否需要变更自己的投票，这个规则也是整个Leader选举算法的核心所在，其中术语描述如下  
· vote\_sid：接收到的投票中所推举Leader服务器的SID。  
· vote\_zxid：接收到的投票中所推举Leader服务器的ZXID。  
· self\_sid：当前服务器自己的SID。  
· self\_zxid：当前服务器自己的ZXID。

每次对收到的投票的处理，都是对(vote\_sid, vote\_zxid)和(self\_sid, self\_zxid)对比的过程。

规则一：如果vote\_zxid大于self\_zxid，就认可当前收到的投票，并再次将该投票发送出去。  
　　　　规则二：如果vote\_zxid小于self\_zxid，那么坚持自己的投票，不做任何变更。  
　　　　规则三：如果vote\_zxid等于self\_zxid，那么就对比两者的SID，如果vote\_sid大于self\_sid，那么就认可当前收到的投票，并再次将该投票发送出去。  
　　　　规则四：如果vote\_zxid等于self\_zxid，并且vote\_sid小于self\_sid，那么坚持自己的投票，不做任何变更。

结合上面规则，给出下面的集群变更过程。

(3) 确定Leader。经过多轮投票后，集群中的每台机器都会再次接收到其他机器的投票，然后开始统计投票，如果一台机器收到了超过半数的相同投票，那么这个投票对应的SID机器即为Leader。此时Server3将成为Leader。

由上面规则可知，通常那台服务器上的数据越新（ZXID会越大），其成为Leader的可能性越大，也就越能够保证数据的恢复。如果ZXID相同，则SID越大机会越大。

## Leader选举实现细节 ##

### 服务器状态 ###

服务器具有四种状态，分别是LOOKING、FOLLOWING、LEADING、OBSERVING。  
LOOKING：寻找Leader状态。当服务器处于该状态时，它会认为当前集群中没有Leader，因此需要进入Leader选举状态。  
FOLLOWING：跟随者状态。表明当前服务器角色是Follower。  
LEADING：领导者状态。表明当前服务器角色是Leader。  
OBSERVING：观察者状态。表明当前服务器角色是Observer。

### 投票数据结构 ###

每个投票中包含了两个最基本的信息，所推举服务器的SID和ZXID，投票（Vote）在Zookeeper中包含字段如下  
id：被推举的Leader的SID。  
zxid：被推举的Leader事务ID。

electionEpoch：逻辑时钟，用来判断多个投票是否在同一轮选举周期中，该值在服务端是一个自增序列，每次进入新一轮的投票后，都会对该值进行加1操作。  
peerEpoch：被推举的Leader的epoch。  
state：当前服务器的状态。

## 端口2181，2888：3888的含义 ##

2181是提供服务的端康  
2888是 leader与follower之间通信端口  
3888是 follower和follower选举新leader的通信端口。

## 新leader选举出来之后，会发生什么事情？ ##

进入同步：

> leader进行数据初始化，对三个zxid完成初始化：  
> peerLastZxid ,leader的zxid；minZxid，提议缓存队列中的最小Zxid；maxZxid，提议缓存中的maxZxid；  
> learner向leader发送ackepoch包，含有currentEpoch和lastZxid；

maxZxid可以理解为，新提案，但还没有广播出去或等到ack；如某个follower向leader提案，leader还没进行处理。  
minZxid理解为，leader本地保存的最小提议。

根据Zxid，maxZxid，minZxid，leader给出4种同步方法：  
![这里写图片描述][70]  
1、差异化同步  
        peerLastZxid介于minCommittedLog和maxCommittedLog之间)。Leader首先向这个**Learner**发送一个DIFF指令，用于通知Learner进入差异化数据同步阶段;并且向自己和learner发出提案，等待过半ack。

2、先回滚再差异化同步  
        如上中，leader发出提案时宕掉了，而集群选择了一个新leader，原来的leader向新的leader发送上次的提案，显然是不被接收的，会被要求会滚到新epoch下的zxid。

3、仅回滚同步(TRUNC同步，peerLastZxid大于maxCommittedLog)。Leader要求Learner回滚到ZXID值为maxCommittedLog对应的事务操作。是先回滚再差异化同步的简易版。

4、 全量同步(SNAP同步，peerLastZxid小于minCommittedLog或peerLastZxid不等于lastProcessedZxid)。Leader无法直接使用提议缓存队列和Learner进行同步，因此只能进行全量同步。Leader将本机的全量内存数据同步给Learner。Leader首先向Learner发送一个SNAP指令，通知Learner即将进行全量同步，随后，Leader会从内存数据库中获取到全量的数据节点和会话超时时间记录器，将他们序列化后传输给Learner。Learner接收到该全量数据后，会对其反序列化后载入到内存数据库中。

## zk集群发生脑裂后，会发生什么事情？ ##

所谓的zookeeper容错是指，当宕掉几个zookeeper服务器之后，剩下的个数必须大于宕掉的个数，也就是剩下的服务数必须大于n/2，zookeeper才可以继续使用，无论奇偶数都可以选举leader。5台机器最多宕掉2台，还可以继续使用，因为剩下3台大于5/2。说为什么最好为奇数个，是在以最大容错服务器个数的条件下，会节省资源，比如，最大容错为2的情况下，对应的zookeeper服务数，奇数为5，而偶数为6，也就是6个zookeeper服务的情况下最多能宕掉2个服务，所以从节约资源的角度看，没必要部署6（偶数）个zookeeper服务。

所以，如果有7台机器，其中3台可以相互连接，4台可以相互连接，形成了两个网络，其中3台的网络会触发新的选举，但是始终选不出新的leader，因为无法获得4张相同的投票，故而不可用。剩下的4台如果原leader在3台机器中，也会触发选举，会选举一个新的leader。

### zk节点不可用，client连接怎么办? ###

可以查看下Java\_ZkClient的使用：

#### Zookeeper与客户端 ####

![这里写图片描述][70 1]  
Zookeeper是一个由多个Server组成的集群，该集群有一个Leader，多个Follower。客户端可以连接任意ZooKeeper服务节点来读写数据，但是写是由follower向leader提案，leader向集群提案后，等待过半ack即完成写过程。

#### zk节点的失效转移： ####

理论上只要client只要连接集群中的任何一台server都可以完成读写，你就只配置了其中的某台机器，不幸的是，这台机器挂了，你的服务就挂了；若你配置了多台，与你连接的那台机器挂掉了，如何把连接放到第二台机器上去呢？  
监控server的状态：

public class ServerStatus {  
        @Test  
        public void serverStatus() throws IOException {  
            String host = "10.0.1.84";  
            int port = 2181;  
            String cmd = "stat";  
    
            Socket sock = new Socket(host, port);  
            BufferedReader reader = null;  
            try {  
                OutputStream outstream = sock.getOutputStream();  
                // 通过Zookeeper的四字命令获取服务器的状态 
                outstream.write(cmd.getBytes());  
                outstream.flush();  
                sock.shutdownOutput();  
    
                reader = new BufferedReader(new InputStreamReader(sock.getInputStream()));  
                String line;  
                while ((line = reader.readLine()) != null) {  
                    if (line.indexOf("Mode: ") != -1) {  
                        System.out.println(line.replaceAll("Mode: ", "").trim());  
                    }  
                }  
            } finally {  
                sock.close();  
                if (reader != null) {  
                    reader.close();  
                }  
            }  
        }  
    }

如果不为learner或leader，就换一个连接。  
zklCient/Curator可能已经帮我门做好了。  
参考：[https://blog.csdn.net/xiaoddt/article/details/55512471][https_blog.csdn.net_xiaoddt_article_details_55512471]  
[https://blog.csdn.net/zjw10wei321/article/details/50384445][https_blog.csdn.net_zjw10wei321_article_details_50384445]

使用ConnectionStateManager进行链接状态监控

## ZK的使用场景 ##

### 配置管理 ###

### 分布式锁 ###

### master选举 ###

### 服务注册(服务监测) 辅助实现负载均衡/失效转移 ###

### 主键服务 利用节点的自增加特性 ###

## ZooKeeper原理 ##

Zookeeper的核心是原子广播机制，这个机制保证了各个server之间的同步。实现这个机制的协议叫做Zab协议。Zab协议有个阶段，它们分别是恢复模式和广播模式。

(1) 恢复模式

当服务启动或者在领导者崩溃后，Zab就进入了恢复模式，当领导者被选举出来，且大多数server完成了和leader的状态同步以后，恢复模式就结束了。状态同步保证了leader和server具有相同的系统状态。

(2) 广播模式

一旦Leader已经和多数的Follower进行了状态同步后，他就可以开始广播消息了，即进入广播状态。这时候当一个Server加入ZooKeeper服务中，它会在恢复模式下启动，发现Leader，并和Leader进行状态同步。待到同步结束，它也参与消息广播。ZooKeeper服务一直维持在Broadcast状态，直到Leader崩溃了或者Leader失去了大部分的Followers支持。

Broadcast模式极其类似于分布式事务中的2pc（two-phrase commit 两阶段提交）：即Leader提起一个决议，由Followers进行投票，Leader对投票结果进行计算决定是否通过该决议，如果通过执行该决议（事务），否则什么也不做。

在广播模式ZooKeeper Server会接受Client请求，所有的写请求都被转发给领导者，再由领导者将更新广播给跟随者。当半数以上的跟随者已经将修改持久化之后，领导者才会提交这个更新，然后客户端才会收到一个更新成功的响应。这个用来达成共识的协议被设计成具有原子性，因此每个修改要么成功要么失败。  
![这里写图片描述][70 2]

### ZooKeeper数据模型 ###

(1) 文件路径

Zonde通过路径引用，如同Unix中的文件路径。路径必须是绝对的，因此他们必须由斜杠字符来开头。除此以外，他们必须是唯一的，也就是说每一个路径只有一个表示，因此这些路径不能改变。在ZooKeeper中，路径由Unicode字符串组成，并且有一些限制。字符串”/zookeeper”用以保存管理信息，比如关键配额信息。

(2) Znode结构

ZooKeeper命名空间中的Znode，兼具文件和目录两种特点。既像文件一样维护着数据、元信息、ACL、时间戳等数据结构，又像目录一样可以作为路径标识的一部分。图中的每个节点称为一个Znode。 每个Znode由3部分组成:

① stat：此为状态信息, 描述该Znode的版本, 权限等信息

② data：与该Znode关联的数据

③ children：该Znode下的子节点

ZooKeeper虽然可以关联一些数据，但并没有被设计为常规的数据库或者大数据存储，相反的是，它用来管理调度数据，比如分布式应用中的配置文件信息、状态信息、汇集位置等等。这些数据的共同特性就是它们都是很小的数据，通常以KB为大小单位。ZooKeeper的服务器和客户端都被设计为严格检查并限制每个Znode的数据大小至多1M，但常规使用中应该远小于此值。

(3) 数据访问

ZooKeeper中的每个节点存储的数据要被原子性的操作。也就是说读操作将获取与节点相关的所有数据，写操作也将替换掉节点的所有数据。另外，每一个节点都拥有自己的ACL(访问控制列表)，这个列表规定了用户的权限，即限定了特定用户对目标节点可以执行的操作。

(4) 节点类型

ZooKeeper中的节点有两种，分别为临时节点和永久节点。节点的类型在创建时即被确定，并且不能改变。

① 临时节点：该节点的生命周期依赖于创建它们的会话。一旦会话(Session)结束，临时节点将被自动删除，当然可以也可以手动删除。虽然每个临时的Znode都会绑定到一个客户端会话，但他们对所有的客户端还是可见的。另外，ZooKeeper的临时节点不允许拥有子节点。

② 永久节点：该节点的生命周期不依赖于会话，并且只有在客户端显示执行删除操作的时候，他们才能被删除。

(5) 顺序节点

当创建Znode的时候，用户可以请求在ZooKeeper的路径结尾添加一个递增的计数。这个计数对于此节点的父节点来说是唯一的，它的格式为”%10d”(10位数字，没有数值的数位用0补充，例如”0000000001”)。当计数值大于232-1时，计数器将溢出。

(6) 观察

客户端可以在节点上设置watch，我们称之为监视器。当节点状态发生改变时(Znode的增、删、改)将会触发watch所对应的操作。当watch被触发时，ZooKeeper将会向客户端发送且仅发送一条通知，因为watch只能被触发一次，这样可以减少网络流量。

[70]: /images/20220528/a6a379bc2c20455a8776c1eb3ecfe31b.png
[70 1]: /images/20220528/a038b80d688141ca854968b21dc8c34a.png
[https_blog.csdn.net_xiaoddt_article_details_55512471]: https://blog.csdn.net/xiaoddt/article/details/55512471
[https_blog.csdn.net_zjw10wei321_article_details_50384445]: https://blog.csdn.net/zjw10wei321/article/details/50384445
[70 2]: /images/20220528/5491bb67955147718a09bb7fe457012c.png