阿里架构之旅（四）——zookeeper的原理

我不是女神ヾ 2022-05-31 13:49 171阅读 0赞

>       前面我们介绍了一下zookeeper的一些基本的知识，知道了他是一个树形结构的文件系统，同时外加通知机制的这么一个东西。那么今天我们就来探究一下它的根源，一些内部的运行原理。

# 一、基础知识 #

## 1、角色 ##

![这里写图片描述][20160314111317938]

## 2、工作模式 ##

>       Zookeeper分为2个部分：服务器端和客户端，客户端只连接到整个ZooKeeper服务的某个服务器上。客户端使用并维护一个TCP连接，通过这个连接发送请求、接受响应、获取观察的事件以及发送心跳。如果这个TCP连接中断，客户端将尝试连接到另外的ZooKeeper服务器。客户端第一次连接到ZooKeeper服务时，接受这个连接的 ZooKeeper服务器会为这个客户端建立一个会话。当这个客户端连接到另外的服务器时，这个会话会被新的服务器重新建立。

## 3、集群 ##

>       zookeeper的工作集群可以简单分成两类，一个是Leader，唯一一个，其余的都是follower，如何确定Leader是通过内部选举确定的。

![这里写图片描述][20160314111946217]

>       Leader和各个follower是互相通信的，对于zk系统的数据都是保存在内存里面的，同样也会备份一份在磁盘上。对于每个zk节点而言，可以看做每个zk节点的命名空间是一样的，也就是有同样的数据（下面的树结构）

如果Leader挂了，zk集群会重新选举，在毫秒级别就会重新选举出一个Leaer

*  1

集群中除非有一半以上的zk节点挂了，zk service才不可用

*  1

## 4、读写过程 ##

![这里写图片描述][20160314112124276]

>       写数据，但一个客户端进行写数据请求时，会指定zk集群中节点，如果是follower接收到写请求，就会把请求转发给Leader，Leader通过内部的Zab协议进行原子广播，直到所有zk节点都成功写了数据后（内存同步以及磁盘更新），这次写请求算是完成，然后zk service就会给client发回响应
> 
>       读数据，因为集群中所有的zk节点都呈现一个同样的命名空间视图（就是结构数据），上面的写请求已经保证了写一次数据必须保证集群所有的zk节点都是同步命名空间的，所以读的时候可以在任意一台zk节点上

**ps:**

>       其实写数据的时候不是要保证所有zk节点都写完才响应，而是保证一半以上的节点写完了就把这次变更更新到内存，并且当做最新命名空间的应用。所以在读数据的时候可能会读到不是最新的zk节点，这时候只能通过sync()解决。这里先不考虑了，假设整个zk service都是同步meta信息的。

# 二、service工作流程 #

>       Zookeeper的核心是原子广播，这个机制保证了各个Server之间的同步。实现这个机制的协议叫做Zab协议。Zab协议有两种模式，它们分 别是恢复模式（选主）和广播模式（同步）。当服务启动或者在领导者崩溃后，Zab就进入了恢复模式，当领导者被选举出来，且大多数Server完成了和 leader的状态同步以后，恢复模式就结束了。状态同步保证了leader和Server具有相同的系统状态。
> 
>       为了保证事务的顺序一致性，zookeeper采用了递增的事务id号（zxid）来标识事务。所有的提议（proposal）都在被提出的时候加上 了zxid。实现中zxid是一个64位的数字，它高32位是epoch用来标识leader关系是否改变，每次一个leader被选出来，它都会有一个 新的epoch，标识当前属于那个leader的统治时期。低32位用于递增计数。

每个Server在工作过程中有三种状态：

LOOKING：当前Server不知道leader是谁，正在搜寻

*  1

LEADING：当前Server即为选举出来的leader

*  1

FOLLOWING：leader已经选举出来，当前Server与之同步

*  1

## 1 选主流程 ##

>       当leader崩溃或者leader失去大多数的follower，这时候zk进入恢复模式，恢复模式需要重新选举出一个新的leader，让所有的 Server都恢复到一个正确的状态。Zk的选举算法有两种：一种是基于basic paxos实现的，另外一种是基于fast paxos算法实现的。系统默认的选举算法为fast paxos。

*  **（1）basic paxos流程：**

选举线程由当前Server发起选举的线程担任，其主要功能是对投票结果进行统计，并选出推荐的Server；

*  1

选举线程首先向所有Server发起一次询问(包括自己)；

*  1

选举线程收到回复后，验证是否是自己发起的询问(验证zxid是否一致)，
    然后获取对方的id(myid)，并存储到当前询问对象列表中，
    最后获取对方提议的leader相关信息(id,zxid)，并将这些信息存储到当次选举的投票记录表中；

*  1
 *  2
 *  3

收到所有Server回复以后，就计算出zxid最大的那个Server，并将这个Server相关信息设置成下一次要投票的Server；

*  1

线程将当前zxid最大的Server设置为当前Server要推荐的Leader，
    如果此时获胜的Server获得n/2 + 1的Server票数， 设置当前推荐的leader为获胜的Server，将根据获胜的Server相关信息设置自己的状态，
    否则，继续这个过程，直到leader被选举出来。

*  1
 *  2
 *  3

>       通过流程分析我们可以得出：要使Leader获得多数Server的支持，则Server总数必须是奇数2n+1，且存活的Server的数目不得少于n+1.
> 
>       每个Server启动后都会重复以上流程。在恢复模式下，如果是刚从崩溃状态恢复的或者刚启动的server还会从磁盘快照中恢复数据和会话信息，zk会记录事务日志并定期进行快照，方便在恢复时进行状态恢复。

选主的具体流程图如下所示：

![这里写图片描述][20160314140033499]

*  **（2）fast paxos流程**
    
    >       在选举过程中，某Server首先向所有Server提议自己要成为leader，当其它Server收到提议以后，解决epoch和 zxid的冲突，并接受对方的提议，然后向对方发送接受提议完成的消息，重复这个流程，最后一定能选举出Leader。
    > 
    >       其流程图如下所示：   
    > ![这里写图片描述][20160314140346594]

## 2 同步流程 ##

>       选完leader以后，zk就进入状态同步过程。

leader等待server连接；

*  1

Follower连接leader，将最大的zxid发送给leader；

*  1

Leader根据follower的zxid确定同步点；

*  1

完成同步后通知follower 已经成为uptodate状态；

*  1

Follower收到uptodate消息后，又可以重新接受client的请求进行服务了。

*  1

>       流程图如下所示：   
> ![这里写图片描述][20160314140530721]

## 3. Leader工作流程 ##

>       Leader主要有三个功能：

恢复数据；

*  1

维持与Learner的心跳，接收Learner请求并判断Learner的请求消息类型；

*  1

Learner的消息类型主要有PING消息、REQUEST消息、ACK消息、REVALIDATE消息，根据不同的消息类型，进行不同的处理。

*  1

>       PING消息是指Learner的心跳信息；REQUEST消息是Follower发送的提议信息，包括写请求及同步请求；ACK消息是 Follower的对提议的回复，超过半数的Follower通过，则commit该提议；REVALIDATE消息是用来延长SESSION有效时间。
> 
>       Leader的工作流程简图如下所示，在实际实现中，流程要比下图复杂得多，启动了三个线程来实现功能。

![这里写图片描述][20160314140806411]

## Follower工作流程 ##

>       Follower主要有四个功能：

向Leader发送请求（PING消息、REQUEST消息、ACK消息、REVALIDATE消息）；

*  1

接收Leader消息并进行处理；

*  1

接收Client的请求，如果为写请求，发送给Leader进行投票；

*  1

返回Client结果。

*  1

>       Follower的消息循环处理如下几种来自Leader的消息：

PING消息： 心跳消息；

*  1

PROPOSAL消息：Leader发起的提案，要求Follower投票；

*  1

COMMIT消息：服务器端最新一次提案的信息；

*  1

UPTODATE消息：表明同步完成；

*  1

REVALIDATE消息：根据Leader的REVALIDATE结果，关闭待revalidate的session还是允许其接受消息；

*  1

SYNC消息：返回SYNC结果到客户端，这个消息最初由客户端发起，用来强制得到最新的更新。

*  1

>       Follower的工作流程简图如下所示，在实际实现中，Follower是通过5个线程来实现功能的。

![这里写图片描述][20160314141155838]

## 总结： ##

>       至此，我们知道了zookeeper一些运行时的流程，知道了它在集群中的工作方式，不过还有很多东西值得我们继续去探索，这里不再一一介绍，以后有机会我们继续分享。

[20160314111317938]: /images/20220531/5d71f5abb6fa49f1a22167e0564d48fb.png
[20160314111946217]: /images/20220531/66354afcbe6e4d83b6b93f52cc449f53.png
[20160314112124276]: /images/20220531/d997bad5cddb4ccca8832b71df9e825a.png
[20160314140033499]: /images/20220531/2c4b890275aa4427b4cc1d3693913327.png
[20160314140346594]: /images/20220531/326b3ff8fd87455eb36a0a226569bffc.png
[20160314140530721]: /images/20220531/c2f71c2d6c8f4746972fa48a9e7f53c9.png
[20160314140806411]: /images/20220531/0d8b122e6da34446a830b05971c8a5f3.png
[20160314141155838]: /images/20220531/f6517998f70b49ab8d251f77c6d7a5ea.png