大数据离线阶段01：Apache Zookeeper

Myth丶恋晨 2023-10-14 17:10 21阅读 0赞

#### **1.Zookeeper基本知识** ####

#### ZooKeeper概述 ####

Zookeeper是一个分布式协调服务的开源框架。主要用来解决分布式集群中应用系统的一致性问题。

![b9e3187b4dd908325753c507048a6a1b.png][]

ZooKeeper本质上是一个**分布式的小文件存储系统**。提供基于类似于文件系统的目录树方式的数据存储，并且可以对树中的节点进行有效管理。从而用来维护和监控你存储的数据的状态变化。通过监控这些数据状态的变化，从而可以达到基于数据的集群管理。

![01d77205374415b056d4f25308c49250.png][]

#### ZooKeeper特性 ####

1.  **全局数据一致**：集群中每个服务器保存一份相同的数据副本，client无论连接到哪个服务器，展示的数据都是一致的，这是最重要的特征；
2.  可靠性：如果消息被其中一台服务器接受，那么将被所有的服务器接受。
3.  顺序性：包括全局有序和偏序两种：全局有序是指如果在一台服务器上消息a在消息b前发布，则在所有Server上消息a都将在消息b前被发布；偏序是指如果一个消息b在消息a后被同一个发送者发布，a必将排在b前面。
4.  数据更新原子性：一次数据更新要么成功（半数以上节点成功），要么失败，不存在中间状态；
5.  实时性：Zookeeper保证客户端将在一个时间间隔范围内获得服务器的更新信息，或者服务器失效的信息。

#### ZooKeeper集群角色 ####

![0a5d561dfeca091cfcdceab946e740ca.png][]

Leader:

Zookeeper集群工作的核心

事务请求（写操作）的唯一调度和处理者，保证集群事务处理的顺序性；

集群内部各个服务器的调度者。

*对于create，setData，delete等有写操作的请求，则需要统一转发给leader处理，leader需要决定编号、执行操作，这个过程称为一个事务。*

Follower:

处理客户端非事务（读操作）请求，转发事务请求给Leader；

参与集群Leader选举投票。

此外，针对访问量比较大的zookeeper集群，还可新增观察者角色。

Observer:

观察者角色，观察Zookeeper集群的最新状态变化并将这些状态同步过来，其对于非事务请求可以进行独立处理，对于事务请求，则会转发给Leader服务器进行处理。

不会参与任何形式的投票只提供非事务服务，通常用于在不影响集群事务处理能力的前提下提升集群的非事务处理能力。

--------------------

#### ZooKeeper集群搭建 ####

Zookeeper集群搭建指的是ZooKeeper分布式模式安装。通常由2n+1台servers组成。这是因为为了保证Leader选举（基于Paxos算法的实现）能过得到多数的支持，所以ZooKeeper集群的数量一般为奇数。

Zookeeper运行需要java环境，所以需要提前安装jdk。对于安装leader+follower模式的集群，大致过程如下：

*  配置主机名称到IP地址映射配置
 *  修改ZooKeeper配置文件
 *  远程复制分发安装文件
 *  设置myid
 *  启动ZooKeeper集群

如果要想使用Observer模式，可在对应节点的配置文件添加如下配置：

peerType=observer

其次，必须在配置文件指定哪些节点被指定为Observer，如：

server.1:node1:2181:3181:observer

详细步骤请参考附件安装资料。

--------------------

#### **2. ZooKeeper shell** ####

#### 客户端连接 ####

运行 zkCli.sh –server ip 进入命令行工具。

输入help，输出zk shell提示：

![a0b6f746d5153a50aea4872e6f8bcff9.png][]

#### shell基本操作 ####

创建节点

create \[-s\] \[-e\] path data acl

其中，-s或-e分别指定节点特性，顺序或临时节点，若不指定，则表示持久节点；acl用来进行权限控制。

创建顺序节点：

![4855221f3340a6586d399f16ea34168d.png][]

创建临时节点：

![3018af0c7337b7a345216d7de3035067.png][]

创建永久节点：

![ebac82e35b7ec4ce38e9e173092fa255.png][]

读取节点

与读取相关的命令有ls 命令和get 命令，ls命令可以列出Zookeeper指定节点下的所有子节点，只能查看指定节点下的第一级的所有子节点；get命令可以获取Zookeeper指定节点的数据内容和属性信息。

ls path \[watch\]

get path \[watch\]

ls2 path \[watch\]

![c745fa62b45d23e8d331982f1b121311.png][]

更新节点

set path data \[version\]

data就是要更新的新内容，version表示数据版本。

![77e07f432bb1b92e177c578aa8412a61.png][]

现在dataVersion已经变为1了，表示进行了更新。

删除节点

delete path \[version\]

若删除节点存在子节点，那么无法删除该节点，必须先删除子节点，再删除父节点。

Rmr path

可以递归删除节点。

quota

setquota -n|-b val path 对节点增加限制。

n:表示子节点的最大个数

b:表示数据值的最大长度

val:子节点最大个数或数据值的最大长度

path:节点路径

![27ec98948facdd6d408e777ed83ebab9.png][]

listquota path 列出指定节点的quota

![57e86c87b4e405c6d4474e76e43dc6cb.png][]

子节点个数为2,数据长度-1表示没限制

delquota \[-n|-b\] path 删除quota

其他命令

history : 列出命令历史

![e11f2416336f09bfdf3bdd751afdcbe1.png][]

redo：该命令可以重新执行指定命令编号的历史命令,命令编号可以通过history查看

--------------------

#### **3. ZooKeeper数据模型** ####

ZooKeeper的数据模型，在结构上和标准文件系统的非常相似，拥有一个层次的命名空间，都是采用树形层次结构，ZooKeeper树中的每个节点被称为—Znode。和文件系统的目录树一样，ZooKeeper树中的每个节点可以拥有子节点。但也有不同之处：

1.  **Znode兼具文件和目录两种特点**。既像文件一样维护着数据、元信息、ACL、时间戳等数据结构，又像目录一样可以作为路径标识的一部分，并可以具有子Znode。用户对Znode具有增、删、改、查等操作（权限允许的情况下）。
2.  Znode具有原子性操作，读操作将获取与节点相关的所有数据，写操作也将替换掉节点的所有数据。另外，每一个节点都拥有自己的ACL(访问控制列表)，这个列表规定了用户的权限，即限定了特定用户对目标节点可以执行的操作。
3.  Znode存储数据大小有限制。ZooKeeper虽然可以关联一些数据，但并没有被设计为常规的数据库或者大数据存储，相反的是，它用来管理调度数据，比如分布式应用中的配置文件信息、状态信息、汇集位置等等。这些数据的共同特性就是它们都是很小的数据，通常以KB为大小单位。ZooKeeper的服务器和客户端都被设计为严格检查并限制每个Znode的数据大小至多1M，当时常规使用中应该远小于此值。
4.  Znode通过路径引用，如同Unix中的文件路径。路径必须是绝对的，因此他们必须由斜杠字符来开头。除此以外，他们必须是唯一的，也就是说每一个路径只有一个表示，因此这些路径不能改变。在ZooKeeper中，路径由Unicode字符串组成，并且有一些限制。字符串"/zookeeper"用以保存管理信息，比如关键配额信息。

#### 数据结构图 ####

![382d088494b7107fc22bfa77664c119e.png][]

图中的每个节点称为一个Znode。每个Znode由3部分组成:

① stat：此为状态信息, 描述该Znode的版本, 权限等信息

② data：与该Znode关联的数据

③ children：该Znode下的子节点

--------------------

#### 节点类型 ####

Znode有两种，分别为临时节点和永久节点。

节点的类型在创建时即被确定，并且不能改变。

临时节点：该节点的生命周期依赖于创建它们的会话。一旦会话结束，临时节点将被自动删除，当然可以也可以手动删除。临时节点不允许拥有子节点。　　永久节点：该节点的生命周期不依赖于会话，并且只有在客户端显示执行删除操作的时候，他们才能被删除。

Znode还有一个序列化的特性，如果创建的时候指定的话，该Znode的名字后面会自动追加一个不断增加的序列号。序列号对于此节点的父节点来说是唯一的，这样便会记录每个子节点创建的先后顺序。它的格式为“%10d”(10位数字，没有数值的数位用0补充，例如“0000000001”)。

![4c27801e466198ce131db233170c19b1.png][]

这样便会存在四种类型的Znode节点，分别对应：

PERSISTENT：永久节点

EPHEMERAL：临时节点

PERSISTENT\_SEQUENTIAL：永久节点、序列化

EPHEMERAL\_SEQUENTIAL：临时节点、序列化

--------------------

#### 节点属性 ####

每个znode都包含了一系列的属性，通过命令get，可以获得节点的属性。

![93634b051a19af90ce41af682592a69c.png][]

dataVersion：数据版本号，每次对节点进行set操作，dataVersion的值都会增加1（即使设置的是相同的数据），可有效避免了数据更新时出现的先后顺序问题。

cversion ：子节点的版本号。当znode的子节点有变化时，cversion 的值就会增加1。

cZxid ：Znode创建的事务id。

mZxid ：Znode被修改的事务id，即每次对znode的修改都会更新mZxid。

对于zk来说，每次的变化都会产生一个唯一的事务id，zxid（ZooKeeper Transaction Id）。通过zxid，可以确定更新操作的先后顺序。例如，如果zxid1小于zxid2，说明zxid1操作先于zxid2发生，zxid对于整个zk都是唯一的，即使操作的是不同的znode。

ctime：节点创建时的时间戳.

mtime：节点最新一次更新发生时的时间戳.

ephemeralOwner:如果该节点为临时节点, ephemeralOwner值表示与该节点绑定的session id. 如果不是, ephemeralOwner值为0.

在client和server通信之前,首先需要建立连接,该连接称为session。连接建立后,如果发生连接超时、授权失败,或者显式关闭连接,连接便处于CLOSED状态, 此时session结束。

--------------------

#### **4. ZooKeeper Watcher（监听机制）** ####

ZooKeeper提供了分布式数据发布/订阅功能，一个典型的发布/订阅模型系统定义了一种一对多的订阅关系，能让多个订阅者同时监听某一个主题对象，当这个主题对象自身状态变化时，会通知所有订阅者，使他们能够做出相应的处理。

ZooKeeper中，引入了Watcher机制来实现这种分布式的通知功能。ZooKeeper允许客户端向服务端注册一个Watcher监听，当服务端的一些事件触发了这个Watcher，那么就会向指定客户端发送一个事件通知来实现分布式的通知功能。

触发事件种类很多，如：节点创建，节点删除，节点改变，子节点改变等。

总的来说可以概括Watcher为以下三个过程：客户端向服务端注册Watcher、服务端事件发生触发Watcher、客户端回调Watcher得到触发事件情况

#### Watch机制特点 ####

**一次性触发**

事件发生触发监听，一个watcher event就会被发送到设置监听的客户端，这种效果是一次性的，后续再次发生同样的事件，不会再次触发。

**事件封装**

ZooKeeper使用WatchedEvent对象来封装服务端事件并传递。

WatchedEvent包含了每一个事件的三个基本属性：

通知状态（keeperState），事件类型（EventType）和节点路径（path）

**event异步发送**

watcher的通知事件从服务端发送到客户端是异步的。

**先注册再触发**

Zookeeper中的watch机制，必须客户端先去服务端注册监听，这样事件发送才会触发监听，通知给客户端。

--------------------

#### 通知状态和事件类型 ####

同一个事件类型在不同的通知状态中代表的含义有所不同，下表列举了常见的通知状态和事件类型。

![4e899f7736f04f5264497b98eb881269.png][]

其中连接状态事件(type=None, path=null)不需要客户端注册，客户端只要有需要直接处理就行了。

--------------------

#### Shell 客户端设置watcher ####

设置节点数据变动监听：

![f5e11c2c8477e118086ee594d2dabfd1.png][]

通过另一个客户端更改节点数据：

![bfa8570f9665c87467a8fbf47732ec58.png][]

此时设置监听的节点收到通知：

![e692fb7d5bbe97035da241df0c40847a.png][]

--------------------

#### **5. Zookeeper典型应用** ####

#### 数据发布/订阅 ####

数据发布/订阅系统即所谓的配置中心，也就是发布者将数据发布到ZooKeeper的一个节点上，提供订阅者进行数据订阅，从而实现动态更新数据的目的，实现配置信息的集中式管理和数据的动态更新。

ZooKeeper采用的是推拉相结合的方式：客户端向服务器注册自己需要关注的节点，一旦该节点的数据发生改变，那么服务端就会向相应的客户端发送Watcher事件通知，客户端接收到消息通知后，需要主动到服务端获取最新的数据。

主要用到了：监听机制。

![842bb978614897ff4a441c5543fc8355.png][]

--------------------

#### 提供集群选举 ####

在分布式环境下，不管是主从架构集群，还是主备架构集群，要求在服务的时候有且有一个正常的对外提供服务，我们称之为master。

当master出现故障之后，需要重新选举出的新的master。保证服务的连续可用性。zookeeper可以提供这样的功能服务。

主要用到了：znode唯一性、临时节点短暂性、监听机制。

![ea2d1cf4b32427284007ba128b9b5942.png][]

#### 分布式锁 ####

ZooKeeper通过数据节点表示一个锁，例如/itcast/lock节点就可以定义一个锁，所有客户端都会调用create()接口，试图在/itcast下创建lock子节点，但是ZooKeeper的强一致性会保证所有客户端最终只有一个客户创建成功。也就可以认为获得了锁，其它线程Watcher监听子节点变化（等待释放锁，竞争获取资源）。

此外也可以通过znode的序列化特性，给创建znode的客户端自动编号，从而实现所谓的顺序锁的功能。

[b9e3187b4dd908325753c507048a6a1b.png]: https://img-blog.csdnimg.cn/img_convert/b9e3187b4dd908325753c507048a6a1b.png
[01d77205374415b056d4f25308c49250.png]: https://img-blog.csdnimg.cn/img_convert/01d77205374415b056d4f25308c49250.png
[0a5d561dfeca091cfcdceab946e740ca.png]: https://img-blog.csdnimg.cn/img_convert/0a5d561dfeca091cfcdceab946e740ca.png
[a0b6f746d5153a50aea4872e6f8bcff9.png]: https://img-blog.csdnimg.cn/img_convert/a0b6f746d5153a50aea4872e6f8bcff9.png
[4855221f3340a6586d399f16ea34168d.png]: https://img-blog.csdnimg.cn/img_convert/4855221f3340a6586d399f16ea34168d.png
[3018af0c7337b7a345216d7de3035067.png]: https://img-blog.csdnimg.cn/img_convert/3018af0c7337b7a345216d7de3035067.png
[ebac82e35b7ec4ce38e9e173092fa255.png]: https://img-blog.csdnimg.cn/img_convert/ebac82e35b7ec4ce38e9e173092fa255.png
[c745fa62b45d23e8d331982f1b121311.png]: https://img-blog.csdnimg.cn/img_convert/c745fa62b45d23e8d331982f1b121311.png
[77e07f432bb1b92e177c578aa8412a61.png]: https://img-blog.csdnimg.cn/img_convert/77e07f432bb1b92e177c578aa8412a61.png
[27ec98948facdd6d408e777ed83ebab9.png]: https://img-blog.csdnimg.cn/img_convert/27ec98948facdd6d408e777ed83ebab9.png
[57e86c87b4e405c6d4474e76e43dc6cb.png]: https://img-blog.csdnimg.cn/img_convert/57e86c87b4e405c6d4474e76e43dc6cb.png
[e11f2416336f09bfdf3bdd751afdcbe1.png]: https://img-blog.csdnimg.cn/img_convert/e11f2416336f09bfdf3bdd751afdcbe1.png
[382d088494b7107fc22bfa77664c119e.png]: https://img-blog.csdnimg.cn/img_convert/382d088494b7107fc22bfa77664c119e.png
[4c27801e466198ce131db233170c19b1.png]: https://img-blog.csdnimg.cn/img_convert/4c27801e466198ce131db233170c19b1.png
[93634b051a19af90ce41af682592a69c.png]: https://img-blog.csdnimg.cn/img_convert/93634b051a19af90ce41af682592a69c.png
[4e899f7736f04f5264497b98eb881269.png]: https://img-blog.csdnimg.cn/img_convert/4e899f7736f04f5264497b98eb881269.png
[f5e11c2c8477e118086ee594d2dabfd1.png]: https://img-blog.csdnimg.cn/img_convert/f5e11c2c8477e118086ee594d2dabfd1.png
[bfa8570f9665c87467a8fbf47732ec58.png]: https://img-blog.csdnimg.cn/img_convert/bfa8570f9665c87467a8fbf47732ec58.png
[e692fb7d5bbe97035da241df0c40847a.png]: https://img-blog.csdnimg.cn/img_convert/e692fb7d5bbe97035da241df0c40847a.png
[842bb978614897ff4a441c5543fc8355.png]: https://img-blog.csdnimg.cn/img_convert/842bb978614897ff4a441c5543fc8355.png
[ea2d1cf4b32427284007ba128b9b5942.png]: https://img-blog.csdnimg.cn/img_convert/ea2d1cf4b32427284007ba128b9b5942.png