DRBD原理及特性概述

忘是亡心i 2022-08-09 15:48 274阅读 0赞

Distributed Replicated Block Device(DRBD)是一个用软件实现的、无共享的、服务器之间镜像块设备内容的存储复制解决方案。其核心功能通过Linux的内核实现，比文件系统更加靠近操作系统内核及IO栈。DRBD是由内核模块和相关脚本而构成，用以构建高可用性的集群。其实现方式是通过网络来镜像整个设备。你可以把它看作是一种网络RAID。它允许用户在远程机器上建立一个本地块设备的实时镜像。

## 一、DRBD镜像特性及其工作原理 ##

## 1、特性 ##

实时性： 当应用对磁盘的数据进行修改时，复制立即发生。  
透明性： 应用程序的数据存储在镜像设备上是独立和透明的，数据可存储在不同的服务器上。  
同步镜像和异步镜像：  
a、同步镜像，当本地发申请进行写操作进行时，同步写到两台服务器上。  
b、异步镜像，当本地写申请已经完成对本地的写操作时，开始对对应的服务器进行写操作。

## 2、原理图 ##

file system->buffer cache ->drbd->disk scheduler->disk drivers  
![DRBD原理图][DRBD]

# 二、DRBD基础特性 #

## 1、资源 ##

DRBD主要是对磁盘资源的管控，因此在DRBD模块中，资源是所有可复制移动存储设备的总称。
    资源名： 
        资源名可以指定除了空格外 us-ascii 中的任意字符。
    DRBD 设备： 
        DRBD 的虚拟块设备。它有一个主设备号为 147 的设备，默认的它的次要号码编从 0 开始。
        相关的块设备需命名为/ dev/ drbdm，其中 M 是设备的次要号码。
    磁盘配置： 
        DRBD 内部应用需要本地数据副本，元数据。
    网络配置： 
        各个对等接点间需要进行数据通信。

## 2、资源角色 ##

DRBD角色： primary<->secondary 
    主：  在主 DRBD 设备中可以进行不受限制的读和写的操作。
        他可用来创建和挂载文件系统、初始化或者是直接 I/O 的快设备，等等。
    备：  
        接收所有来自对等节点的更新，不能被应用也不能被读写访问。主要目的是保持缓冲及数据一致性。
    人工干预和管理程序的自动聚类算法都可以改变资源的角色。资源可以由被变换为主，以及主到备。

## 3、特性 ##

### 支持复制传输数据完整性验证(验证算法：MD5、SHA-1、CRC-32C) ###

此特性针对在复制过程中由于网络传输原因导致的数据不一致。 DRBD对每个
    要复制的块生成一个校验和(摘要信息)，用来对peer端数据进行完整性校验，如果接收到的
    块的校验和与source端的校验和不一致，将会要求重传。
    
    resource <resource>
    net {
    data-integrity-alg <algorithm>;
    }
    ...
    }

### 支持在线设备验证 ###

如果我们不在传输过程中对数据进行校验，我们仍然可以采用在线设备验证的方
    式，原理同上，我们可以采用定时任务周期性的对数据进行验证。
    默认情况下在线设备验证是未启用的，可以在配置文件/etc/drbd.conf添加。
    
    resource <resource>
    net {
    verify-alg <algorithm>;
    }
    ...
    }
    
    验证命令： drbdadm verify <resource>

### 磁盘IO错误处理策略 ###

磁盘出现IO错误时候，我们应该采用何种策略呢？ 
    DRBD提供三种策略，分别是： detach 、 pass_on 、 call-local-io-error。
    detach
        这是默认和推荐的选项。如果在节点上发生底层的磁盘 I/O 错误，它会将设备
        运行在 diskless 无盘模式下。所有的对节点的读写将会从对端节点进行，这种情况下虽然性能有所下降，
        但是仍然可以提供服务，很明显在高可用的情况下，这个策略使我们的首选。
    pass_on
        drbd 会将 I/O 错误报告到上层。在主节点上，它会将其报告给挂载的文件系统，
        但是在此节点上就往往忽略（因此此节点上没有可以报告的上层）
    
    local-io-error
        调用本地磁盘 I/O 处理程序中定义的命令。 这就需要有相应有让 local-io-error
        调用的资源处理程序处理错误的命令。这就给管理员留有足够自由的权力使用命令或者是脚
        本调用 local-io-error 处理 I/O 错误。
    
    resource <resource> {
    disk {
    on-io-error <strategy>;
    ...
    }
    ...
    }

### 过期数据处理策略 ###

过期数据不是不一致性数据，只是说secondary不再与priamry同步数据了， secondary相当于是
    一个snapshot，这时候如果发生切换，那么可想而知，数据的一致性就会出现问题，我们需要通
    过某些策略来防止这种情况的发生：当出现过期数据的时候， drbd的连接状态将会由connect变为
    Wfconnection,这时候Pacemaker不会允许过期数据的节点提升为primary

### 暂停复制 ###

对于一些网络状态不好的情况，如果我们采用协议C进行复制，那么数据复制延时将会很严重，
    这时候我们可以采用暂停复制的策略，这样当网络状况不好的时候， primary端将会暂停复制，
    primary和secondary将会处于链式的不同步状态，当带宽变为可用的时候，复制将会继续进行。

### 同步速率配置 ###

可以根据网络带宽或网络资源状况配置同步速率以及使用临时速率，可变速率等。
    同步速率设置的超过网络的最大可用带宽也是没有任何意义的。
    请注意，同步的速率是 bytes 字节，而不是 bits/s。
    resource <resource>
    disk {
    sync-rate 40M;
    ...
    }
    ...
    }
    根据经验同步速率比较合理的是可用带宽的 30%。
    计算公式:   MIN(I/O子系统，网络I/O)*0.3
    假定一个 I/O 子系统能支持 180MB/s 的吞吐量， 而千兆网络可支持 110MB/s，
    此时网络带宽会成为瓶颈，可以计算出,同步速率：110*0.3=33MB/s
    
    假定一个 I/O 子系统能支持 80MB/s 的吞吐量，而千兆网络可支持 110MB/s，
    此时磁盘I/O会成为瓶颈，可以计算出,同步速率：80*0.3=24MB/s

### 脑裂通知和自动恢复 ###

> split brain实际上是指在某种情况下，造成drbd的两个节点断开连接，都以primary的身份来运行。当drbd某primary节点连接对方节点准备发送信息的时候如果发现对方也是primary状态，那么会立刻自行断开连接，并认定当前已经发生split brain了，这时候他会在系统日志中记录以下信息：“Split-Brain detected,dropping connection!”当发生split brain之后，如果查看连接状态，其中至少会有一个是StandAlone状态，另外一个可能也是StandAlone（如果是同时发现split brain状态），也有可能是WFConnection的状态。

自动处理：
        a、 Discarding modifications made on the younger primary
            ---后切换成primary角色的节点数据将会被丢弃
        b、 Discarding modifications made on the older primary
            ---先切换成primary角色的节点数据将会被丢弃
        c、 Discarding modifications on the primary with fewer changes 
            --–哪个节点更改的数据少就丢弃
        d、 Graceful recovery from split brain if one host has had no intermediate changes
            ---如果有节点根本没有更新数据，就直接恢复
    
    drbd 脑裂主要在 net 配置，有以下关键字：
    after-sb-0pri：裂脑已经被探测到，但是现在没有节点处于主角色，对于这个选项， drbd 有以下关键字：
        disconnect:
            不需要自动恢复，仅仅是调用裂脑处理程序的脚本（如果配置了），断开连接并出在断开模式。
        discard-younger-primary:
            放弃和回滚最后成为主的上面所做的修改。
        discard-least-changes:
            放弃和回滚，变动比较少的主机上的修改。
        discard-zero-changes:
            如果任何节点都没有发生任何变化，仅仅申请在一个节点上做出继续修改即可。
    
    after-sb-1pri：裂脑已经被探测到，现有有一个节点处于主角色，对于这个选项， drbd 有以下关键字：
    disconnect:
        和 after-sb-0pri 一样， 调用裂脑处理程序的脚本（如果配置了），断开连接并出在断开模式。
    consensus:
        和 after-sb-0pri 中同样的修复策略。 如果利用这些策略裂脑危害能选择，那就能自动解决。 否则，同样断开指定的动作。
    call-pri-lost-after-sb:
        和 after-sb-0pri 中同样的修复策略。如果利用这些策略裂脑危害能选择，就在受危害的节点上调用 
        pri-lost-after-sb 程序。这个程序必须确认在 handlers 中配置，并考虑到从集群中移除该节点。
    discard-secondary:
        不管哪个主机只要处于次角色，都是裂脑的危害者。
    
    after-sb-2pri：在两个节点都处于主角色时，裂脑被发现。次选项使用和after-sb-1pri同样的关键字，丢弃次节点并达成共识。
    
    配置示例：
    resource <resource> {
    handlers {
    split-brain "/usr/lib/drbd/notify-split-brain.sh root" //<handler>可能是目前系统中一个可执行的文件。
    ...                                        //e.g. split-brain "/usr/lib/drbd/notify-split-brain.sh root";
    }                                          //如上通过电子邮件的方式发送到指定的地址。
    net {                                     
    after-sb-0pri discard-zero-changes;        //脑裂的相关自动修复策略
    after-sb-1pri discard-secondary;
    after-sb-2pri disconnect;
    ...
    }
    ...
    
    手动处理
        首先在确定要作为secondary的节点上面切换成secondary并放弃该资源的数据
            drbdadm secondary <resource>
            drbdadm connect --discard-my-data <resource>
        在要作为primary的节点重新连接secondary（如果这个节点当前的连接状态为WFConnection的话，可以省略）
            drbdadm connect <resource>
        当作完这些动作之后，从新的primary到secondary的re-synchnorisation会自动开始。

## 三、DRBD的复制模式及复制协议 ##

## 1、复制模式 ##

单主模式:
    在单主模式下， 任何资源在任何特定的时间，集群中只存在一个主节点。 正是因为这样在集群中
    只能有一个节点可以随时操作数据，这种模式可用在任何的文件系统上（ EXT3、 EXT4、 XFS等等）。
    
    双主模式:
    在双主模式下，任何资源在任何特定的时间，集群中都存在两个主节点。犹豫双方数据存在并发
    的可能性，这种模式需要一个共享的集群文件系统，利用分布式的锁机制进行管理，如 GFS 和
    OCFS2。部署双主模式时， DRBD 是负载均衡的集群，这就需要从两个并发的主节点中选取一个首选的
    访问数据。这种模式默认是禁用的，如果要是用的话必须在配置文件中进行声明。(DRBD8.0 之后支持)

## 2、复制协议 ##

协议A： 
        数据一旦写入磁盘并发送到网络中就认为完成了写入操作。
        在一个节点发生故障时，可能发生远程节点上的数据可能仍在发送队列导致数据丢失。
    协议B： 
        收到接收确认就认为完成了写入操作。
        数据丢失可能发生在参加的两个节点同时故障的情况下。
    协议C： 
        收到写入确认就认为完成了写入操作。无数据丢失，主流配置，I/O 吞吐量依赖于网络带宽。

[DRBD]: /images/20220731/8bb83ceeaeca453cb10101db1755386c.png