MySQL高可用之MHA搭建

怼烎@ 2023-01-12 10:11 184阅读 0赞

MHA（Master High Availability）目前在MySQL高可用方面是一个相对成熟的解决方案，它由日本DeNA公司 youshimaton（现就职于Facebook公司）开发，是一套优秀的作为MySQL高可用性环境下故障切换和主从提升 的高可用软件。在MySQL故障切换过程中，MHA能做到在0~30秒之内自动完成数据库的故障切换操作，并且 在进行故障切换的过程中，MHA能在最大程度上保证数据的一致性，以达到真正意义上的高可用。 MHA里有 两个角色一个是MHA Node（数据节点）另一个是MHA Manager（管理节点）。 MHA Manager可以单独部署 在一台独立的机器上管理多个master-slave集群，也可以部署在一台slave节点上。MHA Node运行在每台 MySQL服务器上，MHA Manager会定时探测集群中的master节点，当master出现故障时，它可以自动将最新 数据的slave提升为新的master，然后将所有其他的slave重新指向新的master。整个故障转移过程对应用程序完 全透明。  
![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80NDkwNzgxMw_size_16_color_FFFFFF_t_70]  
MHA自动故障切换过程中，MHA试图从宕机的主服务器上保存二进制日志，最大程度的保证数据的不丢失，但 这并不总是可行的。例如，如果主服务器硬件故障或无法通过ssh访问，MHA没法保存二进制日志，只进行故 障转移而丢失了最新的数据。使用MySQL 5.5的半同步复制，可以大大降低数据丢失的风险。MHA可以与半同 步复制结合起来。如果只有一个slave已经收到了最新的二进制日志，MHA可以将最新的二进制日志应用于其他 所有的slave服务器上，因此可以保证所有节点的数据一致性。  
注：从MySQL5.5开始，MySQL以插件的形式支持半同步复制。  
如何理解半同步呢？  
首先我们来看看异步，全同步的概念： 异步复制（Asynchronous replication） MySQL默 认的复制即是异步的，主库在执行完客户端提交的事务后会立即将结果返给给客户端，并不关心从库是否已经 接收并处理，这样就会有一个问题，主如果crash掉了，此时主上已经提交的事务可能并没有传到从上，如果此 时，强行将从提升为主，可能导致新主上的数据不完整。 全同步复制（Fully synchronous replication） 指当主 库执行完一个事务，所有的从库都执行了该事务才返回给客户端。因为需要等待所有从库执行完该事务才能返 回，所以全同步复制的性能必然会收到严重的影响。 半同步复制（Semisynchronous replication） 介于异步复 制和全同步复制之间，主库在执行完客户端提交的事务后不是立刻返回给客户端，而是等待至少一个从库接收 到并写到relay log中才返回给客户端。相对于异步复制，半同步复制提高了数据的安全性，同时它也造成了一 定程度的延迟，这个延迟最少是一个TCP/IP往返的时间。所以，半同步复制最好在低延时的网络中使用。

`总结：异步与半同步异同 默认情况下MySQL的复制是异步的，Master上所有的更新操作写入Binlog之后 并不确保所有的更新都被复制到Slave之上。异步操作虽然效率高，但是在Master/Slave出现问题的时 候，存在很高数据不同步的风险，甚至可能丢失数据。 MySQL5.5引入半同步复制功能的目的是为了保 证在master出问题的时候，至少有一台Slave的数据是完整的。在超时的情况下也可以临时转入异步复 制，保障业务的正常使用，直到一台salve追赶上之后，继续切换到半同步模式。`

工作原理 相较于其它HA软件，MHA的目的在于维持MySQL Replication中Master库的高可用性，其最大特点是 可以修复多个Slave之间的差异日志，最终使所有Slave保持数据一致，然后从中选择一个充当新的Master，并 将其它Slave指向它。 -从宕机崩溃的master保存二进制日志事件(binlogevents)。 -识别含有最新更新的slave。 -应用差异的中继日志(relay log)到其它slave。 -应用从master保存的二进制日志事件(binlogevents)。 -提升一 个slave为新master。 -使其它的slave连接新的master进行复制。

目前MHA主要支持一主多从的架构，要搭建MHA,要求一个复制集群中必须最少有三台数据库服务器，一主二 从，即一台充当master，一台充当备用master，另外一台充当从库，因为至少需要三台服务器。

![在这里插入图片描述][20200713074638600.png]  
其中master对外提供写服务，备选master（实际的slave，主机名slave1）提供读服务，slave也提供相关的读 服务，一旦master宕机，将会把备选master提升为新的master，slave指向新的master，manager作为管理服务 器。

一、开始部署  
注：时间要同步

#在四台机器都配置epel源
    [root@manager ~]# wget -O /etc/yum.repos.d/epel.repo http://mirrors.aliyun.com/repo/epel-7.repo

建立四台机器SSH ，依次如下执行

ssh-keygen -t rsa [这里一路回车就可以了]
    cat  ~/.ssh/id_rsa.pub  >> ~/.ssh/authorized_keys
    ssh rac2 cat ~/.ssh/id_rsa.pub  >> ~/.ssh/authorized_keys 【可能会有提示选择yes/no ,请选择yes】
    ssh rac1 cat ~/.ssh/id_rsa.pub  >> ~/.ssh/authorized_keys 【可能会有提示选择yes/no ,请选择yes】

二、配置mysql半同步复制  
为了尽可能的减少主库硬件损坏宕机造成的数据丢失，因此在配置MHA的同时建议 配置成MySQL的半同步复制。

注：mysql半同步插件是由谷歌提供，具体位置/usr/local/mysql/lib/plugin/下：
    一个是master用的semisync_master.so；
    一个是slave用的semisync_slave.so；

1.分别在主从节点上安装相关的插件（master, Candicate master,slave）

2.修改my.cnf文件，配置主从同步(环境为一主两从已搭建好，所以其余参数不写)  
 修改master my.cnf配置文件，添加如下

rpl_semi_sync_master_enabled = 1                 # 1表示启用，0表示关闭，slave同样
    rpl_semi_sync_master_timeout = 1000         # 毫秒单位，主服务器等待确认消息10秒后，不在等待， 
                                                #  变为异步方式
    rpl_semi_sync_slave_enabled = 1
    relay_log_purge = 0                         #禁止relay logs会在SQL线程执行完毕后被自动删除
    relay-log = relay-bin
    relay-log-index = slave-relay-bin.index

修改slave1和slave2配置文件，添加如下

relay_log_purge = 0           # 0表示禁止 SQL 线程在执行完一个 relay log 后自动将其删除，对于 
                                   # MHA场景下，对 于某些滞后从库的恢复依赖于其他从库的relay log， 
                                   #因此采取禁用自动删除功能 
    relay-log = relay-bin
    relay-log-index = slave-relay-bin.index
    rpl_semi_sync_master_enabled = 1
    rpl_semi_sync_master_timeout = 10000
    rpl_semi_sync_slave_enabled = 1

依次重启master和slave数据库

3.查看半同步相关信息

mysql> show variables like '%rpl_semi_sync%';
    +-------------------------------------------+------------+
    | Variable_name                             | Value      |
    +-------------------------------------------+------------+
    | rpl_semi_sync_master_enabled              | ON         |
    | rpl_semi_sync_master_timeout              | 10000      |
    | rpl_semi_sync_master_trace_level          | 32         |
    | rpl_semi_sync_master_wait_for_slave_count | 1          |
    | rpl_semi_sync_master_wait_no_slave        | ON         |
    | rpl_semi_sync_master_wait_point           | AFTER_SYNC |
    | rpl_semi_sync_slave_enabled               | ON         |
    | rpl_semi_sync_slave_trace_level           | 32         |
    +-------------------------------------------+------------+
    8 rows in set (0.00 sec)
    #查看半同步状态
    mysql> show status like '%rpl_semi_sync%';
    +--------------------------------------------+-------+
    | Variable_name                              | Value |
    +--------------------------------------------+-------+
    | Rpl_semi_sync_master_clients               | 0     |
    | Rpl_semi_sync_master_net_avg_wait_time     | 0     |
    | Rpl_semi_sync_master_net_wait_time         | 0     |
    | Rpl_semi_sync_master_net_waits             | 0     |
    | Rpl_semi_sync_master_no_times              | 0     |
    | Rpl_semi_sync_master_no_tx                 | 0     |
    | Rpl_semi_sync_master_status                | ON    |
    | Rpl_semi_sync_master_timefunc_failures     | 0     |
    | Rpl_semi_sync_master_tx_avg_wait_time      | 0     |
    | Rpl_semi_sync_master_tx_wait_time          | 0     |
    | Rpl_semi_sync_master_tx_waits              | 0     |
    | Rpl_semi_sync_master_wait_pos_backtraverse | 0     |
    | Rpl_semi_sync_master_wait_sessions         | 0     |
    | Rpl_semi_sync_master_yes_tx                | 0     |
    | Rpl_semi_sync_slave_status                 | OFF   |
    +--------------------------------------------+-------+
    15 rows in set (0.00 sec)
    #有几个状态参数值得关注的： 
    << rpl_semi_sync_master_status ：显示主服务是异步复制模式还是半同步复制模式 
    << rpl_semi_sync_master_clients ：显示有多少个从服务器配置为半同步复制模式 
    << rpl_semi_sync_master_yes_tx ：显示从服务器确认成功提交的数量 
    << rpl_semi_sync_master_no_tx ：显示从服务器确认不成功提交的数量
    << rpl_semi_sync_master_tx_avg_wait_time ：事务因开启 semi_sync ，平均需要额外等待的时间 
    << rpl_semi_sync_master_net_avg_wait_time ：事务进入等待队列后，到网络平均等待时间

查看Candicate master和slave2 两个从服务器的状态  
![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80NDkwNzgxMw_size_16_color_FFFFFF_t_70 1]  
![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80NDkwNzgxMw_size_16_color_FFFFFF_t_70 2]

#查看master服务器的半同步状态
    mysql> show status like '%rpl_semi_sync%';
    +--------------------------------------------+-------+
    | Variable_name                              | Value |
    +--------------------------------------------+-------+
    | Rpl_semi_sync_master_clients               | 2     |
    | Rpl_semi_sync_master_net_avg_wait_time     | 0     |
    | Rpl_semi_sync_master_net_wait_time         | 0     |
    | Rpl_semi_sync_master_net_waits             | 0     |
    | Rpl_semi_sync_master_no_times              | 0     |
    | Rpl_semi_sync_master_no_tx                 | 0     |
    | Rpl_semi_sync_master_status                | ON    |
    | Rpl_semi_sync_master_timefunc_failures     | 0     |
    | Rpl_semi_sync_master_tx_avg_wait_time      | 0     |
    | Rpl_semi_sync_master_tx_wait_time          | 0     |
    | Rpl_semi_sync_master_tx_waits              | 0     |
    | Rpl_semi_sync_master_wait_pos_backtraverse | 0     |
    | Rpl_semi_sync_master_wait_sessions         | 0     |
    | Rpl_semi_sync_master_yes_tx                | 0     |
    | Rpl_semi_sync_slave_status                 | OFF   |
    +--------------------------------------------+-------+
    15 rows in set (0.00 sec)

三、配置mysql-mha mha包括manager节点和data节点

#在所有主机上安装mha所依赖的软件包（需要系统自带的yum源并联网）
    [root@manager ~]# yum -y install perl-DBD-MySQL perl-Config-Tiny perl-Log-Dispatch perl-ParallelForkManager perl-Config-IniFiles ncftp perl-Params-Validate perl-CPAN perl-TestMock-LWP.noarch perl-LWP-Authen-Negotiate.noarch perl-devel perl-ExtUtils-CBuilder perl-ExtUtils-MakeMaker

1.以下操作管理节点需要两个都安装， 在3台数据库节点只要安装MHA的node节点  
[软件下载][Link 1]

#在所有数据库节点上安装node节点
    [root@slave1 ~]# tar zxf mha4mysql-node-0.58.tar.gz 
    [root@slave1 ~]# cd mha4mysql-node-0.58/
    [root@slave1 mha4mysql-node-0.58]# perl Makefile.PL 
    *** Module::AutoInstall version 1.06
    *** Checking for Perl dependencies...
    [Core Features]
    - DBI        ...loaded. (1.627)
    - DBD::mysql ...loaded. (4.023)
    *** Module::AutoInstall configuration finished.
    Checking if your kit is complete...
    Looks good
    Writing Makefile for mha4mysql::node
    [root@slave1 mha4mysql-node-0.58]# make && make install 
    #这里我就忽略其他两个数据库安装node了，步骤都一样

#管理节点两个都需要安装
    [root@manager ~]# tar zxf mha4mysql-node-0.58.tar.gz 
    [root@manager ~]# cd mha4mysql-node-0.58/
    [root@manager mha4mysql-node-0.58]# perl Makefile.PL 
    [root@manager mha4mysql-node-0.58]# make && make install 
    #安装manager包
    [root@manager ~]# tar zxf mha4mysql-manager-0.58.tar.gz 
    [root@manager ~]# cd mha4mysql-manager-0.58/
    [root@manager mha4mysql-manager-0.58]# perl Makefile.PL 
    *** Module::AutoInstall version 1.06
    *** Checking for Perl dependencies...
    [Core Features]
    - DBI                   ...loaded. (1.627)
    - DBD::mysql            ...loaded. (4.023)
    - Time::HiRes           ...loaded. (1.9725)
    - Config::Tiny          ...loaded. (2.14)
    - Log::Dispatch         ...loaded. (2.41)
    - Parallel::ForkManager ...missing.
    - MHA::NodeConst        ...loaded. (0.58)
    ==> Auto-install the 1 mandatory module(s) from CPAN? [y] y
    *** Dependencies will be installed the next time you type 'make'.
    *** Module::AutoInstall configuration finished.
    Checking if your kit is complete...
    Looks good
    Warning: prerequisite Parallel::ForkManager 0 not found.
    Writing Makefile for mha4mysql::manager
    [root@manager mha4mysql-manager-0.58]# make && make install                  # 根据提示输入

2.新建文件夹

[root@manager ~]# mkdir /etc/masterha
    [root@manager ~]# mkdir -p /masterha/app1
    [root@manager ~]# mkdir /scripts
    [root@manager ~]# cd mha4mysql-manager-0.58/
    [root@manager mha4mysql-manager-0.58]# cp samples/conf/* /etc/masterha/
    [root@manager mha4mysql-manager-0.58]# cp samples/scripts/* /scripts/

3.编辑MHA配置文件

[root@manager ~]# vim /etc/masterha/app1.cnf 
    [server default]
    manager_workdir=/masterha/app1               # 设置manager的工作目录 
    manager_log=/masterha/app1/manager.log         # 设置manager的日志
    user=manager               # 设置监控用户
    password=123             # 监控用户的密码
    ssh_user=root            # ssh连接用户
    repl_user=mharep         # 主从复制用户 
    repl_password=123         # 主从复制用户密码 
    ping_interval=1        # 设置监控主库，发送ping包的时间间隔，默认 是3秒
    
    [server1]
    hostname=192.168.171.151
    port=3306
    master_binlog_dir=/usr/local/mysql/data
    candidate_master=1               # 设置为候选master，如果设置该参数以后，发生主从切换以后将会将此从库提升为主库
    
    [server2]
    hostname=192.168.171.152
    port=3306
    master_binlog_dir=/usr/local/mysql/data
    candidate_master=1
    
    [server3]
    hostname=192.168.171.153
    port=3306
    master_binlog_dir=/usr/local/mysql/data
    no_master=1

四、验证和启动

1.SSH有效性验证

[root@manager ~]# masterha_check_ssh --global_conf=/etc/masterha/masterha_default.cnf --conf=/etc/masterha/app1.cnf

2.集群复制的有效性验证（mysql必须都启动）

masterha_check_repl -global_conf=/etc/masterha/masterha_default.cnf --conf=/etc/masterha/app1.cnf

验证成功的话会自动识别出所有服务器和主从状况

注：验证成功的话会自动识别出所有服务器和主从状况 在验 证时，若遇到这个错误：Can’t exec “mysqlbinlog” … 解决方法是在所有服务器上执行：

ln -s /usr/local/mysql/bin/* /usr/local/bin/

3.后台启动

#启动 manager
    [root@manager ~]# nohup masterha_manager --conf=/etc/masterha/app1.cnf &>/tmp/mha_manager.log &

4.状态检查

#状态检查
    [root@manager ~]# masterha_check_status --conf=/etc/masterha/app1.cnf 
    app1 (pid:49094) is running(0:PING_OK), master:192.168.171.151

5.故障转移验证

模拟master宕机，查看备用master是否会接手

先关闭master

service mysqld stop

在slave从上查看到已经更改IP

mysql> show slave status\G             # 在slave从上查看到已经更改IP
    *************************** 1. row ***************************
                   Slave_IO_State: Waiting for master to send event
                      Master_Host: 192.168.171.152       # 为备用master的IP
                      Master_User: mharep
                      Master_Port: 3306
                    Connect_Retry: 60
                  Master_Log_File: mysql-bin.000002
              Read_Master_Log_Pos: 746
                   Relay_Log_File: relay-bin.000002
                    Relay_Log_Pos: 320
            Relay_Master_Log_File: mysql-bin.000002
                 Slave_IO_Running: Yes
                Slave_SQL_Running: Yes

查看MHA日志

[root@manager ~]# cat /masterha/app1/manager.log 
    Master 192.168.171.151(192.168.171.151:3306) is down!       # down机
    
    Check MHA Manager logs at manager:/masterha/app1/manager.log for details.
    
    Started automated(non-interactive) failover.
    The latest slave 192.168.171.152(192.168.171.152:3306) has all relay logs for recovery.
    Selected 192.168.171.152(192.168.171.152:3306) as a new master.
    192.168.171.152(192.168.171.152:3306): OK: Applying all logs succeeded.
    192.168.171.153(192.168.171.153:3306): This host has the latest relay log events.
    Generating relay diff files from the latest slave succeeded.
    192.168.171.153(192.168.171.153:3306): OK: Applying all logs succeeded. Slave started, replicating from 192.168.171.152(192.168.171.152:3306)
    192.168.171.152(192.168.171.152:3306): Resetting slave info succeeded.
    Master failover to 192.168.171.152(192.168.171.152:3306) completed successfully.      # 更改成功

成功~

五、MHA Manager 端日常维护命令

1）检查是否有下列文件，有则删除  
发生主从切换后，MHAmanager服务会自动停掉，且在 manager\_workdir（/masterha/app1）目录下面生成文件app1.failover.complete，若要启动MHA，必须先确保 无此文件) 如果有这个提示，那么删除此文件/ masterha/app1/app1.failover.complete \[error\] \[/usr/share/perl5/vendor\_perl/MHA/MasterFailover.pm, ln298\] Last failover was done at 2015/01/09 10:00:47. Current time is too early to do failover again. If you want to do failover, manually remove / masterha/app1/app1.failover.complete and run this script again

# || /masterha/app1/app1.failover.complete    
    # || /masterha/app1/app1.failover.error

2）检查MHA检查：

# SSH检查  masterha_check_ssh --conf=/etc/masterha/app1.cnf
    # 主从检查 masterha_check_repl --conf=/etc/masterha/app1.cnf

3）停止MHA

masterha_stop  --conf=/etc/masterha/app1.cnf

4）启动MHA

#nohup masterha_manager --conf=/etc/masterha/app1.cnf &>/tmp/mha_manager.log  &

当有slave 节点宕掉时，默认是启动不了的，加上 --ignore\_fail\_on\_start 即使有节点宕掉也能启动MHA，如下：

#nohup masterha_manager --conf=/etc/masterha/app1.cnf  --ignore_fail_on_start &>/tmp/mha_manager.log  &

5） 检查状态

# masterha_check_status --conf=/etc/masterha /app1.cnf

6） 检查日志

#tail -f /masterha/app1/manager.log

[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80NDkwNzgxMw_size_16_color_FFFFFF_t_70]: /images/20221119/8e45aec591c846df92d494cf883c668c.png
[20200713074638600.png]: /images/20221119/987535832ce44755886edf2b9cb3277b.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80NDkwNzgxMw_size_16_color_FFFFFF_t_70 1]: /images/20221119/d98fab089b614cbebe7cb862a0bb4985.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80NDkwNzgxMw_size_16_color_FFFFFF_t_70 2]: /images/20221119/69a158ff9d2c4b0e82064d8ce1c94538.png
[Link 1]: https://github.com/yoshinorim