【集群】LVS+Keepalived群集

た 入场券 2024-04-06 14:44 159阅读 0赞

文章目录

  • 前言
  • 一、Keepalived的概念
      1. Keepalived 概述
      1. Keepalived 作用
      1. Keepalived 实现原理剖析
      • 3.1 Keepalived 工作原理
      • 3.1 VRRP协议（虚拟路由冗余协议）
      1. Keepalived 主要模块及其作用
      • 4.1 健康检查方式（学名：探针）
      1. 脑裂的形成和解决（重要）
      • 5.1 什么是脑裂
      • 5.2 脑裂的形成
      • 5.3 预防脑裂的发生
  • 二、LVS+Keepalived 高可用集群部署
      1. 环境部署
      1. LVS 部署
      • 2.1 配置负载调度器（主、备相同）
      • 2.2 配置节点服务器
      • 2.3 测试验证
  • 三、常见问题
      1. Keepalived 通过什么判断哪台主机为主服务器，通过什么方式配置浮动IP？
      1. keepalived 的抢占与非抢占模式
  • 四、Nginx+keepalived高可用集群部署
      1. 环境部署
      1. Nginx 部署
      • 2.1 配置负载调度器（主、备相同）
      • 2.2 配置Nginx四层负载均衡
      1. 测试验证
  • 五、总结
      1. 一个合格的集群应该具有的特性
      1. 脑裂相关问题

前言

  在这个高度信息化的 IT 时代，企业的生产系统、业务运营、销售和支持，以及日常管理等环节越来越依赖于计算机信息和服务，对高可用(HA)技术的应用需求不断提高，以便提供持续的、不间断的计算机系统或网络服务。

一、Keepalived的概念

1. Keepalived 概述

  Keeplived是一款专为LVS和HA设计的健康检查工具。主要支持故障自动切换(Failover)和支持节点健康状态检查(Health Checking)。官方网站: http://www.keepalived.org/。

2. Keepalived 作用

  判断LVS负载调度器、节点服务器的可用性，当master主机出现故障及时切换到backup节点保证业务正常，当master故障主机恢复后将其重新加入群集并且业务重新切换回master节点。

3. Keepalived 实现原理剖析

3.1 Keepalived 工作原理

  Keepalived是一个基于VRRP热备份协议来实现服务高可用方案，可用解决静态路由器的单点故障问题。

  在一个LVS服条集群中通常有主服条器（MASTER）和备份服务器（BACKUP）两种角色的服务器，但是对外表现为一个虚拟IP（VIP），主服务器会发送VRRP通告信息给备份服务器，当备份服务器收不到VRRP消息的时候，即主服务器异常的时候，备份服务器就会接管虚拟IP，继续提供服务，从而保证了高可用性。

在这里插入图片描述

3.1 VRRP协议（虚拟路由冗余协议）

  VRRP是一种容错协议，它通过把几台路由设备联合组成一台虚拟的路由设备，并通过一定的机制来保证当主机的下一跳设备出现故障时，可以及时将业务切换到其它设备，从而保持通讯的连续性和可靠性。

  VRRP将局域网内的一组路由器划分在一起，称为一个备份组。备份组由一个Master路由器和多个Backup路由器组成，功能上相当于一台虚拟路由器。局域网内的主机只需要知道这个虚拟路由器的IP地址，并不需知道具体某台设备的IP地址，将网络内主机的缺省网关设置为该虚拟路由器的IP地址，主机就可以利用该虚拟网关与外部网络进行通信。

  VRRP将该虚拟路由器动态关联到承担传输业务的物理路由器上，当该物理路由器出现故障时，再次选择新路由器来接替业务传输工作，整个过程对用户完全透明，实现了内部网络和外部网络不间断通信。

4. Keepalived 主要模块及其作用

keepalived体系架构中主要有三个模块，分别是core、check和vrrp。

  • core模块：为keepalived的核心，负责主进程的启动、维护及全局配置文件的加载和解析。
  • vrrp模块：是来实现VRRP协议的。（调度器之间的健康检查和主备切换）
  • check模块：负责健康检查，常见的方式有端口检查及URL检查。（节点服务器的健康检查）

4.1 健康检查方式（学名：探针）

  发送心跳信息。例如ping/pong命令等等。

  TCP端口检查。例如向一台主机的IP:PROT发送TCP三次握手连接。

  HTTP URL检查。例如向一台主机的http://IP+PROT/...URL路径发送HTTP GET{}请求方法，主机响应返回2xx或者3xx为正常，若响应返回4xx或者5xx则认为健康检查异常。

5. 脑裂的形成和解决（重要）

5.1 什么是脑裂

  脑裂（split-brain）：指在一个高可用（HA）系统中，当联系着的两个节点断开联系时，本来为一个整体的系统，分裂为两个独立节点，这时两个节点开始争抢共享资源，结果会导致系统混乱，数据损坏。

  对于无状态服务的HA，无所谓脑裂不脑裂；但对有状态服务（比如MySQL）的HA，必须要严格防止脑裂。

5.2 脑裂的形成

  Master一直发送心跳消息给backup主机，如果中间的链路突然断掉，backup主机将无法收到master主机发送过来的心跳消息（也就是vrrp报文），backup这时候会立即抢占master的工作，但其实这时候的master是正常工作的，此时就会出现脑裂的现象。

5.3 预防脑裂的发生

  • 使用shell脚本对这两个主机之间的连通性进行监测，如果发现有问题，就会立即关闭keepalived服务来防止脑裂的产生。
  • 增加一条链路作为备用链路，即使主链路挂掉了，备用链路也会顶上来，master主机可以继续给backup主机发送心跳消息。

  • 使用监控软件的方法，这边主要是采用的zabbix来监控的，主要就是创建监控项，创建触发器来测试关闭keepalived服务。

    主调度器

    判断主从调度器之间链路是否断连

    ping -c 3 -i 0.5 -w 2 192.168.145.30 &> /dev/null

    if [ $? -ne 0 ];then
    ssh 192.168.145.75 ping -c 3 -i 0.5 -w 2 -I 192.168.145.75 192.168.145.30 &> /dev/null
    if [ $? -eq 0 ];then

    1.   systemctl stop keepalived

    fi
    fi

二、LVS+Keepalived 高可用集群部署

1. 环境部署

\[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-F5lYh6uF-1686449748780)(C:\\Users\\86138\\AppData\\Roaming\\Typora\\typora-user-images\\image-20230609201942660.png)\]

  1. 主DR 服务器：192.168.145.15
  2. 备DR 服务器：192.168.145.30
  3. Web 服务器1：192.168.145.45
  4. Web 服务器2：192.168.145.60
  5. vip：192.168.145.20
  6. 客户端：192.168.145.75

2. LVS 部署

2.1 配置负载调度器（主、备相同）

  1. [root@localhost ~]# systemctl stop firewalld.service
  2. [root@localhost ~]# setenforce 0
  3. [root@localhost ~]# yum -y install ipvsadm keepalived
  4. ###加载ip_vs模块
  5. [root@localhost ~]# modprobe ip_vs
  6. ###查看ip_vs版本信息
  7. [root@localhost ~]# cat /proc/net/ip_vs
  8. IP Virtual Server version 1.2.1 (size=4096)
  9. Prot LocalAddress:Port Scheduler Flags
  10.   -> RemoteAddress:Port Forward Weight ActiveConn InActConn

（1）配置keeplived（主、备DR 服务器上都要设置）

  1. [root@localhost ~]#cd /etc/keepalived/
  2. [root@localhost keepalived]# cp keepalived.conf keepalived.conf.bak
  3. [root@localhost keepalived]# vim keepalived.conf
  4. ......
  5. ###定义全局参数
  6. global_defs {                        
  7. ###--10行--修改，邮件服务指向本地
  8.     smtp_server 127.0.0.1
  9. ###--12行--修改，指定服务器（路由器）的名称，主备服务器名称须不同，主为LVS_01，备为LVS_02
  10.     router_id LVS_01
  11. ###--14行到18行，注释掉，取消严格遵守VRRP协议功能，否则VIP无法被连接
  12.     #vrrp_strict
  13. }
  15. ###定义VRRP热备实例参数
  16. vrrp_instance VI_1 {                
  17. ###--20行--修改，指定热备状态，主为MASTER，备为BACKUP
  18.     state MASTER
  19. ###--21行--修改，指定承载vip地址的物理接口
  20.     interface ens33
  21. ###--22行--修改，指定虚拟路由器的ID号，每个热备组保持一致    
  22.     virtual_router_id 10
  23.     #nopreempt                        #如果设置非抢占模式，两个节点state必须为BACKUP，并加上配置 nopreempt
  24. ###--23行--修改，指定优先级，数值越大优先级越高，这里设置主为100，备为90
  25.     priority 100
  26.     advert_int 1                    #通告间隔秒数(心跳频率)
  27.     authentication {                #定义认证信息,每个热备组保持一致
  28.         auth_type PASS                #认证类型
  29. ###--27行--修改，指定验证密码，主备服务器保持一致
  30.         auth_pass abc123
  31.     }
  32.     virtual_ipaddress {                #指定群集vip地址
  33.         192.168.145.20
  34.     }
  35. }
  36. ###--36行--修改，指定虚拟服务器地址(VIP)、端口，定义虚拟服务器和Web服务器池参数
  37. virtual_server 192.168.145.20 80 {
  38.     delay_loop 6                    #健康检查的间隔时间(秒)
  39.     lb_algo rr                        #指定调度算法，轮询(rr)
  40. ###--39行--修改，指定群集工作模式，直接路由(DR)
  41.     lb_kind DR
  42.     persistence_timeout 0            #连接保持时间(秒)
  43.     protocol TCP                    #应用服务采用的是 TCP协议
  44. ###--43行--修改，指定第一个Web节点的地址、端口
  45.     real_server 192.168.145.45 80 {
  46.         weight 1                    #节点的权重
  47. ###--45行--删除，添加以下健康检查方式        
  48.         TCP_CHECK {
  49.             connect_port 80            #添加检查的目标端口
  50.             connect_timeout 3        #添加连接超时(秒)
  51.             nb_get_retry 3            #添加重试次数
  52.             delay_before_retry 3    #添加重试间隔
  53.         }
  54.     }
  56.     real_server 192.168.145.60 80 {        #添加第二个 Web节点的地址、端口
  57.         weight 1
  58.         TCP_CHECK {
  59.             connect_port 80
  60.             connect_timeout 3
  61.             nb_get_retry 3
  62.             delay_before_retry 3
  63.         }
  64.     }
  65. ##删除后面多余的配置##
  66. }
  68. [root@localhost keepalived]# systemctl start keepalived
  69. [root@localhost keepalived]# ip addr
  70. 1: lo: <LOOPBACK,UP,LOWER_UP> mtu 65536 qdisc noqueue state UNKNOWN group default qlen 1000
  71.     link/loopback 00:00:00:00:00:00 brd 00:00:00:00:00:00
  72.     inet 127.0.0.1/8 scope host lo
  73.        valid_lft forever preferred_lft forever
  74.     inet6 ::1/128 scope host 
  75.        valid_lft forever preferred_lft forever
  76. 2: ens32: <BROADCAST,MULTICAST,UP,LOWER_UP> mtu 1500 qdisc pfifo_fast state UP group default qlen 1000
  77.     link/ether 00:0c:29:33:c5:93 brd ff:ff:ff:ff:ff:ff
  78.     inet 192.168.145.15/24 brd 192.168.145.255 scope global noprefixroute ens32
  79.        valid_lft forever preferred_lft forever
  80.     inet 192.168.145.20/32 scope global ens32
  81.        valid_lft forever preferred_lft forever
  82.     inet6 fe80::fd54:3fb4:558d:82fb/64 scope link noprefixroute 
  83.        valid_lft forever preferred_lft forever
  84. 3: virbr0: <NO-CARRIER,BROADCAST,MULTICAST,UP> mtu 1500 qdisc noqueue state DOWN group default qlen 1000
  85.     link/ether 52:54:00:e4:ec:73 brd ff:ff:ff:ff:ff:ff
  86.     inet 192.168.122.1/24 brd 192.168.122.255 scope global virbr0
  87.        valid_lft forever preferred_lft forever
  88. 4: virbr0-nic: <BROADCAST,MULTICAST> mtu 1500 qdisc pfifo_fast master virbr0 state DOWN group default qlen 1000
  89.     link/ether 52:54:00:e4:ec:73 brd ff:ff:ff:ff:ff:ff

（2）启动 ipvsadm 服务

  1. [root@localhost keepalived]# ipvsadm-save > /etc/sysconfig/ipvsadm
  2. [root@localhost keepalived]# systemctl start ipvsadm
  3. [root@localhost keepalived]# ipvsadm -ln
  4. IP Virtual Server version 1.2.1 (size=4096)
  5. Prot LocalAddress:Port Scheduler Flags
  6.   -> RemoteAddress:Port           Forward Weight ActiveConn InActConn
  7. TCP  127.0.0.1:80 rr
  8. TCP  192.168.145.20:80 rr
  9.   -> 192.168.145.45:80            Route   1      0          0         
  10.   -> 192.168.145.60:80            Route   1      0          0

（3）调整 proc 响应参数，关闭Linux 内核的重定向参数响应

  1. [root@localhost ~]# vim /etc/sysctl.conf
  2. net.ipv4.conf.all.send_redirects = 0
  3. net.ipv4.conf.default.send_redirects = 0
  4. net.ipv4.conf.ens33.send_redirects = 0
  5. ###刷新
  6. [root@localhost ~]# sysctl -p
  7. net.ipv4.conf.all.send_redirects = 0
  8. net.ipv4.conf.default.send_redirects = 0
  9. net.ipv4.conf.ens32.send_redirects = 0

2.2 配置节点服务器

（1）关闭防火墙，安装httpd服务

  1. [root@localhost ~]#[root@localhost ~]#systemctl stop firewalld
  2. [root@localhost ~]#setenforce 0
  4. [root@localhost ~]# yum -y install httpd
  5. [root@localhost ~]# systemctl start httpd

（2）设置访问网页

  1. ###--192.168.145.45---
  2. [root@localhost ~]# echo 'this is accp web!' > /var/www/html/index.html
  4. ###--192.168.145.60---
  5. [root@localhost ~]# echo 'this is benet web!' > /var/www/html/index.html

（3）网卡配置以及配置虚拟VIP地址

  1. [root@localhost ~]# vim /etc/sysconfig/network-scripts/ifcfg-lo:0
  2. DEVICE=lo:0
  3. ONBOOT=yes
  4. IPADDR=192.168.145.20
  5. ###注意：子网掩码必须全为 1
  6. NETMASK=255.255.255.255
  8. [root@localhost ~]#service network restart
  9. ###启动环回网卡
  10. [root@localhost ~]#ifup lo:0
  11. ###启动环回网卡
  12. [root@localhost ~]#ifconfig lo:0
  13. lo:0: flags=73<UP,LOOPBACK,RUNNING>  mtu 65536
  14.         inet 192.168.145.20  netmask 255.255.255.255
  15.         loop  txqueuelen 1000  (Local Loopback)
  16. [root@localhost ~]#route add -host 192.168.145.20 dev lo:0
  17. ###调整内核的 ARP 响应参数以阻止更新 VIP 的 MAC 地址，避免发生冲突
  18. [root@localhost ~]#vim /etc/sysctl.conf
  19. net.ipv4.conf.lo.arp_ignore = 1
  20. net.ipv4.conf.lo.arp_announce = 2
  21. net.ipv4.conf.all.arp_ignore = 1
  22. net.ipv4.conf.all.arp_announce = 2
  23. ###刷新
  24. [root@localhost ~]#sysctl -p
  25. net.ipv4.conf.lo.arp_ignore = 1
  26. net.ipv4.conf.lo.arp_announce = 2
  27. net.ipv4.conf.all.arp_ignore = 1
  28. net.ipv4.conf.all.arp_announce = 2

2.3 测试验证

  1. 在客户端访问 http://192.168.145.20/ 
  2. 再在主服务器关闭 keepalived 服务后再测试
  3. systemctl stop keepalived

\[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-YFnLEk9B-1686449748780)(C:\\Users\\86138\\AppData\\Roaming\\Typora\\typora-user-images\\image-20230609215948144.png)\]

三、常见问题

1. Keepalived 通过什么判断哪台主机为主服务器，通过什么方式配置浮动IP？

  Keepalived首先做初始化先检查state状态，master为主服务器，backup为备服务器。

  然后再对比所有服务器的priority，谁的优先级高谁是最终的主服务器。

  优先级高的服务器会通过ip命令为自己的电脑配置一个提前定义好的浮动IP地址。

2. keepalived 的抢占与非抢占模式

  抢占模式即MASTER从故障中恢复后，会将VIP从BACKUP节点中抢占过来。非抢占模式即MASTER恢复后不抢占BACKUP升级为MASTER后的VIP。

  非抢占式俩节点state必须为bakcup，且必须配置nopreempt。

  1. [root@localhost ~]# vim /etc/keepalived/keepalived.conf
  2. vrrp_instance VI_1 {
  3.     state BACKUP
  4.     nopreempt
  5.     interface ens32
  6.     virtual router_id 51
  7.     priority 100
  8.     advert_int 1
  9.     authentication{
  10.         auth_type PASS
  11.         auth_pass 1111
  12.     }
  13.     virtual ipaddress {
  14.     192.168.80.188
  15.     }
  16. }

  注意：这样配置后，我们要注意启动服务的顺序，优先启动的获取master权限，与优先级没有关系了。

四、Nginx+keepalived高可用集群部署

在这里插入图片描述

1. 环境部署

  1. 主调度器
  2. 192.168.145.15
  3. 从调度器
  4. 192.168.145.30
  5. vip地址
  6. 192.168.145.20

2. Nginx 部署

  1. [root@localhost ~]# systemctl stop firewalld.service
  2. [root@localhost ~]# setenforce 0
  3. [root@localhost ~]# yum -y install ipvsadm keepalived
  4. ###加载ip_vs模块
  5. [root@localhost ~]# modprobe ip_vs
  6. ###查看ip_vs版本信息
  7. [root@localhost ~]# cat /proc/net/ip_vs
  8. IP Virtual Server version 1.2.1 (size=4096)
  9. Prot LocalAddress:Port Scheduler Flags
  10.   -> RemoteAddress:Port Forward Weight ActiveConn InActConn

2.1 配置负载调度器（主、备相同）

  1. [root@localhost ~]# vim keepalived.conf
  2. ......
  3. global_defs {
  4.     smtp_server 127.0.0.1
  5.     router_id Nginx_01
  6.     #vrrp_strict
  7. }
  9. vrrp_script chk_nginx {
  10.     ###指定监控脚本的路径
  11.     script "/etc/keepalived/nginx_check.sh"
  12.     ###检测的间隔时间
  13.     interval 2
  14.     ###权重
  15.     weight 2
  16. }
  18. ###定义VRRP热备实例参数
  19. vrrp_instance VI_1 {                
  20. ###--20行--修改，指定热备状态，主为MASTER，备为BACKUP
  21.     state MASTER
  22. ###--21行--修改，指定承载vip地址的物理接口
  23.     interface ens33
  24. ###--22行--修改，指定虚拟路由器的ID号，每个热备组保持一致    
  25.     virtual_router_id 10
  26.     #nopreempt                        #如果设置非抢占模式，两个节点state必须为BACKUP，并加上配置 nopreempt
  27. ###--23行--修改，指定优先级，数值越大优先级越高，这里设置主为100，备为90
  28.     advert_int 1                    
  29.     authentication {                
  30.         auth_type PASS
  31.         auth_pass 1111
  32.     }
  33.     virtual_ipaddress {
  34.         192.168.145.20
  35.     }
  36.      ###加载追踪模块
  37.     track_script {                  
  38.         chk_nginx
  39.     }
  40. }
  42. ###检测nginx是否启动的脚本
  43. [root@localhost ~]# vim /etc/keepalived/nginx_check.sh
  44. #!/bin/bash
  45. if ! killall -0 nginx  &> /dev/null
  46. then
  47.     systemctl stop keepalived
  48. fi
  50. ###给脚本添加执行权限
  51. [root@localhost ~]# chmod +x nginx_check.sh

2.2 配置Nginx四层负载均衡

  参考负载均衡博客。

3. 测试验证

  1. 在客户端访问 http://192.168.145.20/ 
  2. 再在主服务器关闭 nginx 服务后再测试，看keepalived服务是否同时关闭，VIP是否转移，再次启动

\[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-Sfxr70Yh-1686449748781)(C:\\Users\\86138\\AppData\\Roaming\\Typora\\typora-user-images\\image-20230611100723106.png)\]

五、总结

1. 一个合格的集群应该具有的特性

  • 负载均衡：LVS、Nginx、Haproxy
  • 给调度器/节点服务器健康检查：Keepalived、Heartbeat
  • 故障转移

2. 脑裂相关问题

脑裂的形成和如何预防脑裂

发表评论

表情：
评论列表 （有 0 条评论，159人围观）

还没有评论，来说两句吧...

相关阅读

    相关 集群

    集群通常来说，是某同一类型的数据库的集合，比如mysql集群，redis集群，mongodb集群，但是不存在mysql、redis、mongodb的混合集群。 因此一

    妖狐艹你老母妖狐艹你老母/ 0 赞/ 80 阅读

    相关 集群集群

    一、什么是集群 集群（Cluster ）是将多个单独存在的服务器，通过集群技术将其集合，构成一个工作组、一台大型的服务器，以单一系统的模式加以管理。 简而言之，集群就是

    港控/mmm°港控/mmm°/ 0 赞/ 261 阅读

    相关 集群之负载均衡集群

    一、说LVS不能不说集群，下面先来说说集群。 在没有集群以前，互联网还没有兴起，一台服务器通常能完成基本的工作，随着互联网的兴起，web应用的流行，上网的用户越来越多，一台服

    向右看齐向右看齐/ 0 赞/ 433 阅读