【大型网站技术实践】初级篇：借助LVS+Keepalived实现负载均衡

谁借莪１个温暖的怀抱￠ 2022-03-18 11:35 93阅读 0赞

# 一、负载均衡：必不可少的基础手段 #

## 1.1 找更多的牛来拉车吧 ##

当前大多数的互联网系统都使用了服务器集群技术，集群即**将相同服务部署在多台服务器上构成一个集群整体对外提供服务**，这些集群可以是Web应用服务器集群，也可以是数据库服务器集群，还可以是分布式缓存服务器集群等等。

![100031233999902.jpg][]

> 古人有云：**当一头牛拉不动车的时候，不要去寻找一头更强壮的牛，而是用两头牛来拉车**。

![load balance][]

在实际应用中，在Web服务器集群之前总会有一台负载均衡服务器，负载均衡设备的任务就是作为Web服务器流量的入口，挑选最合适的一台Web服务器，将客户端的请求转发给它处理，实现客户端到真实服务端的透明转发。最近几年很火的「云计算」以及分布式架构，本质上也是将后端服务器作为计算资源、存储资源，由某台管理服务器封装成一个服务对外提供，客户端不需要关心真正提供服务的是哪台机器，在它看来，就好像它面对的是一台拥有近乎无限能力的服务器，而本质上，真正提供服务的，是后端的集群。

## 1.2 负载均衡的类型 ##

负载均衡可以采用硬件设备（例如常常听见的F5），也可以采用软件负载。

商用硬件负载设备成本通常较高（一台几十万上百万很正常），所以在条件允许的情况下我们会采用软件负载；

软件负载解决的两个核心问题是：选谁、转发，其中最著名的是**LVS**（Linux Virtual Server）。

> **传送门->**关于负载均衡的实现方式类型等介绍请浏览我的另一篇博文：[《大型网站技术架构》读书笔记之六：永无止境之网站的伸缩性架构][Link 1]

# 二、初识LVS：Linux Virtual Server #

## 2.1 LVS是神马东西 ##

LVS是Linux Virtual Server的简称，也就是Linux虚拟服务器, 是一个由章文嵩博士发起的自由软件项目，它的官方站点是[www.linuxvirtualserver.org][]。现在LVS已经是 Linux标准内核的一部分，在Linux2.4内核以前，使用LVS时必须要重新编译内核以支持LVS功能模块，但是从Linux2.4内核以后，已经完全内置了LVS的各个功能模块，无需给内核打任何补丁，可以直接使用LVS提供的各种功能。

## 2.2 LVS有神马作用 ##

LVS主要用于**服务器集群的负载均衡**。它工作在网络层，可以实现高性能，高可用的服务器集群技术。它廉价，可把许多低性能的服务器组合在一起形成一个超级服务器。它易用，配置非常简单，且有多种负载均衡的方法。它稳定可靠，即使在集群的服务器中某台服务器无法正常工作，也不影响整体效果。另外可扩展性也非常好。

LVS自从1998年开始，发展到现在已经是一个比较成熟的技术项目了。可以利用LVS技术实现高可伸缩的、高可用的网络服务，例如WWW服务、Cache服务、DNS服务、FTP服务、MAIL服务、视频/音频点播服务等等，有许多比较著名网站和组织都在使用LVS架设的集群系统，例如：Linux的门户网站（[www.linux.com][]）、向RealPlayer提供音频视频服务而闻名的Real公司（[www.real.com][]）、全球最大的开源网站（sourceforge.net）等。

## 2.3 LVS的体系结构 ##

使用LVS架设的服务器集群系统有三个部分组成：

（1）最前端的负载均衡层，用Load Balancer表示；

（2）中间的服务器集群层，用Server Array表示；

（3）最底端的数据共享存储层，用Shared Storage表示；

在用户看来，所有的内部应用都是透明的，用户只是在使用一个虚拟服务器提供的高性能服务。

![091720304649072.png][]

> **传送门->**关于体系结构的详细介绍，请浏览南飞蚂蚁的blog：[http://ixdba.blog.51cto.com/2895551/552947][http_ixdba.blog.51cto.com_2895551_552947]

## 2.4 LVS负载均衡机制 ##

（1）LVS是**四层**负载均衡，也就是说建立在OSI模型的第四层——传输层之上，传输层上有我们熟悉的TCP/UDP，LVS支持TCP/UDP的负载均衡。因为LVS是四层负载均衡，因此它相对于其它高层负载均衡的解决办法，比如DNS域名轮流解析、应用层负载的调度、客户端的调度等，它的效率是非常高的。

（2）LVS的转发主要通过**修改IP地址**（NAT模式，分为源地址修改SNAT和目标地址修改DNAT）、**修改目标MAC**（DR模式）来实现。

①NAT模式：网络地址转换

![NAT][]

NAT（Network Address Translation）是一种**外网和内网地址映射**的技术。NAT模式下，网络数据报的进出都要经过LVS的处理。LVS需要作为RS（真实服务器）的网关。当包到达LVS时，LVS做目标地址转换（DNAT），将目标IP改为RS的IP。RS接收到包以后，仿佛是客户端直接发给它的一样。RS处理完，返回响应时，源IP是RS IP，目标IP是客户端的IP。这时RS的包通过网关（LVS）中转，LVS会做源地址转换（SNAT），将包的源地址改为VIP，这样，这个包对客户端看起来就仿佛是LVS直接返回给它的。客户端无法感知到后端RS的存在。

②DR模式：直接路由

![DR][]

DR模式下需要LVS和RS集群绑定同一个VIP（RS通过将VIP绑定在loopback实现），但与NAT的不同点在于：请求由LVS接受，由真实提供服务的服务器（RealServer, RS）直接返回给用户，返回的时候不经过LVS。详细来看，一个请求过来时，LVS只需要将网络帧的MAC地址修改为某一台RS的MAC，该包就会被转发到相应的RS处理，注意此时的源IP和目标IP都没变，LVS只是做了一下移花接木。RS收到LVS转发来的包时，链路层发现MAC是自己的，到上面的网络层，发现IP也是自己的，于是这个包被合法地接受，RS感知不到前面有LVS的存在。而当RS返回响应时，只要直接向源IP（即用户的IP）返回即可，不再经过LVS。

（3）**DR**负载均衡模式数据分发过程中不修改IP地址，只修改mac地址，由于实际处理请求的真实物理IP地址和数据请求目的IP地址一致，所以不需要通过负载均衡服务器进行地址转换，可将响应数据包直接返回给用户浏览器，避免负载均衡服务器网卡带宽成为瓶颈。因此，DR模式具有较好的性能，也是目前大型网站**使用最广泛**的一种负载均衡手段。

# 三、构建实战：LVS+Keepalived实现负载均衡 #

## 3.1 实验结构总览 ##

![092307196049297.png][]

（1）本次基于VMware Workstation搭建一个四台Linux（CentOS 6.4）系统所构成的一个服务器集群，其中两台负载均衡服务器（一台为主机，另一台为备机），另外两台作为真实的Web服务器（向外部提供http服务，这里仅仅使用了CentOS默认自带的http服务，没有安装其他的类似Tomcat、Jexus服务）。

（2）本次实验基于DR负载均衡模式，设置了一个VIP（Virtual IP）为192.168.80.200，用户只需要访问这个IP地址即可获得网页服务。其中，负载均衡主机为192.168.80.100，备机为192.168.80.101。Web服务器A为192.168.80.102，Web服务器B为192.168.80.103。

## 3.2 基础准备工作 ##

以下工作针对所有服务器，也就是说要在四台服务器中都要进行配置：

（1）绑定静态IP地址

命令模式下可以执行setup命令进入设置界面配置静态IP地址；x-window界面下可以右击网络图标配置；配置完成后执行service network restart重新启动网络服务；

验证：执行命令**ifconfig**

（2）设定主机名

①修改当前会话中的主机名，执行命令hostname xxxx (这里xxxx为你想要改为的名字)

②修改配置文件中的主机名，执行命令vi /etc/sysconfig/network (√一般需要进行此步凑才能永久更改主机名)

验证：重启系统**reboot**

（3）IP地址与主机名的绑定

执行命令vi /etc/hosts,增加一行内容，如下(下面的从节点以你自己的为主，本实验搭建了两个从节点)：

**　　192.168.80.100 lvs-master**

**　　192.168.80.101 lvs-slave**

**　　\#****下面是本次试验的两个真实服务器节点**

**　　192.168.80.102 lvs-webserver1**

**　　192.168.80.103 lvs-webserver2**

保存后退出

验证：**ping lvs-master**

（4）关闭防火墙

①执行关闭防火墙命令：**service iptables stop**

验证：**service iptables stauts**

②执行关闭防火墙自动运行命令：**chkconfig iptables off**

验证：**chkconfig --list | grep iptables**

## 3.3 配置两台Web服务器 ##

以下操作需要在角色为Web服务器的两台中进行，不需要在负载均衡服务器中进行操作：

（1）开启http服务

命令：service httpd start

补充：chkconfig httpd on -->将httpd设为自启动服务

（2）在宿主机访问Web网页，并通过FTP工具上传自定义网页：这里上传一个静态网页，并通过更改其中的html来区别两台Web服务器，以下图所示为例，其中一台显示from 192.168.80.102，而另一台显示from 192.168.80.103；

![092331330897815.jpg][]

（3）编辑realserver脚本文件

①进入指定文件夹：cd /etc/init.d/

②编辑脚本文件：vim realserver

![复制代码][copycode.gif]

SNS_VIP=192.168.80.200
    /etc/rc.d/init.d/functions
    case "$1" in
    start)
           ifconfig lo:0 $SNS_VIP netmask 255.255.255.255 broadcast $SNS_VIP
           /sbin/route add -host $SNS_VIP dev lo:0
           echo "1" >/proc/sys/net/ipv4/conf/lo/arp_ignore
           echo "2" >/proc/sys/net/ipv4/conf/lo/arp_announce
           echo "1" >/proc/sys/net/ipv4/conf/all/arp_ignore
           echo "2" >/proc/sys/net/ipv4/conf/all/arp_announce
           sysctl -p >/dev/null 2>&1
           echo "RealServer Start OK"
           ;;
    stop)
           ifconfig lo:0 down
           route del $SNS_VIP >/dev/null 2>&1
           echo "0" >/proc/sys/net/ipv4/conf/lo/arp_ignore
           echo "0" >/proc/sys/net/ipv4/conf/lo/arp_announce
           echo "0" >/proc/sys/net/ipv4/conf/all/arp_ignore
           echo "0" >/proc/sys/net/ipv4/conf/all/arp_announce
           echo "RealServer Stoped"
           ;;
    *)
           echo "Usage: $0 {start|stop}"
           exit 1
    esac
    exit 0

![复制代码][copycode.gif]

这里我们设置虚拟IP为：192.168.80.200

③保存脚本文件后更改该文件权限：chmod 755 realserver

④开启realserver服务：service realserver start

## 3.4 配置主负载服务器 ##

（1）安装Keepalived相关包

yum install -y keepalived

在CentOS下，通过yum install命令可以很方便地安装软件包，但是前提是你的虚拟机要联网；

（2）编辑keepalived.conf配置文件

①进入keepalived.conf所在目录：cd /etc/keepalived

②首先清除掉keepalived原有配置：> keepalived.conf

③重新编辑keepalived配置文件：vi keepalived.conf

![复制代码][copycode.gif]

global_defs {  
       notification_email {  
             edisonchou@hotmail.com  
       }  
       notification_email_from sns-lvs@gmail.com  
       smtp_server 192.168.80.1  
       smtp_connection_timeout 30
       router_id LVS_DEVEL  # 设置lvs的id，在一个网络内应该是唯一的
    }  
    vrrp_instance VI_1 {  
        state MASTER   #指定Keepalived的角色，MASTER为主，BACKUP为备          
        interface eth1  #指定Keepalived的角色，MASTER为主，BACKUP为备
        virtual_router_id 51  #虚拟路由编号，主备要一致
        priority 100  #定义优先级，数字越大，优先级越高，主DR必须大于备用DR    
        advert_int 1  #检查间隔，默认为1s
        authentication {  
            auth_type PASS  
            auth_pass 1111  
        }  
        virtual_ipaddress {  
            192.168.80.200  #定义虚拟IP(VIP)为192.168.2.33，可多设，每行一个
        }  
    }  
    # 定义对外提供服务的LVS的VIP以及port
    virtual_server 192.168.80.200 80 {  
        delay_loop 6 # 设置健康检查时间，单位是秒                    
        lb_algo wrr # 设置负载调度的算法为wlc                   
        lb_kind DR # 设置LVS实现负载的机制，有NAT、TUN、DR三个模式   
        nat_mask 255.255.255.0                
        persistence_timeout 0          
        protocol TCP                  
        real_server 192.168.80.102 80 {  # 指定real server1的IP地址
            weight 3   # 配置节点权值，数字越大权重越高              
            TCP_CHECK {  
            connect_timeout 10         
            nb_get_retry 3  
            delay_before_retry 3  
            connect_port 80  
            }  
        }  
        real_server 192.168.80.103 80 {  # 指定real server2的IP地址
            weight 3  # 配置节点权值，数字越大权重越高  
            TCP_CHECK {  
            connect_timeout 10  
            nb_get_retry 3  
            delay_before_retry 3  
            connect_port 80  
            }  
         }  
    }

![复制代码][copycode.gif]

（3）开启keepalived服务

service keepalived start

## 3.5 配置从负载服务器 ##

从负载服务器与主负载服务器大致相同，只是在keepalived的配置文件中需要改以下两处：

（1）将state由MASTER改为BACKUP

（2）将priority由100改为99

![复制代码][copycode.gif]

vrrp_instance VI_1 {  
        state BACKUP # 这里改为BACKUP
        interface eth1  
        virtual_router_id 51  
        priority 99 # 这里改为99，master优先级是100
        advert_int 1  
        authentication {  
            auth_type PASS  
            auth_pass 1111  
        }  
        virtual_ipaddress {  
            192.168.80.200  
        }  
    }

![复制代码][copycode.gif]

## 3.6 验证性测试 ##

（1）指定请求的均衡转发：因为两个Web服务器的权重都一样，所以会依次转发给两个Web服务器；

![100002201983313.gif][]

（2）Web服务器发生故障时：

①A发生故障后，只从B获取服务；

这里模拟192.168.80.102发生故障，暂停其http服务：service httpd stop

![100004250583535.jpg][]

再来看看这时从外部访问VIP时，便会只从192.168.80.103获取网页：

![100005512455970.gif][]

②A故障修复后，又从A获取服务；

这里模拟192.168.80.102修复完成，重启其http服务：service httpd start

![100007391989389.jpg][]

再来看看这时从外部访问VIP，又可以从192.168.80.102获取网页：

![100010006679270.gif][]

（3）主负载均衡服务器发生故障时，备机立即充当主机角色提供请求转发服务：

这里模拟192.168.80.100发生故障，暂停其keepalived服务：service keepalived stop

![100012207294382.jpg][]

再来看看这时从外部访问VIP，还是可以正常获取网页：

![100013188088138.gif][]

# 学习小结 #

LVS是目前广为采用的软件负载均衡解决方案，在一些大型企业级系统及互联网系统中应用。本次，简单地了解了一下LVS，并在Linux下搭建了一个小小的测试环境，借助Keepalived实现了一个最小化的负载均衡测试环境。LVS是一个可以工作在网络第四层的负载均衡软件，因此它相对于Nginx一类工作在第七层的负载均衡软件有着无可比拟的性能优势，而且它还是我国的章文嵩博士（现在阿里的副总裁，淘宝的技术专家）作为创始人发起的，现已经成为Linux内核的组成部分。

当然，目前流行的LVS解决方案中，在Web服务器端也有采用了Nginx+Tomcat这样的搭配类型，静态文件和动态文件分开进行处理，也不失为一种有效的尝试。在以后的日子里，我还会尝试下在Linux下借助Jexus跑ASP.NET MVC项目，试试.NET项目在Linux下的运行效果，希望到时也可以做一些分享。好了，今天就到此停笔。

转载：[https://www.cnblogs.com/edisonchou/p/4281978.html][https_www.cnblogs.com_edisonchou_p_4281978.html]

# 参考资料 #

（1）王晨纯，《Web基础架构：负载均衡和LVS》：[http://www.importnew.com/11229.html][http_www.importnew.com_11229.html]

（2）win\_xp，《LVS简介及使用》：[http://www.cnblogs.com/codebean/archive/2011/07/25/2116043.html][http_www.cnblogs.com_codebean_archive_2011_07_25_2116043.html]

（3）jiwang1980，《LVS+Keepalived》：[http://7567567.blog.51cto.com/706378/578289][http_7567567.blog.51cto.com_706378_578289]

（4）南飞蚂蚁的BLOG，《Linux负载均衡软件LVS之概念篇》：[http://ixdba.blog.51cto.com/2895551/552947][http_ixdba.blog.51cto.com_2895551_552947]

（5）AKing王国，《四层和七层负载均衡的区别》：[http://kb.cnblogs.com/page/188170/][http_kb.cnblogs.com_page_188170]

[100031233999902.jpg]: /images/20220318/3d84e348dc144e7a920f30f3d54eebcd.png
[load balance]: /images/20220318/2bccba1e203f49fea839c37fc11bee92.png
[Link 1]: http://www.cnblogs.com/edisonchou/p/3851333.html
[www.linuxvirtualserver.org]: http://www.linuxvirtualserver.org/
[www.linux.com]: http://www.linux.com/
[www.real.com]: http://www.real.com/
[091720304649072.png]: /images/20220318/ceccd64fbc424b9cbc33f369a11557f6.png
[http_ixdba.blog.51cto.com_2895551_552947]: http://ixdba.blog.51cto.com/2895551/552947
[NAT]: /images/20220318/345af0a707944a208c7132ac4fd0ced4.png
[DR]: /images/20220318/cdae742e65ea4739af6ff8d37911532d.png
[092307196049297.png]: /images/20220318/e1378de615a84461935f32d374309bca.png
[092331330897815.jpg]: /images/20220318/d32cde4cc5da4e9eb7419392685b07db.png
[copycode.gif]: /images/20220318/663579b5f817417a9533825e1c245eb1.png
[100002201983313.gif]: /images/20220318/82c2d8bc6d9b407c9a9414df92339241.png
[100004250583535.jpg]: /images/20220318/5077fc695cd64b2eb95b1939ea2ab552.png
[100005512455970.gif]: /images/20220318/46ed57bf25a340b8974b73b1bfc2ecd7.png
[100007391989389.jpg]: /images/20220318/0d142f2ec37842b58f616d9da6b66f83.png
[100010006679270.gif]: /images/20220318/c81546817beb4d1081049778dd46acb7.png
[100012207294382.jpg]: /images/20220318/c0c7792004cb44a5a397cd9ed491d506.png
[100013188088138.gif]: /images/20220318/a067259917e24bf19be85e36056da083.png
[https_www.cnblogs.com_edisonchou_p_4281978.html]: https://www.cnblogs.com/edisonchou/p/4281978.html
[http_www.importnew.com_11229.html]: http://www.importnew.com/11229.html
[http_www.cnblogs.com_codebean_archive_2011_07_25_2116043.html]: http://www.cnblogs.com/codebean/archive/2011/07/25/2116043.html
[http_7567567.blog.51cto.com_706378_578289]: http://7567567.blog.51cto.com/706378/578289
[http_kb.cnblogs.com_page_188170]: http://kb.cnblogs.com/page/188170/