负载均衡原理及其使用nginx反向代理实现

柔光的暖阳◎ 2023-06-18 11:57 10阅读 0赞

**原理篇介绍负载均衡和nginx反向代理的原理，实现篇就是nginx实现的负载均衡demo介绍**

### \------------------------------------------------原理篇 ###

### 负载均衡 ###

原理：**将访问流量根据转发策略分发到后端多台云服务器（ECS实例）的流量分发控制服务**。

概述：通过设置虚拟服务地址，将添加的ECS实例虚拟成一个高性能、高可用的应用服务池，并根据转发规则，将来自客户端的请求分发给云服务器池中的ECS实例。

优点：

扩展了应用的服务能力，增强了应用的可用性，简称：SLB。

解决并发压力，提高应用处理性能（增加吞吐量，加强网络处理能力）；

提供故障转移，实现高可用；

通过添加或减少服务器数量，提供网站伸缩性（扩展性）；

安全防护；（负载均衡设备上做一些过滤，黑白名单等处理）

![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzM2Njg4MTQz_size_16_color_FFFFFF_t_70][]

![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzM2Njg4MTQz_size_16_color_FFFFFF_t_70 1][]

### 反向代理 ###

代理与反向代理：VPN服务就是我们常用的一种代理（正向代理），用户将请教交给代理服务器，代理服务器访问网站获取数据，之后代理服务器再将数据返还给用户。在这个过程中，应用服务器并不知道用户的存在。只知道代理浏览器的访问。   
**反向代理是指在服务器端的代理，代理服务器接收用户的请求，再转发给真实服务器，之后再返回给代理服务器再给用户**，在这个过程中，用户并不知道真实服务器的存在。

一句话概括：**普通代理方式是客户使用代理访问多个外部Web服务器，反向代理模式是多个客户使用它访问内部Web服务器，而非访问外部服务器**。

反向代理服务器管理了一组服务器，当用户访问时，代理服务器根据负载均衡算法将请求转发到真实服务器，真实服务器也通过反向代理服务器返还数据。内部服务器不对外部提供服务，所以不需要外部IP，而反向代理服务器需要两个网卡，一个IP用于外部用户访问使用，另外一个用于内部使用。

![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzM2Njg4MTQz_size_16_color_FFFFFF_t_70 2][]

如上图所示，当用户发起访问，请求访问的ip地址是114.100.20.200，到达反向代理服务器时，根据负载均衡算法得到一个真实服务器的IP地址，并将用户请求转发到该服务器上，当真实服务器处理完之后将数据返回到反向代理服务器。反相代理服务器再将该响应的内容返回给用户。

优点：**反向代理服务器位于应用层，负载均衡方案和反向代理服务器集成在了一起，部署简单**  
缺点：**反向代理服务器用户处理所有的请求和响应，其性能可能成为服务器集群的瓶颈**  
（这部分内容原文链接[反向代理][Link 1]）

### Nginx支持的负载均衡调度算法： ###

**1.weight轮询(默认，常用)：**  
接收到的请求按照权重分配到不同的后端服务器，即使在使用过程中，某一台后端服务器宕机，Nginx会自动将该服务器剔除出队列，请求受理情况不会受到任何影响。 这种方式下，可以给不同的后端服务器设置一个权重值(weight)，用于调整不同的服务器上请求的分配率；权重数据越大，被分配到请求的几率越大；该权重值，主要是针对实际工作环境中不同的后端服务器硬件配置进行调整的。

**2.ip\_hash（常用）：**  
每个请求按照发起客户端的ip的hash结果进行匹配，这样的算法下一个固定ip地址的客户端总会访问到同一个后端服务器，这也在一定程度上解决了集群部署环境下session共享的问题。

3.fair：  
智能调整调度算法，动态的根据后端服务器的请求处理到响应的时间进行均衡分配，响应时间短处理效率高的服务器分配到请求的概率高，响应时间长处理效率低的服务器分配到的请求少；结合了前两者的优点的一种调度算法。但是需要注意的是Nginx默认不支持fair算法，如果要使用这种调度算法，请安装upstream\_fair模块。

4.url\_hash：  
按照访问的url的hash结果分配请求，每个请求的url会指向后端固定的某个服务器，可以在Nginx作为静态服务器的情况下提高缓存效率。同样要注意Nginx默认不支持这种调度算法，要使用的话需要安装Nginx的hash软件包。  
（这部分内容原文链接[nginx支持的负载均衡方式][nginx]）

### \------------------------------------------------实现篇 ###

注意：①必须是不同的tomcat。②必须是同名项目，才能达到多服务器（集群）的目的

1、找到tomcat安装目录，复制整个文件夹，改名为tomcat01（名字是为了好记，复制了之后可以把webapps下的项目都删掉，减小容量，提高复制速度），然后复制tomcat01，改名tomcat02

2、找到tomcat02/conf目录下的server.xml，然后修改访问的各种端口，3个地方

<Server port="8006" shutdown="SHUTDOWN">
    
    
    
        <Connector port="8081" protocol="HTTP/1.1"
                   connectionTimeout="20000"
                   redirectPort="8443" />
    
    
    
        <Connector port="8010" protocol="AJP/1.3" redirectPort="8443" />

3、准备一个简单的web项目，我的项目名为web\_01，index.jsp内容如下。如果不想自己创建，可以下载我这里的war包，[点击下载war][war]。（下载所需的5分是系统自定义的，我也不想...）

<%@ page contentType="text/html;charset=UTF-8" language="java" %>
    <% System.out.println("Servlet-01"); %>
    <html>
      <head>
        <title>Servlet-01</title>
      </head>
      <body>
        Servlet-01
      </body>
    </html>

4、打成war包，如web\_01.war

5、复制web\_01.war到tomcat01/webapps下，启动tomcat01，tomcat会自动解压，然后在浏览器中访问localhost:8080/web\_01就可以看到Servlet-01字符串了，tomcat窗口也能看到这个Servlet-01提示信息.注意：不要关闭tomcat01

6、复制web\_01.war到tomcat02/webapps下，建议启动tomcat02让tomcat自动解压，然后修改index.jsp，把Servlet-01改成Servlet-02，如下。把内容改了是用于验证本次负载均衡测试是否成功。然后在浏览器中访问localhost:8081/web\_01就可以看到Servlet-02字符串。注意：不要关闭tomcat02

<%@ page contentType="text/html;charset=UTF-8" language="java" %>
    <% System.out.println("Servlet-02"); %>
    <html>
      <head>
        <title>Servlet-02</title>
      </head>
      <body>
        Servlet-02
      </body>
    </html>

7、到这里，可能浏览器没有返回Servlet-02，每次都是返回Servlet-01或者报错。可能原因：

安装tomcat的时候，环境变量配置了%catalina\_home%，导致启动第二个tomcat的时候，访问的还是第一个tomcat。每次启动tomcat，都会找到%catalina\_home%对应的路径，然后不管启动多少个tomcat，响应的都是%catalina\_home%对应的tomcat了

8、安装nginx，nginx是使用反向代理实现负载均衡的，这里我选择的负载均衡调度算法是weight轮询，通过配置权重，决定访问哪个tomcat的几率大小

9、修改nginx安装目录下的conf/nginx.conf文件

http {
    	#让nginx找到对应目录下的所有配置文件，vhost这个名字是随便起的，然后在conf目录下新建该vhost文件夹
    	include	vhost/*.conf;
        include       mime.types;
        default_type  application/octet-stream;
    
    
    
        #gzip  on;
    	
    	#配置访问的端口和权重
    	upstream localhost{
    		server localhost:8080 weight=1;
    		server localhost:8081 weight=1;
    	}

10、在新建的vhost文件夹下新建vhost.conf，这个名字可以随便起，内容如下。这部分主要是为了域名解析，因为我是单机。注意：修改完配置文件之后，要重新加载（如果你已经启动了nginx），cmd到nginx目录下，执行nginx -s reload命令

server {
    	listen	80;
    	#域名
    	server_name	www.xxx.com;
    	location	/	{ 
    		#代理路径，http://localhost的这个localhost就是nginx.conf下的upstream localhost
            #这个localhost，然后转到底下的两个服务器，端口为8080,8081
    		proxy_pass	http://localhost;
    		#代理超时时间
    		proxy_connect_timeout	500ms;
    	}
    }

11、修改C:\\Windows\\System32\\drivers\\etc\\hosts文件，这里需要用管理员模式打开，可能会修改不了，具体解决办法就另外百度吧

# 配置本机域名解析，对应nginx底下的
    127.0.0.1 www.xxx.com

12、启动nginx，localhost:80，如果这时候没有出现nginx的提示界面，而是其他，那就是端口被占用。win10都是被iis占用了，把iis服务停止就好

13、访问[http://www.xxx.com/web\_01/][http_www.xxx.com_web_01]，多次访问，会发现有时候返回01，有时候返回02，但二者大概五五开，因为权重设置了1：1，从tomcat的cmd窗口也能看到这个结果。

[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzM2Njg4MTQz_size_16_color_FFFFFF_t_70]: https://img-blog.csdnimg.cn/20191202150310541.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzM2Njg4MTQz,size_16,color_FFFFFF,t_70
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzM2Njg4MTQz_size_16_color_FFFFFF_t_70 1]: https://img-blog.csdnimg.cn/20191202150352730.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzM2Njg4MTQz,size_16,color_FFFFFF,t_70
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzM2Njg4MTQz_size_16_color_FFFFFF_t_70 2]: https://img-blog.csdnimg.cn/20191202143536628.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzM2Njg4MTQz,size_16,color_FFFFFF,t_70
[Link 1]: https://blog.csdn.net/bpb_cx/article/details/82771168
[nginx]: https://blog.csdn.net/fallwind_of_july/article/details/91350958
[war]: https://download.csdn.net/download/qq_36688143/12010485
[http_www.xxx.com_web_01]: http://www.fuxy.com/web_01/