2021最新Java面经整理 | 中间件篇（四）Nginx

客官°小女子只卖身不卖艺 2022-12-20 02:00 199阅读 0赞

Nginx应该是现在最火的web和反向代理服务器，没有之一。她是一款诞生于俄罗斯的高性能web服务器，尤其在高并发情况下，相较Apache，有优异的表现。那除了负载均衡，还有静态代理、限流、缓存、黑白名单等功能。

**目录**

一、Nginx的负载均衡策略

1、轮询

2、加权轮询

3、ip\_hash（ IP 绑定）

4、fair（第三方插件）

5、url\_hash（第三方插件）

二、Nginx的进程模型

1、Nginx采用多进程单线程模式，多路IO复用模型。

2、Nginx进程设计（一个master进程，多个worker进程）

3、对比Apache

三、Nginx高并发原理：多进程单线程和多路IO复用模型

1、多进程单线程

2、IO多路复用模型epoll

3、worker进程工作流程

4、对惊群效应的处理

四、Nginx是如何处理一个请求

五、其他问题

--------------------

## 一、Nginx的负载均衡策略 ##

### **1、轮询** ###

将请求按顺序轮流地分配到后端服务器上，它均衡地对待后端的每一台服务器，而不关心服务器实际的连接数和当前的系统负载。

upstream backserver {
        server 192.168.0.14;
        server 192.168.0.15;
    }

### **2、加权轮询** ###

不同的后端服务器可能机器的配置和当前系统的负载并不相同，因此它们的抗压能力也不相同。给配置高、负载低的机器配置更高的权重，让其处理更多的请；而配置低、负载高的机器，给其分配较低的权重，降低其系统负载，加权轮询能很好地处理这一问题，并将请求顺序且按照权重分配到后端。

upstream backserver {
        server 192.168.0.14 weight=3;
        server 192.168.0.15 weight=7;
    }

### 3、ip\_hash（ IP 绑定） ###

根据获取客户端的IP地址，通过哈希函数计算得到一个数值，用该数值对服务器列表的大小进行取模运算，得到的结果便是客户端要访问服务器的序号。采用源地址哈希法进行负载均衡，同一IP地址的客户端，当后端服务器列表不变时，它每次都会映射到同一台后端服务器进行访问。

每个请求按访问ip的hash结果分配，这样每个访客固定访问一个后端服务器，可以解决session的问题。

upstream backserver {
        ip_hash;
        server 192.168.0.14:88;
        server 192.168.0.15:80;
    }

### 4、fair（第三方插件） ###

按后端服务器的响应时间来分配请求，响应时间短的优先分配。哪个服务器的响应速度快，就将请求分配到那个服务器上。

upstream backserver {
        server server1;
        server server2;
        fair;
    }

### 5、url\_hash（第三方插件） ###

按访问url的hash结果来分配请求，使每个url定向到同一个后端服务器，后端服务器为缓存时比较有效。

场景：如果现在我们的电商项目出现了一个爆品，那个访问这个爆品的请求会增多。若此时使用 url hash ,那么请求会压到同一台服务器上，这样显然是不合理的。

upstream backserver {
        server squid1:3128;
        server squid2:3128;
        hash $request_uri;
        hash_method crc32;
    }

## 二、Nginx的进程模型 ##

### **1、Nginx采用多进程单线程模式，多路IO复用模型。** ###

Nginx采用多进程模式，每个woker进程拥有一个主线程去响应处理多个用户请求；同时Nginx支持使用AIO线程池去读取和发送大文件，避免woker进程被堵塞。每个woker进程拥有一个主线程，在**epoll**支持下，采用异步非阻塞方式来处理请求，从而实现高并发；相对于多线程来说：每个请求占用量小，没有上下文切换带来的开销，事件处理十分轻量。

备注：httpd工作方式通常为多线程，每个用户请求独占一个线程，当并发数到达上千的时候，同时会有上千个线程在处理请求，线程带来的内存占用非常大，线程的上下文切换带来的cpu开销也很大。

### 2、Nginx进程设计（一个master进程，多个worker进程） ###

**Nginx主要采用Master/Woker进程设计的方式：Master进程主要用来管理Worker进程生命周期；Woker进程主要去处理用户请求。**

>  *  多woker进程能充分利用多核系统带来的并发处理能力
>  *  woker进程高可用：当woker进程挂掉后，master进程能够重新申请创建新的woker进程
>  *  负载均衡：woker进程间可以通信，从而一个请求的到来可以协商分配到负载较低的woker进程上去处理

备注：我们通常会设置woker进程数量和CPU核数保持一致：CPU亲和性或绑定woker进程到指定cpus上可以避免进程上下文切换带来的开销、cpu资源竞争及cache失效等问题

### 3、对比Apache ###

> **轻量级**：Nginx占用更少的内存及资源  
> **抗并发**：Apache是同步阻塞型，在高并发下Nginx能保持低消耗高性能  
> **高度模块化**：Nginx高度模块化设计使扩展功能更加简单

## 三、Nginx高并发原理：多进程单线程和多路IO复用模型 ##

Nginx现在是非常火爆的web服务器，她使用更少的资源，支持更多的并发连接数，她实现了linux的epoll模型，能够支持高达 50,000 个并发连接数的响应。Nginx采用的是多进程单线程和多路IO复用模型。使用了I/O多路复用技术的Nginx，就成了”并发事件驱动“的服务器。这里再强调下重点，

*  **多进程单线程**
 *  **多路IO复用模型**

![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3NoaXBmZWlfY3Nkbg_size_16_color_FFFFFF_t_70][]

### 1、多进程单线程 ###

Nginx 自己实现了对epoll的封装，是多进程单线程的典型代表。使用多进程模式，不仅能提高并发率，而且进程之间是相互独立的，一 个worker进程挂了不会影响到其他worker进程。

**master进程管理worker进程：**

1.  接收来自外界的信号。
2.  向各worker进程发送信号。
3.  监控woker进程的运行状态。
4.  当woker进程退出后（异常情况下），会自动重新启动新的woker进程。

注意worker进程数，一般会设置成机器cpu核数。因为更多的worker只会导致进程之间相互竞争cpu，从而带来不必要的上下文切换。

### 2、IO多路复用模型epoll ###

多路复用，允许我们只在事件发生时才将控制返回给程序，而其他时候内核都挂起进程，随时待命。

epoll通过在Linux内核中申请一个简易的文件系统（文件系统一般用B+树数据结构来实现），其工作流程分为三部分：

1.  调用 int epoll\_create(int size)建立一个epoll对象，内核会创建一个eventpoll结构体，用于存放通过epoll\_ctl()向epoll对象中添加进来的事件，这些事件都会挂载在红黑树中。
2.  调用 int epoll\_ctl(int epfd, int op, int fd, struct epoll\_event \*event) 在 epoll 对象中为 fd 注册事件，所有添加到epoll中的事件都会与设备驱动程序建立回调关系，也就是说，当相应的事件发生时会调用这个sockfd的回调方法，将sockfd添加到eventpoll 中的双链表。
3.  调用 int epoll\_wait(int epfd, struct epoll\_event \* events, int maxevents, int timeout) 来等待事件的发生，timeout 为 -1 时，该调用会阻塞知道有事件发生。

注册好事件之后，只要有fd上事件发生，epoll\_wait()就能检测到并返回给用户，用户执行阻塞函数时就不会发生阻塞了。

epoll()在中内核维护一个链表，epoll\_wait直接检查链表是不是空就知道是否有文件描述符准备好了。顺便提一提，epoll与select、poll相比最大的优点是不会随着sockfd数目增长而降低效率，使用select()时，内核采用轮训的方法来查看是否有fd准备好，其中的保存sockfd的是类似数组的数据结构fd\_set，key 为 fd，value为0或者1（发生时间）。

能达到这种效果，是因为在内核实现中epoll是根据每 sockfd 上面的与设备驱动程序建立起来的回调函数实现的。那么，某个sockfd上的事件发生时，与它对应的回调函数就会被调用，将这个sockfd加入链表，其他处于“空闲的”状态的则不会。在这点上，epoll 实现了一个"伪"AIO。

可以看出，因为一个进程里只有一个线程，所以一个进程同时只能做一件事，但是可以通过不断地切换来“同时”处理多个请求。

例子：Nginx 会注册一个事件：“如果来自一个新客户端的连接请求到来了，再通知我”，此后只有连接请求到来，服务器才会执行 accept() 来接收请求。又比如向上游服务器（比如 PHP-FPM）转发请求，并等待请求返回时，这个处理的 worker 不会在这阻塞，它会在发送完请求后，注册一个事件：“如果缓冲区接收到数据了，告诉我一声，我再将它读进来”，于是进程就空闲下来等待事件发生。

这样，基于 多进程+epoll， Nginx 便能实现高并发。

### 3、worker进程工作流程 ###

当一个 worker 进程在 accept() 这个连接之后，就开始读取请求，解析请求，处理请求，产生数据后，再返回给客户端，最后才断开连接，一个完整的请求。一个请求，完全由worker进程来处理，而且只会在一个worker进程中处理。优点：

1.  节省锁带来的开销。每个worker进程都彼此独立地工作，不共享任何资源，因此不需要锁。同时在编程以及问题排查上时，也会方便很多。
2.  独立进程，减少风险。采用独立的进程，可以让互相之间不会影响，一个进程退出后，其它进程还在工作，服务不会中断，master进程则很快重新启动新的worker进程。当然，worker进程自己也能发生意外退出。

### 4、对惊群效应的处理 ###

Nginx提供了一个accept\_mutex这个东西，这是一个加在accept上的一把互斥锁。即每个worker进程在执行accept()之前都需要先获取锁，accept()成功之后再解锁。有了这把锁，同一时刻，只会有一个进程执行accpet()，这样就不会有惊群问题了。accept\_mutex是一个可控选项，我们可以显示地关掉，默认是打开的。

## 四、Nginx是如何处理一个请求 ##

> 首先，nginx在启动时，会解析配置文件，得到需要监听的端口与ip地址，然后在nginx的master进程里面，先初始化好这个监控的socket(创建socket，设置addrreuse等选项，绑定到指定的ip地址端口，再listen)，然后再fork(一个现有进程可以调用fork函数创建一个新进程。由fork创建的新进程被称为子进程 )出多个子进程出来，然后子进程会竞争accept新的连接。此时，客户端就可以向nginx发起连接了。当客户端与nginx进行三次握手，与nginx建立好一个连接后，此时，某一个子进程会accept成功，得到这个建立好的连接的socket，然后创建nginx对连接的封装，即ngx\_connection\_t结构体。接着，设置读写事件处理函数并添加读写事件来与客户端进行数据的交换。最后，nginx或客户端来主动关掉连接，到此，一个连接就寿终正寝了。
> 
> 当然，nginx也是可以作为客户端来请求其它server的数据的（如upstream模块），此时，与其它server创建的连接，也封装在ngx\_connection\_t中。作为客户端，nginx先获取一个ngx\_connection\_t结构体，然后创建socket，并设置socket的属性（ 比如非阻塞）。然后再通过添加读写事件，调用connect/read/write来调用连接，最后关掉连接，并释放ngx\_connection\_t。
> 
> nginx在实现时，是通过一个连接池来管理的，每个worker进程都有一个独立的连接池，连接池的大小是worker\_connections。这里的连接池里面保存的其实不是真实的连接，它只是一个worker\_connections大小的一个ngx\_connection\_t结构的数组。并且，nginx会通过一个链表free\_connections来保存所有的空闲ngx\_connection\_t，每次获取一个连接时，就从空闲连接链表中获取一个，用完后，再放回空闲连接链表里面。
> 
> 在这里，很多人会误解worker\_connections这个参数的意思，认为这个值就是nginx所能建立连接的最大值。其实不然，这个值是表示每个worker进程所能建立连接的最大值，所以，一个nginx能建立的最大连接数，应该是worker\_connections \* worker\_processes。当然，这里说的是最大连接数，对于HTTP请求本地资源来说，能够支持的最大并发数量是worker\_connections \* worker\_processes，而如果是HTTP作为反向代理来说，最大并发数量应该是worker\_connections \* worker\_processes/2。因为作为反向代理服务器，每个并发会建立与客户端的连接和与后端服务的连接，会占用两个连接。

## 五、其他问题 ##

### 1、什么是Nginx？ ###

> Nginx是一个 轻量级/高性能的反向代理Web服务器，他实现非常高效的反向代理、负载平衡，他可以处理2-3万并发连接数，官方监测能支持5万并发，现在中国使用nginx网站用户有很多，例如：新浪、网易、 腾讯等。

### 2、为什么要用Nginx？ ###

>  *  跨平台、配置简单、方向代理、高并发连接：处理2-3万并发连接数，官方监测能支持5万并发，内存消耗小：开启10个nginx才占150M内存 ，nginx处理静态文件好，耗费内存少，
>  *  而且Nginx内置的健康检查功能：如果有一个服务器宕机，会做一个健康检查，再发送的请求就不会发送到宕机的服务器了。重新将请求提交到其他的节点上。
>  *  使用Nginx的话还能：
>     
>     1.  节省宽带：支持GZIP压缩，可以添加浏览器本地缓存
>     2.  稳定性高：宕机的概率非常小
>     3.  接收用户请求是异步的

### 3、为什么Nginx性能这么高？ ###

> **Nginx采用多进程单线程模式，多路IO复用模型。**事件处理机制：异步非阻塞事件处理机制：运用了epoll模型，提供了一个队列，排队解决。

### 4、Nginx怎么处理请求的？ ###

> nginx接收一个请求后，首先由listen和server\_name指令匹配server模块，再匹配server模块里的location，location就是实际地址

### 5、什么是正向代理和反向代理？ ###

>  *  正向代理就是一个人发送一个请求直接就到达了目标的服务器
>  *  反方代理就是请求统一被Nginx接收，nginx反向代理服务器接收到之后，按照一定的规 则分发给了后端的业务处理服务器进行处理了

###  ###

### 6、Nginx的优缺点？ ###

> 优点：
> 
>  *  占内存小，可实现高并发连接，处理响应快
>  *  可实现http服务器、虚拟主机、方向代理、负载均衡
>  *  Nginx配置简单
>  *  可以不暴露正式的服务器IP地址
> 
> 缺点：
> 
>  *  动态处理差：nginx处理静态文件好,耗费内存少，但是处理动态页面则很鸡肋，现在一般前端用nginx作为反向代理抗住压力，

### **7、如何用Nginx解决前端跨域问题？** ###

> 使用Nginx转发请求。把跨域的接口写成调本域的接口，然后将这些接口转发到真正的请求地址。

### **8、限流怎么做的，算法是什么，（限制请求速度）** ###

> Nginx限流就是限制用户请求速度，限流有3种：
> 
>  *  限制访问频率（正常流量）
>  *  限制访问频率（突发流量）
>  *  限制并发连接数

### **9、为什么要做动静分离?** ###

> Nginx是当下最热的Web容器，网站优化的重要点在于静态化网站，网站静态化的关键点则是是动静分离，动静分离是让动态网站里的动态网页根据一定规则把不变的资源和经常变的资源区分开来，动静资源做好了拆分以后，我们则根据静态资源的特点将其做缓存操作。
> 
> 让静态的资源只走静态资源服务器，动态的走动态的服务器。
> 
> Nginx的静态处理能力很强，但是动态处理能力不足，因此，在企业中常用动静分离技术。对于静态资源比如图片，js，css等文件，我们则在反向代理服务器nginx中进行缓存。这样浏览器在请求一个静态资源时，代理服务器nginx就可以直接处理，无需将请求转发给后端服务器tomcat。若用户请求的动态文件，比如servlet,jsp则转发给Tomcat服务器处理，从而实现动静分离。这也是反向代理服务器的一个重要的作用。

### 10、什么是C10K问题? ###

> C10K问题是指无法同时处理大量客户端(10,000)的网络套接字。

### 11、Nginx为什么不使用多线程？ ###

> Nginx:采用单线程来异步非阻塞处理请求（管理员可以配置Nginx主进程的工作进程的数量），不会为每个请求分配cpu和内存资源，节省了大量资源，同时也减少了大量的CPU的上下文切换，所以才使得Nginx支持更高的并发。

### 12、解释`Nginx`是否支持将请求压缩到上游? ###

> 您可以使用`Nginx`模块`gunzip`将请求压缩到上游。`gunzip`模块是一个过滤器，它可以对不支持“gzip”编码方法的客户机或服务器使用“内容编码:gzip”来解压缩响应。

### 13、解释如何在`Nginx`中获得当前的时间? ###

> 要获得Nginx的当前时间，必须使用`SSI`模块、`$date_gmt`和`$date_local`的变量。
> 
> `Proxy_set_header` `THE-TIME $date_gmt`;

### 14、用`Nginx`服务器解释`-s`的目的是什么? ###

> 用于运行`Nginx -s`参数的可执行文件。

### 15、解释如何在`Nginx`服务器上添加模块? ###

> 在编译过程中，必须选择`Nginx`模块，因为`Nginx`不支持模块的运行时间选择。

[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3NoaXBmZWlfY3Nkbg_size_16_color_FFFFFF_t_70]: /images/20221120/5bd808c5d8814ce7a6f738ea0bea91bc.png