Nginx 为什么快到根本停不下来？

野性酷女 2021-09-07 06:05 309阅读 0赞

点击上方 [Java后端][Java]，选择 设为星标

优质文章，及时送达

--------------------

###     ###

Nginx 的进程模型

![format_png][]

Nginx 服务器，正常运行过程中：

1.  **多进程**：一个 Master 进程、多个 Worker 进程
2.  **Master 进程**：管理 Worker 进程
3.  1.  对外接口：接收`外部的操作`（信号）
    2.  对内转发：根据`外部的操作`的不同，通过`信号`管理 Worker
    3.  监控：监控 worker 进程的运行状态，worker 进程异常终止后，自动重启 worker 进程
4.  **Worker 进程**：所有 Worker 进程都是平等的
5.  1.  实际处理：网络请求，由 Worker 进程处理；
    2.  Worker 进程数量：在 nginx.conf 中配置，一般设置为`核心数`，充分利用 CPU 资源，同时，避免进程数量过多，避免进程竞争 CPU 资源，增加上下文切换的损耗。

思考：

1.  请求是连接到 Nginx，Master 进程负责处理和转发？
2.  如何选定哪个 Worker 进程处理请求？请求的处理结果，是否还要经过 Master 进程？

![format_png 1][]

HTTP 连接建立和请求处理过程：

1.  Nginx 启动时，Master 进程，加载配置文件
2.  Master 进程，初始化监听的 socket
3.  Master 进程，fork 出多个 Worker 进程
4.  Worker 进程，竞争新的连接，获胜方通过三次握手，建立 Socket 连接，并处理请求

Nginx 高性能、高并发：

1.  Nginx 采用：`多进程` + `异步非阻塞`方式（`IO 多路复用` epoll）
2.  请求的完整过程：
3.  1.  建立连接
    2.  读取请求：解析请求
    3.  处理请求
    4.  响应请求
4.  请求的完整过程，对应到底层，就是：读写 socket 事件

### Nginx 的事件处理模型 ###

request：Nginx 中 http 请求。

基本的 HTTP Web Server 工作模式：

1.  **接收请求**：逐行读取`请求行`和`请求头`，判断段有请求体后，读取`请求体`
2.  **处理请求**
3.  **返回响应**：根据处理结果，生成相应的 HTTP 请求（`响应行`、`响应头`、`响应体`）

Nginx 也是这个套路，整体流程一致。

![format_png 2][]

### 模块化体系结构 ###

![format_png 3][]

nginx的模块根据其功能基本上可以分为以下几种类型：

*  **event module**: 搭建了独立于操作系统的事件处理机制的框架，及提供了各具体事件的处理。包括ngx\_events\_module， ngx\_event\_core\_module和ngx\_epoll\_module等。nginx具体使用何种事件处理模块，这依赖于具体的操作系统和编译选项。
 *  **phase handler**: 此类型的模块也被直接称为handler模块。主要负责处理客户端请求并产生待响应内容，比如ngx\_http\_static\_module模块，负责客户端的静态页面请求处理并将对应的磁盘文件准备为响应内容输出。
 *  **output filter**: 也称为filter模块，主要是负责对输出的内容进行处理，可以对输出进行修改。例如，可以实现对输出的所有html页面增加预定义的footbar一类的工作，或者对输出的图片的URL进行替换之类的工作。
 *  **upstream**: upstream模块实现反向代理的功能，将真正的请求转发到后端服务器上，并从后端服务器上读取响应，发回客户端。upstream模块是一种特殊的handler，只不过响应内容不是真正由自己产生的，而是从后端服务器上读取的。
 *  **load-balancer**: 负载均衡模块，实现特定的算法，在众多的后端服务器中，选择一个服务器出来作为某个请求的转发服务器。

## 常见问题剖析 ##

### Nginx vs. Apache ###

nginx vs. apache：

*  http://www.oschina.net/translate/nginx-vs-apache

网络 IO 模型：

1.  nginx：IO 多路复用，epoll(freebsd 上是 kqueue )
2.  1.  高性能
    2.  高并发
    3.  占用系统资源少
3.  apache：阻塞 + 多进程/多线程
4.  1.  更稳定，bug 少
    2.  模块更丰富

参考：https://www.zhihu.com/question/19571087

场景：

> 处理多个请求时，可以采用：`IO 多路复用` 或者 `阻塞 IO` +`多线程`
> 
> 1.  **IO 多路服用**：`一个` `线程`，跟踪多个 socket 状态，哪个`就绪`，就读写哪个；
> 2.  **阻塞 IO** + **多线程**：每一个请求，新建一个服务线程

**思考**：`IO 多路复用` 和 `多线程` 的适用场景？

*  `IO 多路复用`：单个连接的请求处理速度没有优势，适合 **IO 密集型** 场景，事件驱动
 *   *  **大并发量**：只使用一个线程，处理大量的并发请求，降低**上下文环境**切换损耗，也不需要考虑并发问题，相对可以处理更多的请求；
     *  消耗更少的系统资源（不需要`线程调度开销`）
     *  适用于`长连接`的情况（多线程模式`长连接`容易造成`线程过多`，造成`频繁调度`）
 *  `阻塞IO` + `多线程`：实现简单，可以不依赖系统调用，适合 **CPU 密集型** 场景
 *   *  每个线程，都需要时间和空间；
     *  线程数量增长时，线程调度开销指数增长

### Nginx 最大连接数 ###

基础背景：

1.  Nginx 是多进程模型，Worker 进程用于处理请求；
2.  单个进程的连接数（文件描述符 fd），有上限（`nofile`）：`ulimit -n`
3.  Nginx 上配置单个 worker 进程的最大连接数：`worker_connections` 上限为 `nofile`
4.  Nginx 上配置 worker 进程的数量：`worker_processes`

因此，Nginx 的最大连接数：

1.  Nginx 的最大连接数：`Worker 进程数量` x `单个 Worker 进程的最大连接数`
2.  上面是 Nginx 作为通用服务器时，最大的连接数
3.  Nginx 作为`反向代理`服务器时，能够服务的最大连接数：（`Worker 进程数量` x `单个 Worker 进程的最大连接数`）/ 2。
4.  Nginx 反向代理时，会建立 `Client 的连接`和`后端 Web Server 的连接`，占用 2 个连接

思考：

> 1.  每打开一个 socket 占用一个 fd
> 2.  为什么，`一个进程`能够打开的 fd 数量有限制？

## 附录 ##

### HTTP 请求和响应 ###

*  HTTP 请求：

1.  请求行：`method`、`uri`、`http version`
2.  请求头
3.  请求体

*  HTTP 响应：
 *  1.  响应行：`http version`、`status code`
    2.  响应头
    3.  响应体
    
    ### IO 模型 ###
    
    场景：
    
    > 处理多个请求时，可以采用：`IO 多路复用` 或者 `阻塞 IO` +`多线程`
    > 
    > 1.  **IO 多路服用**：`一个` `线程`，跟踪多个 socket 状态，哪个`就绪`，就读写哪个；
    > 2.  **阻塞 IO** + **多线程**：每一个请求，新建一个服务线程
    
    思考：`IO 多路复用` 和 `多线程` 的适用场景？
    
     *  `IO 多路复用`：单个连接的请求处理速度没有优势
     *   *  **大并发量**：只使用一个线程，处理大量的并发请求，降低**上下文环境**切换损耗，也不需要考虑并发问题，相对可以处理更多的请求；
         *  消耗更少的系统资源（不需要`线程调度开销`）
         *  适用于`长连接`的情况（多线程模式`长连接`容易造成`线程过多`，造成`频繁调度`）
     *  `阻塞IO` + `多线程`：实现简单，可以不依赖系统调用。
     *   *  每个线程，都需要时间和空间；
         *  线程数量增长时，线程调度开销指数增长
    
    #### select/poll 和 epoll 比较 ####
    
    详细内容，参考：
    
     *  select poll epoll三者之间的比较
    
    select/poll 系统调用：
    
    1.  `// select 系统调用`
    2.  `int select(int maxfdp,fd_set *readfds,fd_set *writefds,fd_set *errorfds,struct timeval *timeout);`
    3.  `// poll 系统调用`
    4.  `int poll(struct pollfd fds[], nfds_t nfds, int timeout)；`
    
    **select**：
    
     *  查询 fd\_set 中，是否有`就绪`的 `fd`，可以设定一个`超时时间`，当有 fd (File descripter) 就绪或超时返回；
     *  fd\_set 是一个`位集合`，大小是在`编译内核`时的常量，默认大小为 1024
     *  特点：
     *   *  **连接数限制**，fd\_set 可表示的 fd 数量太小了；
         *  **线性扫描**：判断 fd 是否就绪，需要遍历一边 fd\_set；
         *  **数据复制**：用户空间和内核空间，复制**连接就绪状态**信息
    
    **poll**：
    
     *  解决了**连接数限制**：
     *   *  poll 中将 select 中的 fd\_set 替换成了一个 pollfd `数组`
         *  解决 `fd 数量过小`的问题
     *  **数据复制**：用户空间和内核空间，复制**连接就绪状态**信息
    
    **epoll**：event 事件驱动
    
     *  **事件机制**：避免**线性扫描**
     *   *  为每个 fd，`注册`一个`监听事件`
         *  fd 变更为`就绪`时，将 fd 添加到`就绪链表`
     *  **fd 数量**：无限制（OS 级别的限制，单个进程能打开多少个 fd）
    
    select，poll，epoll：
    
    1.  `I/O多路复用`的机制；
    2.  `I/O多路复用`就通过一种机制，可以监视多个描述符，一旦某个描述符就绪（一般是读就绪或者写就绪），能够通知程序进行相应的读写操作。
    3.  1.  监视`多个文件描述符`
    4.  但select，poll，epoll本质上都是`同步I/O`：
    5.  1.  `用户进程`负责`读写`（从`内核空间`拷贝到`用户空间`），读写过程中，用户进程是阻塞的；
        2.  `异步 IO`，无需用户进程负责读写，异步IO，会负责从`内核空间`拷贝到`用户空间`；
    
    ### Nginx 的并发处理能力 ###
    
    关于 Nginx 的并发处理能力：
    
     *  并发连接数，一般优化后，峰值能保持在 1~3w 左右。（内存和 CPU 核心数不同，会有进一步优化空间）
    
    更多细节，参考：
    
     *  百万并发下 Nginx 的优化之道
     *  Nginx 配置说明
    
    ## 参考资料 ##
    
     *  \[nginx平台初探\]：http://tengine.taobao.org/book/chapter\_02.html
     *  \[Nginx vs Apache\]：http://www.oschina.net/translate/nginx-vs-apache
     *  \[nginx\]：http://www.aosabook.org/en/nginx.html
    
    ### 作者：NingG1    ###
    
    ### 链接：http://ningg.top/nginx-series-principle/ ###
    
        Java后端交流群已成立
        公众号运营至今，离不开小伙伴们的支持。为了给小伙伴们提供一个互相交流的平台，特地开通了官方交流群。扫描下方二维码备注 进群 或者关注公众号 Java后端 后获取进群通道。
        
        
        
        
        推荐阅读 1. GitHub 上有哪些好玩的项目2. 毕业设计别再做 XX 管理系统了！3. 牛逼！Docker从入门到上瘾4. 连夜撸了一个简易聊天室5. 推荐一款 Java 对象映射神器

[Java]: http://mp.weixin.qq.com/s?__biz=Mzg2MjEwMjI1Mg%3D%3D&chksm=ce0da17bf97a286df119047a25b7de51621fe542816673bb4aa3ebd8ab97b09a86ed7db2e2ee&idx=3&mid=2247489272&scene=21&sn=ce74938072fc73a808d83ccb474db46d#wechat_redirect
[format_png]: /images/20210730/58a6098050e246b39d28c0853561c632.png
[format_png 1]: /images/20210730/2904593924e74f76a840e1a6ef1f20e7.png
[format_png 2]: /images/20210730/f88fceda16f742b6b48e9ec5fa18cdc5.png
[format_png 3]: /images/20210730/e29277a180fc420da517d668676f7ef1.png