京东618备战技术分享：保障秒杀系统高并发与高性能的11个方法

冷不防 2022-05-30 01:14 292阅读 0赞

“秒杀”活动对于系统的挑战是高并发，高流量，持续时间集中，短时间内流量陡增数倍，甚至数十倍。今天，我们在京东618指挥中心，看看如何设计一个牛X的秒杀系统。

[![wKiom1V7xwySZsikAAIPHdKvhmE913.jpg][]][wKiom1V7xwySZsikAAIPHdKvhmE913.jpg]

利用nginx作为代理服务器，解决系统高并发问题

1、nignx的稳定性

nginx采用master加多个worker进程，master只负责接收外界信号和监控work进程运行状况，当发现某个work进程出现异常，master进程会启动新的worker进程来，这样保证web服务的稳定性。

2、高并发的处理机制

nginx在启动的时候，每个work进程都会事先分配好自己的连接池，连接池的大小是配置文件中worker\_connections参数配置。这里的连接池里保存的不是真实的连接，它只是一个worker\_connections大小的一个ngx\_connection\_t结构的数组。

并且，nginx会通过一个链表f r e e \_ c o n n e c t i o n s来保存所有的空闲ngx\_connection\_t，每次获取一个连接时，就从空闲连接链表中获取一个，用完后，再放回空闲连接链表里面。

当大量请求进来时，nginx首先会把它们放入work进程的连接池内，此时并没有真正打开文件描述符，因此可以尽可能多的接受连接请求，真正处理的时候nginx采用异步非阻塞的事件机制，通过单进程循环处理准备好的事件，最终利用有限的系统能打开的最大文件描述来承担大量的连接请求。

3、高并发下高性能

nginx中每个worker进程独立处理自己的连接请求，不会有进程来回切换带来的性能损失；单个worker进程与cpu的亲缘绑定，减少了因cpu抢占带来的性能损失；在linux系统中，nginx采用IO多路复用技术（epoll），同时打开大量文件描述符时worker进程只需要循环处理已经准备好数据的文件描述符，因此worker进程不会因为某个请求IO阻塞而影响其他请求的处理。

4、高并发下简单业务处理

因为nginx源生命令提供的功能单一，复杂的业务逻辑需要开发c模块，开发周期相对来说较长，且维护和升级复杂度较大。ngx\_lua模块通过将lua解释器集成进Nginx，因此可以采用lua脚本实现业务逻辑，由于lua的紧凑、快速以及内建协程，所以在保证高并发服务能力的同时极大地降低了业务逻辑实现成本。

5、结算页的所有操作设置轻量级

主流程的任何操作都会将数据保存的缓存中，秒杀系统的结算页所有操作都尽可能的轻量级，将数据保存到隐藏域，提交是通过post请求调提交服务。

6、非关键性业务异步化

非关键性业务是指即使异步调用失败，也不会影响用户正常下单的系统，对于非关键性业务考虑异步化。

7、Java服务端的并发保护

为了保护秒杀系统后端的关键服务，需要进行并发限制的处理。比如调风控的服务，当每个tomcat实例并发连接数超过10个就放弃请求风控服务等类似的并发保护措施。

限制机器人刷单

秒杀系统为了便于用户下单，流程设计会尽量精简，因此不利于阻挡利用软件参与抢购的机器人，下面的几种实践方法，可以有效限制机器人刷单：

8. nginx层针对机器人做规则限制

在正常的下单流程中，用户通过单品页加入购物车，最后提交订单。这种简单的流程，通过数据分析，机器人很容易用软件构造数据，直接提交订单，因此在抢购过程中，会比普通用户快很多。

为了防止这种构造数据避过流程的软件，把秒杀活动分为几个环节：活动入口，验证码页，验证码交互，订单详情页，提交订单。几个环节环环相扣，以保障任何人都必须从入口一步步完成抢购活动，这种限定软件的行为轨迹，基本拉到和普通用户同样的水平，以增加普通用户成功抢购的几率。

技术实现：为了保证所有用户必须一步步访问，利用一个nginx的模块，来校验用户当前访问的步骤是否合法，并且把当前用户相关状态以加密串的形式种植在cookie中。Lua配合nginx模块的时候，可以进行复杂一些的业务逻辑方面的校验工作。