字节二面：10Wqps超高流量系统，如何设计？

女爷i 2024-03-26 10:54 102阅读 0赞

## 超高流量系统设计思路 ##

### 前言 ###

在40岁老架构师 尼恩的\*\*读者交流群(50+)\*\*中，大流量、高并发的面试题是一个非常、非常高频的交流话题。最近，有小伙伴面试字节时，遇到一个面试题：

> 10Wqps超高流量系统，该如何设计？

这是一道很常见的面试题，但是大多数人并不知道怎么回答，这种问题其实可以有很多形式的提问方式，你一定见过而且感觉无从下手：

> 面对业务急剧增长你怎么处理？
> 
> 业务量增长10倍、100倍怎么处理？
> 
> 你们系统怎么支撑高并发的？
> 
> 怎么设计一个高并发系统？
> 
> 高并发系统都有什么特点？
> 
> … …

诸如此类，问法很多，但是面试这种类型的问题，看着很难无处下手，但是我们可以有一个常规的思路去回答，就是围绕支撑高并发的业务场景怎么设计系统才合理？

如果你能想到这一点，那接下来我们就可以围绕硬件和软件层面怎么支撑高并发这个话题去阐述了。

本质上，这个问题就是综合考验你对各个细节是否知道怎么处理，是否有经验处理过而已。

面对超高的并发，宏观的处理思路大致如下：

*  首先硬件层面机器要能扛得住，
 *  其次架构设计做好微服务的拆分，
 *  代码层面各种缓存、削峰、解耦等等问题要处理好，
 *  数据库层面做好读写分离、分库分表，
 *  稳定性方面要保证有监控，熔断限流降级该有的必须要有，发生问题能及时发现处理。

介绍了这个几个方面，这样从整个系统设计方面就会有一个比较全面的答案。至少不会因为这个题目，被挂。

这里尼恩给大家做一下系统化、体系化的梳理，使得大家可以充分展示一下大家雄厚的 “技术肌肉”，**让面试官爱到 “不能自已、口水直流”**。

也一并把这个题目以及参考答案，收入咱们的 《[尼恩Java面试宝典][Java]》V49版本，供后面的小伙伴参考，提升大家的 3高 架构、设计、开发水平。

> 注：本文以 PDF 持续更新，最新尼恩 架构笔记、面试题 的PDF文件，请从这里获取：[码云][Link 1]

### 硬件的扩展+微服务的拆分 ###

在互联网早期的时候，单体架构就足以支撑起日常的业务需求，大家的所有业务服务都在一个项目里，部署在一台物理机器上。

所有的业务包括你的交易系统、会员信息、库存、商品等等都夹杂在一起，当流量一旦起来之后，单体架构的问题就暴露出来了，机器挂了所有的业务全部无法使用了。

![9f03faa7f5510a7652e5e2ad96083d86.png][]

于是，集群架构的架构开始出现，单机无法抗住的压力，最简单的办法就是水平拓展横向扩容了，

这样，通过负载均衡把压力流量分摊到不同的机器上，暂时是解决了单点导致服务不可用的问题。

![7a050c242c28821fdb0bc13b91ae19bf.png][]

但是随着业务的发展，在一个项目里维护所有的业务场景使开发和代码维护变得越来越困难，

一个简单的需求改动都需要发布整个服务，代码的合并冲突也会变得越来越频繁，同时线上故障出现的可能性越大。微服务的架构模式就诞生了。

![0d92e62b1e8d1c903343265444581b54.png][]

把每个独立的业务拆分开独立部署，开发和维护的成本降低，集群能承受的压力也提高了，再也不会出现一个小小的改动点需要牵一发而动全身了。

以上的点从高并发的角度而言，似乎都可以归类为通过服务拆分和集群物理机器的扩展提高了整体的系统抗压能力，那么，随之拆分而带来的问题也就是高并发系统需要解决的问题。

### 高性能 RPC ###

微服务化的拆分带来的好处和便利性是显而易见的，但是与此同时各个微服务之间的通信就需要考虑了。

传统HTTP的通信方式性能首先并不太好，大量的请求头之类无效的信息是对性能的浪费，这时候就需要引入诸如Dubbo类的RPC框架。

![7ddd214386430dd8f99a85234c9100f7.png][]

之前尼恩的社群中，有小伙伴进行对比测试，Dubbo RPC的性能，是Feign RPC的性能10倍。

尼恩最近也进行了对比验证， Dubbo RPC 的性能，确实是 Feign RPC 10倍。具体的实操过程和数据，请参见[尼恩的全链路实操][Link 2]

我们假设原来来自客户端的QPS是9000的话，那么通过负载均衡策略分散到每台机器就是3000，而Feign HTTP RPC 改为 Dubbo RPC 之后，接口的耗时缩短了，单体服务和整体的QPS就提升了。

而RPC框架本身一般都自带负载均衡、熔断降级的机制，可以更好的维护整个系统的高可用性。

那么说完RPC，作为基本上国内普遍的选择Dubbo的一些基本原理就是接下来的问题。

*这个时候，大家要做好Dubbo 面试题的回答准备。 有关Dubbo的面试题，请参考《[尼恩Java面试宝典][Java]》的 Dubbo 面试专题。*

### 消息队列消峰解耦 ###

对于MQ的作用大家都应该很了解了，主要功能：

*  削峰填谷、解耦。
 *  同步转异步的方式，可以降低微服务之间的耦合。

对于一些不需要同步执行的接口，可以通过引入消息队列的方式异步执行以提高接口响应时间。在交易完成之后需要扣库存，然后可能需要给会员发放积分，本质上，发积分的动作应该属于履约服务，对实时性的要求也不高，我们只要保证最终一致性也就是能履约成功就行了。

对于这种同类性质的请求就可以走MQ异步，也就提高了系统抗压能力了。

![ed056a604cad9eedafb3d7eecd1d82f7.png][]

*这个时候，大家要做好RocketMq面试题的回答准备。*

*比如：对于消息队列而言，怎么在使用的时候保证消息的可靠性、不丢失？ 有关RocketMq的面试题，请参考《[尼恩Java面试宝典][Java]》的 消息队列 面试专题。*

### 三级缓存架构 ###

缓存作为高性能的代表，在某些特殊业务可能承担90%以上的热点流量。

对于一些活动比如秒杀这种并发QPS可能几十万的场景，引入缓存事先预热可以大幅降低对数据库的压力，10万的QPS对于单机的数据库来说可能就挂了，但是对于如redis这样的缓存来说就完全不是问题。

![8b3b9ee52baec55229de878c76e1d9f6.png][]

以秒杀系统举例，活动预热商品信息可以提前缓存提供查询服务，库存数据可以提前缓存，下单流程可以完全走缓存扣减，秒杀结束后再异步写入数据库，数据库承担的压力就小的太多了。

*这个时候，大家要做好缓存面试题的回答准备。*

*比如：引入缓存之后就还要考虑缓存击穿、雪崩、热点一系列的问题了。 有关redis的面试题，请参考《[尼恩Java面试宝典][Java]》的 redis面试专题。*

*如果避免缓存击穿和缓存雪崩，需要引入三级缓存架构，更进一步优秀的方案：是结合热点预热子系统+热点探测系统 。 具体请参见 尼恩3高笔记《100Wqps三级缓存组件实操》*

### 数据库分库分表 ###

对于整个系统而言，最终所有的流量的查询和写入都落在数据库上，数据库是支撑系统高并发能力的核心。

怎么降低数据库的压力，提升数据库的性能是支撑高并发的基石。主要的方式就是通过读写分离和分库分表来解决这个问题。

对于整个系统而言，流量应该是一个漏斗的形式。比如我们的日活用户DAU有20万，实际可能每天来到提单页的用户只有3万QPS，最终转化到下单支付成功的QPS只有1万。

那么对于系统来说读是大于写的，这时候可以通过读写分离的方式来降低数据库的压力。

![08bbc3b27bc4dd40429bcd18b3d8c971.png][]

读写分离也就相当于数据库集群的方式降低了单节点的压力。而面对数据的急剧增长，原来的单库单表的存储方式已经无法支撑整个业务的发展，这时候就需要对数据库进行分库分表了。

针对微服务而言垂直的分库本身已经是做过的，剩下大部分都是分表的方案了。

*这个时候，大家要做好分库分表的面试题的回答准备。请参考《[尼恩Java面试宝典][Java]》的 mysql面试专题，光这个专题的最新版，就有300多页。够大家刷几个月了。*

### 高可用 ###

![2f6985506e817c58e94a9c9a5a2b3d47.png][]

#### **熔断** ####

比如营销服务挂了或者接口大量超时的异常情况，不能影响下单的主链路，涉及到积分的扣减一些操作可以在事后做补救。

#### **限流** ####

对突发如大促秒杀类的高并发，如果一些接口不做限流处理，可能直接就把服务打挂了，针对每个接口的压测性能的评估做出合适的限流尤为重要。

#### **降级** ####

熔断之后实际上可以说就是降级的一种，以熔断的举例来说营销接口熔断之后降级方案就是短时间内不再调用营销的服务，等到营销恢复之后再调用。

#### **预案** ####

一般来说，就算是有统一配置中心，在业务的高峰期也是不允许做出任何的变更的，但是通过配置合理的预案可以在紧急的时候做一些修改。

#### **核对** ####

针对各种分布式系统产生的分布式事务一致性或者受到攻击导致的数据异常，非常需要核对平台来做最后的兜底的数据验证。比如下游支付系统和订单系统的金额做核对是否正确，如果收到中间人攻击落库的数据是否保证正确性。

### 总结 ###

其实可以看到，怎么设计高并发系统这个问题本身他是不难的，无非是基于你知道的知识点，从物理硬件层面到软件的架构、代码层面的优化，使用什么中间件来不断提高系统的抗压能力。

但是这个问题本身会带来更多的问题，微服务本身的拆分带来了分布式事务的问题，http、RPC框架的使用带来了通信效率、路由、容错的问题，MQ的引入带来了消息丢失、积压、事务消息、顺序消息的问题，

缓存的引入又会带来一致性、雪崩、击穿的问题，

数据库的读写分离、分库分表又会带来主从同步延迟、分布式ID、事务一致性的问题，

而为了解决这些问题我们又要不断的加入各种措施熔断、限流、降级、离线核对、预案处理等等来防止和追溯这些问题。

### 推荐阅读： ###

《[响应式圣经：10W字，实现Spring响应式编程自由][10W_Spring]》

《[全链路异步，让你的 SpringCloud 性能优化10倍+][Link 2]》

《[Linux命令大全：2W多字，一次实现Linux自由][Linux_2W_Linux]》

《[阿里一面：你做过哪些代码优化？来一个人人可以用的极品案例][Link 3]》

《[网易二面：CPU狂飙900%，该怎么处理？][CPU_900]》

《[阿里二面：千万级、亿级数据，如何性能优化？ 教科书级 答案来了][Link 4]》

《[峰值21WQps、亿级DAU，小游戏《羊了个羊》是怎么架构的？][21WQps_DAU]》

《[场景题：假设10W人突访，你的系统如何做到不 雪崩？][10W_]》

《[2个大厂 100亿级 超大流量 红包 架构方案][2_ 100_ _ _]》

《[Nginx面试题（史上最全 + 持续更新）][Nginx_ _]》

《[K8S面试题（史上最全 + 持续更新）][K8S_ _]》

《[操作系统面试题（史上最全、持续更新）][Link 5]》

《[Docker面试题（史上最全 + 持续更新）][Docker_ _]》

《[Springcloud gateway 底层原理、核心实战 (史上最全)][Springcloud gateway _]》

《[Flux、Mono、Reactor 实战（史上最全）][Flux_Mono_Reactor]》

《[sentinel （史上最全）][sentinel]》

《[Nacos (史上最全)][Nacos]》

《[TCP协议详解 (史上最全)][TCP_]》

《[分库分表 Sharding-JDBC 底层原理、核心实战（史上最全）][Sharding-JDBC]》

《[clickhouse 超底层原理 + 高可用实操 （史上最全）][clickhouse _ _ _]》

《[nacos高可用（图解+秒懂+史上最全）][nacos]》

《[队列之王： Disruptor 原理、架构、源码 一文穿透][Disruptor _]》

《[环形队列、 条带环形队列 Striped-RingBuffer （史上最全）][_ Striped-RingBuffer]》

《[一文搞定：SpringBoot、SLF4j、Log4j、Logback、Netty之间混乱关系（史上最全）][SpringBoot_SLF4j_Log4j_Logback_Netty]》

《[单例模式（史上最全）][Link 6]》

《[红黑树（ 图解 + 秒懂 + 史上最全）][_ _ _ _]》

《[分布式事务 （秒懂）][Link 7]》

《[缓存之王：Caffeine 源码、架构、原理（史上最全，10W字 超级长文）][Caffeine _10W_]》

《[缓存之王：Caffeine 的使用（史上最全）][Caffeine]》

《[Java Agent 探针、字节码增强 ByteBuddy（史上最全）][Java Agent _ ByteBuddy]》

《[Docker原理（图解+秒懂+史上最全）][Docker]》

《[Redis分布式锁（图解 - 秒懂 - 史上最全）][Redis_ - _ -]》

《[Zookeeper 分布式锁 - 图解 - 秒懂][Zookeeper _ - _ -]》

《[Zookeeper Curator 事件监听 - 10分钟看懂][Zookeeper Curator _ - 10]》

《[Netty 粘包 拆包 | 史上最全解读][Netty _ _ _]》

《[Netty 100万级高并发服务器配置][Netty 100]》

《[Springcloud 高并发 配置 （一文全懂）][Springcloud _ _]》

[Java]: https://blog.csdn.net/crazymakercircle/article/details/124790425
[Link 1]: https://gitee.com/crazymaker/SimpleCrayIM/blob/master/%E7%96%AF%E7%8B%82%E5%88%9B%E5%AE%A2%E5%9C%88%E6%80%BB%E7%9B%AE%E5%BD%95.md
[9f03faa7f5510a7652e5e2ad96083d86.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/26/7ca3063052d646148863d96133bd9b2b.png
[7a050c242c28821fdb0bc13b91ae19bf.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/26/7505dfd20b074931b3c69b71658e10e7.png
[0d92e62b1e8d1c903343265444581b54.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/26/660c19507f44471d832b7b394ab7b2fd.png
[7ddd214386430dd8f99a85234c9100f7.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/26/511f3454d02045ee89a1674a22d604db.png
[Link 2]: https://blog.csdn.net/crazymakercircle/article/details/129004814
[ed056a604cad9eedafb3d7eecd1d82f7.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/26/c369e29cc4624acca787ada77e45fc34.png
[8b3b9ee52baec55229de878c76e1d9f6.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/26/056a85f04a4645c5831723e2e9880f6f.png
[08bbc3b27bc4dd40429bcd18b3d8c971.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/26/cc587b36762c43ce843c2e27d60049e7.png
[2f6985506e817c58e94a9c9a5a2b3d47.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/26/19470706f2dc4f3a9529d57b82f11723.png
[10W_Spring]: https://blog.csdn.net/crazymakercircle/article/details/129022714
[Linux_2W_Linux]: https://blog.csdn.net/crazymakercircle/article/details/128932396
[Link 3]: https://blog.csdn.net/crazymakercircle/article/details/129056726
[CPU_900]: https://blog.csdn.net/crazymakercircle/article/details/128805374
[Link 4]: https://blog.csdn.net/crazymakercircle/article/details/128848309
[21WQps_DAU]: https://blog.csdn.net/crazymakercircle/article/details/128725701
[10W_]: https://blog.csdn.net/crazymakercircle/article/details/128533821
[2_ 100_ _ _]: https://blog.csdn.net/crazymakercircle/article/details/128697096
[Nginx_ _]: https://blog.csdn.net/crazymakercircle/article/details/128684641
[K8S_ _]: https://blog.csdn.net/crazymakercircle/article/details/128671196
[Link 5]: https://blog.csdn.net/crazymakercircle/article/details/128708648
[Docker_ _]: https://blog.csdn.net/crazymakercircle/article/details/128670335
[Springcloud gateway _]: https://blog.csdn.net/crazymakercircle/article/details/125057567
[Flux_Mono_Reactor]: https://blog.csdn.net/crazymakercircle/article/details/124120506
[sentinel]: https://blog.csdn.net/crazymakercircle/article/details/125059491
[Nacos]: https://blog.csdn.net/crazymakercircle/article/details/125057545
[TCP_]: https://blog.csdn.net/crazymakercircle/article/details/114527369
[Sharding-JDBC]: https://blog.csdn.net/crazymakercircle/article/details/123420859
[clickhouse _ _ _]: https://blog.csdn.net/crazymakercircle/article/details/126992542
[nacos]: https://blog.csdn.net/crazymakercircle/article/details/120702536
[Disruptor _]: https://blog.csdn.net/crazymakercircle/article/details/128264803
[_ Striped-RingBuffer]: https://blog.csdn.net/crazymakercircle/article/details/128264508
[SpringBoot_SLF4j_Log4j_Logback_Netty]: https://blog.csdn.net/crazymakercircle/article/details/125135726
[Link 6]: https://blog.csdn.net/crazymakercircle/article/details/128265067
[_ _ _ _]: https://blog.csdn.net/crazymakercircle/article/details/125017316
[Link 7]: https://blog.csdn.net/crazymakercircle/article/details/109459593
[Caffeine _10W_]: https://blog.csdn.net/crazymakercircle/article/details/128123114
[Caffeine]: https://blog.csdn.net/crazymakercircle/article/details/113751575
[Java Agent _ ByteBuddy]: https://blog.csdn.net/crazymakercircle/article/details/126579528
[Docker]: https://blog.csdn.net/crazymakercircle/article/details/120747767
[Redis_ - _ -]: https://blog.csdn.net/crazymakercircle/article/details/116425814
[Zookeeper _ - _ -]: https://blog.csdn.net/crazymakercircle/article/details/85956246
[Zookeeper Curator _ - 10]: https://blog.csdn.net/crazymakercircle/article/details/85922561
[Netty _ _ _]: https://blog.csdn.net/crazymakercircle/article/details/83957259
[Netty 100]: https://blog.csdn.net/crazymakercircle/article/details/83758107
[Springcloud _ _]: https://blog.csdn.net/crazymakercircle/article/details/102557988