构建高并发&高可用&安全的IT系统-高并发部分

谁借莪１个温暖的怀抱￠ 2021-12-13 04:16 283阅读 0赞

**什么是高并发？**

狭义来讲就是你的网站/软件同一时间能承受的用户数量有多少

**相关指标有**

**并发数：**对网站/软件同时发起的请求数，一般也可代表实际的用户

**每秒响应时间：**常指一次请求到系统正确响的时间（以秒为单位）

**TPS****（每秒事务数）：**每秒钟可以处理的事务（请求响应），大概的计算公式为：并发数/每秒响应时间=TPS

**QPS****（每秒查询数）：**TPS事务有读有写，而QPS指的是读取，一般情况QPS应是高于TPS的

**IP****（独立IP****）：**一个IP可以发生多次UV和PV

**PV****（访问量）：**即Page View，页面浏览或点周量，用户每次新刷新即被计算一次

**UV****（独立访客）：**一般通过cookies记录等判断为一个独立用户，同一IP可能有多个UV（共享IP），发生多次PV

**流量（网络流量）：**请求所产生的网络流量，因为受限于带宽也是并发中的一个重要指

**一般公司演化阶段**

1、优化运算代码、SQL查询、数据库索引等

2、进行应用负载均衡、数据库做主从/主主复制进行读写分离、增加缓存(Redis\\Mem)

3、对系统和数据进行垂直拆分，按业务模块拆分成不同的应用及数据库表

4、分布式服务化、异步消息机制、数据库表水平拆分

**优化运算代码、SQL****查询、数据库索引等**

一般初创公司系统大多数都是单体单库的系统，按照成本优先级第一要做的就是对系统进行代码级的优化。比如应用代码逻辑梳理、合理使用多线程、SQL避免全表扫描、少使用LIKE、

根据业务创建索引等。

**案例**

单次LIKE大数据量统计查询Sending data状态过多导致数据库连接被耗尽，系统停止响应。通过在统计表建立触发器更新单值表解决

**![51170-20170726125251171-1147493374.png][]![51170-20170726125257453-834487607.png][]**

**负载均衡、读写分离、缓存**

到了第二阶段，单体应用通过优化与增加硬件配置已无法解决高并发的问题，这时可以考虑进行以下架构的演化，这种演化对系统基本没有侵入性，成本低廉

**负载均衡：**

可以通过Nginx反向代理、F5等进行应用的多流量分发，需要解决的问题就是会话问题，可采用Nginx的路由或是SESSION同步/独立。

**读写分离：**

采用数据库的主从复制机制，将写入库与读取库分离，可采用中间件进行代理路由，基本可以不改代码。

**缓存：**

可跟据业务规则将部分数据进行缓存

**![51170-20170726125341015-1101831413.png][]**

**应用、数据垂直拆分**

第二阶段支撑过一定量后，随着并发量再次的提升，由于单库表数据量变大以及访问限制已经不能满足，这时可以考虑进行数据库表的按系统模块垂直拆分。将内联的业务划分为独立的库表，相应的应用也

应随之拆分（应用这时加机器还能挺，不过做不到可审缩资源利用最大化）。同一应用系统访问同一库表，应用系统之间进行少量通信。

**![51170-20170726125414125-1298668115.png][]**

**分布式服务化、异步消息机制、数据库表水平拆分**

在经历过前三阶段后，能走到第四阶段说明平台的发展非常好了，对系统的高并发又有了进一步的要求，这也是成本最高最复杂的，系统架构需要进行很大的改造

**分布式：**

对系统应用进行服务化（如微服务），服务化的目的不只是为了高并发，也从系统的可维护性(团队大了)、资源利用最大化(对服务进行差异化支撑)方面考虑。

面临的挑战主要是分布式事务方面的控制，可采用二阶段提交方式或是分布式事务容器实现分布式事务。

**异步消息机制：**

主要解决大并发写入瓶颈，利用消息对列对写入消息进行排队，待数据库进

**行处理。**

数据库表水平拆分：按一定规则将同一业务表的数据拆分到不同的库/表中（如HASH），面临的挑战主要是跟业务关联性强、跨表的数据合并等。解决方案就是写

好代码吧。。。

**![51170-20170726125438343-729962004.png][]**

转载于:https://www.cnblogs.com/assion/p/7239106.html

[51170-20170726125251171-1147493374.png]: https://images2017.cnblogs.com/blog/51170/201707/51170-20170726125251171-1147493374.png
[51170-20170726125257453-834487607.png]: /images/20211210/66710992b46943189bff1523632e4f33.png
[51170-20170726125341015-1101831413.png]: /images/20211210/79e4d0615a1f41169dc1ba63bb658f66.png
[51170-20170726125414125-1298668115.png]: /images/20211210/2738a0cc6d744016b384fd2b87f2d4e6.png
[51170-20170726125438343-729962004.png]: /images/20211210/1e32cf8d612d4c94994b547929748b52.png

发表评论取消回复

表情：

评论列表（有 0 条评论，283人围观）

还没有评论，来说两句吧...

相关阅读

相关高可用高性能高并发

高可用高性能高并发提到高可用，高性能，高并发很多人都喜欢混为一谈，一大堆集群分布式，缓存等等，其实这是三个不同的概念，也会相互结合着使用。 1. 三者概

向右看齐/ 2022年12月23日 11:19/ 0 赞/ 189 阅读

相关构建高并发高可用的电商平台架构实践

版权声明：本文为博主原创文章，未经博主允许不得转载。目录[(?)][Link 1][\[+\]][Link 1] 1. [一设计理念][Link 2] 2.

水深无声/ 2022年09月21日 13:27/ 0 赞/ 149 阅读

相关构建高并发高可用的电商平台架构大纲

构建高并发高可用的电商平台架构大纲参考：http://blog.csdn.net/yangbutao/article/details/122

柔情只为你懂/ 2022年09月21日 11:52/ 0 赞/ 133 阅读

相关构建高并发高可用的电商平台架构实践

从各个角度总结了电商平台中的[架构][Link 1]实践，由于时间仓促，定了个初稿，待补充完善，欢迎大家一起交流。转载请声明出处：[http://blog.csdn.net

向右看齐/ 2022年07月12日 12:49/ 0 赞/ 161 阅读

相关 Java构建高并发高可用的电商平台架构实践

[Java构建高并发高可用的电商平台架构实践][Java] 2016-03-18 09:27 4489人阅读 [评论][Link 1](0) 收藏 [举报][Li

左手的ㄟ右手/ 2022年06月13日 13:28/ 0 赞/ 157 阅读

相关高并发与高可用浅析

高并发（High Concurrency）通过设计保证系统能够同时并行处理很多请求并发处理能力高可用HA（High Availabil

墨蓝/ 2022年06月10日 09:26/ 0 赞/ 208 阅读

相关系统架构之高可用和高并发粗略处理方案

一、负载均衡企业web项目架构图 ![Image 1][] ![Image 1][] ![Image 1][] ![Center][] 1、客户端通过企业防

不念不忘少年蓝@/ 2022年06月10日 04:13/ 0 赞/ 395 阅读

相关系统高可用和系统高并发

为实现一个系统高可用、系统高并发的交易处理系统，在系统架构设计上，需要有诸多考虑. 高可用:指整个系统高可用，也指主机的冗余接管 ![70][] 负载均衡概念:负载

青旅半醒/ 2022年05月29日 20:10/ 0 赞/ 199 阅读

相关构建高并发&高可用&安全的IT系统-高并发部分

什么是高并发？狭义来讲就是你的网站/软件同一时间能承受的用户数量有多少相关指标有并发数：对网站/软件同时发起的请求数，一般也可代表实际的用户每秒响应时

谁借莪１个温暖的怀抱￠/ 2021年12月13日 04:16/ 0 赞/ 284 阅读

相关分布式系统设计之高性能、高可用与高并发

概述在现代的互联网应用设计当中，通常会提到应用系统需要达到高性能，高可用和高并发这三“高”目标，其中这三个概念既有联系又有区别。高性能首先高性能

朱雀/ 2021年11月24日 00:46/ 0 赞/ 451 阅读