网站的高性能架构

忘是亡心i 2022-08-09 03:20 190阅读 0赞

## 性能测试 ##

### 角度 ###

*  用户视角的网站性能  
    用户点击到看到屏幕响应的感受。  
    受到网络带宽， 浏览器解析HTML速度。以及服务器处理的影响  
    可以通过优化HTML，利用多域名提高并发，调整浏览器缓存策略，使用CDN，反省代理
 *  开发人员视角  
    主要关注响应延迟，系统吞吐量，并发处理能力等技术指标。  
    常用优化手段：使用缓存，使用集群提高吞吐能力， 使用异步消息加快响应和削峰，程序优化
 *  运维视角  
    更关注资源利用，硬件信息。可以用更好的服务器，虚拟化技术等

### 测试指标 ###

*  响应时间。 用测试程序记录这个时间，可以使用重复多次求平均的方式来算出响应时间很快的接口  
    响应时间从大到小： 打开网站(秒)/查询一条索引记录(10ms)/机械磁盘一次寻址/机械磁盘顺序读1M/远程分布式缓存度一条数据0.5ms/SSD顺序读1M0.3ms/本地内存读取1M(10微妙)/Java本地方法调用(几微妙)/网络传输2KB(1微妙)
 *  并发数 同时处理的请求数
 *  吞吐量 用request/m来横朗，或者TPS每秒事务数等  
    想下告诉， 并发是在跑的车， 吞吐量是过收费站的车，响应时间是车速。 堵车就是瓶颈了。
 *  性能计数器  
    System Load top命令。 对象与线程数，内存使用，CPU使用，磁盘与网络I/O等指标

### 测试方法 ###

*  性能测试 测试预先设定的性能指标是否能达到
 *  负载测试 到临界值，查看负载能力
 *  压力测试 持续加压，到崩溃为止，看能承受多大
 *  稳定性测试 加压比较长的时间来查看是否稳定，成波浪形，  
    ![这里写图片描述][20151009172750751]  
    ![这里写图片描述][20151009173012867]

### 报告 ###

![这里写图片描述][20151009173540090]

### 性能优化策略 ###

检查请求处理各个环节的日志， 分析哪儿环节慢了。检查监控数据，分析影响性能的主要因素， 软件，网络，硬件，架构  
优化分为WEB前端，应用服务器， 数据存储。

## WEB前端优化 ##

*  减少http请求， 无状态协议，三次握手，每个请求服务器都要独立的线程处理。手段是合并CSS，合并JavaScript,合并图片。
 *  使用浏览器缓存， 使用HTTP头总的cache-control和expires属性设置缓存。当需要刷新这个缓存的时候可以改变文件的名称。  
    缓存文件更新时不要一次全部更新，以免带来骤增。
 *  启用压缩。 启用gzip压缩。会给cpu带来一定的压力
 *  css放在页面最上面，JS放在最下面。 因为浏览器的渲染是在加载完全部的css后开始的。 JS会在下载之后就执行，这个时候有可能阻塞页面显示。
 *  减少cookie传输 仔细考量放入cookie的内容，使用独立的域名来下载静态资源设定这些静态资源不需要传入cookie

### CDN ###

内容分发网络。    网络第一跳。 缓存静态资源。  动态资源才连接网站服务器

### 反向代理 ###

在网站机房前端，  代理网站接受http请求，有安全，负载均衡和缓存的作用，一些静态资源甚至动态资源都可以缓存在这里

## 应用服务器性能优化 ##

### 分布式缓存 ###

**优先考虑使用缓存优化性能。**            保存访问频繁很少改变的数据，或者比较大的计算结果。
    一些使用缓存的注意点：

\- 频繁修改的数据不用缓存  
\- 没有热点的访问不用缓存  
\- 数据不一致与脏读 失效会查数据库，但是会有时间差，应用要允许时间差  
\- 缓存可用性 应用可能会越来越依赖缓存，如果宕机会给数据库带来瞬间压力。一般的的方式是集群，把数据分片存储。  
\- 预热 预先加载数据  
\- 缓存穿透 可能是一种攻击数据库的手段。可以把不存在的数据也缓存为null等手段，具体问题具体分析。

### Memcached ###

高性能的互不通信的服务器集群，可伸缩的架构。  
![这里写图片描述][20151009174106098]  
使用一致性Hash等路由协议来选择服务器，服务期间不进行通讯。  
\- 协议。 通信协议使用TCP， 数据序列化方式使用基于文本的自定义协议。非常简单mingling<操作数>这样的结构。其他的还有JSON，XML,二进制等等  
\- 客户端 很丰富  
\- 高性能网络通信 基于Libevent,长连接表现稳定，支持事件  
\- 高效的内存管理 使用固定内存分配。内存分为多个slab,每个slab有固定大小的chunk.含有相同大小的chunk可以构建为slab\_class.分配内存是找最接近要存数据的chunk. 可能会有空间浪费，但是内存处理起来很方便。 基于LRU算法释放最久未被访问的数据  
\- 互不通信的服务器，使用一致性hash等路由算法

### 异步操作 ###

高并发时响应延迟，数据库压力大。 通过消息队列的异步处理实现削峰。  
因为是异步，有可能失败。要注意失败后的业务处理  
**任何能晚点做的事情都晚点做**

### 使用集群 ###

需要负载均衡服务器

### 代码优化 ###

#### 多线程 ####

两个目的使用：IO阻塞与多CPU。 IO会有很长的时间，可以单一线程监控，多路处理的方式。 另外就是多线程可以更好的利用多CPU。  
启动线程数 = \[任务执行时间/（任务执行时间-IO等待时间）\] \* CPU内核数  
注意线程安全：  
\- 将对象设置为无状态对象。 就是无成员变量。或者成员变量也无状态  
\- 局部对象  
\- 并访问资源加锁

#### 资源复用 ####

数据库连接池。 对象池，线程池，单例。

#### hash, 因为现在的一些hash算法随机性不够，所以可能用到需要先MD5该字符串，在hash计算 ####

#### 垃圾回收 分代收集，应该尽量减少full gc. ####

## 存储性能优化 ##

### 磁盘和SSD ###

显然SSD要快很多

### B+树vs LSM树 ###

都利用了磁盘是安页读取的特点。  
对于现在的数据库等应用使用B+树一般最多三层，这样就需要两次随机I/O才能确定数据索引。  
很多nosql数据库使用LSM树。是一个合并树。写删除修改等都会创建新的节点而不是删除或修改节点。 在内存中操作。如果超过内存的阈值会跟磁盘数的下一层数进行合并。 因为查找是首先使用内存的，因此速度比较快。更主要的是优化了写性能。

[20151009172750751]: /images/20220731/fd002f647095440899d5c76a2eaafcc7.png
[20151009173012867]: /images/20220731/3fd1d14cecbe4b5293da03d3305c77bf.png
[20151009173540090]: /images/20220731/7384dec6a6964598847bd221b8b6deba.png
[20151009174106098]: /images/20220731/ce7f972a620a4496947b686be63f0ded.png