记一次JavaWeb网站技术架构总结

秒速五厘米 2022-05-24 23:56 148阅读 0赞

## 题记 ##

工作也有几多年了，无论是身边遇到的还是耳间闻到的，多多少少也积攒了自己的一些经验和思考，当然，博主并没有太多接触高大上的分布式架构实践，相对比较零碎，随时补充(附带架构装逼词汇)。

俗话说的好，冰冻三尺非一日之寒，滴水穿石非一日之功，罗马也不是一天就建成的，当然对于我们开发人员来说，一个好的架构也不是一蹴而就的。

## 初始搭建 ##

开始的开始，就是各种框架一搭，然后扔到Tomcat容器中跑就是了，这时候我们的文件，数据库，应用都在一个服务器上。  
![000.png][]

## 服务分离 ##

随着系统的的上线，用户量也会逐步上升，很明显一台服务器已经满足不了系统的负载，这时候，我们就要在服务器还没有超载的时候，提前做好准备。

由于我们是单体架构，优化架构在短时间内是不现实的，增加机器是一个不错的选择。这时候，我们可能要把应用和数据库服务单独部署，如果有条件也可以把文件服务器单独部署。  
![002.png][]

## 反向代理 ##

![003.png][]

为了提升服务处理能力，我们在Tomcat容器前加一个代理服务器，我一般使用Nginx，当然你如果更熟悉apache也未尝不可。

用户的请求发送给反向代理，然后反向代理把请求转发到后端的服务器。

严格意义上来说，Nginx是属于web服务器，一般处理静态html、css、js请求，而Tomcat属于web容器，专门处理JSP请求，当然Tomcat也是支持html的，只是效果没Nginx好而已。

反向代理的优势，如下：

*  隐藏真实后端服务
 *  负载均衡集群
 *  高可用集群
 *  缓存静态内容实现动静分离
 *  安全限流
 *  静态文件压缩
 *  解决多个服务跨域问题
 *  合并静态请求(HTTP/2.0后已经被弱化)
 *  防火墙
 *  SSL以及http2

## 动静分离 ##

![004.png][]

基于以上Nginx反向代理，我们还可以实现动静分离，静态请求如html、css、js等请求交给Nginx处理，动态请求分发给后端Tomcat处理。

Nginx 升级到1.9.5+可以开启HTTP/2.0时代，加速网站访问。

当然，如果公司不差钱，**CDN**也是一个不错的选择。

## 服务拆分 ##

在这分布式微服务已经普遍流行的年代，其实我们没必要踩过多的坑，就很容易进行拆分。市面上已经有相对比较成熟的技术，比如阿里开源的Dubbo(官方明确表示已经开始维护了)，spring家族的spring cloud，当然具体如何去实施，无论是技术还是业务方面都要有很好的把控。

##### Dubbo #####

![006.png][]

##### SpringCloud #####

*  服务发现——Netflix Eureka
 *  客服端负载均衡——Netflix Ribbon
 *  断路器——Netflix Hystrix
 *  服务网关——Netflix Zuul
 *  分布式配置——Spring Cloud Config

##### 微服务与轻量级通信 #####

*  同步通信和异步通信
 *  远程调用RPC
 *  REST
 *  消息队列

## 持续集成部署 ##

服务拆分以后，随着而来的就是持续集成部署，你可能会用到以下工具。

Docker、Jenkins、Git、Maven

图片源于网络，基本拓扑结构如下所示：  
![888.png][]

整个持续集成平台架构演进到如下图所示：

![777.png][]

## 服务集群 ##

Linux集群主要分成三大类( 高可用集群， 负载均衡集群，科学计算集群)。其实，我们最常见的也是生产中最常接触到的就是负载均衡集群。

![005.png][]

#### 负载均衡实现 ####

*  DNS负载均衡，一般域名注册商的dns服务器不支持，但博主用的阿里云解析已经支持
 *  四层负载均衡(F5、LVS)，工作在TCP协议下
 *  七层负载均衡(Nginx、haproxy)，工作在Http协议下

#### 分布式session ####

大家都知道，服务一般分为有状态和无状态，而分布式sessoion就是针对有状态的服务。

##### 分布式Session的几种实现方式 #####

*  基于数据库的Session共享
 *  基于resin/tomcat web容器本身的session复制机制
 *  基于oscache/Redis/memcached 进行 session 共享。
 *  基于cookie 进行session共享

##### 分布式Session的几种管理方式 #####

*  Session Replication 方式管理 (即session复制)  
    **简介**：将一台机器上的Session数据广播复制到集群中其余机器上  
    **使用场景**：机器较少，网络流量较小  
    **优点**：实现简单、配置较少、当网络中有机器Down掉时不影响用户访问  
    **缺点**：广播式复制到其余机器有一定廷时，带来一定网络开销
 *  Session Sticky 方式管理  
    **简介**：即粘性Session、当用户访问集群中某台机器后，强制指定后续所有请求均落到此机器上  
    **使用场景**：机器数适中、对稳定性要求不是非常苛刻  
    **优点**：实现简单、配置方便、没有额外网络开销  
    **缺点**：网络中有机器Down掉时、用户Session会丢失、容易造成单点故障
 *  缓存集中式管理  
    **简介**：将Session存入分布式缓存集群中的某台机器上，当用户访问不同节点时先从缓存中拿Session信息  
    **使用场景**：集群中机器数多、网络环境复杂  
    **优点**：可靠性好  
    **缺点**：实现复杂、稳定性依赖于缓存的稳定性、Session信息放入缓存时要有合理的策略写入

##### 目前生产中使用到的 #####

*  基于tomcat配置实现的MemCache缓存管理session实现(麻烦)
 *  基于OsCache和shiro组播的方式实现(网络影响)
 *  基于spring-session+redis实现的(最适合)

#### 负载均衡策略 ####

负载均衡策略的优劣及其实现的难易程度有两个关键因素：一、负载均衡算法，二、对网络系统状况的检测方式和能力。

1、rr 轮询调度算法。顾名思义，轮询分发请求。

优点：实现简单

缺点：不考虑每台服务器的处理能力

2、wrr 加权调度算法。我们给每个服务器设置权值weight，负载均衡调度器根据权值调度服务器，服务器被调用的次数跟权值成正比。

优点：考虑了服务器处理能力的不同

3、sh 原地址散列：提取用户IP，根据散列函数得出一个key，再根据静态映射表，查处对应的value，即目标服务器IP。过目标机器超负荷，则返回空。

4、dh 目标地址散列：同上，只是现在提取的是目标地址的IP来做哈希。

优点：以上两种算法的都能实现同一个用户访问同一个服务器。

5、lc 最少连接。优先把请求转发给连接数少的服务器。

优点：使得集群中各个服务器的负载更加均匀。

6、wlc 加权最少连接。在lc的基础上，为每台服务器加上权值。算法为：（活动连接数\*256+非活动连接数）÷权重 ，计算出来的值小的服务器优先被选择。

优点：可以根据服务器的能力分配请求。

7、sed 最短期望延迟。其实sed跟wlc类似，区别是不考虑非活动连接数。算法为：（活动连接数+1)\*256÷权重，同样计算出来的值小的服务器优先被选择。

8、nq 永不排队。改进的sed算法。我们想一下什么情况下才能“永不排队”，那就是服务器的连接数为0的时候，那么假如有服务器连接数为0，均衡器直接把请求转发给它，无需经过sed的计算。

9、LBLC 基于局部性的最少连接。均衡器根据请求的目的IP地址，找出该IP地址最近被使用的服务器，把请求转发之，若该服务器超载，最采用最少连接数算法。

10、LBLCR 带复制的基于局部性的最少连接。均衡器根据请求的目的IP地址，找出该IP地址最近使用的“服务器组”，注意，并不是具体某个服务器，然后采用最少连接数从该组中挑出具体的某台服务器出来，把请求转发之。若该服务器超载，那么根据最少连接数算法，在集群的非本服务器组的服务器中，找出一台服务器出来，加入本服务器组，然后把请求转发之。

## 读写分离 ##

MySql主从配置，读写分离并引入中间件，开源的MyCat，阿里的DRDS都是不错的选择。

如果是对高可用要求比较高，但是又没有相应的技术保障，建议使用阿里云的RDS或者Redis相关数据库，省事省力又省钱。

## 全文检索 ##

如果有搜索业务需求，引入solr或者elasticsearch也是一个不错的选择，不要什么都塞进关系型数据库。

## 缓存优化 ##

引入缓存无非是为了减轻后端数据库服务的压力，防止其"罢工"。

常见的缓存服务有，Ehcache、OsCache、MemCache、Redis，当然这些都是主流经得起考验的缓存技术实现，特别是Redis已大规模运用于分布式集群服务中，并证明了自己优越的性能。

## 消息队列 ##

异步通知：比如短信验证，邮件验证这些非实时反馈性的逻辑操作。

![redis-queue.png][]

流量削锋：应该是消息队列中的常用场景，一般在秒杀或团抢活动中使用广泛。

日志处理：系统中日志是必不可少的，但是如何去处理高并发下的日志确是一个技术活，一不小心可能会压垮整个服务。工作中我们常用到的开源日志ELK，为嘛中间会加一个Kafka或者redis就是这么一个道理(一群人涌入和排队进的区别)。

消息通讯：点对点通信(个人对个人)或发布订阅模式(聊天室)。

## 日志服务 ##

消息队列中提到的[ELK开源日志][ELK]组间对于中小型创业供公司是一个不错的选择。

![ELK.png][]

## 安全优化 ##

以上种种，没有安全做保证可能都会归于零。

*  阿里云的VPN虚拟专有网络以及安全组配置
 *  自建机房的话，要自行配置防火墙安全策略
 *  相关服务访问，比如Mysql、Redis、Solr等如果没有特殊需求尽量使用内网访问并设置鉴权
 *  尽量使用代理服务器，不要对外开放过多的端口
 *  https配合HTTP/2.0也是个不错的选择

## 架构装逼必备词汇 ##

### 高可用 ###

*  负载均衡（负载均衡算法）
 *  反向代理
 *  服务隔离
 *  服务限流
 *  服务降级（自动优雅降级）
 *  失效转移
 *  超时重试（代理超时、容器超时、前端超时、中间件超时、数据库超时、NoSql超时）
 *  回滚机制（上线回滚、数据库版本回滚、事务回滚）

### 高并发 ###

*  应用缓存
 *  HTTP缓存
 *  多级缓存
 *  分布式缓存
 *  连接池
 *  异步并发

### 分布式事务 ###

*  二阶段提交(强一致)
 *  三阶段提交(强一致)
 *  消息中间件(最终一致性)，推荐阿里的RocketMQ

![201611250006077360.jpg][]

### 队列 ###

*  任务队列
 *  消息队列
 *  请求队列

### 扩容 ###

*  单体垂直扩容
 *  单体水平扩容
 *  应用拆分
 *  数据库拆分
 *  数据库分库分表
 *  数据异构
 *  分布式任务

### 网络安全 ###

*  SQL注入
 *  XSS攻击
 *  CSRF攻击
 *  拒绝服务（DoS，Denial　of　Service）攻击

## 架构装逼必备工具 ##

### 操作系统 ###

Linux（必备）、某软的

### 负载均衡 ###

DNS、F5、LVS、Nginx、OpenResty、HAproxy、负载均衡SLB（阿里云）

### 分布式框架 ###

Dubbo、Motan、Spring-Could

### 数据库中间件 ###

DRDS （阿里云）、Mycat、360 Atlas、Cobar (不维护了)

### 消息队列 ###

RabbitMQ、ZeroMQ、Redis、ActiveMQ、Kafka

### 注册中心 ###

Zookeeper、Redis

### 缓存 ###

Redis、Oscache、Memcache、Ehcache

### 集成部署 ###

Docker、Jenkins、Git、Maven

### 存储 ###

OSS、NFS、FastDFS、MogileFS

### 数据库 ###

MySql、Redis、MongoDB、PostgreSQL、Memcache、HBase

### 网络 ###

专用网络VPC、弹性公网IP、CDN

我有一个微信公众号，经常会分享一些Java技术相关的干货；如果你喜欢我的分享，可以用微信搜索“Java团长”或者“javatuanzhang”关注。

[000.png]: https://blog.52itstyle.com/usr/uploads/2017/08/1296156616.png
[002.png]: https://blog.52itstyle.com/usr/uploads/2017/08/3243270291.png
[003.png]: https://blog.52itstyle.com/usr/uploads/2017/08/1537593540.png
[004.png]: https://blog.52itstyle.com/usr/uploads/2017/08/2761933616.png
[006.png]: https://blog.52itstyle.com/usr/uploads/2017/09/1427006707.png
[888.png]: https://blog.52itstyle.com/usr/uploads/2017/09/433394025.png
[777.png]: https://blog.52itstyle.com/usr/uploads/2017/09/3466067041.png
[005.png]: https://blog.52itstyle.com/usr/uploads/2017/08/2148006274.png
[redis-queue.png]: https://blog.52itstyle.com/usr/uploads/2017/08/55576777.png
[ELK]: https://blog.52itstyle.com/archives/679/
[ELK.png]: https://blog.52itstyle.com/usr/uploads/2017/04/2731325935.png
[201611250006077360.jpg]: https://blog.52itstyle.com/usr/uploads/2017/09/2959633295.jpg