利用FastDFS和Nginx构建高可用的DFS分布式文件服务器

我会带着你远行 2022-05-17 08:36 133阅读 0赞

最近在重构以前做过的电商项目，知识库项目的服务器架构。电商项目由于服务端需要存储商家上传的海量的图片，知识库系统需要存储大量的用户上传的各种格式的文件，为了实现高可用应对高并发，所以需要单独抽离出一套文件服务器系统来处理，该文件服务器须满足以下几个特点：负载均衡、线性扩容、冗余备份。

以JavaWeb项目为例。

### **之前的方式：** ###

打成一个war包放在一台Tomcat容器下。将用户上传的文件直接存储在webapp目录。

![70][]

这种，方式的缺点是显而易见的：Tomcat本身不适合做静态资源的存储访问。性能比较差。但总得来说，最初用户量不大时，这种架构是没有什么问题的。但后期，随着用户量的增大，用户对文件的访问速度越来越慢，更要命的是随着并发量的增大，由于一台Tomcat最多只能应付400多的并发量，超过这个并发量，tomcat随时会挂掉。所以，需要将其扩展到集群架构。

### **架构升级：** ###

假设我们现在多了一台Tomcat服务器，并采用了负载均衡。

![70 1][]

此时，如果还将用户存储的文件放在webapp目录下，其问题是致命的。假设A用户在上传文件，此时上传文件1到Tomcat1，上传成功后，用户去查看自己刚刚上传的文件，由于负载均衡，假设他此时访问的是Tomcat2,由于Tomcat2 webapp目录下并不存在文件1，就会报404。所以，我们的做法需要引进单独的文件服务器系统。

### **最终升级：** ###

![70 2][]

最终解决方案：搭建一个文件服务器，专门保存文件。可以使用分布式文件系统FastDFS。由于Tomcat并不适合做静态资源的访问，Apache和Nginx对静态资源的访问比较友好。我们采用Nginx作为文件服务器端的Http服务器。

### 什么是FastDFS? ###

FastDFS是用c语言编写的一款开源的分布式文件系统。FastDFS为互联网量身定制，充分考虑了冗余备份、负载均衡、线性扩容等机制，并注重高可用、高性能等指标，使用FastDFS很容易搭建一套高性能的文件服务器集群提供文件上传、下载等服务。

喜大普奔，这样我们可以用FastDFS构建一个存储空间可以横向扩展，提供一个统一的访问方式，支持每个节点有备份机，可以实现服务器的高可用的分布式文件系统。

### FastDFS架构 ###

FastDFS架构包括 Tracker server和Storage server。客户端请求Tracker server进行文件上传、下载，通过Tracker server调度最终由Storage server完成文件上传和下载。  
Tracker server作用是负载均衡和调度，通过Tracker server在文件上传时可以根据一些策略找到Storage server提供文件上传服务。可以将tracker称为追踪服务器或调度服务器。  
Storage server作用是文件存储，客户端上传的文件最终存储在Storage服务器上，Storage server没有实现自己的文件系统而是利用操作系统 的文件系统来管理文件。可以将storage称为存储服务器。

![70 3][]

服务端两个角色：

Tracker：管理集群，tracker也可以实现集群。每个tracker节点地位平等。收集Storage集群的状态。

Storage：实际保存文件。Storage分为多个组，每个组之间保存的文件是不同的。每个组内部可以有多个成员，组成员内部保存的内容是一样的，组成员的地位是一致的，没有主从的概念。

### 文件上传的流程 ###

![70 4][]

客户端上传文件后存储服务器将文件ID返回给客户端，此文件ID用于以后访问该文件的索引信息。文件索引信息包括：组名，虚拟磁盘路径，数据两级目录，文件名：

![70 5][]

*  组名：文件上传后所在的storage组名称，在文件上传成功后有storage服务器返回，需要客户端自行保存。
 *  虚拟磁盘路径：storage配置的虚拟路径，与磁盘选项store\_path\*对应。如果配置了store\_path0则是M00，如果配置了store\_path1则是M01，以此类推。
 *  数据两级目录：storage服务器在每个虚拟磁盘路径下创建的两级目录，用于存储数据文件。（目录00-FF，两级=256\*256个目录）
 *  文件名：与文件上传时不同。是由存储服务器根据特定信息生成，文件名包含：源存储服务器IP地址、文件创建时间戳、文件大小、随机数和文件拓展名等信息。

### 文件下载 ###

![70 6][]

由于整个文件集群的搭建比较复杂，具体可以下载参考：

[分布式存储 CentOS6.5虚拟机环境搭建FastDFS-5.0.5集群.pdf][CentOS6.5_FastDFS-5.0.5_.pdf]

### 图片服务器使用 ###

这里我采用的是maven工程，由于maven中心仓库没有相关的仓库，需要先将FastDFS官方提供的客户端Java工程转成maven工程，在本地仓库打成Jar包。

[FastDFS的Jar包和maven工程][FastDFS_Jar_maven]

![70 7][]

### 上传图片测试 ###

/**
     * 
     * @ClassName: FastDFSTest
     * @Description: FastDFS图片服务器测试类
     * @Company: xx有限公司
     * @author 吴杰
     * @date 2018年8月8日
     */
    public class FastDFSTest {
    
    	@Test
    	public void uploadFastDFSFile() throws Exception {
    		// 1、向工程中添加jar包
    		// 2、创建一个配置文件。配置tracker服务器地址
    		// 3、加载配置文件
    		ClientGlobal.init("I:/Code/EclipseEEWorkspace/freesub-manager-web/src/main/resources/resource/fastdfsclient.conf");
    		//4、创建一个TrackerClient对象。
    		TrackerClient trackerClient = new TrackerClient();
    		//5、使用TrackerClient对象获得trackerserver对象
    		TrackerServer connection = trackerClient.getConnection();
    		//6、创建一个StorageServer的引用
    		//7、创建一个StorageClient对象:trackerserver、StorageServer两个参数
    		StorageClient storageClient = new StorageClient(connection, null);
    		//8、使用StorageClient对象上传文件
    		String[] paths = storageClient.upload_file("C:/Users/hp/Desktop/服务器系统架构演变.png", "png", null);
    		for(String s : paths) {
    			System.out.println(s);
    		}
    	}
    }

测试结果：

![70 8][]

访问图片地址成功：

![70 9][]

查看Linux图片服务器文件物理地址，确实有这种图片

![70 10][]

### 批量上传效果： ###

![70 11][]

![70 12][]

上传成功！

[70]: /images/20220517/a036b0b506964354989d1f54e33069b0.png
[70 1]: /images/20220517/302109bd3cd246738b1f8ed3acfe3647.png
[70 2]: /images/20220517/3e68a06415b64136898063173f2d1c76.png
[70 3]: /images/20220517/ef1d976e49624411b170fc82bc45123b.png
[70 4]: /images/20220517/106b748eb7e047e49a1b185e91c6b078.png
[70 5]: /images/20220517/e96619a9b3bb4403b4b2a7d3fe445702.png
[70 6]: /images/20220517/f94307ee53744dbe8206300eafe24d27.png
[CentOS6.5_FastDFS-5.0.5_.pdf]: https://pan.baidu.com/s/11JI-zDsTT__koxhYcpP26Q
[FastDFS_Jar_maven]: https://pan.baidu.com/s/1upvpFztysV0-slppD6tebw
[70 7]: /images/20220517/3af86c335cfa4001af62cb9efb93ef87.png
[70 8]: /images/20220517/2f73499150a447b68d32cbbcc7d4f3b9.png
[70 9]: /images/20220517/d5ad0ad5dae54892acd01fbe9042d21a.png
[70 10]: /images/20220517/cdc0715d77f94eadae70718cae4b758c.png
[70 11]: /images/20220517/fe7fe18e190942c99b7ea138f91c3542.png
[70 12]: /images/20220517/74ba72b16508432194bda4b5de695d2f.png