Spark运行模式及安装部署

￡神魔★判官ぃ 2022-12-29 09:39 128阅读 0赞

### 目录 ###

*   *  一、Spark运行模式
     *  二、Spark安装地址
     *  三、Local模式
     *   *  3.1 安装使用
     *  四、集群角色
     *   *  4.1 Master和Worker集群资源管理
         *  4.2 Driver和Executor任务的管理者
     *  五、Standalone模式
     *   *  5.1 安装使用
         *  5.2 参数说明
         *  5.3 配置历史服务
         *  5.4 配置高可用（HA）
         *  5.5 运行流程
     *  六、Yarn模式（重点）
     *   *  6.1 安装使用
         *  6.2 配置历史服务
         *  6.3 配置查看历史日志
         *  6.4 运行流程
     *  七、几种模式对比

## 一、Spark运行模式 ##

部署Spark集群大体上分为两种模式：**单机模式与集群模式**  
大多数分布式框架都支持单机模式，方便开发者调试框架的运行环境。但是在生产环境中，并不会使用单机模式。因此，后续直接按照集群模式部署Spark集群。

> 下面详细列举了Spark目前支持的部署模式。  
> （1）Local模式：在本地部署单个Spark服务  
> （2）Standalone模式：Spark自带的任务调度模式。（国内常用）  
> （3）YARN模式：Spark使用Hadoop的YARN组件进行资源与任务调度。（国内常用）  
> （4）Mesos模式：Spark使用Mesos平台进行资源与任务的调度。

## 二、Spark安装地址 ##

> 1）官网地址：http://spark.apache.org/  
> 2）文档查看地址：https://spark.apache.org/docs/3.0.0/  
> 3）下载地址：https://spark.apache.org/downloads.html  
> https://archive.apache.org/dist/spark/

## 三、Local模式 ##

Local模式就是运行在一台计算机上的模式，通常就是用于在本机上练手和测试。

### 3.1 安装使用 ###

**1）上传并解压Spark安装包**

[hadoop@hadoop102 sorfware]$ tar -zxvf spark-3.0.0-bin-hadoop3.2.tgz -C /opt/module/
    [hadoop@hadoop102 module]$ mv spark-3.0.0-bin-hadoop3.2 spark-local

**2）官方求PI案例**

[hadoop@hadoop102 spark-local]$ bin/spark-submit \
    --class org.apache.spark.examples.SparkPi \
    --master local \
    ./examples/jars/spark-examples_2.12-3.0.0.jar \
    10

可以查看spark-submit所有参数：

[hadoop@hadoop102 spark-local]$ bin/spark-submit

*  –class：表示要执行程序的主类；
 *  –master local\[2\]  
    （1）local: 没有指定线程数，则所有计算都运行在一个线程当中，没有任何并行计算  
    （2）local\[K\]:指定使用K个Core来运行计算，比如local\[2\]就是运行2个Core来执行  
    （3）local\[\*\]：默认模式。自动帮你按照CPU最多核来设置线程数。比如CPU有8核，Spark帮你自动设置8个线程计算。
 *  spark-examples\_2.12-3.0.0.jar：要运行的程序；
 *  10：要运行程序的输入参数（计算圆周率π的次数，计算次数越多，准确率越高）；

**3）结果展示**  
该算法是利用蒙特·卡罗算法求PI  
![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80Mjc5NjQwMw_size_16_color_FFFFFF_t_70]

## 四、集群角色 ##

### 4.1 Master和Worker集群资源管理 ###

![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80Mjc5NjQwMw_size_16_color_FFFFFF_t_70 1]

> Master和Worker是Spark的守护进程、集群资源管理者，只有Standalong模式下才会使用。  
> Master负责管理集群的资源，Worker负责管理单个节点的资源，类似于Yarn中的RM和NM。

### 4.2 Driver和Executor任务的管理者 ###

![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80Mjc5NjQwMw_size_16_color_FFFFFF_t_70 2]

> Driver和Exector是临时程序，当具体任务提交到Spark才会开启。  
> Driver负责把用户程序转换为Job，为执行器节点分配具体任务并监控Executor的执行情况，将执行情况展示在UI界面。  
> Executor接受Driver分派的任务，负责具体执行。

## 五、Standalone模式 ##

> Standalone模式是Spark自带的资源调动引擎，构建一个由Master + Slave构成的Spark集群，Spark运行在集群中。  
> 这个要和Hadoop中的Standalone区别开来。这里的Standalone是指只用Spark来搭建一个集群，不需要借助Hadoop的Yarn和Mesos等其他框架。

### 5.1 安装使用 ###

**1）集群规划**  
![在这里插入图片描述][20201221212346247.png]

**2）再解压一份Spark安装包，并修改解压后的文件夹名称为spark-standalone**

[hadoop@hadoop102 sorfware]$ tar -zxvf spark-3.0.0-bin-hadoop3.2.tgz -C /opt/module/
    [hadoop@hadoop102 module]$ mv spark-3.0.0-bin-hadoop3.2 spark-standalone

**3）进入Spark的配置目录/opt/module/spark-standalone/conf**

[hadoop@hadoop102 spark-standalone]$ cd conf

**4）修改slave文件，添加work节点：**

[hadoop@hadoop102 conf]$ mv slaves.template slaves
    [hadoop@hadoop102 conf]$ vim slaves
    
    
    hadoop102
    hadoop103
    hadoop104

**5）修改spark-env.sh文件，添加master节点**

[hadoop@hadoop102 conf]$ mv spark-env.sh.template spark-env.sh
    [hadoop@hadoop102 conf]$ vim spark-env.sh
    
    SPARK_MASTER_HOST=hadoop102
    SPARK_MASTER_PORT=7077

**6）分发spark-standalone包**

[hadoop@hadoop102 module]$ xsync spark-standalone/

分发脚本详见集群搭建篇

**7）启动spark集群**

[hadoop@hadoop102 spark-standalone]$ sbin/start-all.sh

查看三台服务器运行进程（xcall.sh脚本详见集群搭建篇）

[hadoop@hadoop102 spark-standalone]$ xcall.sh jps
    ================atguigu@hadoop102================
    3330 Jps
    3238 Worker
    3163 Master
    ================atguigu@hadoop103================
    2966 Jps
    2908 Worker
    ================atguigu@hadoop104================
    2978 Worker
    3036 Jps

注意：如果遇到 “JAVA\_HOME not set” 异常，可以在sbin目录下的spark-config.sh 文件中加入如下配置：

export JAVA_HOME=XXXX

**8）网页查看：hadoop102:8080（master web的端口，相当于hadoop的8088端口）**

目前还看不到任何任务的执行信息。

9）官方求PI案例

[hadoop@hadoop102 spark-standalone]$ bin/spark-submit \
    --class org.apache.spark.examples.SparkPi \
    --master spark://hadoop102:7077 \
    ./examples/jars/spark-examples_2.12-3.0.0.jar \
    10

参数：--master spark://hadoop102:7077指定要连接的集群的master

**10）页面查看http://hadoop102:8080/，发现执行本次任务，默认采用三台服务器节点的总核数24核，每个节点内存1024M。**

8080：master的webUI  
4040：application的webUI的端口号  
![在这里插入图片描述][20201221212616360.png]

### 5.2 参数说明 ###

![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80Mjc5NjQwMw_size_16_color_FFFFFF_t_70 3][]

### 5.3 配置历史服务 ###

> 由于spark-shell停止掉后，hadoop102:4040页面就看不到历史任务的运行情况，所以开发时都配置历史服务器记录任务运行情况。

**1）修改spark-default.conf.template名称**

[hadoop@hadoop102 conf]$ mv spark-defaults.conf.template spark-defaults.conf

**2）修改spark-default.conf文件，配置日志存储路径（写），并分发**

[hadoop@hadoop102 conf]$ vi spark-defaults.conf
    spark.eventLog.enabled          true
    spark.eventLog.dir              hdfs://hadoop102:8020/directory
    
    [hadoop@hadoop102 conf]$ xsync spark-defaults.conf

注意：需要启动Hadoop集群，HDFS上的目录需要提前存在。

[hadoop@hadoop102 hadoop-3.1.3]$ sbin/start-dfs.sh
    [hadoop@hadoop102 hadoop-3.1.3]$ hadoop fs -mkdir /directory

**3）修改spark-env.sh文件，添加如下配置：**

[hadoop@hadoop102 conf]$ vi spark-env.sh
    
    export SPARK_HISTORY_OPTS=" -Dspark.history.ui.port=18080 -Dspark.history.fs.logDirectory=hdfs://hadoop102:8020/directory -Dspark.history.retainedApplications=30"
    # 参数1含义：WEBUI访问的端口号为18080
    # 参数2含义：指定历史服务器日志存储路径（读）
    # 参数3含义：指定保存Application历史记录的个数，如果超过这个值，旧的应用程序信息将被删除，这个是内存中的应用数，而不是页面上显示的应用数。

**4）分发配置文件**

[hadoop@hadoop102 conf]$ xsync spark-env.sh

**5）启动历史服务**

[hadoop@hadoop102 spark-standalone]$ 
    sbin/start-history-server.sh

**6）再次执行任务**

[hadoop@hadoop102 spark-standalone]$ bin/spark-submit \
    --class org.apache.spark.examples.SparkPi \
    --master spark://hadoop102:7077 \
    --executor-memory 1G \
    --total-executor-cores 2 \
    ./examples/jars/spark-examples_2.12-3.0.0.jar \
    10

**7）查看Spark历史服务地址：hadoop102:18080**  
![在这里插入图片描述][20201221212900324.png]

### 5.4 配置高可用（HA） ###

**1）高可用原理**  
![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80Mjc5NjQwMw_size_16_color_FFFFFF_t_70 4]

**2）配置高可用**  
（0）停止集群

[hadoop@hadoop102 spark-standalone]$ sbin/stop-all.sh

（1）Zookeeper正常安装并启动

[hadoop@hadoop102 zookeeper-3.4.10]$ zk.sh start

（2）修改spark-env.sh文件添加如下配置：

[hadoop@hadoop102 conf]$ vi spark-env.sh
    
    #注释掉如下内容：
    #SPARK_MASTER_HOST=hadoop102
    #SPARK_MASTER_PORT=7077
    
    #添加上如下内容。配置由Zookeeper管理Master，在Zookeeper节点中自动创建/spark目录，用于管理：
    export SPARK_DAEMON_JAVA_OPTS=" -Dspark.deploy.recoveryMode=ZOOKEEPER -Dspark.deploy.zookeeper.url=hadoop102,hadoop103,hadoop104 -Dspark.deploy.zookeeper.dir=/spark"
    
    #添加如下代码
    #Zookeeper3.5的AdminServer默认端口是8080，和Spark的WebUI冲突
    export SPARK_MASTER_WEBUI_PORT=8989

（3）分发配置文件

[hadoop@hadoop102 conf]$ xsync spark-env.sh

（4）在hadoop102上启动全部节点

[hadoop@hadoop102 spark-standalone]$ sbin/start-all.sh

（5）在hadoop103上单独启动master节点

[hadoop@hadoop103 spark-standalone]$ sbin/start-master.sh

（6）在启动一个hadoop102窗口，将/opt/module/spark-local/input数据上传到hadoop集群的/input目录

[hadoop@hadoop102 spark-standalone]$ hadoop fs -put /opt/module/spark-local/input/ /input

（7）Spark HA集群访问

[hadoop@hadoop102 spark-standalone]$
    bin/spark-shell \
    --master spark://hadoop102:7077,hadoop103:7077 \
    --executor-memory 2g \
    --total-executor-cores 2

参数：--master spark://hadoop102:7077指定要连接的集群的master

（8）执行WordCount程序

scala>sc.textFile("hdfs://hadoop102:8020/input").flatMap(_.split(" ")).map((_,1)).reduceByKey(_+_).collect
    
    
    res0: Array[(String, Int)] = Array((hadoop,6), (oozie,3), (spark,3), (hive,3), (atguigu,3), (hbase,6))

**3）高可用测试**

![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80Mjc5NjQwMw_size_16_color_FFFFFF_t_70 5]  
![在这里插入图片描述][20201221213053978.png]

（1）查看hadoop102的master进程

[hadoop@hadoop102 ~]$ jps
    5506 Worker
    5394 Master
    5731 SparkSubmit
    4869 QuorumPeerMain
    5991 Jps
    5831 CoarseGrainedExecutorBackend

（2）Kill掉hadoop102的master进程，页面中观察http://hadoop103:8080/的状态是否切换为active。

![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80Mjc5NjQwMw_size_16_color_FFFFFF_t_70 6]

[hadoop@hadoop102 ~]$ kill -9 5394

（3）再启动hadoop102的master进程

[hadoop@hadoop102 spark-standalone]$ sbin/start-master.sh

### 5.5 运行流程 ###

> Spark有standalone-client和standalone-cluster两种模式，主要区别在于：Driver程序的运行节点。

**1）客户端模式**

[hadoop@hadoop102 spark-standalone]$ bin/spark-submit \
    --class org.apache.spark.examples.SparkPi \
    --master spark://hadoop102:7077,hadoop103:7077 \
    --executor-memory 2G \
    --total-executor-cores 2 \
    --deploy-mode client \
    ./examples/jars/spark-examples_2.12-3.0.0.jar \
    10

--deploy-mode client，表示Driver程序运行在本地客户端

![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80Mjc5NjQwMw_size_16_color_FFFFFF_t_70 7]

**2）集群模式模式**

[hadoop@hadoop102 spark-standalone]$ bin/spark-submit \
    --class org.apache.spark.examples.SparkPi \
    --master spark://hadoop102:7077,hadoop103:7077 \
    --executor-memory 2G \
    --total-executor-cores 2 \
    --deploy-mode cluster \
    ./examples/jars/spark-examples_2.12-3.0.0.jar \
    10

--deploy-mode cluster，表示Driver程序运行在集群

![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80Mjc5NjQwMw_size_16_color_FFFFFF_t_70 8]

## 六、Yarn模式（重点） ##

Spark客户端直接连接Yarn，不需要额外构建Spark集群。

### 6.1 安装使用 ###

0）停止Standalone模式下的spark集群

[hadoop@hadoop102 spark-standalone]$ sbin/stop-all.sh
    [hadoop@hadoop102 spark-standalone]$ zk.sh stop
    [hadoop@hadoop103 spark-standalone]$ sbin/stop-master.sh

1）为了防止和Standalone模式冲突，再单独解压一份spark

[hadoop@hadoop102 software]$ tar -zxvf spark-3.0.0-bin-hadoop3.2.tgz -C /opt/module/

2）进入到/opt/module目录，修改spark-3.0.0-bin-hadoop3.2名称为spark-yarn

[hadoop@hadoop102 module]$ mv spark-3.0.0-bin-hadoop3.2/ spark-yarn

3）修改hadoop配置文件/opt/module/hadoop-3.1.3/etc/hadoop/yarn-site.xml，添加如下内容  
因为测试环境虚拟机内存较少，防止执行过程进行被意外杀死，做如下配置

[hadoop@hadoop102 hadoop]$ vi yarn-site.xml
    
    <property>
         <name>yarn.nodemanager.pmem-check-enabled</name>
         <value>false</value>
    </property>
    
    
    <property>
         <name>yarn.nodemanager.vmem-check-enabled</name>
         <value>false</value>
    </property>

4）分发配置文件

[hadoop@hadoop102 conf]$ xsync /opt/module/hadoop-3.1.3/etc/hadoop/yarn-site.xml

5）修改/opt/module/spark-yarn/conf/spark-env.sh，添加YARN\_CONF\_DIR配置，保证后续运行任务的路径都变成集群路径

[hadoop@hadoop102 conf]$ mv spark-env.sh.template spark-env.sh
    [hadoop@hadoop102 conf]$ vi spark-env.sh
    
    YARN_CONF_DIR=/opt/module/hadoop-3.1.3/etc/hadoop

6）启动HDFS以及YARN集群

[hadoop@hadoop102 hadoop-3.1.3]$ sbin/start-dfs.sh
    [hadoop@hadoop103 hadoop-3.1.3]$ sbin/start-yarn.sh

7）执行一个程序

[hadoop@hadoop102 spark-yarn]$ bin/spark-submit \
    --class org.apache.spark.examples.SparkPi \
    --master yarn \
    ./examples/jars/spark-examples_2.12-3.0.0.jar \
    10

参数：--master yarn，表示Yarn方式运行；--deploy-mode表示客户端方式运行程序

8）如果运行的时候，抛出异常ClassNotFoundException:com.sun.jersey.api.client.config.ClientConfig

-原因分析：Spark2中jersey版本是2.22，但是yarn中还需要依赖1.9，版本不兼容
    -解决方式：在yarn-site.xml中，添加
    <property>
    	<name>yarn.timeline-service.enabled</name>
    	<value>false</value>
    </property>

9）查看hadoop103:8088页面，点击History，查看历史页面

![在这里插入图片描述][20201221220053385.png]

### 6.2 配置历史服务 ###

> 由于是重新解压的Spark压缩文件，所以需要针对Yarn模式，再次配置一下历史服务器。

**1）修改spark-default.conf.template名称**

[hadoop@hadoop102 conf]$ mv spark-defaults.conf.template spark-defaults.conf

**2）修改spark-default.conf文件，配置日志存储路径（写）**

[hadoop@hadoop102 conf]$ vi spark-defaults.conf
    spark.eventLog.enabled          true
    spark.eventLog.dir               hdfs://hadoop102:8020/directory

**3）修改spark-env.sh文件，添加如下配置：**

[hadoop@hadoop102 conf]$ vi spark-env.sh
    
    export SPARK_HISTORY_OPTS=" -Dspark.history.ui.port=18080 -Dspark.history.fs.logDirectory=hdfs://hadoop102:8020/directory -Dspark.history.retainedApplications=30"
    # 参数1含义：WEBUI访问的端口号为18080
    # 参数2含义：指定历史服务器日志存储路径
    # 参数3含义：指定保存Application历史记录的个数，如果超过这个值，旧的应用程序信息将被删除，这个是内存中的应用数，而不是页面上显示的应用数。

### 6.3 配置查看历史日志 ###

> 为了从Yarn上关联到Spark历史服务器，需要配置关联路径。

**1）修改配置文件/opt/module/spark-yarn/conf/spark-defaults.conf**

添加如下内容：

spark.yarn.historyServer.address=hadoop102:18080
    spark.history.ui.port=18080

**2）重启Spark历史服务**

[hadoop@hadoop102 spark-yarn]$ sbin/stop-history-server.sh 
    
    [hadoop@hadoop102 spark-yarn]$ sbin/start-history-server.sh

**3）提交任务到Yarn执行**

[hadoop@hadoop102 spark-yarn]$ bin/spark-submit \
    --class org.apache.spark.examples.SparkPi \
    --master yarn \
    ./examples/jars/spark-examples_2.12-3.0.0.jar \
    10

**4）Web页面查看日志：http://hadoop103:8088/cluster**  
![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80Mjc5NjQwMw_size_16_color_FFFFFF_t_70 9]

点击“history”跳转到http://hadoop102:18080/  
![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80Mjc5NjQwMw_size_16_color_FFFFFF_t_70 10]

### 6.4 运行流程 ###

> Spark有yarn-client和yarn-cluster两种模式，主要区别在于：**Driver程序的运行节点**。  
> yarn-client：Driver程序运行在客户端，适用于交互、调试，希望立即看到app的输出。  
> yarn-cluster：Driver程序运行在由ResourceManager启动的APPMaster适用于生产环境。

**1）客户端模式（默认）**

[hadoop@hadoop102 spark-yarn]$ bin/spark-submit \
    --class org.apache.spark.examples.SparkPi \
    --master yarn \
    --deploy-mode client \
    ./examples/jars/spark-examples_2.12-3.0.0.jar \
    10

![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80Mjc5NjQwMw_size_16_color_FFFFFF_t_70 11]

> **客户端向通过SparkSubmit向Yarn提交任务时，会在本地创建Driver进程并向RM进行任务注册，RM收到任务后在NM上启动一个ApplicationMaster负责任务的管理，同时AM向RM申请资源创建Executoer，Executor向Driver进行反向注册获取具体任务进行处理，任务结束后AM会向RM进行注销，释放占用资源。**

**2）集群模式**

[hadoop@hadoop102 spark-yarn]$ bin/spark-submit \
    --class org.apache.spark.examples.SparkPi \
    --master yarn \
    --deploy-mode cluster \
    ./examples/jars/spark-examples_2.12-3.0.0.jar \
    10

![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80Mjc5NjQwMw_size_16_color_FFFFFF_t_70 12]

> **与客户端提交方式不同的是，集群模式提交任务时RM会先启动AM，然后在AM所在节点启动Driver进程。**

## 七、几种模式对比 ##

![在这里插入图片描述][20201221221607744.png]

[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80Mjc5NjQwMw_size_16_color_FFFFFF_t_70]: /images/20221120/b044302075d64402960fd784cd08d810.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80Mjc5NjQwMw_size_16_color_FFFFFF_t_70 1]: /images/20221120/a6330e3305674048b99c6e30a4af61ec.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80Mjc5NjQwMw_size_16_color_FFFFFF_t_70 2]: /images/20221120/474b8bbe0f2148ad901a145ff5708ed3.png
[20201221212346247.png]: /images/20221120/a577deac6a814161bba13395e6590ded.png
[20201221212616360.png]: /images/20221120/8663cc90fb3d4db9a72c3ac6411790a2.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80Mjc5NjQwMw_size_16_color_FFFFFF_t_70 3]: /images/20221120/717d68f7cfdd4dfcbeb14a5fa68c1208.png
[20201221212900324.png]: /images/20221120/554957b795fa4b07aa3dc6d9e2ce988e.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80Mjc5NjQwMw_size_16_color_FFFFFF_t_70 4]: /images/20221120/2df1438b42154146afc2344aac3cfa31.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80Mjc5NjQwMw_size_16_color_FFFFFF_t_70 5]: /images/20221120/f128cbeb443b4564976c6569d8be663b.png
[20201221213053978.png]: /images/20221120/10d99556e769491d81a5856b0a7c445c.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80Mjc5NjQwMw_size_16_color_FFFFFF_t_70 6]: /images/20221120/72e84df6f88c41bebda8fffbcb7cd661.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80Mjc5NjQwMw_size_16_color_FFFFFF_t_70 7]: /images/20221120/11bd740c04f44db28734926f0fc0426d.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80Mjc5NjQwMw_size_16_color_FFFFFF_t_70 8]: /images/20221120/c70bc402f2554747a6552d64fcf92710.png
[20201221220053385.png]: /images/20221120/ad2ac64a4db44d44b2adea239830b779.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80Mjc5NjQwMw_size_16_color_FFFFFF_t_70 9]: /images/20221120/9792f8468ae5474182d055f13cb9a485.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80Mjc5NjQwMw_size_16_color_FFFFFF_t_70 10]: /images/20221120/44e2f6bbe4a544da85e765fa0676ff04.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80Mjc5NjQwMw_size_16_color_FFFFFF_t_70 11]: /images/20221120/8e5f5fa9d0734b59bde49415ccfe55ac.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80Mjc5NjQwMw_size_16_color_FFFFFF_t_70 12]: /images/20221120/e3f04b6d909f40cdb6083bfbf323e201.png
[20201221221607744.png]: /images/20221120/82e2e4f889e842c3afb51e7f746c6ea7.png