spark原理详情记录

怼烎@ 2021-09-28 15:50 325阅读 0赞

### 1、**spark是什么？** ###

快速，通用，可扩展的分布式计算引擎

### **2、弹性分布式数据集RDD** ###

RDD（Resilient Distributed Dataset）叫做分布式数据集，是Spark中最基本的数据抽象，它代表一个不可变、可分区、里面的元素可并行计算的集合。RDD具有数据流模型的特点：自动容错、位置感知性调度和可伸缩性。RDD允许用户在执行多个查询时显式地将工作集缓存在内存中，后续的查询能够重用工作集，这极大地提升了查询速度。

RDD的属性

![930376-20170907095743991-1306349769.png][]

1）**一组分片（Partition）**，即数据集的基本组成单位。对于RDD来说，每个分片都会被一个计算任务处理，并决定并行计算的粒度。用户可以在创建RDD时指定RDD的分片个数，如果没有指定，那么就会采用默认值。默认值就是程序所分配到的CPU Core的数目。

2）**一个计算每个分区的函数**。Spark中RDD的计算是以分片为单位的，每个RDD都会实现compute函数以达到这个目的。compute函数会对迭代器进行复合，不需要保存每次计算的结果。

3）**RDD之间的依赖关系**。RDD的每次转换都会生成一个新的RDD，所以RDD之间就会形成类似于流水线一样的前后依赖关系。在部分分区数据丢失时，Spark可以通过这个依赖关系重新计算丢失的分区数据，而不是对RDD的所有分区进行重新计算。

4）**一个Partitioner，**即RDD的分片函数。当前Spark中实现了两种类型的分片函数，一个是基于哈希的HashPartitioner，另外一个是基于范围的RangePartitioner。只有对于于key-value的RDD，才会有Partitioner，非key-value的RDD的Parititioner的值是None。Partitioner函数不但决定了RDD本身的分片数量，也决定了parent RDD Shuffle输出时的分片数量。

5）**一个列表**，存储存取每个Partition的优先位置（preferred location）。对于一个HDFS文件来说，这个列表保存的就是每个Partition所在的块的位置。按照“移动数据不如移动计算”的理念，Spark在进行任务调度的时候，会尽可能地将计算任务分配到其所要处理数据块的存储位置。

创建RDD的两种方式

1、由一个已经存在的Scala集合创建。

val rdd1 = sc.parallelize(Array(1,2,3,4,5,6,7,8))

2、由外部存储系统的数据集创建，包括本地的文件系统，还有所有Hadoop支持的数据集，比如HDFS、Cassandra、HBase等

val rdd2 = sc.textFile("hdfs://node1.itcast.cn:9000/words.txt")

**Spark专业术语定义**

**1、Application：Spark应用程序**

指的是用户编写的Spark应用程序，包含了Driver功能代码和分布在集群中多个节点上运行的Executor代码。

Spark应用程序，由一个或多个作业JOB组成

![20180320013154552.jpg][]

**2、Driver：驱动程序**

Spark中的Driver即运行上述Application的Main()函数并且创建SparkContext，其中创建SparkContext的目的是为了准备Spark应用程序的运行环境。在Spark中由SparkContext负责和ClusterManager通信，进行资源的申请、任务的分配和监控等;当Executor部分运行完毕后，Driver负责将SparkContext关闭。通常SparkContext代表Driver

![20180320013155532.jpg][]

driver进程就是应用的main()函数并且构建sparkContext对象，当我们提交了应用之后，便会启动一个对应的driver进程，driver本身会根据我们设置的参数占有一定的资源（主要指cpu core和memory）。下面说一说driver和executor会做哪些事。
    
    driver可以运行在master上，也可以运行worker上（根据部署模式的不同）。driver首先会向集群管理者（standalone、yarn，mesos）申请spark应用所需的资源，也就是executor，然后集群管理者会根据spark应用所设置的参数在各个worker上分配一定数量的executor，每个executor都占用一定数量的cpu和memory。在申请到应用所需的资源以后，driver就开始调度和执行我们编写的应用代码了。driver进程会将我们编写的spark应用代码拆分成多个stage，每个stage执行一部分代码片段，并为每个stage创建一批tasks，然后将这些tasks分配到各个executor中执行。
    
    executor进程宿主在worker节点上，一个worker可以有多个executor。每个executor持有一个线程池，每个线程可以执行一个task，executor执行完task以后将结果返回给driver，每个executor执行的task都属于同一个应用。此外executor还有一个功能就是为应用程序中要求缓存的 RDD 提供内存式存储，RDD 是直接缓存在executor进程内的，因此任务可以在运行时充分利用缓存数据加速运算

**3、Cluster Manager：资源管理器**

指的是在集群上获取资源的外部服务，常用的有：Standalone，Spark原生的资源管理器，由Master负责资源的分配;Haddop Yarn，由Yarn中的ResearchManager负责资源的分配;Messos，由Messos中的Messos Master负责资源管理

![20180320013155652.jpg][]

**4、Executor：执行器**

Application运行在Worker节点上的一个进程，该进程负责运行Task，并且负责将数据存在内存或者磁盘上，每个Application都有各自独立的一批Executor

![20180320013155397.jpg][]

可通过配置并发度和setNumTask来配置一个executor同时处理多少个task。默认情况下一个executor就处理一个task。如果处理多个task，executor会循环遍历执行task

**5、Worker：计算节点**

集群中任何可以运行Application代码的节点，类似于Yarn中的NodeManager节点。在Standalone模式中指的就是通过Slave文件配置的Worker节点，在Spark on Yarn模式中指的就是NodeManager节点，在Spark on Messos模式中指的就是Messos Slave节点

![20180320013156775.jpg][]

**6、RDD：弹性分布式数据集**

Resillient Distributed Dataset，Spark的基本计算单元，可以通过一系列算子进行操作(主要有Transformation和Action操作)

![20180320013156370.jpg][]

**7、窄依赖**

父RDD每一个分区最多被一个子RDD的分区所用;表现为一个父RDD的分区对应于一个子RDD的分区，或两个父RDD的分区对应于一个子RDD 的分区

![20180320013156270.jpg][]

**8、宽依赖**

父RDD的每个分区都可能被多个子RDD分区所使用，子RDD分区通常对应所有的父RDD分区

![20180320013156816.jpg][]

常见的窄依赖有：map、filter、union、mapPartitions、mapValues、join(父RDD是hash-partitioned ：如果JoinAPI之前被调用的RDD API是宽依赖(存在shuffle), 而且两个join的RDD的分区数量一致，join结果的rdd分区数量也一样，这个时候join api是窄依赖)。

常见的宽依赖有groupByKey、partitionBy、reduceByKey、join(父RDD不是hash-partitioned ：除此之外的，rdd 的join api是宽依赖)。

**9、DAG：有向无环图**

Directed Acycle graph，反应RDD之间的依赖关系

![20180320013156772.jpg][]

**10、DAGScheduler：有向无环图调度器**

基于DAG划分Stage 并以TaskSet的形势提交Stage给TaskScheduler;负责将作业拆分成不同阶段的具有依赖关系的多批任务;最重要的任务之一就是：计算作业和任务的依赖关系，制定调度逻辑。在SparkContext初始化的过程中被实例化，一个SparkContext对应创建一个DAGScheduler

![20180320013156919.jpg][]

**11、TaskScheduler：任务调度器**

将Taskset提交给worker(集群)运行并回报结果;负责每个具体任务的实际物理调度

![20180320013156648.jpg][]

**12、Job：作业**

由一个或多个调度阶段所组成的一次计算作业;包含多个Task组成的并行计算，往往由Spark Action催生，一个JOB包含多个RDD及作用于相应RDD上的各种Operation。

![20180320013156777.jpg][]

**13、Stage：调度阶段**

一个任务集对应的调度阶段;每个Job会被拆分很多组Task，每组任务被称为Stage，也可称TaskSet，一个作业分为多个阶段;Stage分成两种类型ShuffleMapStage、ResultStage

![20180320013156177.jpg][]

**14、TaskSet：任务集**

由一组关联的，但相互之间没有Shuffle依赖关系的任务所组成的任务集

![20180320013157501.jpg][]

1)一个Stage创建一个TaskSet;  
2)为Stage的每个Rdd分区创建一个Task,多个Task封装成TaskSet

**15、Task：任务**

被送到某个Executor上的工作任务;单个分区数据集上的最小处理流程单元

![20180320013157544.jpg][]

总体如图

![20180320013157563.jpg][]

[930376-20170907095743991-1306349769.png]: /images/20210923/1b42ed7aa6f2433eb728ba58cd20e0d4.png
[20180320013154552.jpg]: http://www.raincent.com/uploadfile/2018/0320/20180320013154552.jpg
[20180320013155532.jpg]: http://www.raincent.com/uploadfile/2018/0320/20180320013155532.jpg
[20180320013155652.jpg]: http://www.raincent.com/uploadfile/2018/0320/20180320013155652.jpg
[20180320013155397.jpg]: http://www.raincent.com/uploadfile/2018/0320/20180320013155397.jpg
[20180320013156775.jpg]: http://www.raincent.com/uploadfile/2018/0320/20180320013156775.jpg
[20180320013156370.jpg]: http://www.raincent.com/uploadfile/2018/0320/20180320013156370.jpg
[20180320013156270.jpg]: http://www.raincent.com/uploadfile/2018/0320/20180320013156270.jpg
[20180320013156816.jpg]: http://www.raincent.com/uploadfile/2018/0320/20180320013156816.jpg
[20180320013156772.jpg]: http://www.raincent.com/uploadfile/2018/0320/20180320013156772.jpg
[20180320013156919.jpg]: http://www.raincent.com/uploadfile/2018/0320/20180320013156919.jpg
[20180320013156648.jpg]: http://www.raincent.com/uploadfile/2018/0320/20180320013156648.jpg
[20180320013156777.jpg]: http://www.raincent.com/uploadfile/2018/0320/20180320013156777.jpg
[20180320013156177.jpg]: http://www.raincent.com/uploadfile/2018/0320/20180320013156177.jpg
[20180320013157501.jpg]: http://www.raincent.com/uploadfile/2018/0320/20180320013157501.jpg
[20180320013157544.jpg]: http://www.raincent.com/uploadfile/2018/0320/20180320013157544.jpg
[20180320013157563.jpg]: http://www.raincent.com/uploadfile/2018/0320/20180320013157563.jpg