SparkCore RDD概述

ゝ一纸荒年。 2024-04-20 09:08 40阅读 0赞

# 1 RDD 概述 #

## 1.1 什么是 RDD ##

RDD（Resilient Distributed Dataset）叫做弹性分布式数据集，是 Spark 中最基本的数据

抽象。代码中是一个抽象类，它代表一个弹性的、不可变、可分区、里面的元素可并行计算

的集合。

![1604514-20190706045203855-161247918.png][]

![1604514-20190706045037860-228386527.png][]

![1604514-20190706045237719-366117375.png][]

**　　　　　　　　　　　　　　　　WordCount：**

![1604514-20190706045328201-1443622146.png][]

## 1.2 RDD 的属性 ##

![1604514-20190706040205181-2041463944.png][]

1) 一组分区（Partition），即数据集的基本组成单位;

2) 一个计算每个分区的函数;

3) RDD 之间的依赖关系;

4) 一个 Partitioner，即 RDD 的分片函数;

5) 一个列表，存储存取每个 Partition 的优先位置（preferred location）。

## 1.3 RDD 特点 ##

RDD 表示只读的分区的数据集，对 RDD 进行改动，只能通过 RDD 的转换操作，由一

个 RDD 得到一个新的 RDD，新的 RDD 包含了从其他 RDD 衍生所必需的信息。RDDs 之间

存在依赖，RDD 的执行是按照血缘关系延时计算的。如果血缘关系较长，可以通过持久化

RDD 来切断血缘关系。

### 1.3.1 弹性 ###

存储的弹性：内存与磁盘的自动切换；

容错的弹性：数据丢失可以自动恢复；

计算的弹性：计算出错重试机制；

分片的弹性：可根据需要重新分片。

### 1.3.2 分区 ###

RDD 逻辑上是分区的，每个分区的数据是抽象存在的，计算的时候会通过一个 compute

函数得到每个分区的数据。如果 RDD 是通过已有的文件系统构建，则 compute 函数是读取

指定文件系统中的数据，如果 RDD 是通过其他 RDD 转换而来，则 compute 函数是执行转

换逻辑将其他 RDD 的数据进行转换。

### 1.3.3 只读 ###

如下图所示，RDD 是只读的，要想改变 RDD 中的数据，只能在现有的 RDD 基础上创

建新的 RDD。

由一个 RDD 转换到另一个 RDD，可以通过丰富的操作算子实现，不再像 MapReduce

那样只能写 map 和 reduce 了。

RDD 的操作算子包括两类，一类叫做 transformations，它是用来将 RDD 进行转化，构

建 RDD 的血缘关系；另一类叫做 actions，它是用来触发 RDD 的计算，得到 RDD 的相关计

算结果或者将 RDD 保存的文件系统中。下图是 RDD 所支持的操作算子列表。

### 1.3.4 依赖 ###

RDDs 通过操作算子进行转换，转换得到的新 RDD 包含了从其他 RDDs 衍生所必需的

信息，RDDs 之间维护着这种血缘关系，也称之为依赖。如下图所示，依赖包括两种，一种

是窄依赖，RDDs 之间分区是一一对应的，另一种是宽依赖，下游 RDD 的每个分区与上游

RDD(也称之为父 RDD)的每个分区都有关，是多对多的关系。

![1604514-20190706044732293-367913855.png][]

### 1.3.5 缓存 ###

如果在应用程序中多次使用同一个 RDD，可以将该 RDD 缓存起来，该 RDD 只有在第

一次计算的时候会根据血缘关系得到分区的数据，在后续其他地方用到该 RDD 的时候，会

直接从缓存处取而不用再根据血缘关系计算，这样就加速后期的重用。如下图所示，RDD-

1 经过一系列的转换后得到 RDD-n 并保存到 hdfs，RDD-1 在这一过程中会有个中间结果，

如果将其缓存到内存，那么在随后的 RDD-1 转换到 RDD-m 这一过程中，就不会计算其之

前的 RDD-0 了。

![1604514-20190706044804411-1115652749.png][]

### 1.3.6 CheckPoint ###

虽然 RDD 的血缘关系天然地可以实现容错，当 RDD 的某个分区数据失败或丢失，可

以通过血缘关系重建。但是对于长时间迭代型应用来说，随着迭代的进行，RDDs 之间的血

缘关系会越来越长，一旦在后续迭代过程中出错，则需要通过非常长的血缘关系去重建，势

必影响性能。为此，RDD 支持 checkpoint 将数据保存到持久化的存储中，这样就可以切断

之前的血缘关系，因为 checkpoint后的RDD 不需要知道它的父RDDs 了，它可以从 checkpoint

处拿到数据。

转载于:https://www.cnblogs.com/LXL616/p/11141441.html

[1604514-20190706045203855-161247918.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/04/18/811245ec88484d42b2908ec143790b49.png
[1604514-20190706045037860-228386527.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/04/18/2e21a30717884eb0a64f5168e0ecd1c3.png
[1604514-20190706045237719-366117375.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/04/18/be892ff9bfa148b1bbaa90a53d86030f.png
[1604514-20190706045328201-1443622146.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/04/18/5c65b4bdecbb414e9668140ad59faf52.png
[1604514-20190706040205181-2041463944.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/04/18/d1e076afb02f40c192ea8ef5045ae818.png
[1604514-20190706044732293-367913855.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/04/18/f577e443fc284482857ec6284c8e3e3b.png
[1604514-20190706044804411-1115652749.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/04/18/5c6217aa6b3f418796e6a0170dd922b6.png