Spark性能优化-------开发调优

痛定思痛。 2022-07-10 12:32 295阅读 0赞

Spark源码解析

转载：

http://blog.sina.com.cn/s/articlelist\_2628346427\_2\_1.html

http://blog.sina.com.cn/s/blog\_9ca9623b0102webd.html

# Spark性能优化-------开发调优 #

转载 2016-05-15 12:58:17

开发调优，知道Spark基本开发原则，包括：RDD lineage设计，算子的合理使用，特殊操作的优化等。

原则一：不要对同一份数据重复创建RDD。

原则二：尽量复用同一个RDD。

原则三：对多次使用的RDD进行持久化

对多次使用的RDD进行持久化，此时Spark就会根据你的持久化测量，将RDD的数据保存到内存或磁盘中。

Spark的持久化级别：MEMORY\_ONLY、MEMORY\_AND\_DISK、MEMORY\_ONLY\_SER、MEMORY\_AND\_DISK\_SER、DISK\_ONLY、MEMORY\_ONLY\_2、MEORY\_AND\_DISK\_2，...

后缀为2的级别，必须将所有数据都复制一份副本，并发送到其他节点，数据复制和网络传输会导致较大的性能开销。除非作业的高可用性的要求，否则不要使用这个级别。

原则四：尽量避免使用shuffle类算子

原则五：使用map-side预聚合的shuffle操作

所谓的map-size预聚合，在每个节点本地对相同的key进行一次聚合操作，类似于MapReduce中的本地combiner。在可能的情况下，使用reduceByKey或者aggregateByKey算子来替代groupByKey算子。groupByKey算子不会进行预聚合。

原则六：使用高性能的算子

使用reduceByKey/aggregateByKey替代groupByKey

使用mapPartitions替代普通map：在函数单次处理一个parition所有的数据，不会出现OOM的情况下，性能要高。

使用foreachPartitions替代foreach：比如写入MySQL，foreachPartitions对于连接池的开销是有益的。

使用filter之后进行coalesce操作：使用coalesce算子，手动减少RDD的partition数量。

使用repartitionAndSortWithinPartitions替代repartition与sort类操作：如果在repartition重分区之后，还要进行排序，建议直接使用repartitionAndSortWithinPartitions算子，可以一边进行重分区的shuffle操作，一边进行排序，shuffle与sort两个操作同时进行。

原则七：广播大变量

算子函数中使用外部变量时，默认情况下，Spark会将变量复制多个副本，通过网络传输到task中，此时每个task都有一个变量副本，大量的变量副本在网络中传输的性能开销，以及在各个节点的Executor中占用过多内存导致的频繁GC，都会极大地影响性能。

对该变量进行广播，保证每个Executor的内存中，只驻留一份变量副本，而Executor中的task执行时共享该Executor中的那份副本。

原则八：使用Kryo优化序列化性能

在Spark中，主要有三个地方涉及到了序列化：

1.在算子函数中使用到外部变量时，该变量会被序列化后进行网络传输。

2.将自定义的类型作为RDD的泛型类型时（比如JavaRDD），所有自定义类型对象，都会进行序列化，因为要求自定义的类必须实现Serializable接口。

3.使用可序列化的持久化策略时（比如MEMORY\_ONLY\_SER），Spark会将RDD中的每个partition都序列化成一个大的字节数组。

//设置序列化器为KryoSerializero

Conf.set(“spark.serializer”,”org.apache.spark.serializer.KryoSerializer”)

//注册要序列化的自定义类型

conf.registerKryoClasses(Array(classOf\[MyClass1\],classOf\[MyClass2\]))

原则九：优化数据结构

Java中，有三种类型比较耗费内存：

1.对象，每个Java对象都有对象头、引用等额外的信息，因此比较占用内存空间。

2.字符串，每个字符串内部都有一个字符数组以及长度等额外信息。

3.集合类型，比如HashMap、LinkedList等，因为集合类型内部通常会使用一些内部类来封装集合元素，比如Map.Entry。

在Spark编码实现中，尽量不要使用上面三种数据结构，尽量使用字符串替代对象，使用原始类型（比如Int，Long）替代字符串，使用数组替代集合类型。

发表评论取消回复

表情：

评论列表（有 0 条评论，295人围观）

还没有评论，来说两句吧...

相关阅读

相关 Spark 优化 (一) --------- Spark 性能调优

目录一、常规性能调优 1. 最优资源配置 2. RDD优化 3. 并行度调节 4. 广播大变量

布满荆棘的人生/ 2024年04月06日 10:47/ 0 赞/ 22 阅读

相关 Spark性能优化-------开发调优

Spark源码解析转载： http://blog.sina.com.cn/s/articlelist\_2628346427\_2\_1.html http

痛定思痛。/ 2022年07月10日 12:32/ 0 赞/ 296 阅读

相关 Spark性能优化之资源调优

Spark性能优化之资源调优以下内容源自美团网Spark工程师总结的关于Spark性能优化的方案中的部分内容。调优概述在开发完Spark作业之后，就该为作业

曾经终败给现在/ 2022年06月06日 01:41/ 0 赞/ 325 阅读

相关 Spark性能优化之开发调优

Spark性能优化之开发调优以下内容源自美团网Spark工程师总结的关于Spark性能优化的方案中的部分内容。调优概述 Spark性能优化的第一步，就是要在开

骑猪看日落/ 2022年06月06日 01:40/ 0 赞/ 274 阅读

相关 Spark性能优化：shuffle调优

[Spark性能优化：shuffle调优][Spark_shuffle] [ ][Link 1]原文地址：[https://www.iteblog.com/archive

谁践踏了优雅/ 2022年06月01日 04:18/ 0 赞/ 393 阅读

相关 Spark性能优化：数据倾斜调优

[Spark性能优化：数据倾斜调优][Spark] [ ][Link 1]原文地址：[https://www.iteblog.com/archives/1671.html

谁借莪１个温暖的怀抱￠/ 2022年06月01日 04:16/ 0 赞/ 337 阅读

相关 Spark性能优化：开发调优篇

[Spark性能优化：开发调优篇][Spark] [《Spark性能优化：开发调优篇》][Spark 1] [《Spark性能优化：资源调优篇》][Spark 2]

谁借莪１个温暖的怀抱￠/ 2022年06月01日 04:11/ 0 赞/ 204 阅读

相关 Spark性能优化：shuffle调优

shuffle调优调优概述大多数Spark作业的性能主要就是消耗在了shuffle环节，因为该环节包含了大量的磁盘IO、序列化、网络数据传输等操作。因此

落日映苍穹つ/ 2022年05月24日 01:52/ 0 赞/ 391 阅读

相关 Spark性能优化：开发调优篇(超级干货)

1、前言在大数据计算领域，Spark已经成为了越来越流行、越来越受欢迎的计算平台之一。Spark的功能涵盖了大数据领域的离线批处理、SQL类处理、流式/实时

柔光的暖阳◎/ 2022年05月24日 01:51/ 0 赞/ 184 阅读

相关 Spark性能优化：开发调优篇

1、前言在大数据计算领域，Spark已经成为了越来越流行、越来越受欢迎的计算平台之一。Spark的功能涵盖了大数据领域的离线批处理、SQL类处理、流式/实时计算、机器学习

Love The Way You Lie/ 2022年05月13日 16:16/ 0 赞/ 255 阅读