Spark本地开发环境搭建与远程debug设置

àì夳堔傛蜴生んèń 2022-05-10 12:44 235阅读 0赞

快速看完《Spark大数据处理 技术、应用与性能优化》前四章后，对Spark有了一个初步的了解，终于踏出了第一步，现在需要在Spark集群中做些测试例子，熟悉一下开发环境和开发的流程。本文主要总结了如何在本地使用Maven搭建开发环境以及如何进行远程debug。由于采用的Spark是今年5月24号才发布的Spark2.1.1，网上大多数例子都是Spark1.X，因此走了不少弯路，才搭建好开发环境。

## 一：版本概述 ##

Spark版本：2.1.1  
IntelliJ IDEA：2017.1.5  
开发环境：mac  
测试环境：Linux

## 二：本地开发环境搭建 ##

### 1、新建一个Maven项目，archetype选择scala ###

![这里写图片描述][SouthEast]

### 2、导入spark相关包 ###

配置pom.xml，然后Maven自动下载依赖包，Spark2.X已经不提供spark-assembly-1.5.0-hadoop2.4.0.jar 之类的jar包，改成了一些小的jar包，存放在jars目录下。开发的时候可以全部导入jars目录下的jar包，但更方便的是使用maven可以方便的自动导入spark2.1.1开发所需要的包。

<dependency>
          <groupId>org.apache.spark</groupId>
          <artifactId>spark-core_2.11</artifactId>
          <version>2.1.1</version>
          <scope>provided</scope>
    </dependency>

### 3、编写WordCount ###

package com.xuxp.test
    
    import org.apache.spark.{SparkConf, SparkContext}
    
    /**
      * Created by xuxp on 2017/8/21.
      */
    object WordCount {
      def main(args: Array[String]): Unit = {
        if (args.length == 0) {
          System.err.println("Usage: SparkWordCount <inputfile> <outputfile>")
          System.exit(1)
        }
        val conf = new SparkConf().setAppName("WominWordCount")
        val sc = new SparkContext(conf)
        val textRdd = sc.textFile(args(0))
        val result = textRdd.flatMap ( line => line.split("\\s+") ).map(word => (word, 1)).reduceByKey(_ + _)
        result.saveAsTextFile(args(1))
      }
    }

### 4、打包配置 ###

在project settings->Artifacts新建一个JAR—>from modules with dependencies  
选择Main Class.  
![这里写图片描述][SouthEast 1]

配置好后Build—>Build Artifacts —>build，就能生成打包好的jar包  
![这里写图片描述][SouthEast 2]

### 5、jar包上传 ###

配置文件上传tools—>deployment  
![这里写图片描述][SouthEast 3]

打开Browse Remote Host，将文件直接拖过去，就实现文件上传  
![这里写图片描述][SouthEast 4]

### 6、执行jar包 ###

写一个执行脚本，上传后，每次只需要`./run-spark.sh`就能很快的执行。执行时需要保证README.md在hdfs中。  
![这里写图片描述][SouthEast 5]

执行完毕后，可以查询`outputdir/part-00000`中的文件`hadoop fs -cat outputdir/part-00000`  
![这里写图片描述][SouthEast 6]

## 三：远程开发调试 ##

### 1、在远程服务器的bash中设置SPARK\_SUBMIT\_OPTS ###

export SPARK_SUBMIT_OPTS=-agentlib:jdwp=transport=dt_socket,server=y,suspend=y,address=41999

这是临时设置，每次都需要进行设置一下，暂不永久设置。

### 2、在IntelliJ IDEA中配置remote debug ###

![这里写图片描述][SouthEast 7]

### 3、打个断点 ###

![这里写图片描述][SouthEast 8]

### 4、在远程服务器上运行程序 ###

运行时会出现程序挂起，监听端口中，此时进行下一步  
![这里写图片描述][SouthEast 9]

### 5、在IntelliJ IDEA中debug ###

出现如下情况，说明远程debug成功  
![这里写图片描述][SouthEast 10]  
程序会继续输出，并在断点出停住。

![这里写图片描述][SouthEast 11]

## 总结 ##

不得不说IntelliJ IDEA确实是一个非常强大的集成开发环境，提供版本管理，ssh，远程debug等强大功能，是Spark开发的利器，事实上Spark的开发团队也是使用IntelliJ IDEA来开发Spark的。

网上的有关spark的搭建文章有时候并不适合自己，需要根据自己的环境，软件的版本来选择搭建的方式。

## 参考资料 ##

[How to debug a scala based Spark program on Intellij IDEA - Stack Overflow][]  
[想研读下spark的源码，怎么搭阅读和调试的环境呢？ - 知乎][spark_ -]  
[IntelliJ IDEA 导入 spark 源码 步骤 - - CSDN博客][IntelliJ IDEA _ spark _ _ - - CSDN]  
[Spark修炼之道（进阶篇）——Spark入门到精通：第三节 Spark Intellij IDEA开发环境搭建-博客-云栖社区-阿里云][Spark_Spark_ Spark Intellij IDEA_-_-_-]

--------------------

#### 转自：[https://blog.csdn.net/ping\_hu/article/details/77513429][https_blog.csdn.net_ping_hu_article_details_77513429] ####

[SouthEast]: /images/20220505/84c5639fc6e648909eb09907ef69f713.png
[SouthEast 1]: /images/20220505/4fb13af0af73417fb405fd20b52a0c3f.png
[SouthEast 2]: /images/20220505/3938488f13f14292b873ee4e00602112.png
[SouthEast 3]: /images/20220505/756456a86dba4e1db73afb187f717e0a.png
[SouthEast 4]: /images/20220505/279d0fad2369470a822f1e1dcdf7a012.png
[SouthEast 5]: /images/20220505/47a7f5574fe54357abfa8b24f544a0bf.png
[SouthEast 6]: /images/20220505/da2b7c3e796a48ea83b152b828313649.png
[SouthEast 7]: /images/20220505/bb823e1181434c8ebe3fd40a42490e43.png
[SouthEast 8]: /images/20220505/c8d3e84483a0424398530f923d0447cd.png
[SouthEast 9]: /images/20220505/0634728547c54673a8d5e05c9c727c09.png
[SouthEast 10]: /images/20220505/89d61e2af0a54a0f87cffc8fbb02ee81.png
[SouthEast 11]: /images/20220505/689a40b08de94d62bbff73e9d68f4b5d.png
[How to debug a scala based Spark program on Intellij IDEA - Stack Overflow]: https://stackoverflow.com/questions/39885281/how-to-debug-a-scala-based-spark-program-on-intellij-idea
[spark_ -]: https://www.zhihu.com/question/24869894
[IntelliJ IDEA _ spark _ _ - - CSDN]: http://blog.csdn.net/haohaixingyun/article/details/60968776
[Spark_Spark_ Spark Intellij IDEA_-_-_-]: https://yq.aliyun.com/articles/60346?spm=5176.8251999.569296.68.20f9f01769p86X
[https_blog.csdn.net_ping_hu_article_details_77513429]: https://blog.csdn.net/ping_hu/article/details/77513429