发表评论取消回复
相关阅读
相关 Spark 内存管理
执行 Spark 的应用程序时, Spark 集群会启动 Driver 和 Executor 两种JVM 进程,前者为主控进程,负责创建 Spark 上下文,提交 Spa...
相关 实时计算引擎Spark笔试题:一些常见的比较总结
1 Spark repartition和coalesce的区别 1.1. repartition只是coalesce接口中shuffle为true的实现 1.2
相关 实时计算引擎Spark笔试题:Spark 内存管理模型&动态内存管理
内存结构图![57b1deb3f2194c2fb10c4d233a61fe4c.png][] 动态内存管理 1.设定基本的存储内存和执行内存区域(spark.sto
相关 实时计算引擎Spark笔试题:Spark Shuffle 机制
说明:Spark是目前大数据中非常流行的运算框架,Spark的Shuffle机制是完成运算最重要的一环,面试时经常会被问到. 在Spark中,Shuffle分为map阶段和r
相关 实时计算引擎Spark笔试题:Spark 内存管理模型&动态内存管理
内存结构图 ![1da8920e5afc9331b5bfc9a19eb0ede4.png][] 动态内存管理 1.设定基本的存储内存和执行内存区域(spark
相关 实时计算引擎Spark笔试题:Spark Streaming 反压机制(Back Pressure)
Spark Streaming 反压机制是1.5版本推出的特性,用来解决处理速度比摄入速度慢的情况,简单来讲就是做流量控制。当批处理时间(Batch Processing Ti
相关 实时计算引擎Spark笔试题:Spark Catalyst 查询优化器原理
这里我们讲解一下SparkSQL的优化器系统Catalyst,Catalyst本质就是一个SQL查询的优化器,而且和 大多数当前的大数据SQL处理引擎设计基本相同(Impala
相关 实时计算引擎Spark笔试题:一些常见的比较总结
1 Spark repartition和coalesce的区别 1.1. repartition只是coalesce接口中shuffle为true的实现 1.2
相关 Spark-内存管理
Spark内存管理 堆内和堆外内存规划 作为一个 JVM 进程, Executor 的内存管理建立在 JVM 的内存管理之上, Spark 对 JVM的堆内(On-
相关 spark 内存管理
从[Spark][] 1.6版本开始,Spark采用Unified Memory Management这样一种新的内存管理模型。 Spark中的内存使用分为两部分:执行(ex
还没有评论,来说两句吧...