Spark-Shuffle管理机制、内存管理、文件寻址、调优、源码

墨蓝 2021-11-26 14:30 310阅读 0赞

# Spark-Shuffle机制、内存、寻址、调优、源码 #

## 一、SparkShuffle概念 ##

reduceByKey会将上一个RDD中的每一个key对应的所有value聚合成一个value，然后生成一个新的RDD，元素类型是<key,value>对的形式，这样每一个key对应一个聚合起来的value

注意：

数据在聚合之前RDD的partition可能存放在不同节点上（RDD是弹性分布数据集）

### 聚合 ###

– Shuffle Write：上一个stage的每个map task就必须保证将自己处理的当前分区的数据相同的key写入一个分区文件中，可能会写入多个不同的分区文件中。

– Shuffle Read：reduce task就会从上一个stage的所有task所在的机器上寻找属于己的那些分区文件，这样就可以保证每一个key所对应的value都会汇聚到同一个节点上去处理和聚合。

## 二、SparkShuffle管理类型 ##

### 1 HashShuffleManager(1.6版本后GG) ###

#### a 普通机制 ####

##### HashShuffleManager-普通机制架构图 #####

![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzQwOTI5OTIx_size_16_color_FFFFFF_t_70]  
 在普通机制中，产生小文件数量为：M（map task的个数）\*R（reduce task的个数）

拉取数据过程和MR一样

##### HashShuffleManager-普通机制执行流程 #####

1每一个map task将不同结果写到不同的buffer中，每个buffer的大小为32K。buffer起到数据缓存的作用

2每个buffer文件最后对应一个磁盘小文件

3reduce task来拉取对应的磁盘小文件

##### 隐患–产生磁盘小文件过多 #####

加大Shuffle Write和Shuffle Read读写数据的压力

在JVM堆内存中对象过多会造成频繁的gc，当gc无法解决运行所需要的内存的话，就会OOM

在数据传输过程中会有频繁的网络通信，频繁的网络通信出现通信故障的可能性大大增加，需要DAGScheduler重新连接（4次连接不到当前partition就GG）

#### b 合并机制 ####

##### HashShuffleManager-合并机制架构图 #####

![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzQwOTI5OTIx_size_16_color_FFFFFF_t_70 1]  
 产生磁盘小文件的个数：C(core的个数)\*R（reduce的个数）

##### 隐患 #####

虽然磁盘小文件相对于普通机制来讲减少了很多，但是依旧存在这个问题

HashShuffleManager的合并模式的核是1，也就容易造成数据等待问题

### 2 SortShuffleManager(1.2版本提出，2.0+使用) ###

普通机制常用于需要排序的算子，eg：ReduceBuyKey

bypass机制常用于不需要排序的算子，eg：SortBuyKey，RePartition

#### a 普通机制 ####

##### SortShuffleManager-普通机制架构图 #####

![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzQwOTI5OTIx_size_16_color_FFFFFF_t_70 2]  
 产生磁盘小文件的个数： 2\*M（map task的个数）

##### SortShuffleManager-执行流程 #####

a) map task 的计算结果会写入到一个内存数据结构里面，内存数据结构默认是5M

b) 在shuffle的时候会有一个定时器，不定期的去估算这个内存结构的大小，当内存结构中的数据超过5M时，比如现在内存结构中的数据为5.01M，那么他会申请5.01\*2-5=5.02M内存给内存数据结构

c) 如果申请成功不会进行溢写，如果申请不成功，这时候会发生溢写磁盘

d) 在溢写之前内存结构中的数据会进行排序分区

e) 然后开始溢写磁盘，写磁盘是以batch的形式去写，一个batch是1万条数据

f) map task执行完成后，会将这些磁盘小文件合并成一个大的磁盘文件，同时生成一个索引文件

g) reduce task去map端拉取数据的时候，首先解析索引文件，根据索引文件再去拉取对应的数据

#### b bypass机制机制 ####

##### SortShuffleManager-bypass机制架构图 #####

![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzQwOTI5OTIx_size_16_color_FFFFFF_t_70 3]  
 产生的磁盘小文件为：2\*M（map task的个数）

##### bypass机制触发条件 #####

shuffle reduce task的数量小于spark.shuffle.sort.bypassMergeThreshold的参数值。这个值默认是200

## 三、shuffle内存管理 ##

Driver和Excutor使用内存，其中Driver中主要在回收数据和task运行时使用内存相对简单，在此主要介绍Excutor情况

1.6中的统一内存管理和2.0中的统一内存管理比例不一样（0.75,0.5）（0.6,0.5）

### 1 静态内存管理(1.6之前) ###

#### 静态内存分布图 ####

![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzQwOTI5OTIx_size_16_color_FFFFFF_t_70 4]

### 2 统一内存管理(1.6之后) ###

#### 统一内存分布图 ####

![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzQwOTI5OTIx_size_16_color_FFFFFF_t_70 5]

#### 注意 ####

在绿色区域两者内存可以相互使用

## 四、shuffle文件寻址 ##

### 相关管理函数 ###

#### MapOutputTracker 管理磁盘文件 ####

MapOutputTrackerMaster–Driver

MapOutputTrackerWorker–Executor

#### BlockManager 块管理 ####

BlockManagerMaster–Driver

disStore 磁盘数据  
 memoryStore 内存数据  
 BlockTransferService 负责拉取数据

BlockManagerSlave–Executor

disStore 磁盘数据  
 memoryStore 内存数据  
 BlockTransferService 负责拉取数据

### 寻址流程图 ###

![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzQwOTI5OTIx_size_16_color_FFFFFF_t_70 6]

### 流程描述 ###

1 map task处理完数据之后，将结果和磁盘小文件的位置信息封装到一个MapStatus对象中，通过MapOutputTrackerWorker汇报给Driver

2 reduce task处理数据之前先向Driver中MapOutputTrackerMaster要磁盘文件数据，DriverMapOutputTrackerMaster返回数据的位置信息

3 reduce task端的BlockManager取连接map task端的BlockManager

4 连接之后，由reduce task端的BlockTransferService拉取map task端的数据到shuffle的聚合内存中，当内存不足时会自动溢写磁盘  
 （默认一次启动5个线程，最多一次拉取48M）

附：

途中蓝线的数据主要参与RDD的持久化，eg：

RDD cache 持久化某一RDD

RDD unpersist 手动卸载持久化在缓存中的数据，常用于多个job任务，需要清除没用的缓存

广播变量 broadcast，Driver提交N个task到Excutor，Excutor会产生一个内存来处理

### 调优 ###

减少拉取量48M，充分溢写

增大Ex的整体内存

增大shuffle内存比例

## 五、shuffle调优 ##

### 更改参数方式 ###

1 sparkconf.set(“spark.shuffle.file.buffer”,“64K”)  
2 在conf/spark-defaults.conf  
3 ./spark-submit --conf spark.shuffle.file.buffer=64 --conf spark.reducer.maxSizeInFlight=96

优先级排序：132

建议使用 ： 3。  
因为1，2是写在代码中的参数，不易更改

### 参数调优 ###

##### spark.shuffle.sort.bypassMergeThreshold(200) #####

默认值：200  
参数说明：在shuffle过程中不会进行排序操作才可以使用(**sortByKey/R…Patition**)，注意设置的值要大于当前task数量  
自动启用bypass机制，map-side就不会进行排序了，减少了排序的性能开销。但是这种方式下，依然会产生大量的磁盘文件，因此shuffle write性能有待提高。

##### spark.reducer.maxSizeInFlight(48M) #####

默认值：48m  
参数说明：reduce task端的BlockTransferService拉取map task端的数据到shuffle的聚合内存中，一次拉取的数据大小，增大参数可以减少拉取数据的次数，也就可以减少网络传输的次数

##### spark.shuffle.io.maxRetries(重试次数3) #####

默认值：3  
参数说明：任务调度中TaskSh中task提交失败3次后，由DAGSh重新发送  
调优建议：对于那些包含了特别耗时的shuffle操作的作业，增加重试最大次数，以避免由于JVM的full gc或者网络不稳定等因素导致的数据拉取失败，可以大幅度提升稳定性。  
shuffle file not find taskScheduler不负责重试task，由DAGScheduler负责重试stage

##### spark.shuffle.io.retryWait(等待 5s 后失败) #####

默认值：5s  
参数说明：具体解释同上，该参数代表了每次重试拉取数据的等待间隔，默认是5s。  
调优建议：建议加大间隔时长（比如60s），以增加shuffle操作的稳定性。

##### spark.shuffle.memoryFraction(静态内存中的0.2) #####

默认值：0.2  
参数说明：该参数代表了Executor内存中，分配给shuffle read task进行聚合操作的内存比例，默认是20%。  
调优建议：如果内存充足，而且很少使用持久化操作，建议调高这个比例，给shuffle read的聚合操作更多内存，以避免由于内存不足导致聚合过程中频繁读写磁盘。

##### spark.shuffle.file.buffer(1.6版本前) #####

默认值：32k  
参数说明：在HashShuffleManager的buffer内存上，默认溢写大小是32k，增大参数可以减少shuffle write过程中溢写磁盘文件的次数，也就可以减少磁盘IO次数

##### spark.shuffle.manager–选择使用哪种内存管理方式(1.6版本前) #####

默认值：sort|hash  
参数说明：该参数用于设置ShuffleManager的类型。Spark 1.5以后，有三个可选项：hash、sort和tungsten-sort。HashShuffleManager是Spark 1.2以前的默认选项，但是Spark 1.2以及之后的版本默认都是SortShuffleManager了。tungsten-sort与sort类似，但是使用了tungsten计划中的堆外内存管理机制，内存使用效率更高。  
调优建议：由于SortShuffleManager默认会对数据进行排序，因此如果你的业务逻辑中需要该排序机制的话，则使用默认的SortShuffleManager就可以；而如果你的业务逻辑不需要对数据进行排序，那么建议参考后面的几个参数调优，通过bypass机制或优化的HashShuffleManager来避免排序操作，同时提供较好的磁盘读写性能。这里要注意的是，tungsten-sort要慎用，因为之前发现了一些相应的bug。

##### spark.shuffle.consolidateFiles----针对HashShuffle(1.6版本前) #####

默认值：false  
参数说明：如果使用HashShuffleManager，该参数有效。如果设置为true，那么就会开启consolidate机制，会大幅度合并shuffle write的输出文件，对于shuffle read task数量特别多的情况下，这种方法可以极大地减少磁盘IO开销，提升性能。  
调优建议：如果的确不需要SortShuffleManager的排序机制，那么除了使用bypass机制，还可以尝试将spark.shffle.manager参数手动指定为hash，使用HashShuffleManager，同时开启consolidate机制。在实践中尝试过，发现其性能比开启了bypass机制的SortShuffleManager要高出10%~30%。

## 六、shuffle源码 ##

2.3.1源码文件中

### 判断shuffle类型 ###

PairRDDFunction.scala中负责判断，

查看CombineByKeyWithClassTag类，该类中有几个参数，前三个分别代表创建combiner，map端聚合，reduce端聚合，注意mapSideCombine: Boolean = true,是为了后面判断shuffle的类型

将参数写入Aggregator–聚合器中

new ShuffledRDD配置aggregator等参数

进入new ShuffledRDD中，

getDependencies()查看stage之间的依赖关系

List(new ShuffleDependency有注册shuffle的方法

进入ShuffleDependency中，

val shuffleHandle: ShuffleHandle = \_rdd.context.env.shuffleManager.registerShuffle()  
 注册方法在ShuffleMapTask 过程中使用

进入registerShuffle回退到SortShuffleManager中，

override def registerShuffle，判断shuffle的类型-shouldBypassMergeSort/canUseSerializedShuffle序列化/不序列化直接写入buffer缓存区

在判断bypassshuffle时，可以进shouldBypassMergeSort查看条件，这时就判断上面没有提到的mapSideCombine参数，看map端是否有聚合操作，有就不能用，没有就判断分区数是否大于200

简而言之，有2个条件（a,map端有聚合操作 b,map无聚合但分区数>200–可以在这优化）

### shuffle-Write ###

ShuffleMapTask.scala负责写中，

runTask()，deserialize()–反序列化当前RDD的依赖关系,得到RDD间的依赖关系

writer.writer()–从依赖关系中获取ShuffleHandle ,调用getWriter 方法 创建相对应的 ShuffleWriter

进入writer查看bypass具体相关写入步骤，

partitionWriters\[partitioner.getPartition(key)\].write(key, record.\_2())–得到分区号，到writePartitionedFile方法之前都在做数据塞入操作

writePartitionedFile(File outputFile)–遍历分区，复制数据，合并成大文件

### shuffle-Read ###

进入ShuffleManager中，找getRead()方法，发现Read方法封装在ShuffleReader

进入ShuffleReader，只有一条路，进入read()，

compute()，发现底层是迭代拿取分区号和数据

over!

[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzQwOTI5OTIx_size_16_color_FFFFFF_t_70]: /images/20211126/c98c03b2908a4c219a3d905af29641fb.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzQwOTI5OTIx_size_16_color_FFFFFF_t_70 1]: /images/20211126/9d0ef63fc6f943a6876f40f37617813e.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzQwOTI5OTIx_size_16_color_FFFFFF_t_70 2]: /images/20211126/f82aa91647c64f4bb956c07b075e1d36.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzQwOTI5OTIx_size_16_color_FFFFFF_t_70 3]: /images/20211126/06d15b41a44540fa91126fe286588983.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzQwOTI5OTIx_size_16_color_FFFFFF_t_70 4]: /images/20211126/cc74a591cabd48cebd06069277178e82.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzQwOTI5OTIx_size_16_color_FFFFFF_t_70 5]: /images/20211126/5cc66900e22c44bdba1ae8386bce46e4.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzQwOTI5OTIx_size_16_color_FFFFFF_t_70 6]: /images/20211126/03f5afaf129a405bbea3ac3beefac32e.png